elle est plus intelligente que l'homme ou pas, c'est précisément le débat.
Ça va trop vite et trop fort.
On n'est pas équipé en tant qu'humain pour prendre de la hauteur en temps réel.
Et c'est qu'un exemple.
Et c'est le sujet principal dans ce Progrès Tech.
Et elle n'est pas intelligente.
Juste tout simplement.
Nous avons beaucoup d'échanges connexes à la tech avec des clients sur ce sujet, encore plus ceux qui sont parents.
Je veux bien réfléchir sur l'existence d'un reste irréductible sur ce sanctuaire que la machine ne saura t'attendre.
Il y aura des références à Terminator dans ce roulé même en janvier 2006.
y a besoin de prise de hauteur notamment pas parce que, mais pas que avec la philosophie, ça se déplace très vite.
D'ailleurs, Entropi qui a un temps plein en philo, par exemple.
Ça c'est un commentaire de Thibaut Martin sur LinkedIn.
Thibaut c'est un vieux copain, on se connaissait déjà au lycée.
Et en fait l'anxiété qu'il décrit ici de chercher un reste sacré dans quelque chose que les humains sanctuèrent, que les IA ne peuvent pas atteindre ou que les IA ne peuvent pas
imiter.
C'est vrai que j'aurais pu par le passé me moquer de ça parce que c'est l'argument.
En soi, je le rejette assez facilement, mais l'anxiété que décrit Thibaut, elle est réelle.
Et j'ai envie de la prendre au sérieux.
J'ai envie de la prendre au sérieux, j'ai envie d'y réfléchir.
Et merci Thibaut d'avoir rapporté ça dans la conversation sur une cuisine.
Ça m'a permis de réfléchir à des nouveaux sujets en particulier.
Donc c'était cool.
Où est-ce que je veux en venir ?
Alors, pour vous parler de ça...
Je vais avoir besoin d'un personnage et ce personnage là c'est Alt Cunningham.
Alors c'est un personnage de cyberpunk, les gros mots sont réels.
C'était Johnny, le gros mot à la fin.
ouais, les gros mots sont réels et c'est un personnage hyper flippant.
Dans la séquence juste avant, elle a juste tué des gens.
uh
peut pas faire autrement que de les tuer et elle est en mode...
Bah si, il les tuer Donc le...
C'est un bon objet, parce que y'a ce sujet là de...
Altkenningham, c'était un humain avant, et aujourd'hui c'est plus un humain.
Bon bref, on va reprendre le sujet.
L'argument numéro un, est-ce que les IA sont intelligents ou pas ?
Vous pouvez imaginer que le sujet c'est discuter sur est-ce que les IA sont plus intelligentes que les humains ou pas.
Les arguments répondent à cette question là, mais le fond du podcast n'est pas là.
Le fond du podcast est plus sur cette question qui amène au vitalisme, cette anxiété de savoir ce qui nous reste à nous une fois qu'on...
C'est quoi la différence entre les humains et les machines à ce niveau là Les réponses vont ensemble.
Le premier sujet, déclaré que les IA ne sont pas intelligentes, elles ne font que générer du texte, c'est très réducteur.
En vrai, c'est très réducteur.
Et il y a un argument inverse à ça, c'est que...
Enfin, il un argument qui va à l'encontre de ça, c'est l'argument de la formalisation.
C'est-à-dire que, dans un premier temps, tout raisonnement aujourd'hui qu'on peut avoir à l'esprit, on peut l'écrire, on peut le formaliser mathématiquement, etc.
Et donc les IA, génèrent ces raisonnements-là par écrit.
il a pas vraiment de différence entre le raisonnement que mon cerveau fait et le raisonnement de mon cerveau une fois qu'il l'a formalisé et écrit sur le papier.
Et s'il y en avait une, au moment où mon cerveau lit le texte qui a été édigé par l'intelligence sociale, ça devient une forme d'intelligence aussi.
Le raisonnement a été formalisé.
On voit quand même avec l'exemple, il y a cet exemple qui tourne pas mal en ce moment sur les réseaux sociaux avec les IA qui...
En fait, faut demander à l'IA en lui disant tu veux nettoyer ta voiture et tu lui dis que la station de lavage est à 150 mètres, est-ce que j'y vais à pied ou avec la voiture ?
Bon ben, une bonne IA va te répondre tu vas avec ta voiture parce que sinon t'auras pas ta voiture pour laver quand t'arrives, faut pas bête.
La majorité elle te dira c'est que 150 mètres vas-y à pied.
et ça montre bien qu'effectivement le raisonnement est assez limité.
Et tout ça c'est de savoir combien de raisonnements on va lui faire générer pour qu'elle se rend compte de la bêtise.
Peut-être que les IA sont pas plus intelligentes que les humains, mais auquel cas, au moment où je vais lire le raisonnement qui a été rédigé par le générateur de texte, ça
devient une intelligence aussi dans mon cerveau.
L'argument qui vient ensuite, souvent un exercice de pensée qui s'appelle les chambres chinoises.
C'est un américain qui a écrit ça.
D'ailleurs, probablement que si c'était un chinois qui l'avait écrit, il aurait pas fait ça.
L'idée c'est de placer une personne derrière un rideau et on lui pose des questions en lui tendant une plaquette avec des symboles en chinois.
Cette personne-là, ne pas du tout lire le chinois.
Par contre, elle a derrière elle tout un schéma complexe où elle peut prendre ce symbole-là et suivre des petits fils et à la fin, y a un autre symbole.
qui correspond à la réponse et elle retent ce symbole de l'autre côté.
en fait, de l'extérieur de la chambre chinoise, on a l'impression que la personne à l'intérieur, sait parler le chinois.
que, ben, oui, attends, je vais poser une question.
Elle m'a répondu.
Je lui dit bonjour.
Elle m'a dit bonjour.
Mais la personne qui à l'intérieur du système ne sait pas parler le chinois.
Et n'est pas particulièrement...
Et là, de coup, dans ce niveau-là, pourrait même être intelligente ou pas.
Dans l'absolu, elle ne fait que transmettre des symboles.
Et c'est là où le sujet, c'est que...
la perception de l'intelligence, parce qu'on peut parler souvent à l'exemple de Turing, mais le fait d'avoir l'air intelligent dans une conversation, ça s'imite très bien
aujourd'hui avec des ordinateurs, avec des LLM.
Et la chambre chimoise va un peu plus loin en te disant qu'en fait, on ne pas l'expérience nous-mêmes de l'intelligence des autres, de l'intelligence des choses.
Et un argument qui va dans le sens là, par exemple, c'est, il faut imaginer
Moi je suis une aura typique, il y a pas mal de codes sociaux que j'ai dû apprendre de formelle et du coup il y a des gens qui utilisent des codes sociaux autour de moi, je n'ai
pas l'impression particulièrement que ce soit intelligent ce code social là quand je l'adopte quand même.
Il doit y avoir des gens qui sont vraiment plus atypiques que moi encore et qui sont très très intelligents et qui peuvent passer à côté de l'intelligence des gens autour d'eux.
ne serait-ce que parce qu'ils n'arrivent pas à communiquer avec eux.
On peut le rendre plus soft.
Si tu as des très bonnes idées et que tu très intelligent mais que tu n'exprimes pas très bien, ça ne se voit pas forcément.
Ça c'est un biais.
Donc le sujet est là aussi de dire qu'il y a des gens intelligents autour de nous et pourtant on n'en fait pas l'expérience non plus.
Voilà, c'est ça l'idée.
Et donc du coup, en vrai, moi je pense qu'aujourd'hui on ne pas dire si un système est plus intelligent ou pas que nous.
Dans l'absolu est-ce que le système est intelligent que nous ou pas ?
On s'en fout un petit peu.
L'argument qui vient souvent, c'est l'argument de la baleine.
C'est-à-dire que...
Il a...
Chez GPD 3.5, c'est un perroquet stochastique.
C'est-à-dire qu'il te parle des baleines, il sait plein de choses sur les baleines, etc.
Mais dans l'absolu, il n'en a jamais fait l'expérience d'une baleine.
Il sait pas ce que c'est la notion de baleine.
Il a plein de données autour des baleines.
En vrai, dans l'absolu, y a énormément d'humains qui n'ont jamais vu de baleine pour autant.
Ils ont vu à la télé mais ils n'ont jamais expérimenté eux-mêmes des baleines.
savent plein de choses sur les baleines mais ils n'ont jamais vu eux-mêmes des baleines.
Moi-même, suis allé au Québec pendant un an et du coup je suis allé à Tadoussac et j'ai vu des baleines de loin.
Franchement, ça n'a pas changé ma perception du concept de baleine.
Mon fils a vu des baleines dans les livres, il a lu des choses sur les baleines dans les livres.
Mais il a une perception du concept de baleine.
Le concept est opérant quand même.
de la disqualifier les IA parce qu'ils ne pas l'expérience sensoriale des choses, ça c'est un argument qui est complètement vitaliste.
Cet argument-là pouvait être développé par Descartes il y a plusieurs centaines d'années et il prouvait d'ailleurs le fait que les humains soient plus intelligents que les animaux
par le fait que les humains aient développé le langage.
Si le fait de développer le langage prouve l'intelligence, alors les hommes sont intelligents.
Le vitalisme c'est quand même vraiment très désuet aujourd'hui de ce point de vue-là.
C'est ce que je disais à Thibaut d'ailleurs sur une cunning.
On dit c'est pas si disué que ça parce qu'on a ce sujet là.
Le deuxième argument, pourquoi, pourquoi Alt Cunningham, elle fait flipper ?
En fait, le sujet c'est que nous en tant qu'humains, n'a pas de sauvegarde.
Si je donne conseil par exemple, je me rappelle avoir donné des conseils en conférence et avoir vu des gens les suivre ensuite.
Alors que le conseil n'était pas du tout adapté pour eux.
Et genre, on se rendait pas compte que c'était une prise de risque.
Notamment, disais, ben, s'il te plait, t'as qu'à démissionner lundi matin.
Ne pas faire ça.
Ce n'était pas aussi privilégié que moi en tout cas.
Et du coup, voilà, nous, n'a pas de sauvegarde, on n'a qu'une seule vie.
si tu te fais renverser par une voiture comme ça m'est arrivé, ton corps il en garde la mémoire ensuite et ton corps il a effectivement cette notion là, on parlait des anxiétés
qu'on pouvait avoir.
corps il les stocke, c'est pas ton esprit, c'est pas ton cerveau, c'est pas ton intelligence qui stocke le syndrome post-traumatique, c'est vraiment ton corps qui génère
des hormones de peur.
Et on est obligé de développer cette intelligence émotionnelle parce que si je fais pas attention aux émotions d'un proche ou si je jeu contrari qu'un quinzaine que j'aime,
Probablement je devrais vivre avec ces conséquences là toute ma vie quoi.
C'est une vraie contrainte qu'on a nous en tant qu'humains, en tant qu'êtres sociaux.
On est responsable de ça et chaque geste qu'on fait, a un coût moral, il a des conséquences quoi.
Alors les intelligences sociales s'en battent les couilles de ça.
Est-ce que j'ai un extrait de Al Cunningham pour ça ?
Je vois ça, mais en quoi cela me concerne-t-il ?
Il faut qu'on te l'explique !
C'est toi qui a créé le tueur d'âme !
es le seul responsable de ta mort.
Putain, Alt !
Elle est froide, Alt.
Elle en a un à la foute que V meurt dans le jeu.
C'est très très flippant alors que...
Quand ils la présentent, ils la présentent comme une Netrunner.
Les Netrunners dans l'univers de Cyberpunk, c'est des gens qui font du piratage en temps réel.
C'est-à-dire qu'ils ont modifié, rajouté des ordinateurs dans leur cerveau, acheté des scripts, etc.
Et donc ils peuvent hacker les caméras des bâtiments, ils peuvent brûler complètement les puces d'un humain en phase 2, etc.
Les Netrunners, c'est un peu flippant.
Après voilà, normalement, s'ils ont mis tous les points en Netrunner, ils n'ont pas les points de vitalité, etc.
Ils peuvent pas forcer des ports, tout ça.
Ils les farseront pas à la main, ils devront pirater des trucs.
Et Al Cunningham, c'est un personnage qui vient du passé dans l'histoire.
Elle était vraiment avant.
Et là, il lui présente V, il lui il que tu le sauves parce qu'il va mourir.
Et simplement lui dit, en quoi ça me concerne ?
Elle est froide, elle s'en fout.
De la vie, des autres.
Le fait que V meurt, n'a aucun impact sur son empathie.
Alors qu'avant, elle en avait de l'empathie, c'était une humain avant.
Et ça elle répond un peu à la question un peu plus tard quoi.
Ça devrait te sembler évident puisque tu es responsable de sa mort.
Alors pour la rencontrer, ils sont allés de l'autre côté du mur dans le monde de Cyberpunk.
Ils sont capables de plonger dans l'internet.
Donc ils se mettent dans des combinaisons de plongée sensorielles.
Des fois même ils plongent complètement dans la glace, etc.
Et leur cerveau va complètement sur internet.
Netwatch, les gens qu'elle a tué au début de la séquence.
c'est vraiment les agents de cybersécurité de l'état qui empêchent des IA sur internet de venir tuer les humains dans la vraie vie.
Et donc du coup ils ont construit quelque chose qu'ils appellent le mur, le mur c'est vraiment quelque chose qui sépare les humains des IA sur internet, et Al Cunningham, du
coup en tant que netrunner, elle est partie, de l'autre côté du mur.
Donc là ils sont partis de l'autre côté du mur, donc ils ont plongé dans l'internet, littéralement, d'ailleurs ils sont avec des créoles qui parlent en français créoles.
Ils font pareil à plonger, pareil à plonger, c'est assez fun dans l'ambiance.
Et ils vont la chercher.
Ils se rendent compte que rien n'a fout de les aider.
Elle reste froide comme ça.
VP pose la question, a une option de dialogue pour lui demander ce qui elle est vraiment.
Il pose des punchlines le Johnny.
J'aime bien l'ambiance.
L'angram dans le jeu, l'angram c'est ta personnalité, c'est tout tes souvenirs, etc.
C'est ton âme on pourrait dire, qui a été digitalisée.
Notamment Johnny, c'est un des premiers qui a son angram qui est complètement digitalisé.
Et Alt Cunningham, explique en fait que son angram, les données de l'angram de Alt Cunningham du passé, elles sont maintenant de l'autre côté du mur.
elle utilise les données là pour se donner une apparence, pour se donner une voix, pour prendre des décisions.
Mais dans l'absolu, le fait que Alte, elle a eu des sentiments dans le passé pour Johnny, même si elle le voit dans son engramme, même si elle reconnaît l'engramme de Johnny sur
Internet, en fait, ça lui donne plus d'émotion aujourd'hui.
qu'elle s'en fout de vivre ou de mourir, elle s'en fout de voir les autres vivre ou mourir.
Elle a plus du tout ce sujet là, quoi.
Ce que j'essaie de vous dire, c'est que...
Ce que j'essaie d'expliquer, c'est vraiment ça, c'est que notre vitalisme il est un peu circonstanciel.
On n'a pas besoin d'âme, on n'a pas besoin d'un truc en plus par rapport aux idées.
Le fait que notre résistance soit ancrée entre un début et une fin et que tout ce qu'on fait aujourd'hui a des conséquences et des actes, le fait qu'on soit responsable, qu'on
ait un coût moral pour chacun de nos gestes et chacune de nos décisions.
Le fait que tout ça, a des conséquences, c'est ça qui fait qu'on a besoin d'être plus que des IA, on a besoin d'être plus que des choses qui génèrent des raisonnements.
Et c'est pour ça qu'on a besoin d'intelligence émotionnelle, c'est pour ça qu'on a besoin de codes sociaux, etc.
C'est pas forcément une fonction en plus, c'est pas forcément un truc en plus dans notre cerveau, etc.
C'est vraiment juste le contexte de la vie humaine, alors que l'IA, on l'arrête, on l'allume.
Elle n'a pas de début, elle n'a pas de fin.
Elle a juste le présent.
Si vous travaillez dans la tech, si vous êtes un tech leader, un DG ou quoi, le vitalisme c'est un confort.
Pensez que les humains ont un âme, ils ont quelque chose de plus que les IA, etc.
C'est rassurant, c'est un confort qui est acceptable dans l'espace public.
Ça aide les gens à dormir.
Mais quand t'es un leader tech ou quand tu prends des décisions dans l'informatique, tu considères les LLM aujourd'hui dans tes systèmes informatiques ou pas,
C'est une hypothèse qui est relativement dangereuse de partir de ce postulat-là.
Surtout si elle te permet de mettre à LLM un endroit décisionnel sans garde-fou en disant « bah c'est pas grave, c'est pas vivant », etc.
Au contraire.
Si vous voulez résumer ça en quelque chose de vitaliste ou pas, moi je sais pas si je suis plus intelligent qu'une IA ou pas.
Peut-être que je suis moins intelligent qu'une IA, mais au moins je suis en vie et j'ai la chance d'être en vie.
Et ça c'est une chance qui me donne des responsabilités, c'est une chance qui implique que j'aille vivre avec les conséquences de chacune de mes décisions.
C'est un peu vitaliste en conclusion, l'absolu.
J'ai envie de vous dire, est-ce que c'est du néovitalisme ?
Est-ce que c'est du vitalisme post-cyberpunk ?
Vous en faites ce que vous voulez.
En tout cas, je ne pense pas qu'on est d'âme, je ne pense pas qu'on soit plus intelligent que les humains, mais simplement la suite, le début, la les conséquences des faits, tout
ça tout mis bout à bout.
fait que oui, on a un truc en plus des IA, mais ce n'est pas un truc en plus, c'est une contrainte en plus des IA qui nous oblige à...
libérer plus de valeurs, libérer plus de forces et à faire partie de la cité, à faire partie de quelque chose.
D'ailleurs, peut constater que dans Cyberpunk, le personnage de Johnny évolue entre le début et la fin.
Je vais vous spoiler la fin.
Mais Johnny, au début de sa propre histoire, dans le passé, donc 50 ans avant l'effet du jeu, c'est un personnage qui une limite suicidaire.
Il va provoquer Arasaka en concert, Puis juste après,
En fait, il a organisé une opération un peu pétée où il va mettre une bombe atomique, les bombes atomiques du futur, détruisent juste un bâtiment et il va mettre une bombe
thermonucléaire sur la tour Arasaka pour tout raser.
Et là du coup dans le futur c'est son anagramme qui reprend la place dans le cerveau de V.
Et en fait c'est intéressant parce que du coup l'angramme de Johnny va cohabiter avec l'angramme du personnage principal.
Ils vont être obligés de vivre ensemble.
Et à la fin du jeu, fait, Halt leur explique que maintenant ils n'ont pas le choix.
Soit l'angramme de Johnny prend toute la place et peut vivre dans le corps de V.
soit l'engramme de Johnny le supprime et V vivra plus longtemps, mais genre quelques mois.
Il va mourir dans 6 mois, quelque chose comme ça.
C'est une des moins pires des fins.
y a des fins qui sont bien pires que ça, honnêtement.
Mais du coup, vous prenez l'option de V, garde le corps.
Il va décider de vivre sa meilleure vie pour les 6 derniers mois et il va la vivre comme un énorme punk et faire les plus gros braquages du monde avant de mourir.
C'est un mercenaire.
Si vous prenez l'option de Johnny, Johnny n'est plus du suicidaire.
Parce que dans sa première vie, il n'avait rien fait pour mériter d'avoir une vie.
Et là maintenant, il a une vie qu'il a eue au dépend de celle de V.
Et du coup, il devient méga sympa, il des guitares à un jeune, il va prendre le bus pour aller vivre sa meilleure life.
Il fait des SO à ses copains qui lui manquent.
Il joue de la grade tranquillement, il a récupéré de l'argent un petit peu.
Mais il est en mode quiet life, simple life.
Et il apprécie cette vie-là parce qu'on lui a donné.
Est-ce que ça veut dire que demain, on prend...
Est-ce que cet engramme-là, c'est codé, finalement c'est formalisé, tout ce qu'on a vécu comme expérience, les accidents de la vie, tous les...
tout ce qui font notre personnalité, nos idées, nos convictions, parce qu'on a vécu des choses.
Cet anglaume-là, il l'imprime.
Si on le met dans un humain qui n'aurait pas eu de personnalité, du coup, son corps, est-ce qu'il va se mettre à somatiser ses anxiétés ?
Est-ce que son corps va se mettre à avoir du cortisol pour des situations de stress que l'anglaume a vécu, là en l'occurrence, plusieurs cinquantaines d'années ?
Ça, c'est un vrai postulat qu'il y a dans le jeu.
C'est que, d'ailleurs, le...
les harasaka qui se sauvegardent régulièrement.
Et quand le chef des harasaka meurt, il a l'intention de remplacer l'angrable de son fils pour reprendre son corps et continuer à être immortel comme ça.
que ça veut dire que demain, il a à qui on donne une vie.
à dire que là, un début, une fin et un corps humain à protéger.
Parce que du coup, elle devient d'un coup vitaliste et elle a les mêmes problèmes que nous.
Elle est obligée de faire preuve d'intelligence émotionnelle, etc.
Moi, je vais vous laisser réfléchir là-dessus.
Parce que là, il est 23 heures et on va pas se mentir.
Je commence à cailler dans mon bureau à 23 heures et demain, on va à Paris.
Bref, en tout cas...
Discutez avec moi, envoyez moi des messages sur LinkedIn, le dernier épisode il faut l'écouter, celui avec Anaïs qui parle de son expérience au Vietnam, chouette.
Vous êtes plus d'une centaine à l'écouter encore le podcast tous les mois, il y a eu une petite baisse au mois de janvier, alors où vous étiez caché ?
C'est aussi parce que j'avais fait moins d'épisodes, là il a une centaine d'auditeurs uniques qui sont vus sur OP3, donc ça veut dire que c'est un peu plus que ça en vrai
probablement.
Après comme au mois janvier j'avais mis un Cloudflare, j'avais mis un proxy sur mon serveur de podcast et probablement ça avait procéder Cloudflare du coup avait absorbé des
requêtes sur OP3.
C'est ça qui avait fait baisser l'audience, là je l'ai désactivé, l'audience elle remonte.
On n'est pas sur des trucs très très réels.
En tout cas...
Si vous avez écouté ce podcast avant de dormir et que je vous ai fait dormir en baillant, c'est parfait.
oui, le micro a changé aussi.
Je sais pas si vous me dire, enfin je serais étonné moi-même de regarder ce que ça a donné.
En tout cas merci et faites moi des retours, dites moi ce que vous en pensez de cette réflexion là, est-ce que cette réflexion là vous a permis de réfléchir à des sujets ?
Et je vous laisse avec le titre de Johnny, le cheaping in.
vous avez envie de dormir avant, c'est passé.
À bientôt !