Flavien Chervet, Révolution IA : comprendre le prompt engineering et l’impact de la GenAI sur notre société

Transcription de l'épisode : "Flavien Chervet, Révolution IA : comprendre le prompt engineering et l’impact de la GenAI sur notre société"

Terry: Salut Flavien, merci de prendre du temps aujourd 'hui pour parler de GENAI et d 'IA au sens large. On va essayer d 'orienter la discussion un peu sous deux angles. En première partie, on va parler de prompting et de création d 'agents IA, notamment ce que permet de faire aujourd 'hui la GENAI autour de ça. Ensuite, on ouvrira le sujet sur l 'IA au sens large et les impacts, notamment géopolitiques que l 'IA peut avoir pour essayer d 'ouvrir le sujet et d 'éclairer un peu les consciences là -dessus. Avant de rentrer dans le vif du sujet, je te propose tout d 'abord de te présenter.

Flavien: Déjà avec plaisir pour évoquer ces deux sujets -là, ça me va bien. Je m 'appelle Flavien, je suis un geek depuis que j 'ai 12 ou 13 ans, mais c 'est pas ça qui m 'a amené à l 'IA. J 'ai découvert l 'IA par la philo au départ, j 'ai la philo tatouée sur le bras, c 'est un truc qui me parle beaucoup. Et à un moment, je me suis beaucoup intéressé à la philosophie de l 'esprit, ce qui m 'a amené à découvrir la question de la simulation de l 'esprit humain et donc de l 'intelligence artificielle. Au départ, c 'est comme ça que je m 'y suis intéressé. J 'ai découvert tout le champ de l 'IA et évidemment, ça m 'a passionné en tant que geek, donc j 'ai commencé à accoder l 'IA à m 'éclater avec tout ça. Il y a dix ans, ce n 'était pas si facile de faire de l 'IA, donc pour entraîner un pauvre petit réseau de neurones sur son ordi, il fallait déjà lui faire cracher tout ce qu 'il avait et il avait des pertes très limitées. Mais c 'est comme ça que j 'ai réussi à entrer dans le sujet. En rentrant dans le sujet, j 'ai commencé à animer pas mal de communautés, un gros meet -up à Lyon qui est devenu assez, enfin, qui fait plus de 3 .600 personnes, un truc comme ça. Aujourd 'hui, j 'ai créé une association sur l 'éthique de l 'IA, enfin, j 'ai commencé à faire plein de choses plutôt communautaires et en parallèle, ma vie professionnelle, ça a été de monter des boîtes, donc j 'ai monté deux boîtes dans l 'innovation et la créativité. La première, il y avait des atomes crochet avec l 'IA et j 'ai monté et accompagné plein de projets d 'IA, mais du coup, deep learning version 2012 -2017, on va dire, pas encore, les transformers, l 'IA de GEN, etc. Donc, c 'était des trucs, genre, de la détection de fraude pour les assureurs, de la vision artificielle dans des drones pour des agriculteurs, enfin, des choses, voilà, assez, pas dire industrielles, mais quand même, enfin, on n 'est pas sur l 'usage plus grand public d 'aujourd 'hui. Et puis, à un moment, j 'ai écrit un bouquin, j 'ai commencé à écrire un bouquin sur l 'IA et la créativité, donc un peu en réunissant mes deux passions. Et en fait, quand j 'étais en train de l 'écrire, j 'étais en train de faire un manuscrit, et j 'étais à toute la révolution des IA generatifs qui arrivaient, chagipiti, midjourni, etc. Et évidemment, il y a génératif, ça résonne avec la question de la création, donc mon bouquin arrivait au bon moment, et ça m 'a un peu propulsé pour être considéré comme expert sur le sujet, sûrement parce que j 'avais déjà un peu d 'expérience sur l 'IA, ça faisait 10 ans que j 'étais dedans, et en même temps que je m 'étais très tôt intéressé à ces questions de création et d 'usage grand public de l 'IA, donc le bouquin a bien marché, et depuis, je suis sorti un petit peu du dernier projet entrepreneurial que j 'ai monté, je suis encore connecté, mais je suis moins présent pour pouvoir me concentrer sur écrire d 'autres bouquins, parler de l 'IA auprès d 'entreprises avec des conférences, accompagner des codirs, et avoir toute une démarche là encore auprès du grand public, essayer de faire un peu le passeur pour que, enfin avant la révolution de chagipiti, les gens comprenaient rien à l 'IA et ils s 'en foutaient parce que c 'était un truc de técos, donc moi j 'essayais de leur apporter le sujet juste pour les éveiller à son existence, maintenant tout le monde sait qu 'il existe, mais il y a tellement de bruit autour que il y a une grande boule sheet et les gens ont des visions de l 'IA, cette fois ils connaissent tous l 'IA, mais ils en ont assez souvent une vision fausse ou très orientée, donc j 'essaye de jouer un peu le passeur pour apporter un contenu de qualité, donc à la fois sur la dimension technologique, mais aussi sur les usages, sur les impacts, sur la dimension philosophique, même morale, et puis sur la dimension géopolitique, c 'est mon prochain bouquin là qui sort en janvier qui s 'appelle Hyperarm, qui est beaucoup plus un éveil géopolitique à ce qui est en train de se passer.

Terry: Hyper intéressant, donc pour rentrer dans le sujet du prompting et de la GENAI, je pense qu 'on peut prendre le cas de chagipiti, tu disais du coup il y a tellement de bruit autour, là je te rejoins là -dessus, il y a beaucoup de choses qui sont écrites et souvent il y a pas mal de BS, de bullshit aussi qui est écrit autour de ça, toi qu 'est -ce que tu vois comme étant peut -être les top 3 choses que les gens pensent à tort autour de chagipiti ou peut -être les choses qu 'ils sous -estiment ou qu 'ils ne comprennent pas en discutant avec les gens régulièrement ?

Flavien: Oui c 'est une très bonne question, dans le top 3 je dirais déjà première chose, quand on comprend pas comment fonctionne la bête, il y a toujours une idée que les gens vont avoir de prime abord, que ça fonctionne comme un cerveau humain et donc il y a l 'idée que ça réfléchit et que ça contextualise comme un humain et donc que ça va comprendre ta demande comme un humain. Donc il y a beaucoup de gens qui utilisent chagipiti sans comprendre que ça produit du texte probable, ce qui est vraiment le fondement et même si ce texte probable simule une surface de l 'intelligence qui est une surface très profonde qui est à travers le langage, ça retrouve quelque chose de l 'intelligence, ça modélise quelque chose de l 'intelligence d 'incroyable, c 'est dingue, mais n 'empêche que ça produit du texte probable donc quand on le sait pas on a tendance à parler à chagipiti et des fois à être déçu des retours que l 'outil nous fait parce qu 'on a l 'impression que c 'est super générique, super basique parce que le plus probable c 'est souvent très générique et donc là il y a une solution à ça c 'est d 'écrire des meilleures promptes, de s 'adresser au système d 'IA en mettant de l 'improbable dans ces promptes pour que la réponse la plus probable soit elle -même improbable. En gros être créatif pour que l 'outil soit créatif, être intelligent pour que l 'outil soit intelligent, c 'est pas une baguette magique si tu mets rien, t 'as pas grand chose en sortie quoi. Donc ça c 'est le premier élément. Un deuxième élément c 'est concernant la mémoire, il y a beaucoup de gens qui pensent que chagipiti là aussi par anthropomorphisme a une mémoire et se rappellent des interactions avec toi et une espèce de personne avec qui t 'interagis, ça va sûrement devenir progressivement le cas, le côté un peu heur notamment il y a des fonctionnalités mémoiries mais qui ne fonctionnent pas encore très bien, enfin tout ça. Mais pour l 'instant c 'est pas le cas et donc par exemple là sur LinkedIn j 'ai vu passer une série, il y a eu une espèce de mode de post très bullshit où oui demander à chagipiti ce que l 'IA pense de vous à partir de toutes les interactions qu 'elle a eu avec vous. Et t 'es là ben non en fait ça sert à rien, enfin l 'outil fonctionne pas comme ça, ça va te sortir un truc qui ne sera pas du tout fondé sur les interactions que tu as eues avec lui. Donc voilà cette idée qu 'il y a une mémoire contextuelle. Et puis le troisième c 'est, et là c 'est plus, je m 'adresse au DSI, c 'est plus l 'idée que ça apprend en continu. Donc là pareil quand on connaît la tech on sait qu 'il y a une phase d 'apprentissage une fois et puis après c 'est un modèle statique et il y a une phase d 'utilisation. Tu peux raffiner le modèle, t 'as des techniques mais c 'est pas l 'utilisateur qui le fait, toi tu utilises juste un modèle statique. Et il y a beaucoup de gens qui pensent que l 'IA va apprendre des échanges comme un humain, là j 'apprends de toi, t 'apprends de moi en échange, on va se rappeler de tout ça. Et donc qui se disent, si je donne des informations confidentielles, l 'IA va les connaître et elle pourra les dire à quelqu 'un d 'autre. Ce qui est en fait pas du tout vrai, il n 'y a rien des échanges. Ce qui est vrai par contre pour les DSI, là où il y a un vrai sujet, c 'est qu 'après les conversations peuvent être enregistrées sur les serveurs d 'open AI et après peuvent servir à entraîner une IA suivante etc. Donc là oui il y a des questions mais c 'est faux que l 'IA va apprendre des échanges. Donc voilà trois éléments qui reviennent tout ça même, anthropomorphiser le système, ce qui amène à pas l 'utiliser correctement, à essayer d 'ouvrir une canette avec un marteau, enfin c 'est pas le bon outil. Et en même temps de sous -estimer un certain nombre de ses capacités comme quand on a l 'impression qu 'il est con parce qu 'il ne donne que des réponses génériques, ou en fait c 'est Gigo, enfin Garbage in, Garbage out, le problème vient de l 'autre côté du clavier.

Terry: Yes, très clair. Donc sur ce dernier point par rapport au, quand tu disais je m 'adresse plus au DSI, je pense qu 'on pourra revenir sur ce point -là après quand on parlera des considérations géopolitiques de l 'IA et je reviendrai sur ce point -là, sur la donnée justement qu 'on lui donne en entrée. J 'aimerais bien qu 'on revienne du coup sur la notion de prompt engineering du coup, parce que le premier point que t 'as dit c 'est souvent les gens peuvent avoir du mal à savoir comment interagir avec pour en tirer tous les bénéfices. Donc toi comment, moi ce que je trouve hyper intéressant en fait dans le lien génératif, c 'est pas justement le fait qu 'elle peut répondre à n 'importe quoi, mais c 'est le fait que si tu lui parles avec les bonnes requêtes de manière ultra spécialisée que tu lui donnes le bon contexte, qu 'en gros tu lui demandes de se mettre dans la personne à qui tu aimerais échanger à l 'instant T, typiquement je sais pas, t 'as un problème très technique, tu veux un développeur senior sur ton sujet et donc tu vas lui dire comporte -toi comme un développeur senior de tel sujet et maintenant tu poses ta question. Et ça en général, les résultats sont plutôt performants. Par rapport à ça, toi comment tu approches la notion de prompt engineering du coup qui est le fait d 'écrire des prompt qui soit pertinent ?

Flavien: Alors déjà donc j 'ai écrit le premier manuel français de prompt engineering qui s 'appelle hyper prompt qui est sorti donc en janvier 2024, le premier en français et qui est aujourd 'hui le manuel de référence en termes de, enfin si tu regardes le nombre de ventes, c 'est le manuel le plus vendu, celui qui est proposé dans pas mal d 'écoles etc. Bon j 'en suis très content, pas mentir, mais en fait au début j 'ai écrit ce manuel par, j 'ai pas commencé à l 'écrire pour qu 'il soit publié, qu 'il soit vendu et que ça devienne une référence, en fait c 'est juste que quand j 'ai découvert GPT3 donc un peu avant chat GPT etc. j 'ai commencé à découvrir la question du prompting et j 'ai trouvé ça ultra fun c 'est à dire que tout d 'un coup je me suis, waouh en fait j 'écris de la poésie depuis que je suis gamin donc j 'ai un rapport au mot qui est un peu magique, le mot c 'est un sortilège ça doit produire quelque chose, tu vois dans la poésie tu as cette idée que le mot il va produire une émotion, il y a un pouvoir du mot et tout d 'un coup avec là avec les notions de prompting c 'est pareil tu mets des mots dans la machine et ça produit quelque chose et en fonction du choix des bons mots ça va produire des choses de meilleure qualité donc il y a un côté sortilège qui m 'a fasciné très tôt et puis j 'ai eu un passé de consultant, ma première boîte c 'était une boîte de conseils donc j 'ai aussi accompagné pas mal d 'entreprises sous le mode du consulting et le consultant une des capacités qui développe c 'est la capacité à organiser ces idées pour les transférer dans le langage pour pouvoir en parler à ses clients, ils méthodologisent sa pensée et tout d 'un coup là aussi je me suis dit waouh lia gene c 'est exactement le même réflexe de pensée que tu dois avoir, tu dois organiser ta pensée pour l 'organiser ensuite, enfin pour la transférer ensuite dans du langage de façon structurée et du coup ça m 'a fasciné parce que il y a eu deux parts de ma personne qui avant étaient très séparés, le côté poète et le côté consultant tu vois qui se sont intégrés dans une dimension technologique et j 'ai fait incroyable le prompting engineering qui était fait pour moi donc j 'ai commencé à compiler plein de choses sur le prompting engineering que je trouvais à droite à gauche à participer aussi à construire de la connaissance là dessus notamment toute la dimension du prompting méthodologique c 'est pas mal travaillé là dessus et ça a toute une extrapolation sur la gentilité dont on parlera peut -être après mais donc voilà j 'ai inventé aussi mes petites techniques tout ça et en fait en compilant tout ce que je trouvais sur internet de qualité en suivant pas mal de gens qui faisaient du prompting de super haut niveau tout ça et puis moi en menant mes explorations mes expérimentations au bout d 'un moment j 'ai eu un notion qui grossissait qui grossissait qui grossissait et j 'ai envoyé des pages à des copains qui m 'ont dit ah c 'est cool est ce que tu pourrais un peu préciser ces éléments là donc ça m 'a amené à structurer et puis progressivement le notion avait des chapitres des sous -chapitres et à un moment mon éditeur m 'a dit bah il reste pas grand chose avant de le transformer en manuel quoi et donc c 'est lui qui a un peu quand il a vu le notion il m 'a proposé ça et on en a fait un manuel en évidemment en éclaircissant énormément les choses pour que ça soit pédagogique mais donc tu vois ça a été très c 'est venu un peu de façon émergente et je disais que je suis assez fier de ce manuel c 'est que d 'une part il a eu du succès donc forcément en tant qu 'auteur c 'est cool mais aussi c 'est avancage avait créé un bouquin un peu plus philosophique réflexif là j 'ai créé un bouquin géopolitique le manuel c 'est une autre littérature ultra opérationnelle ça touche un autre public et en fait c 'est une porte d 'entrée sur l 'IA le prompt engineering génial parce que même si on n 'est pas tous égaux face au langage naturel et face aux compétences que j 'évoquais on a priori presque tout le monde s 'est parlé donc on peut presque tous entrer dans le prompting on a pas besoin de savoir coder tout ça et du coup c 'est une porte d 'entrée qui permet aux gens de toucher du doigt l 'IA générative en se disant ah oui je développe une compétence je m 'y intéresse je ma curiosité est veillée grâce au prompting sans que ça soit une trop difficile il n 'y a pas de barrière à l 'entrée et progressivement ça les amène sur toutes les autres dimensions de l 'IA donc en fait je m 'y attendais pas mais ça m 'a permis d 'avoir une porte d 'entrée beaucoup moins intellectuelle beaucoup plus opérationnelle et ultra concrète pour que ben je touche d 'autres personnes et qu 'après je puisse les embarquer sur d 'autres dimensions plus intelligents plus réflexives etc mais j 'aime bien dire il y a le regard de l 'aigle et le regard du verre de terre il faut voir les choses de haut avec du recul mais faut aussi voir les choses de bas en voyant tous les micro reliefs surtout dans la tech et en fait les deux sont aussi nobles et en france et je suis le premier en attendant ça surestimer le regard de l 'aigle et se dire le regard du verre de terre c 'est fait pour les techos et les techniciens et en fait c 'est aussi parce que je suis dans la tech mais les deux sont vraiment aussi nobles et l 'un éclaire l 'autre très efficacement donc ça a été une ouverture pour moi et ça m 'a permis voilà de d 'amener des gens à s 'intéresser à l 'IA par le prompting et évidemment ben à structurer toute une toute une approche du prompting qui n 'est pas du tout l 'approche qu 'on trouve dans d 'autres manuels ou sur pas mal de personnes sur LinkedIn de dire voilà les 60 prompts pour automatiser ton quotidien les 80 prompts pour gagner x clients enfin ce genre de désolé mais gros bullshit c 'est vraiment une approche où tu vas moi j 'ai une approche où tu comprends l 'outil de façon non mathématique mais au moins tu comprends les mécanismes pour comprendre son fonctionnement et développer une sorte d 'empathie avec le fonctionnement de l 'outil qui au lieu de te donner 50 prompts te permettra ensuite de construire tous les prompts que tu veux et d 'avoir une approche vraiment constructive du prompting pour que ça te permette de développer une vraie compétence où tu comprends l 'IA tu comprend son fonctionnement et tu t 'adapteras à toutes les évolutions que l 'IA va subir parce que le prompting va changer avec l 'IA donc il y avait vraiment cet enjeu là et ensuite évidemment donner plein d 'exemples de prompts mais qui sont pas faits pour être copiés collés qui sont faits pour illustrer des méthodes de prompting des façons de construire des prompts qui vont bien fonctionner et qui sont avant tout de la compréhension de l 'outil et de la structuration de la pensée.

Terry: Yes, là -dessus très clair du coup j 'aimerais bien qu 'on rentre un peu avant de basculer justement sur la notion d 'agentivité sans rentrer dans tous les détails qui sont écrits évidemment dans ton bouquin mais sur quelques exemples concrets. Tu disais en intro effectivement le fonctionnement des large language model c 'est un fonctionnement qui est statistique qui est probabilistique et donc en fait ces modèles là basiquement ce qu 'ils font c 'est qu 'ils prédisent qu 'elle va être le prochain mot qui suit le mot d 'avant et donc ça c 'est le fonctionnement intrinsèque de la technologie derrière l 'idée du coup c 'est toi quand tu vas lui demander quelque chose il va faire des probats et c 'est ça qui va retourner en termes de rendu. Sur l 'écriture de prompte du coup moi ce que je te disais tout à l 'heure c 'est en général en tout cas ce que j 'ai pu expérimenter aussi personnellement c 'est quand tu hyper spécialises du coup ta requête en vraiment contextualisant très clairement ce que t 'attends de l 'outil et ensuite en lui demandant ce que t 'attends de lui si le contexte est très clair en général les résultats sont plutôt performants carrément. Après je suis curieux de savoir toi s 'il y a aussi d 'autres approches tu vois peut -être qu 'ils sont moins évidentes que tu as pu développer dans ton bouquin autour un peu de d 'astuces sur le prompt.

Flavien: Oui carrément alors bon le le le basique en effet c 'est donner du contexte parce que l 'IA connaît l 'universel pas le particulier puisqu 'elle a été entraînée sur des données de l 'humanité c 'est une espèce d 'intelligence collective de l 'humanité et encore une fois elle ne te connaît pas elle ne se rappelle pas tes interactions etc donc lui est redonnée à chaque fois les éléments de contexte et juste les bons éléments de contexte pour répondre ça c 'est une des bases.

Terry: Je te coupe parce qu 'en fait il y a une importance aussi sur le juste oui c 'est -à -dire qu 'il ne faut pas non plus lui donner trop parce que là ça va être encore biaisé en fait.

Flavien: C 'est ça et elle va prendre en compte ce que tu lui donnes donc si t 'en mets trop elle va s 'appuyer sur des choses qui sont pas pertinentes donc en effet il y a un discernement à voir pour lui donner les bonnes informations pour que ça soit qu 'elle y est en retour. Tu as évoqué le prompting de rôle donc le fait de la mettre dans le rôle de l 'expert que t 'aimerais interroger ça aussi c 'est pas parce que l 'IA va se mettre en empathie et se dire wow je suis un super marquetteux un super développeur seigneur un super médecin etc c 'est statistique en fait sur internet quant à disons un expert des ressources humaines un DRH qui parle de comment écrire une fiche de poste il en parle avec des mots plus experts des raisonnements plus experts que quand c 'est monsieur tout le monde et donc l 'IA en apprenant statistiquement elle associe DRH à des choses plus expertes la pure association statistique et donc quand toi tu la mets dans ce rôle là ça simule la surface de l 'expertise parce que ça va augmenter la probabilité qu 'elle répond avec des mots qui sont plus experts et qui simulent un raisonnement plus experts mais là aussi c 'est ça peut donner l 'impression que derrière il y a quelqu 'un qui réfléchit en fait c 'est ça simule la surface de l 'expertise ça c 'est des techniques très connues hein donc moi j 'ai beaucoup travaillé sur le prompting méthodologique l 'IA si tu lui demandes de faire une une allez disons comment s 'appelle une analyse stratégique de ton entreprise elle va te faire du souhait c 'est l 'outil des consultants le plus basique SWT strange weakness opportunities et le premier c 'était strength et la dernière c 'est threat donc les forces effaiblées ses opportunités les les menaces et elle va te le structurer comme ça parce que c 'est le plus probable en termes de méthodologie et donc si tu vas avoir des résultats qui sont différenciants qui créent de la valeur t 'as envie qu 'elle le prenne des des chemins de pensée d 'une certaine façon qu 'elle produise des mots qui simulent une méthodologie qui est pas la plus courante sinon tu fais comme tout le monde et donc le prompting méthodologique c 'est se dire ok quel est le chemin de pensée que moi je prendrai pour différencier mon type de réponse à ce problème essayez d 'externaliser ce chemin de pensée comme le fera un consultant encore une fois comme il construirait sa méthodologie et lui décrire ses étapes là en lui demandant de passer par ses étapes là donc ça j 'ai beaucoup travaillé là dessus et j 'ai beaucoup créé de prompts là dessus et ça te permet d 'aller très très très très loin en fait on pourra en reparler notamment sur la gentilité et donc ça permet voilà de décomposer pour l 'IA un latin d 'un objectif en sous -objectif et de la faire passer par un certain nombre d 'étapes qui vont l 'obliger à ne pas faire le plus probable et tu vois si tu lui demandes d 'écrire un article sur les sur David Schalmers voilà j 'ai un bouquin de David Schalmers devant moi un philosophe de esprit justement tu lui demandes d 'écrire un article sur David Schalmers elle va en termes de méthodologie te faire le plan vraiment le plus basique qui est David Schalmers quels sont ses œuvres principales à quel impact t 'as -il eu enfin un truc comme ça et donc là tu pourrais lui dire bah première étape tu vas d 'abord choisir un angle d 'attaque très original qui change de ce qu 'on voit d 'habitude deuxièmement tu vas critiquer cet angle d 'attaque pour en trouver un meilleur troisièmement tu vas créer enfin proposer trois exemples de plans par rapport à cet angle d 'attaque pour parler d 'avis de Schalmers tu vas en choisir un qui semble meilleur quatrièmement tu vas chercher de l 'information sur internet sur David Schalmers et sur les choses qu 'il a faites pour avoir du factuel cinquièmement tu vas écrire la première partie de l 'article sixièmement tu vas écrire la deuxième septièmement la troisième partie de l 'article et huitièmement tu vas regarder l 'article pour vérifier qu 'il n 'y a pas de redondance donc là c 'est un exemple assez poussé parce que tu peux pas mettre tout ça dans un seul prompt sinon ça va pas fonctionner mais c 'est pour donner un peu la tendance du prompting méthodologique et l 'idée c 'est que il faut trouver la bonne maille pour développer une méthodologie qui spécifie la réponse de lia au sein d 'un prompt et dès que ta méthodologie commence à être trop grosse décomposer ça en plusieurs prompts chaque élément de la méthodologie devient un prompt tu développes une chaîne de prompt et ensuite si tu automatises cette chaîne de prompt tu commences à rentrer dans le domaine de la gentilité j.

Terry: 'Allais dire tu me fais la transition parfaite du coup pour basculer sur le sujet des agents donc très clair la notion de décomposer en plusieurs étapes effectivement qui aussi donne de très bons résultats quand on parle d 'agentivité donc on parle de créer en fait des super assistants qui sont du coup ultra spécialisés et que l 'on peut chainer entre eux entre autres justement pour faire pour vraiment tirer pleinement partie de la puissance de l 'interdiction artificielle générative là dessus toi ta quoi comme exemple un peu concret tu vois là tu parlais du.

Flavien: Coup de chainer alors juste avant je donne un dernier type sur le prompting parce qu 'il est un peu plus original et il est très simple et il est très parlant c 'est le prompting émotionnel c 'est un truc aussi assez fun auquel on s 'attend pas toujours c 'est le fait que les systèmes d 'IA comme ils ont été entraînés sur des données générées par des êtres émotionnels nous et ben ils reproduisent les fonctionnement émotionnels ça veut pas dire qu 'il y a ressent des émotions mais le reproduit le fonctionnement émotionnel et donc faire du chantage émotionnel dans ces prompts marche bien typiquement si tu as un gros prompt et notamment dans le prompting méthodologique des fois les prompts deviennent assez gros si il y a des éléments où tu vois que l 'IA a tendance à les sauter à ne pas les prendre en compte tu peux lui dire cet élément là est vital pour ma carrière concentre toi dessus et le c 'est vital pour ma carrière c 'est démontré il y a un papier là dessus va augmenter beaucoup la probabilité que l 'IA produise des mots qui correspond à ça t 'as aussi un truc pour les codeurs c 'est il y a un papier aussi là dessus qui montre que des fois donc l 'IA est lazy tu lui demande de produire du code et elle te met des commentaires au milieu en disant là il y aurait une fonction pour faire ça et elle l 'écrit pas t 'es là s 'il te plaît écrit et du coup pour que l 'IA soit moins lazy il ya une technique c 'est de dire à la fin de son prompt écrit l 'ensemble du code sinon je vais me faire couper les doigts et j 'en ai besoin pour mon métier donc voilà c 'est des petites conneries comme ça quand tu les vois dans des prompts tu fais non mais c 'est quoi ce bullshit et en fait assez souvent donc le prompting émotionnel a une influence donc ça c 'est pour le petit détail en plus qui est qui est fun pour la gentilité du coup donc ça c 'est un sujet sur lequel je travaille beaucoup il y a la suite de mon manuel hyper prompt il y en a une suite qui s 'appellera hyper agent dédié à la création d 'agents des exemples alors j 'en ai donné un avec la création d 'articles donc un agent il ya deux éléments pour le définir d 'une part il a de l 'autonomie donc une autonomie qui n 'est pas la même que l 'humain qui n 'est pas de l 'autodétermination mais il est capable de réaliser une série d 'actions en autonomie il est capable de partir d 'un point et d 'enchaîner plusieurs pensées numériques plusieurs actions pour arriver à un point b contrairement à un assistant comme chadjipiti qui fait que répondre à une question donc un agent à de l 'autonomie et deuxièmement il est capable d 'utiliser des outils pour agir sur le monde donc typiquement l 'agent dont je parlais pour l 'écriture d 'articles c 'est un agent parce que grâce à ce ce c 'est cette chaîne de prompte le terme technique c 'est un échafaudage on dit scaffolding donc grâce à cette chaîne de prompte il a une autonomie même si cette autonomie elle est prédéterminée par le justement l 'échafaudage que je lui ai donné donc une autonomie prédéterminée on peut se poser la question sur les mots mais on va en parler en ces termes quand même il est capable une fois qu 'il est designé de travailler en autonomie et puis comme à un moment il va chercher de l 'information sur notre chair david chalmers il a la capacité à utiliser un navigateur ce qui est un outil et donc à agir sur le monde donc c 'est un petit agent et ça j 'en ai des implantations qui m 'aurent super bien ça prend des articles incroyables d 'autres exemples par exemple j 'ai travaillé avec une boîte donc maintenant c 'est public donc j 'ai pas de soucis pour en parler j 'ai travaillé avec une boîte qui s 'appelle isosquel qui est donc une boîte dans le marketing et notamment ils ont une grosse boîte dans le marketing une grosse agence de marketing à paris et ils ont un département lié au branding et au mark qui est logique dans la logique de marketing et donc j 'ai travaillé avec cette branche là pour qu 'on crée toute une série d 'agents qui pavent le processus de création de plateformes de marque donc à partir du moment où t 'as un brief ok je suis tel marque on fait ça et voilà le positionnement qu 'on est censé avoir et là t 'as plein d 'agents qui vont étudier le marché qui vont étudier la marque en elle -même en un se bader sur le site qui vont qui vont qui vont étudier l 'aspect sémiologique autour de un agent un petit peu plus un peu plus un telot on va dire qui va étudier tous les signes qui environnent ce type de marque pour essayer de trouver des des positionnements sur les signes de marque les codants de marque un peu fort qui va ensuite construire des pleins d 'éléments liés à la marque pour consommer toute la plateforme de marque etc bref pour l 'instant quand même surtout assister des planeurs stratégiques des créatifs tout ça pour leur faire des propositions créatives pour les aider à analyser un marché pour faire voilà tous ces travaux qui vont dans la création de la plateforme de marque mais donc aujourd 'hui avec l 'élément technologique on en est là on a le human in the loop c 'est l 'humain qui est dans la boucle et qui est augmentée par ces systèmes mais je me suis quand même amusé à chaîne et tous les agents à chaque fois l 'output d 'un agent le mettre en input du suivant et voir ce que ça donnait si tu partais juste d 'un nom de marque avec deux lignes sur ce que est censé faire la marque et à la fin que ça te sorte une plateforme de marque complète et tu vois le truc tu le laisse tourner ça prend ça te coûte 8 9 dollars de token enfin pour utiliser de lia ça prend quelques minutes et puis à la fin ça t 'envoie un mail en disant j 'ai terminé et t 'as tout un document de plateforme de marque qui est complet alors aujourd 'hui il ne sera pas du niveau de ce que ferait un créatif humain mais ça peut s 'améliorer il y a de plus en plus de choses qui sortent et voilà tu tu peux imaginer un agent complet qui crée des plateformes de marque c 'est pas délirant en tout cas j 'ai poqué ça un peu pour m 'amuser là.

Terry: Du coup sur ces agents t 'as utilisé quoi comme techno derrière pour les donc il y a la partie vraiment purement elle est l 'aime donc que ce soit du je petit clôde via via api mais ensuite sur la partie justement interfassage sur je petit clôde alors.

Flavien: Ça dépend des du type d 'agent donc je dirais qu 'il y a un peu trois niveaux quand tu fais des agents il y a le bas niveau ok j 'ai besoin d 'un truc ultra spécifique je vais pompe du code bon ok pourquoi pas donc là avec du long chain des choses comme ça tu peux tu peux déjà faire des choses très sérieuses il y a le niveau intermédiaire c 'est je suis un peu geek mais je veux faire avec une interface visuelle donc t 'as plein d 'outils qui sont en train de sortir comme flow wise là hier soir je testais ces réflexions ai je crois que ça va juste comme ça faudrait que je vérifie bon j 'en testais un autre qui a une interface fin flow wise à une interface où en gros tu places des blocs et tu tu mets tu fais se suivre tous les blocs et t 'as un espèce de workflow que tu design comme ça l 'autre est plus sous la forme de plein de micro agents que tu connectes et avec lesquels tu tchattes donc il y a plein d 'exploration pour faire un peu un wordpress des agents en ce moment donc là c 'est le niveau intermédiaire et puis t 'as le haut niveau que on sous -estime énormément c 'est les jippites en fait les jippites on se dit c 'est des assistants spécialisés on va leur donner un prompt de cadre un rôle et puis ensuite ils vont faire que un truc et on voit que la plupart des jippites sont fait comme ça et en fait c 'est pas incroyablement utile je trouve il y a des cas où c 'est utile mais il y a beaucoup beaucoup de jippites qui sont pas très intéressants par contre ça ça j 'ai fait ça avec une autre boîte créer des jippites qui implante alors là c 'est des prompt de cadre qui font de pages quoi mais qui implante toute une méthodologie avec du prompting aussi d 'interaction pour expliquer comment le l 'agent va interagir avec l 'humain dans la boucle et comment il va passer d 'un élément de la méthode à l 'autre etc pour qu 'il puisse se concentrer que sur un premier élément de la méthode puis un deuxième qui puisse boucler au milieu de la méthode etc et avoir un jippite qui implante une vraie chaîne de prompt ça c 'est des techniques que je crois que je suis le seul à avoir pour l 'instant vraiment exploré et développé là je prévois une masterclass sur cu1 2025 pour dévoiler un peu tout ça montrer les coulisses parce que j 'ai fait des démos et en conférence les gens sont comme des fous parce que ça marche super bien et c 'est super simple en fait.

Terry: Là concrètement pour détailler un petit peu ce que tu entends tel que je le comprends c 'est vraiment là tu es vraiment sur l 'assistant justement c 'est -à -dire que tu vas avoir un assistant que tu vas prompter une fois il va te répondre il va attendre que tu lui répondes et ainsi de suite tu vas vraiment échanger avec.

Flavien: Oui alors dans les jippites agents que je fais du coup pour sortir de l 'assistant se fait un peu différemment il y a un bouton go donc c 'est les accroches de conversation au lieu de mettre une accroche mais j 'ai un bouton go. L 'utilisateur appuie sur go l 'agent va commencer par demander par exemple si c 'est pour les articles sur quelle thématique tu veux écrire l 'article tu tape ta thématique et après il bosse en autonomie il va faire la première étape quand il a fini la première étape t 'as juste à lui mettre ok il va faire la deuxième ok il va faire la troisième donc comme l 'interface c 'est une interface de chat l 'utilisateur est dans la boucle il doit mettre ok entre chaque étape et si il veut il peut rajouter des choses entre chaque étape donc c 'est pratique mais évidemment une fois que une boîte tu lui a mis ça dans les mains qu 'elle commence à s 'habituer à avoir pris le truc en main qu 'elle commence à juste mettre ok ok ok à chaque étape te dit bon ben maintenant faudrait peut -être faire en sorte que j 'ai plus à mettre ok et que ça se fasse automatiquement et qu 'à la fin j 'ai une notification et c 'est là où tu passes sur des choses comme flow wise ou un truc que je suis en train de développer avec un copain pour faire ça ultra simplement partir de gros promptes méthodologiques et automatiquement ça te décompose et ça te fait une chaîne agentique qui t 'a plus qu 'à mettre ok et à la fin ça a fait tout le truc et ça t 'envoie une notification pour te dire j 'ai terminé donc c 'est de façon la gentilité je pense que juste avec les capacités des systèmes actuels les derniers clots de le dernier jpt du au 1 etc juste avec ces systèmes là je pense que quand on va vraiment débloquer toutes les possibilités avec la gentilité de cette technologie on a déjà une révolution majeure devant nous et une grosse question qui va se poser sur le monde du travail et c 'est là où ça peut enchaîner sur des dimensions plus sociétales même moi quand je fais tout ce type d 'exploration et que je travaille là dessus ça me ça marche bien et donc ça fait vraiment ça fait vraiment poser des grosses questions sur où on va au niveau du monde du travail.

Terry: Quoi ouais alors là dessus pour pour rebondir sur le sujet justement qu 'est ce qui va se passer pour les métiers qui vont être remplacés par ces outils moi j 'ai vraiment une une position forte qui est de se dire que de toute façon ça reste un outil c 'est à dire que je suis d 'accord qu 'il y a des métiers qui vont disparaître parce que ça va être remplacé par par les ces outils là mais en fait il y a de nouveaux métiers qui vont émerger c 'est à dire que de la même manière qu 'à une époque qu 'on n 'a pas spécialement connu mais où il n 'y avait pas de distributeur automatique de billets fallait aller dans la banque pour récupérer ton cash bah maintenant tu as les distributeurs automatique de billets pour autant les banques n 'ont pas fermé elles ont toujours des.

Flavien: Conseillers ok alors là on va déjà rentrer dans le un populaire opinion je pense pas du tout que ça soit le cas en fait c 'est pas du tout comme ça que je vois les choses pour moi l 'intelligence artificielle est totalement différente de toutes les autres automatisations on adore surtout en france où on aime bien être désabusés se dire que c 'est une révolution technologique comme les autres et qu 'on a déjà vécu ça je pense que c 'est très différent parce que là on a un potentiel d 'automatisation généraliste et donc tous les nouveaux métiers qu 'on pourrait imaginer le moment on les imagine on les automatise en tout cas plus on va avancer dans l 'IA plus on sera capable de faire ça et donc moi je pense pas du tout qu 'on a un problème d 'emploi je pense qu 'on a un problème sur l 'institution travail et je pense qu 'en effet l 'intelligence artificielle a court maximum moyen terme à le potentiel d 'automatiser pas des emplois mais encore moins juste des tâches mais le potentiel d 'automatiser ce qu 'on appelle le travail avec la révolution robotique qui est en train d 'accélérer énormément et je pense qu 'en france on est à mille lieux d 'avoir pris conscience de l 'urgence en angleterre ça y est ils sont réveillés aux états unis ils sont complètement réveillés là dessus même au niveau gouvernementale ils sont en train de bouger très vite ils sont déjà en train de mettre en place avec le equitifone là des trucs autour du revenu universel tout ça ils commencent à bouger et à comprendre que c 'est pas du tout anodin ce qui se passe c 'est pas un innovation gap comme les autres c 'est pas on détruit des emplois on en crée d 'autres parce qu 'on amende une nouvelle industrie avec la nouvelle technologie c 'est une révolution majeure de ce qu 'on appelle industrie de ce qu 'on appelle production de ce qu 'on appelle le travail et en france pour l 'instant on fait complètement l 'autruche là dessus mais je sais un peu pourquoi et je vais peut -être pas en parler dans le podcast parce que ça deviendrait politique mais en tout cas on fait vraiment l 'autruche et c 'est enfin c 'est un petit peu flippant que la france n 'est pas encore réellement pris conscience de l 'enjeu à ce niveau là et pris conscience de la mesure de l 'enjeu et on a énormément de discours bien pensant désolé parce que c 'est ce que tu viens de dire mais je partage que mon opinion et je crois que voilà c 'est pas une bonne chose en gros l 'argument principal politique c 'est il faut pas en parler parce que ça fait peur mais je sais pas si t 'as vu donc look up c 'est pas parce que ça fait peur que ça n 'y arrivera pas et que ça n 'existe pas ça c 'est une technique d 'autruche qui peut pas être entendue politiquement c 'est grave ouais alors.

Terry: Il y a certains points sur lesquels je partage c 'est à dire que je suis complètement d 'accord sur le fait que là il y ait une vraie rupture on l 'attendait si tu veux il y a eu la rupture de l 'internet la rupture technologique ensuite le smartphone et depuis le smartphone il n 'y a rien eu mais c.

Flavien: 'Est pas des ruptures d 'automatisation ça automatise des petites choses mais c 'est pas une technologie générale d 'automatisation internet c 'est une nouvelle infrastructure pour échanger.

Terry: De l 'information oui alors alors du coup j 'en profite du coup pour qu 'on rentre maintenant peut -être qu 'on qu 'on ouvre le sujet justement sur sur les impacts aussi géopolitiques de liens et on peut rentrer d 'abord par le prisme de l 'intelligence artificielle générative qui est ce dont on parle là maintenant et après ouvrir plus large c 'est à dire que pour rappel quand même cette cesia générative se base sur de la donnée qu 'elles ont scrapée sur internet donc c 'est ce projet là autour autour d 'open air avant que ça devienne grand public et dès que les boîtes qui font du contenu sur internet ont réalisé en fait qu 'elles se sont fait aspirer leur donnée qui était parfois très qualitatif parce que elles étaient vérifiées par d 'autres humains typiquement les forums à stack overflow à la cora à la reddit enfin tous ces forums là sont mis à mettre après des des des murs en fait pour éviter que des des robots puissent continuer à amasser de la donnée hyper qualitatif sur laquelle ils sont entraînés ensuite pour répondre de manière très pertinente ce que fait aujourd 'hui un chat gpt mais donc tu le disais aussi en intro c 'est à dire que tu mets de la mauvaise donnée en entrée t 'as de la mauvaise donnée en sortie garbage in garbage out donc aujourd 'hui les résultats sont assez impressionnants parce qu 'il a pu avoir cette aspiration de la donnée sur internet modulo tous les problèmes que ça pose sur les la réplication de certains types d 'idées qui sont présents sur internet versus d 'autres qui sont moins présents mais qui sont pourtant dans le monde donc il y a aussi plein de questions autour de ça sur l 'éthique et sur sur les impacts sociétaux au -delà des pays et de l 'occident qui ont l 'amamnise un peu sur tout sur toutes ces choses là aujourd 'hui mais il n 'en reste pas moins que la donnée d 'entrée vient vient d 'internet donc demain en fait remplacer si tu veux l 'ensemble des métiers.

Flavien: De mais on va pas remplacer l 'ensemble des métiers avec jpd 4 et ça va pas arriver en décembre 2024 évidemment en 2026 j 'en sais rien en tout cas sociétalement on bougera pas aussi vite de toute façon mais technologiquement j 'en sais rien par contre c 'est clair que c 'est pas l 'approche les approches actuelles des lm qui suffisent mais tout le monde le sait ça il y a un bouillonnement d 'autres approches qui sont en train de se mettre en place les lm vont énormément évoluer donc là h company vient d 'annoncer leur mètre qu 'on s 'appelle parabit c 'est le nom d 'un autre animal je sais plus quoi bon leur modèle d 'action ils viennent de faire deux trois des mots j 'ai hâte de pouvoir tester la bêta parce que ça a l 'air très impressionnant donc pour être capable tu mets ça à côté d 'un lm pour être capable de prendre des actions sur le monde de façon très efficace et te balader sur l 'ordinateur et te faire à peu près tout ce que tu veux faire sur l 'ordinateur donc ça c 'est une des approches l 'approche action et puis sur les lm il y a de plus en plus d 'approche comme le le layer pire qu 'a publié deep mine qui permet de granulariser un réseau de neurones en millions de petits experts et du coup t 'as une nouvelle courbe de croissance une nouvelle loi d 'échelle qui apparaît une nouvelle scaling l 'eau plus tu mets d 'experts plus ta performance qui sort t 'as évidemment la scaling l 'eau de l 'inferance time que au one a amené donc plus tu donnes temps à lia pour s 'entraîner plus elle extrait beaucoup d 'intelligence des données et plus tu lui donne de temps pour répondre plus elle est capable de d 'approfondir la question que tu lui pose et de donner une réponse pertinente donc ça on est au tout début de ces approches là mais elles vont maturer assez vite et puis il y a plein de choses qui vont à mon avis venir compléter les lm qui sont une colonne vertébrale sur laquelle on va construire et en fait le fin quand tu regardes un petit peu où ça va il n 'y a pas vraiment de bottle neck d 'ici 2026 2027 qui empêcherait qu 'on automatise une grosse grosse partie du travail pour les data on pourrait se dire c 'est le data wall donc on va pas avoir suffisamment de données pour entraîner tout ça il y a quand même beaucoup de solutions qui apparaissent les nouvelles scaling l 'eau elle permet tous de faire plus avec moins de données et il y a l 'approche alors il y a l 'approche des données synthétiques les données synthétiques bon il y a pour l 'instant on sait pas exactement ce qui va bien marcher moins bien marcher mais il y a quand même une accélération là dessus donc notamment avec au one ou le tout nouveau là qui est sorti hier par des chinois où tu vois tout le raisonnement intermédiaire ensuite du tri pour sélectionner les meilleurs raisonnements tu réentraînes lié avec ça et elle est de plus en plus forte pour raisonner donc il y a des chances quand même que les données synthétiques de à ce niveau là soit importante et puis il y a une dernière approche je crois qu 'on sous -estime beaucoup c 'est la collègue de données qui va permettre la robotique en 2024 t 'as eu au moins une quinzaine de start -up qui ont annoncé des robots humanoïdes et notamment des robots humanoïdes grand public c 'est pas pour faire du pognon sur les robots ils vont être vendus 10 ou 15 000 balles c 'est le prix d 'une smart enfin j 'exagère un peu c 'est même moins cher qu 'une smart je crois c 'est le prix d 'une voiture pas trop cher alors que ça devrait valoir sûrement 10 ou 20 fois plus cher parce que tous les constructeurs de robot ce qui veulent leur business model c 'est pas de vendre des robots c 'est le monde physique et donc quand tu commences à avoir des robots qui se baladent alors au début dans les hôpitaux dans les maisons de retrait dans les centres commerciaux dans les usines déjà là tu collecte énormément énormément de données sur le vrai monde et avec une vitesse incroyable parce que tu collèques pas de la donnée qui demande d 'être écrite tu collèques de la donnée d 'interaction avec le vrai monde constamment et puis alors quand on met au près du grand public c 'est tu décuples encore énormément la capacité de données et si tu regardes par exemple la start -up figure qui a fait le figure one le figure tout dans lequel il y a les technologies j pity ils ont commencé à mettre le robot chez bmw là sur leur site ils se présentent pas comme un constructeur de robot ils se présentent comme un moteur de données et ils ont une petite loop comme ça une petite boucle où ils disent bah on va construire des robots pour les mettre dans le vrai monde pour collecter de la donnée qui va nous permettre d 'améliorer de lia qui va nous permettre d 'améliorer les robots donc il y en aura besoin d 'encore plus d 'endroit donc on va en mettre dans plus d 'endroit ce qui va nous permettre de collecter plus de données de la meilleure et cetera et donc il y a plein de boucs de rétroaction positifs comme ça sur la donnée qui moi je crois pas du tout que le mur de la donnée soit un vrai problème c 'est quelque chose on a déjà presque toutes les solutions pour le pour le dépasser le vrai mur de lia aujourd 'hui c 'est celui de l 'énergie.

Terry: J 'allais justement aller sur sur ce point de l 'énergie avant qu 'on combat justement sur les cours réels justement pour entraîner ces modèles là qui sont des coups faramineux et aujourd 'hui en termes de capacité à production énergétique au niveau mondial on serait pas capable de suivre la croissance de ces des data centers nécessaires pour ça avant d 'aller là dessus on a quand même parlé beaucoup de la donnée justement d 'entrée qui est nécessaire donc pour entraîner ces modèles et donc pour ouvrir aussi sur le sujet géopolitique et les enjeux qu 'il y a derrière donc pour peut -être rentrer par quelque chose assez concret avant du coup l 'avènement des outils de GenAI il y avait eu durant les alors c 'était quelque chose qui se faisait déjà dans le passé mais les premières inférences dans les élections américaines qui avait été mis en évidence par le scandale comme riche généalytica qui était l 'utilisation du coup massive des réseaux sociaux et du coup de la data pour réussir à influer à faire de la propagande en fait et à influer les indices lors de l 'élection américaine là du coup demain avec ces outils là de GenAI qui apprennent sur la donnée en entrée on peut imaginer des scénarios beaucoup plus complexes beaucoup plus tordus entre guillemets en tout cas beaucoup plus réfléchis sur le fait d 'entraîner faussement de mettre de la donnée fausse je donne quelque chose d 'assez basique mais de la donnée fausse qui va servir à entraîner les modèles qui derrière vont eux -mêmes du coup avoir des applications industrielles ou réelles dans une société et qui vont faire que cette société va avoir des impacts négatifs je sais pas du coup toi sur le niveau bouquin aussi hyper arme et c 'est un.

Flavien: Super sujet alors il y a deux un peu sous sujet il y a le sujet des deepfakes la production de contenus qui peuvent être à plein de fins mais entre autres à des fins d 'influence politique qui est très grave et aujourd 'hui il y a vraiment besoin d 'encadrer le phénomène deepfake et c 'est pas du tout simple enfin c 'est beaucoup plus difficile à faire qu 'à dire donc il y a ce sujet des deepfakes et puis en effet il y a le sujet des systèmes d 'IA eux -mêmes et de leur entraînement en effet des données d 'entrée plutôt que des données de sortie et en fait à partir du moment où ça utilise le langage naturel un système d 'IA ne peut pas être neutre les mots dans le langage naturel ont une couleur ils ont tous un biais c 'est pas comme dans les maths ou dans le code où le mot essaye d 'être réduit à sa pure fonction dans le langage il y a l 'usage qui fait que chaque mot à une à une teinte et donc l 'utilisation du langage naturel c 'est la fin des interfaces neutres tu peux pas entraîner un système sur du langage à parler en langage naturel sans que il y a un système de valeur qui soit représenté le choix des mots suppose un système de valeur donc tu peux avoir un photoshop qui est le même en Chine et aux états unis ou presque on va dire l 'interface est relativement neutre tu peux pas avoir un herny bot et hgpt qui fonctionne pareil c 'est sûr il y a un système de valeur qui est représenté donc déjà au niveau sociétal ça pose une question qui définit le système de valeur quelle donnée on choisit etc et entre autres bah là avec chad gpt c 'est open e a avec sa griétique qui a fait le rlhf pour choisir ce qui est à l 'aide dans le modèle ou non et donc on a un modèle qui représente la bien -pensance américaine donc juste parce.

Terry: Que pour ceux qui sont moins familles avec les acronymes donc rien de facemount learning tout le tout du même feedback donc c 'est le fait effectivement de avant de mettre les modèles en production il ya un premier couche où c 'est des humains qui vont dire ça c 'est ok ça c 'est pas.

Flavien: Ok exactement on prend on fait discuter le modèle avec des humains et les humains prennent à chaque fois les discussions ils ont une griétique qui dit est ce que le modèle a donné enfin accepte de donner la recette d 'une arme est ce que il est raciste est ce que etc et si ça rentre pas ben on dit que la conversation elle a une mauvaise note si tout va bien on donne une bonne note et on réentraîne le système avec ses nouvelles conversations donc ça renforce sa capacité à être un gentil chat bot.

Terry: Voilà mais d 'où d 'où le gros sujet en fait c 'est ben qui dit le gentil ben là pour le coup c 'est open air et donc c 'est selon les codes voilà.

Flavien: Sociaux de exactement et évidemment c 'est bon c 'est pas les plus éloignés des nôtres en europe mais ça reste des codes quand même différents sûrement plus libéraux que l 'europe globalement sûrement avec voilà des enfin un certain nombre de de valeurs de sociétés un peu différentes mais alors surtout quand tu commences à sortir de l 'europe et les états unis on va dire l 'occident ben je suis à peu près sûr que le système de valeur est très très différent et qu 'il y en a plein de différents en afrique en amérique du sud en asie donc là il y a une question est ce que on veut un système dia qui est le plus not possible mais plus il va être neutre moins il va être intelligent on voit aussi que quand on essaye de lisser on perd en performance c 'est logique parce que du coup tu deviens enfin tu tu réduis sa capacité d 'intelligence à une intelligence la plus banale possible puisque dès que ça sort un tout petit peu du lot tu tape dessus donc on va dire à la limite si tu veux vraiment avoir un truc neutre ben il fait plus que dire à tout le temps voilà donc plus tu le contrôles dans sa capacité à être neutre moins il est intelligent et où est ce qu 'on a besoin et donc là où est ce qu 'on s 'arrête où est ce qu 'on a besoin d 'une diversité de systèmes et que les systèmes puissent se spécifier en fonction de chacun de leur utilisateur pour correspondre à sa vision du monde est ce que c 'est pas le risque de créer des bulles de filtre encore plus fortes avec un système dir qu 'il ne fait que renforcer ce en quoi tu crois déjà et qu 'il devient ton meilleur copain qui te dira toujours que t 'as raison est ce qu 'on a besoin d 'intégrer dans ces systèmes je sais pas que 70 % du temps ils vont dans le sens de leur utilisateur et puis 30 % ils les invitent à penser un peu autrement mais qui va décider de ça enfin tu vois c 'est sur ça c 'est des sujets qui sont d 'ordre géopolitique et qui sont aujourd 'hui traités par le capitalisme et autant le capitalisme est une force incroyable pour créer de la valeur développer des outils créer de l 'abondance autant c 'est une force très destructrice pour créer de la valeur culturelle et pour développer l 'aspect l 'axiologie les valeurs d 'une société donc.

Terry: Ça me fait la transition sur le sujet énergie puisque l 'énergie enfin quand on parle si on revient à la notion ensuite d 'état et de pays de nation l 'énergie c 'est quand même fait partie de la souveraineté en fait d 'un pays d 'avoir cette capacité énergétique à produire de l 'énergie pour faire tourner son pays et typiquement là les besoins énergétiques des data centers pour entraîner ces ces modèles sont juste construits on parle d 'avoir des des centrales nucléaires en fait proches de data center il y a des constructions de mini centrales nucléaires qui sont qui sont en cours pour réussir à faire tourner cette data center et c 'est là ou peut -être qu 'il va y avoir justement il y a peut -être une réflexion aussi sur bah au final est -ce que ça ça devrait pas maintenant rebasculer dans le domaine du public et sortir du domaine du privé pour justement aussi avoir plus de contrôle sur ce qu 'on va entraîner comment va l 'entraîner etc est -ce que ta réflexion là -dessus c 'est des super.

Flavien: Questions et en effet là tout ça c 'est vraiment enfin il y a il y a cette réflexion je la je la développe très abondamment dans mon prochain livre hyper arme du coup j 'ai plein de choses à dire donc je vais essayer d 'être le plus synthétique possible mais déjà en effet il y a une explosion de la nécessité de de puissance énergétique parce que pour faire des meilleures modèles il faut toujours qu 'ils soient plus gros et pour qu 'ils quand ils sont plus gros ils consomment plus et pour augmenter un peu la performance on a besoin de les faire beaucoup plus gros à chaque fois et une espèce des défaits logarithmiques donc chadjipiti on était sur de l 'ordre de la dizaine de megawatts en puissance énergétique pour l 'entraîner les modèles qui sont en train d 'être entraîné en ce moment par méta par x ai par on pense open ai par anthropique on est plutôt de lors de la centaine ou plusieurs centaines de megawatts donc là c 'est colossus de x ai que c 'est en gros 100 megawatts bientôt 200 de puissance énergétique méta qui ont finali fin qui sont en train de finaliser le centre de calcul tel qu 'il le voulait pour fin 2024 considère que fin 2024 ils auront 600 megawatts de puissance de calcul etc fin de puissance énergétique fournissant la puissance de calcul pour l 'IA donc un peu partout on a cette course et on voit qu 'il y a ben sam altman qui le 20 septembre était devant la maison blanche pour parler enfin défendre le projet stargate qui est un projet que open ai avec microsoft qui est de dire ben on a besoin de mettre dans plusieurs états américains des des centres de calcul qui font chacun entre 1 et 5 gigawatts 1 gigawatts c 'est la puissance énergétique d 'un gros réacteur nucléaire en effet c 'est si on veut faire une conf par raison environ environ 600 ça fait quoi j 'essaye de faire le calcul je crois que si on est à 10 gigawatts on est à 600 non on est à 6 millions de foyers américains donc on doit être à quelque chose comme 600 000 foyers américains quand on a 1 gigawatts quelque chose comme ça moyen donc bon c 'est une grosse ville quoi donc des centres de calcul qui vont consommer une grosse voire une très grosse ville américaine d 'un coup on peut se dire que c 'est complètement délirant n 'empêche qu 'en effet microsoft rachète presque rachète un des deux réacteurs de 3 mile island pour avoir son réacteur nucléaire dédié en effet sam altman investi dans plein de startups qui font des petites centrales nucléaires pour aller avec des centres de calcul et que on est en train d 'y aller vers ces clusters de calculs qui feront entre 1 et 5 gigawatts et la grosse question que dans un petit convalier tout le monde se pose c 'est ok quand on sera arrivé là parce que ça on va y arriver les fonds le permettre etc et la puissance énergétique sur le sol américain le permet est ce que on va pour passer un cran supérieur on va avoir besoin de centres de calcul à 10 gigawatts et donc est ce que là ça devient crédible un centre de calcul qui consomme pratiquement la puissance énergétique enfin qui consomme qui a la puissance énergétique d 'environ un petit état américain 10 gigawatts c 'est un petit état américain et là ben c 'est la grande question dans la si convalier comment on le construirait donc à microsoft avec leur projet stargate c 'est ça si on va mettre 100 milliards pour faire plusieurs clusters qui pourront travailler ensemble et faire l 'équivalent de 10 gigawatts puis t 'en a qui disent bah on va aller chercher de l 'énergie en arabie saoudite pour construire le truc en arabie saoudite et faire les entraînements en arabie saoudite ah oui d 'accord donc vous laissez des systèmes d 'intelligence artificielle qui seront les plus puissantes du monde sur le sol de la ravie saoudite est ce que c 'est une bonne idée géopolitiquement et puis t 'en a qui disent il faut qu 'on dérégule à fond le le marché de l 'énergie américain pour augmenter la production énergétique augmenter la capacité à avoir rapidement des contrats énergétiques parce que c 'est des contrats long terme c 'est super long à négocier et surtout augmenter la capacité à connecter la nouvelle puissance énergétique à la grille parce que en fait c 'est ça le plus long et ça on n 'est pas sur des horizons trois quatre ans là ou si on suit les cours technologiques il nous faudrait des clusters à 10 gigawatts dans trois quatre ans donc il y a des grosses discussions et ça va peser énormément dans la géopolitique mondiale cette question de l 'énergie des DLIA si on pousse le curseur encore plus loin il y a des premières discussions notamment c 'est dans situation all awareness avec les au poll d 'ashen brainer je soutiens pas ce propos mais il fait partie du paysage et il est intéressant de dire ok bah une fois qu 'on sera à ses niveaux là et on va y aller on sera très très proche de systèmes qui peuvent être appelés de la superintelligence des choses qui seront plus intelligentes que l 'humanité elle -même et il faut commencer à vraiment parler de ces sujets là et donc ça deviendra en effet plus du tout un sujet business et civile ça deviendra très concrètement un sujet géopolitique et là en effet les états vont commencer à s 'emmêler beaucoup plus fortement et vont commencer à dire bah soit les états unis se disent on est dans une course à l 'armement avec la chine on nationalise les labs d 'IA on lance un projet Manhattan de l 'IA en gros et à ce moment là on va construire un cluster à 100 gigawatts des dépouche énergétique des ce genre de démesure bah le projet Manhattan qu 'on a déjà connu avec le nucléaire en a été un exemple il y a eu cette démesure des villes entières créées du jour au lendemain pour héberger les meilleurs scientifiques pour passer à l 'échelle de l 'énergie nucléaire donc peut -être que c 'est un scénario qui nous attend que je n 'espère pas et je ne soutiens pas et à ce moment là on peut même imaginer en effet un cluster à 100 gigawatts 20 % de la puissance énergétique des états unis dédié à faire un système d 'intelligence artificielle dément pour éviter que la chine prenne les devant si on est les américains et puis inversement si on est chinois et puis d 'autres possibilités peut -être un peu plus un peu plus rassurantes c 'est que les états se disent à ce moment là bah ok on est devant quelque chose qui concerne l 'humanité entière construire une super intelligence en pleine course à l 'armement c 'est un risque bien trop grand pour les deux camps et donc on a besoin d 'accord internationaux de lancer un projet du type peut -être plus cerne de lia de créer potentiellement un cluster par exemple en suisse des choses qui sont discutées qui soit le plus grand cluster du monde entre 10 et 100 gigawatts j 'en sais rien qui c 'est à ce moment là où on n 'en sera mais que que ce soit ce cluster qui est le droit d 'entraîner les systèmes dias les plus puissants et que ça soit extrêmement encadré la puissance de calcul soit encadré et il y a tout un tissu de gouvernance internationale qui se met en oeuvre comme progressivement et sans némis autour du nucléaire ou des questions d 'armiologie etc pour faire en sorte que à ces niveaux là de performance possible et d 'enjeu énergétique d 'enjeu de données et tout ça ça soit fait de façon internationale un peu plus pour le bien de l 'humanité que si c 'est fait dans un projet Manhattan quoi voilà yes donc.

Terry: Bon ça s 'ouvre ça ouvre vraiment plein plein de questions là là le but aussi de cet échange c 'était aussi d 'ouvrir en fait ces questions là on n 'a pas les réponses parce que c 'est la technologie voilà donc c 'est ce sur quoi donc les réponses on va les trouver en discutant ensemble en échangeant etc donc je pense que c 'était intéressant voilà de d 'un peu d 'ouvrir des portes comme ça il y a évidemment je recommande du coup de de lire tes bouquins et de rester tunedine pour celui qui va sortir à la rentrée 2025.

Flavien: Peut -être le site hyperarme .com yes.

Terry: Je mettrai ça en description de l 'épisode et puis avant de te poser mes deux questions de fin peut -être pour là tu vois je me dis ça ça peut faire peur ou assommer un peu sur là tous ces enjeux j 'ai on pourrait tomber vite dans le scénario de l 'autru justement tu sais non j 'ai pas envie de savoir ce qui se passe de toute façon et si on pouvait peut -être donner tu vois trop enfin quelques clés justement pour pousser les gens à s 'intéresser à ce sujet là d 'une manière ou d 'une autre les façons faciles et de rentrer dans.

Flavien: Alors c 'est un sujet en effet qui fait peur et je crois qu 'il a des raisons de faire peur par contre je pense que la peur doit laisser la place rapidement à l 'esprit critique et à la connaissance et il faut prendre le taureau par les cornes c 'est un sujet qui nous attend tous c 'est peut -être il y a l 'écologie qui est le sujet le plus important du centenaire mais il y a et sûrement le sujet le plus important de la décennie ça va aller beaucoup plus vite c 'est une question qui va qui va être posée à l 'humanité beaucoup plus vite que celle de l 'écologie même si celle de l 'écologie est nous a déjà posé mais c 'est les impacts vont se déplier beaucoup plus vite et donc je crois que n 'importe qui sur cette planète dans les deux trois prochaines années va prendre conscience que bah voilà on est devant cette vertigineuse question et donc bah commencer maintenant c 'est prendre un peu d 'avance donc c 'est pas plus mal et en fait plus on rentre dans le sujet évidemment il y a une inquiétude et j 'ai appelé mon bouquin hyper rare je l 'aurais jamais fait il y a deux ans il y a une inquiétude et elle est rationnelle cette inquiétude mais c 'est aussi un sujet absolument fascinant et exaltant parce que si les choses évoluent de cette façon là ça va changer tellement de choses dans la façon dont notre monde que c 'est aussi l 'occasion d 'inventer complètement un nouveau système ça va remettre en cause certains des gros piliers du capitalisme je dis pas qu 'on va inventer mieux je dis pas qu 'on va inventer pire j 'en sais rien mais ça ouvre des nouveaux espaces de pensée tu vois le fait qu 'on automatise le travail bah une fois qu 'on accepte que ça soit une possibilité réelle et qu 'il faut la penser bah tout d 'un coup on se dit ok si on travaille plus qu 'est ce qu 'on fait et là on a un nouvel espace de pensée qui s 'ouvre sur lequel des réflexions très créatives et très intéressantes peuvent être portées donc il y a un enthousiasme aussi à avoir pour le sujet on est vivant à ce moment là c 'est incroyable on est vivant au moment où des systèmes d 'intelligence artificielle de plus en plus généraux puissants voilà vont émerger et tous ces scénarios que la science fiction a a travaillé se cristallise aujourd 'hui à certains pas du tout on n 'est pas du tout sur du terminateur mais il y a des il y a des enjeux qui se cristallisent de cette façon là et on est là pour les vivre et pour faire avec donc d 'une part c 'est fascinant je dis pas qu 'il faut pas être inquiet parce que ça serait ridicule je sais pas mon discours par contre cette cette inquiétude là il faut la mettre au service de dire ok maintenant qu 'est ce que je fais donc moi ma petite échelle bon y a ce bouquin je vais aussi sortir une bd dans l 'année qui permettra de parler de ces sujets là auprès d 'un public plus large qu 'avec un livre parce qu 'il y a des gens qui n 'aiment pas lire des livres donc une bd c 'est parfois plus accessible un peu comme je disais avec le prompting fin voilà essayer de d 'avoir une diversité de médias et puis je réfléchis je suis en train de discuter avec des gens pour en france créer une antenne d 'un institut qui existe dans d 'autres pays qui travaillent sur ces sujets de gouvernance parce que même si la france pour l 'instant est un peu endormie au volant je pense que quand on aura un premier warning shot quelque chose qui va se passer d 'un peu violent autour de l 'intelligence artificielle pour l 'humanité les politiques vont se réveiller très très vite et avoir préparé un certain nombre de propositions pour une gouvernance internationale de lia avoir pas vécu le terrain pour que ces scénarios là puissent se réaliser ça sera la condition pour qui se réalise donc sans entrer en politique ce qui n 'est pas du tout mon ma volonté je réfléchis à travailler comme sous un format un peu doutant que tu vois voilà donc je travaille avec déjà un doutant qui fait ça mais du coup à créer l 'antenne française avec d 'autres personnes pour pousser de plus en plus de propositions et de réflexion sur l 'encadrement qu 'on va devoir mettre en place d 'un point de vue géopolitique sur ces systèmes et puis bah pour n 'importe qui là juste s 'intéresser au sujet prendre en compte l 'existence de ce sujet pas faire l 'autruche pas écouter les discours de bien -pensance un peu rassurant il faut que freiner la réflexion il faut entrer les deux pieds dedans dans le sujet accepter un petit peu cette cette ce côté vertigineux du sujet et puis une fois qu 'on s 'est habitué au côté vertigineux tout va bien on arrive à y réfléchir quoi et puis le.

Terry: Point intéressant je trouve quand même se dire justement que c 'est une chance qu 'on a de créer le monde qu 'on veut aussi en tout cas lui donner notre patte quoi c 'est.

Flavien: Ça quand on était au début les 30 glorieuses bon tout elle est bien du coup tu savais que le monde dans 30 ans et ça serait le même et tu suivais ta petite vie tranquille honnêtement c 'est chiant c 'est beaucoup plus intéressant les temps perturbés c 'est là qu 'il se passe des choses c 'est là qu 'il y a de l 'histoire qui se fait les 30 glorieuses il n 'y a pas d 'histoire il y a on parle des 30 glorieuses pendant 30 ans c 'est toujours la même chose là tous les trois mois il y a même pas dans l 'IA tous les trois jours t 'as un fait qui sera raconté dans les livres d 'histoire c 'est si il y en a encore j 'en sais rien mais c 'est un moment de notre histoire absolument.

Terry: Incroyable très très clair du coup pour aller vers mes deux dernières questions donc est ce que t 'as une conviction forte avec laquelle tu te retrouves en général en désaccord avec tes pères ça.

Flavien: Y pense qu 'on appelle mes pères.

Terry: La question porte en particulier sur la conviction forte le désaccord il est moins voilà mais en tout cas un sujet sur lequel t 'es très très tranché.

Flavien: Je pense que dans le podcast j 'en ai donné quelques quelques uns déjà mais par exemple l 'idée que tout à l 'heure on parlait d 'automatiser le travail personnellement je pense que l 'automatisation complète du travail c 'est l 'avenir de notre espèce je pense très sincèrement que s 'accrocher à l 'institution travail c 'est pas c 'est pas notre avenir par contre le problème c 'est la rapidité avec laquelle c 'est en train d 'arriver là il y a un vrai enjeu de société pour pas que ça se fasse dans l 'horrible douleur pour beaucoup beaucoup de gens par contre voilà je suis convaincu que l 'humanité de demain n 'est plus une humanité qui travaille au service d 'un système de production qu 'on a des activités et il y a tout un monde à inventer par contre je crois que le travail est une institution en tant que tel à tuer ça je suis pas sûr que ça soit.

Terry: Très populaire hyper hyper intéressant et alors là dessus j 'aime bien rebondir en général sur les sur les convictions fortes j 'ai deux aspects c 'est à dire que je suis d 'accord sur une partie du travail aujourd 'hui fait notamment dans ce qu 'on appelle les widecola ou les gens qui travaillent dans les bureaux c 'est à dire qu 'il y a beaucoup de jobs effectivement qui pour moi vont vont vont disparaître dans les métiers de l 'artisanat vraiment dans le sens du quotidien c 'est à dire toutes les choses aujourd 'hui dont on ne se rend pas compte mais il y a beaucoup de gens qui travaillent donc bah maintenir ta maison les jardins enfin l 'entretien des routes l 'entretien enfin tout ça c 'est des choses aujourd 'hui où moi je vois pas de robots par exemple qui qui regoudronnent des routes tu vois il y a des machines qui aident les mecs à le faire mais tu n.

Flavien: 'As pas besoin d 'imaginer des robots humanoïdes mais par contre des machines autonomes le chantier autonome est en train de devenir une réalité très rapidement le goudronnage de route autonome je pense pas que ça prenne très très longtemps et même la menuiserie autonome c 'est peut -être ce qui arrive en dernier mais à mon avis ça arrivera par contre là où tu marques un très bon point c 'est l 'artisanat le gars qui fait des peaux des super jolis peaux qui sont moins résistants que le peau industriel créé sur la ligne de prod mais que tu vas payer plus cher justement parce qu 'il y a un petit défaut parce qu 'il y a la main du potier derrière mais ça du coup pour moi on n 'est plus dans l 'ordre de la production qui est là pour qu 'on ait une abondance autour de nous et tout ce qui nous faut pour vivre on est dans l 'ordre des activités qu 'on fait pour se singulariser et pour porter notre singularité auprès de l 'autre et là pour moi c 'est un des piliers sur lequel construire la société de demain mais c 'est encore tout.

Terry: Un autre sujet yes ouais bah on sera voilà on sera un peu en désaccord sur ce point là ce que moi je pense voilà effectivement que quand même dans dans certains secteurs d 'activité on est loin de l 'automatisation mais.

Flavien: Du coup oui et puis clairement le goût de renage c 'est pas pour les trois prochaines années là on parle plutôt white collar en effet mais à horizon six, huit, dix ans enfin dans ce qui est très très court en termes de transformation de société ça me.

Terry: Choque moi et très très clair dernière question du coup comment tu progresse toi quelles sont les choses qui te nourrissent.

Flavien: Intellectuellement alors j 'ai évoqué au tout début du podcast la philosophie je pense que la philosophie est une de mes armes de pensée la plus importante en tout cas c 'est quelque chose qui m 'est arrivé de découvrir la philosophie, d 'aimer ça et le plonger dans la philosophie très intensément et pas que la philosophie qu 'on entend la philosophie grecque l 'aristote etc la philosophie plus moderne notamment la philosophie de l 'esprit la philosophie analytique des trucs qu 'on associe pas la philosophie dans le dans l 'imaginaire collectif mais qui en fait ils sont associés donc toutes ces branches de la philosophie font vraiment partie intégrante de ma pensée et je continue à les explorer la science fiction je pense que c 'est le je vais le dire un peu crumant et j 'y crois pas complètement mais j 'aime je trouve que c 'est parlant c 'est le genre littéraire qui rend le plus intelligent quand c 'est de la bonne science fiction par exemple Star Wars c 'est pas de la science fiction pour moi c 'est de la fantasi même si évidemment c 'est dans le genre littéraire de la science fiction en réalité mais ce que moi j 'appelle science fiction c 'est pas le truc à la Star Wars c 'est plutôt ce qui est de la art science fiction ce qui se rapproche de choses un peu crédibles qui ouvrent à des imaginaires de l 'avenir qui permettent de penser le présent et qui sont une grosse part de la bonne science fiction est très philosophique aussi pose des questions sur l 'humain en prenant la technologie en prenant les machines pose des questions sur l 'humain qui sont passionnantes donc la science fiction me nourrit beaucoup évidemment je sur l 'intelligence artificielle directement je lis énormément de choses donc et je regarde aussi énormément j 'aime beaucoup les formats longs les podcasts longs alors en france il n 'y en a pas beaucoup il y a des gens comme sinker view mais je regarde beaucoup ceux aux états unis donc des gens comme l 'ex free man par exemple qui font passer plein de sommités et t 'apprends énormément et je trouve que bah tu en découvrant vraiment avec ces formats de fonds par exemple j 'en ai fait un de 10 heures sur neuralink bon je me suis maté les 10 heures bon allez vraiment que ça soit neuralink mais la profondeur de ce que t 'apprend parce que du coup t 'apprends plein de choses sur les petits détails que tu verrais jamais dans une vidéo de présentation en 10 minutes tu t 'appropries des sujets vraiment profondément donc j 'aime beaucoup les podcasts longs comme ça et puis il y a énormément d 'articles et pareil des articles là c 'est long j 'aime ce qui est long parce que j 'aime les détails c 'est les détails pour moi qui font la valeur d 'une information et pas la tendance donc par exemple je lis beaucoup du less rong qui est un blog américain génial notamment sur l 'IA et sur les technologies en général mais surtout sur l 'IA où t 'as que des gens qui ont des réflexions de fonds fonds fonds avec des positions qui sont prises et avec à chaque fois un argumentaire très détaillé sur ces positions prises et dans less rong t 'as des types des nanas d 'ailleurs qui sont mais tellement passionnants tu dis mais pourquoi ces gens là c 'est pas eux qui sont sur les plateaux quoi donc ça ça fait partie de mes sources d 'information puis je me nourris d 'une dernière façon très très très humaine j 'ai plein de copains avec qui je discute d 'IA et d 'autres choses parce que il n 'y a pas que l 'IA il y a plein d 'autres choses d 'ailleurs qui nourrissent la réflexion sur l 'IA et en fait discuter avec les gens et enfin moi j 'adore ça faire des podcasts comme ici il y a un côté discussion même s 'il est un petit peu plus unidirectionnel mais discuter autour d 'une bière avec des gens même des gens qui sont pas du tout dans l 'IA par les d 'IA et voir comment ils réagissent voilà ça évite aussi de rentrer d 'un peu dans les biais d 'experts donc voilà le côté ultra humain de on se regarde dans les yeux en échange quoi je crois que ça reste une une des façons qui pour moi ancre le plus de choses dans mon cerveau parce que c 'est lié à de l 'émotion et de l.

Terry: 'Interaction top, ben merci pour son partage.

Flavien: Madame avec grand plaisir merci à toi.