Quelles politiques à l’heure de l’Intelligence Artificielle Générale ? (Partie 1/2) | Laurent Alexandre - podcast episode cover

Quelles politiques à l’heure de l’Intelligence Artificielle Générale ? (Partie 1/2) | Laurent Alexandre

May 05, 202532 min
--:--
--:--
Listen in podcast apps:
Metacast
Spotify
Youtube
RSS

Summary

Laurent Alexandre et Michel Levy Provençal explorent l'essor de l'intelligence artificielle générale (AGI) et ses implications. Ils discutent de la difficulté de définir l'AGI, de son impact sur le marché du travail et l'éducation, et des enjeux éthiques liés à l'amélioration humaine. Ils abordent aussi les réactions sociales potentielles face à cette révolution technologique.

Episode description

Dans ce nouvel épisode de TED en Français, Michel Levy Provençal reçoit Laurent Alexandre, l'auteur de "La mort de la mort" et de "La guerre des intelligences à l'ère de ChatGPT". Ils explorent les scénarios vertigineux de l'intelligence artificielle et ses impacts sur l'avenir de l'humanité. Il s'agit de la première partie d'un double épisode.


Dans cette première partie, Laurent Alexandre nous plonge au cœur de l'intelligence artificielle générale (IAG), cette IA capable de surpasser l'humain dans toutes les tâches intellectuelles. Il analyse l'accélération fulgurante des technologies comme ChatGPT et questionne notre capacité à maîtriser cette évolution. Il aborde également les impacts sociaux et économiques de l'IA, évoquant un "grand remplacement cognitif" où même les métiers les plus qualifiés pourraient être menacés. L'éducation, selon lui, doit être profondément repensée pour préparer les générations futures à cohabiter avec l'IA, voire à fusionner avec elle grâce au neuro-enhancement.


Dans la seconde partie, Laurent Alexandre explore les scénarios d'une société post-AGI, où l'humain pourrait devenir économiquement obsolète.Il évoque les défis géopolitiques d'une régulation mondiale de l'IA, les risques existentiels liés à une technologie potentiellement incontrôlable, et les dilemmes éthiques du transhumanisme. Face à ces bouleversements, il interroge les politiques à mettre en oeuvre. Un échange passionnant, sans filtre.


Pour participer à la prochaine édition de TEDxParis, RDV sur tedxparis.com



Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Transcript

When I'm la- underwear. Bladder weakness. Live my life the way I want to, with up to 100% tenor triple protection against odour, licks and moisture. You can't even tell I'm wearing them. Try new Tenor Silhouette, product of the year 2021. As our Weakness Product of the Year by Kantar. Survey of 8,000 people. Always speak to your GP. Since when did pride in your country become prejudice? Our thoughts exactly. The Telegraph. We speak your mind. There's Dickin! And then there's Super Dickin!

Then let's bake a superfoods! Collected natural ingredients and tasty chicken. Good food. ¡Adiós! Bonjour à toutes et à tous et bienvenue dans TED en français, le podcast officiel de la communauté TED francophone. Je suis Michel Lévy-Provençal et comme chaque semaine, je reçois un ancien intervenant TED ou TEDx aujourd'hui. Je suis ravi d'accueillir un invité particulier. Il a donné un premier talk à Télix Paris en 2012 qui a fait énormément parler et qui a suscité aussi des controverses.

Puis un second talk en 2014. Le premier évoquait les avancées technologiques qui nous permettraient de prolonger radicalement notre espérance de vie. Et le second parlait d'un scénario où l'éducation devenait eugénie. Vous l'avez compris, je reçois Laurent Alexandre. Pour ceux qui ne le connaissent pas encore, Laurent est chirurgien, entrepreneur, essayiste. Il a écrit de nombreux essais et romans pour n'en citer que deux.

je dirais la mort de la mort et la guerre des intelligences, dont la dernière édition a été rebaptisée la guerre des intelligences à l'ère de Tchad Gpt. Avec lui, on va faire un exercice particulier. On se retrouve pour un épisode fleuve en deux parties qui évoque les grands scénarios de l'évolution de l'IA. de ses conséquences à la fois sur nos sociétés et sur le futur de notre espèce. Bonjour Laurent. Bonjour. Merci d'être avec nous.

Je voudrais qu'on parte de ton dernier livre, La guerre des intelligences, à l'ère de chat GPT. L'IA générative a beaucoup évolué depuis une dizaine d'années. Aujourd'hui, depuis la sortie de ChatGPT, On vit un véritable choc. Et cela continue. On le voit chaque semaine dans l'actuia. Le toboggan est de plus en plus pentu. Est-ce qu'on est déjà allé trop loin pour pouvoir ralentir ? Autrement dit, Est-ce qu'on peut encore maîtriser les conséquences de l'évolution de l'IA ? Je crois pas.

Finalement, je pense que le conservateur antitechnologique, Jacques Ellul, avait raison dès les années 40 et 50. On est sur un toboggan et on n'a pas les moyens de bloquer la technologie durablement. Et c'est encore pire à cause de la guerre géopolitique entre les Etats-Unis et la Chine. Donc je pense qu'il va falloir assumer un futur hyper technologique, d'hyper croissance, hyper compétitif. de dépassement de l'homme par l'intelligence artificielle.

Il va falloir accepter un triple choc, un choc schumpeterien de reconstruction complète de l'économie. Un choc civilisationnel. parce que les nanobiotechnologies vont être boostées par l'intelligence artificielle, puis un choc anthropologique, parce que je pense que le nouveau prix Nobel de physique Hinton a raison, nous ne sommes plus l'espèce la plus intelligente sur Terre, nous sommes la deuxième espèce la plus intelligente.

derrière l'intelligence artificielle. Donc, ça fait beaucoup de choc. Et on n'empêchera pas ces chocs. Il peut y avoir des mesures de blocage pour des raisons corporatistes, pour des raisons légales, mais ça ne tiendra pas. Ce matin encore, alors que je prenais mon café au bistrot, J'ai demandé à Chad GPT son avis sur un sujet, sur un projet d'article que j'avais.

J'ai été bouleversé tellement ce que m'a pondu en trois secondes la nouvelle version 4.1 qui pourrait écrire des articles les meilleurs qu'au 3. J'ai été bouleversé parce que ça m'a sorti. D'abord j'ai pris comme d'habitude un neon dans la gueule parce que c'était mieux écrit que ce que moi j'allais écrire en quelques secondes. Donc je pense qu'on est qu'au début du choc et je pense qu'on n'arrêtera pas le choc et les uns après les autres.

On va être submergé d'émotions et parfois d'angoisse au moment de notre dépassement, il y a un an. ce qu'on appelle les élites intellectuelles, étaient absolument persuadés d'être à l'abri du choc de l'IA. mes copains intellectuels, cadres dirigeants, entrepreneurs, écrivains, essayistes.

qui passent leur temps à écrire dans le Figaro, les Echos, etc., étaient absolument persuadés que le choc de l'intelligence artificielle concernait les classes populaires et les classes moyennes. Depuis quelques semaines, ils se rendent compte qu'ils sont... eux aussi touchés. Le choc est en train de devenir général. La totalité de la population voit le vent du boulet.

Alors, tu dis l'IA, l'intelligence artificielle dépasse l'intelligence humaine. Bon, je voudrais qu'on rentre un petit peu dans le vif du sujet. On parle en l'occurrence d'une intelligence artificielle qui... qu'on appelle parfois intelligence artificielle générale, qu'on a d'ailleurs beaucoup de mal à définir. Les experts ne sont pas d'accord sur sa définition. Même Sam Altman dit que vous mettez 10 PhD en IA dans une pièce, vous aurez 14 définitions différentes de l'AGI.

Pour toi, cette intelligence artificielle générale, celle qui dépasse l'intelligence humaine, comment est-ce que tu la définis ? Est-ce que tu la définis par exemple par rapport au QI ? Est-ce que tu as d'autres critères de définition ? Comment est-ce que tu définis l'AGI ? Je suis d'accord qu'on ne sait pas définir l'NGI. Et puis la définition change beaucoup avec le temps. Si en 1990,

On avait présenté chat GPT aux 3 ou 4 euros. Tout le monde aurait dit c'est de la super intelligence artificielle, c'est même pas de l'AI, c'est de la super intelligence artificielle. Aujourd'hui on est devenu de plus en plus exigeant. ce qui semblait en 2012 être vraiment complètement de la science-fiction, le film « Her ». est aujourd'hui réalisée. C'est-à-dire que les dernières versions de chaque GPT ou Gemini 2.5 font la même chose que Samantha dans Her.

Avant l'arrivée de chaque GPT, Samantha ont considéré vraiment que c'était une CGI, une intelligence artificielle générale capable de traiter n'importe quel sujet et capable d'entretenir une conversation fluide avec les humains. Moi, je pense qu'on est très proche de la GIA, et en réalité, il y a peut-être quelques briques du puzzle qui manquent, mais pas beaucoup. Et énorme surprise.

On peut avoir une AGI sans conscience artificielle, alors que quand on reprend ce que disaient il y a 10-15 ans les experts, tout le monde était persuadé que l'AGI supposait une conscience artificielle. Or, les dernières versions de ChatGPT et Gemini 2.5 ont un petit peu de self-awareness, Un petit peu, pas beaucoup, mais un petit peu, mais elles n'ont pas une conscience, une véritable conscience artificielle. Donc on s'est trompé sur le lien entre intelligence et conscience.

On s'est trompé sur le potentiel des nouvelles IA comme les derniers LLM. Et une partie du désaccord entre experts vient du fait que certains experts n'ont pas fait encore le deuil du fait qu'ils se sont plantés. Le fondateur de Syrie, Luc Julia, n'arrive pas à digérer le fait qu'il n'a pas vu arriver les LLM, même Yann Lequin.

n'a pas vu le potentiel des LLM et il se raccroche aux branches en ce moment. Mais en réalité, il a beaucoup, beaucoup de mal à admettre qu'il s'est trompé et qu'il n'a pas vu le potentiel et la scalability des LLM comme chat de GPT. Donc entre la difficulté réelle... la difficulté intellectuelle à définir ce qu'est la GI, euh... Le déni de certains experts qui s'envolent de cette plantée...

je pense qu'on va rester dans un certain brouillard intellectuel et un certain brouillard technologique là-dessus, mais ce n'est pas le plus important. Aujourd'hui, tel que je le ressens, Moi personnellement je suis dépassé dans 100% des tâches intellectuelles que je fais aujourd'hui.

Ça n'a pas toujours été le cas. En médecine, j'ai été dépassé complètement à l'été 2024. Et dans mon métier d'intellectuel essayiste, j'ai été dépassé entre novembre et décembre 2024. Donc ça a quelques semaines, c'est récent. Aujourd'hui, il n'y a pas de tâche intellectuelle que je fasse mieux que chaque GPT. Il n'y a pas de tâche intellectuelle que je fasse mieux en une heure et que chaque GPT va faire en quatre secondes. Il n'y en a pas. Donc, pour moi...

Être dépassé par l'IA, c'est quand même qu'on est assez proche de la GI. Alors, c'est une définition un peu gamine, un peu enfantine, mais c'est vrai que finalement... On peut définir l'AGI par son QI, dire chaque GPT a 136 de QI, donc c'est une AGI parce qu'elle est supérieure à 99% des Européens de l'Ouest. Ok, mais le moment où on est dépassé...

C'est le moment où on ressent l'ADGI, et ce moment, moi, je le ressens depuis quelques semaines, ce qui veut dire que finalement, la définition de l'ADGI, elle est personnelle. Il y a des gens qui sont dépassés par chaque GPT depuis un an et demi. Il y a des gens qui viennent d'être dépassés, comme moi. Puis il y a des gens très intelligents, beaucoup plus intelligents que moi, qui vont ressentir ce sentiment, qui vont avoir ce sentiment.

dans quelques semaines, quelques mois et qu'ils ne l'ont pas ressenti. Finalement, Je crois que l'Edge y aille. C'est le moment où, à titre personnel, on est dépassé dans toutes les dimensions cognitives par l'IA. Et c'est pour ça que moi, je ressens l'AGI aujourd'hui. Je le ressens depuis mon dépassement général. Tu as cité le QI. Moi, j'ai cette tendance aussi à définir les GI comme...

Ce moment où l'évolution de l'intelligence artificielle qui permettrait d'atteindre un certain niveau de QI, en l'occurrence t'as cité 135, 136 de QI, qui est déjà largement au-dessus du niveau d'O3. Oui, déjà largement au-dessus de la moyenne, voire... plus de 30 points au-dessus de la moyenne mondiale.

Est-ce que c'est vraiment pertinent de mesurer l'intelligence artificielle avec le QI ? Et d'ailleurs, il y a un tabou autour de ce sujet. Tu en parles souvent dans tes livres. Est-ce que c'est vraiment pertinent de mesurer l'IA via le QI et de comparer ? C'est une grande question et on n'a pas la réponse. Est-ce que les métriques pour analyser l'IA et la GI sont les mêmes que pour mesurer l'intelligence humaine ? Le débat...

Le débat, la polémique sur la valeur du QI dure depuis 100 ans, plus de 100 ans, depuis 1905.

Quand on voit qu'on n'a pas réussi à trancher le débat sur la mesure de l'intelligence humaine, pour mille raisons politiques, intellectuelles et philosophiques, ça va être compliqué de trancher le débat sur la mesure de l'intelligence artificielle qui est un sujet encore plus passionnel et plus compliqué car effectivement l'intelligence artificielle Un fonctionnement qui ressemble un petit peu au nôtre pour certains aspects, mais il y a aussi des différences fondamentales.

qu'on n'a pas encore identifié, c'est-à-dire que le champ des ressemblances cognitives et le champ des éléments différents dans le fonctionnement intellectuel entre le silicium et puis le neurone, n'ont pas encore été bien analysés. Donc la polémique va continuer, comme tu sais. Je reconnais que le QI n'est pas un indicateur parfait de l'intelligence humaine, mais je dis toujours que c'est un meilleur proxy de l'intelligence que la taille du poignet ou la taille de la bite. C'est vrai que...

Le QI est quand même un bon indicateur et que c'est tentant de mesurer l'NGI avec cet indicateur-là. qui est utilisé, même s'il est polémique. je crois qu'il n'est pas inintéressant de continuer à mesurer l'intelligence artificielle à partir du QI, mais dans le futur il faudra des meilleurs indicateurs, ne serait-ce que parce que la super-intelligence artificielle ne pourra pas être mesurée.

par le QI. On sait bien qu'au-delà de 160 de QI, C'est très très très compliqué d'utiliser les échelles de QI traditionnelles alors qu'on les extrapole. on ruse, mais en réalité, le QI marche bien entre 50 de QI, entre le handicap mental pas trop profond, et puis 160 de QI. Au-delà, on sait que c'est difficile.

Et donc, comme l'intelligence artificielle va nous dépasser assez rapidement, y compris pour les grandes intelligences, il va falloir trouver des nouvelles métriques. Tu as probablement vu que la semaine dernière... Altman a redit qu'il était convaincu que Chad GPT-5 serait plus intelligent que lui. Or, Sam Altman a 160 de quotient intellectuel. Il fait donc l'hypothèse que l'IA va dépasser 160 de quotient intellectuel entre l'été et l'automne, qui est la date de release de GPT-5.

Tu cites dans ton livre, il me semble, un nouveau quotient, un quotient de complémentarité avec l'IA. Est-ce qu'on peut espérer être complémentaire de l'IA longtemps ? Dans la guerre des intelligents, je me suis planté. Le cocheur de complémentarité avec l'intelligence artificielle est un truc sympathique, bienveillant, à l'époque où je pensais que l'intelligence artificielle et l'intelligence humaine étaient spontanément complémentaires.

Depuis, comme tu le sais, on en a parlé beaucoup ensemble, des zones d'anticomplémentarité importantes sont en train d'arriver. On se retrouve dans une situation où l'intelligence artificielle est plus humaine. est bien souvent inférieure à l'intelligence artificielle toute seule. et là où ça a été le mieux étudié, il y a plusieurs papiers récents qui sont sortis, notamment dans Nature, et bien en médecine, il y a plus ce médecin spécialiste, ça fait moins bien qu'il y a toute seule.

Si on prend le diagnostic, depuis plusieurs mois, même avant les versions actuelles de chaque GPT et de Gemini, on se retrouve avec les médecins spécialistes qui font à peu près 35% de bons diagnostics sur les dossiers médicaux complexes. L'IA fait 85, l'IA toute seule. Et l'IA, avec, accompagnée d'un médecin spécialiste, fait 77. Ça veut dire que quand on rajoute un BAC plus 10 à l'IA, on perd 15% de bons diagnostics en médecine. C'est de l'anti-complémentarité.

Alors c'est en médecine que ça a été le mieux étudié parce que c'est là que c'est le plus facile. On sait ce qu'est un bon diagnostic à un moment donné, alors qu'on ne sait pas ce qu'est une bonne plaidoirie, on ne sait pas ce qu'est une bonne stratégie d'entreprise. Donc on a un goal standard en médecine qui permet de bien comparer. Les humains, il y a, et le couple, il y a plus humain. Donc, la complémentarité, moi, je suis inquiet en ce moment.

Parce que les zones de complémentarité sont moins évidentes que je l'espérais quand j'ai écrit La guerre des intelligences et puis sa dernière mouture. Tu connais là-dessus mon angoisse ? On ne travaille pas ces sujets-là. Le tabou sur l'intelligence est tel qu'il n'y a pas d'équipe de recherche qui réfléchisse sur l'intelligence. humaine et artificielle, leur symbiose, leur complémentarité, de même qu'il n'y a pas encore eu de réflexion sur la façon de faire évoluer l'école.

Et le décalage entre les nouvelles versions de chaque GPT de Gemini et l'école devient aujourd'hui pathétique, absolument pathétique. Et il n'y a aucune force interne à l'éducation nationale pour s'en rendre compte et pour se mettre à travailler. J'ai été bouleversé par les âneries. qu'a raconté la ministre de l'éducation nationale, madame Borde, qui est pourtorée polytechnicienne, sur l'orientation. d'aller dire que les gamins doivent commencer à réfléchir à leur métier futur en maternelle,

à l'ère de l'IA qui galope et qui gagne un point que je suis intellectuel par semaine, c'est vraiment pathétique de conneries. Et je suis vraiment très triste qu'une femme ingénieure de talent comme Madame Borne puissent dire de telles bêtises au printemps 2025. Alors on va y venir, parce qu'on va parler effectivement d'éducation, on va parler d'adaptation face à l'IA. Tu dis que...

Dans tes livres, l'école ne peut pas suivre le rythme. Qu'est-ce qu'il faudrait faire pour modifier le système éducatif, pour nous préparer, pour préparer nos enfants à l'ère de l'AGI ? At Scottish Friendly we know that some things feel better with a guarantee.

Get some peace of mind with our My Easy Choice ISA. It's not just tax friendly and budget friendly, it's investment guarantee friendly. We promise you'll get back at least as much as you've invested on your 10 year investment anniversary with the potential for Friendlier investing for you and your family. Search Scottish Friendly ISA today.

Guarantee applies on your 10-year anniversary if you don't make any withdrawals or switch out of the fund. Capital at risk. Tax rules apply. What is power? Is it a home EV charger that works while you sleep? Maybe it's a heat pump that pulls warmth from thin air. Or is it switching to solar, so energy companies can pay you for a change? Power is all of that, at the touch of a button. Hive's Ecotech range gives you the power to control your home energy.

Hive. Know your power. T's and C's apply. Visit hivehome.com. Veterinary advice on canine castration has changed. Once considered a key part of responsible dog ownership, it's now known that surgical castration can have both positive and negative impacts. So if you're considering castration for your dog, it's important to know your options.

A temporary implant offers all the benefits of castration without the need for anaesthesia or surgery. Ask your vet about the implant. Brought to you by Virbac, makers of Suprarulin. Il faudrait investir dans l'éducation nationale comme nous investissons dans l'intelligence artificielle. Nous mettons les meilleurs cerveaux du monde.

pour fabriquer de l'IA. Les salaires chez Google et chez OpenAI, comme tu sais, peuvent dépasser 10 millions de dollars pour un bon développeur qui travaille sur les LLM. Pendant ce temps-là, il reste des étages entiers de bras cassés au ministère de l'Éducation nationale avec... Quasiment personne qui comprend l'intelligence artificielle. Je ne dirais pas personne. Il y a quelques individualités perdues.

qui travaillent sur ces sujets, mais ils sont très peu nombreux. Donc, il faudrait investir massivement. il faudrait beaucoup beaucoup beaucoup beaucoup beaucoup travailler Ces sujets-là, on ne les travaille pas. Il faudrait mettre une très très bonne expertise, des gros gros budgets d'investissement, de réflexion, que l'on ne met pas et que l'on n'a pas mis. Tu sais que la Silicon Valley va investir en recherche dans l'intelligence artificielle 360 milliards.

La seule Silicon Valley 360 milliards cette année, c'est-à-dire un milliard de dollars en recherche sur l'intelligence artificielle chaque jour. Avec ce pognon de dingue, l'intelligence artificielle galope à une vitesse absolument folle. On l'a déjà dit, chaque GPT gagne un point de QI par semaine, c'est absolument affolant.

Vu la vitesse à laquelle progresse l'IA, Et vu l'incapacité de l'école à mettre des moyens pour se rénover, pour imaginer de nouvelles fonctions éducatives, de nouvelles technologies éducatives, la bataille est aujourd'hui perdue. Même si on mettait des gens très intelligents à l'éducation nationale.

Même si on remplaçait Mme Borne par quelqu'un qui connaît l'intelligence artificielle. Et il y en a parmi les politiciens. Il n'y en a pas beaucoup, mais il y en a quelques-uns. Par exemple, Gabriel Attal. Eh bien, même si on faisait ça... Il est clair qu'on ne peut pas suivre l'intelligence artificielle. Tu sais bien que les gens comme nous...

qui sommes des travailleurs intellectuels, qui travaillons jour et nuit pour essayer d'être complémentaires et compétitifs face à l'IA, on est en train d'être dépassés. Et on y passe beaucoup d'heures par jour à exister face à l'IA. Beaucoup, beaucoup d'heures. On dépense beaucoup d'énergie. Donc d'imaginer qu'on peut durablement emmener l'ensemble de la société à être complémentaire de l'IA compte tenu de tout ce qu'on a dit.

est une fiction, est une espérance un peu folle, qui hélas se révélera... se révélera fausse. C'est pour ça que je pense, à moins qu'il y ait un plafond de verre prochain sur les IA, Mais si nous continuons à avoir l'IA qui gagne un point de cuit par semaine, je pense qu'on va vers une crise de conscience.

Je pense qu'on va avoir une crise sur le marché du travail, une crise dans le système de santé qui va être submergée par l'IA avec des grandes peurs chez les professionnels de santé, etc. Nous n'arrêterons pas le toboggan, Jacques Ellul avait raison, nous ne rénoverons pas l'éducation et même si on la rénovait. De toute façon, on n'emmènera pas l'ensemble de la population à courir suffisamment vite.

C'est pour ça qu'on ne peut pas exclure qu'il y ait des réactions sociales et politiques hardes, violentes, du ludisme, c'est-à-dire des gens qui s'opposent à la machine, des gens qui désespèrent parce qu'ils sont dépassés. Pour le dire crûment et sans vouloir paraître prétentieux. Si les intellectuels comme nous sommes dépassés très vite, dès l'hiver 2024, le printemps 2025, les classes moyennes et populaires vont être prises de vertige parce qu'on n'a pas de solution simple. Et de dire...

Il y a deux choses qui sont très cruelles aujourd'hui. C'est de dire que grâce à l'école, on va permettre à tout le monde de rattraper l'IA. C'est un mensonge. de dire que l'école est parfaitement adaptée et que tout va bien chez le discours de Borne. Je trouve que c'est très cruel, là encore. En réalité, je comprends les politiques. Il y a un certain nombre. On en connaît tous les deux et on ne va pas citer de nom ici. On ne va pas faire d'outing technologique ici.

Nous connaissons des politiciens de haut niveau avec lesquels on a, toi et moi, discuté et qui sont conscients du choc technologique. Mais ils n'osent pas en parler. Ils n'osent pas en parler parce qu'ils sont eux-mêmes pris de vertige et parce qu'ils n'ont rien à dire à l'opinion. C'est-à-dire qu'il n'y a pas de solution simple, évidente aujourd'hui. Alors, il y a des solutions demain. Alors oui, on va en parler des solutions parce que tu as...

Pour les nouveaux enfants, pour le flux des nouvelles intelligences, mais pas pour le stock. Les technologies que l'on voit poindre aujourd'hui sont bouleversantes sur le plan philosophique et politique, mais elles ne sont applicables. qu'aux nouveaux enfants, au flux, elles ne sont pas applicables au stock des intelligences, et donc le politique qui s'adresse au stock des cerveaux humains aujourd'hui, Il n'a rien à dire aux gens.

Et je comprends pourquoi il n'y a qu'en privé que les bons politiciens acceptent de parler d'intelligence artificielle. Alors, dans tes livres et dans tes conférences aussi, tu parles d'un scénario qui... qui est très controversé, qui est choquant, qui d'ailleurs charrie... des éléments historiques qui sont bouleversants. Tu parles de génisme, tu en as parlé à TEDxParis, la possibilité que l'école devienne géniste. Autrement dit qu'elle choisisse ou qu'elle manipule.

au niveau génétique, de sorte à permettre à le développement d'intelligences qui sont capables de concurrencer l'IA. C'est une école nouvelle. C'est une école qui travaille avant la naissance. Oui. Et tu parles aussi d'un deuxième scénario, qui est celui du neuro-enhancement, c'est-à-dire cette capacité qu'on pourrait avoir, ça reste de la science-fiction aujourd'hui, d'augmenter les capacités cognitives.

par des artefacts artificiels, des puces, etc. Ma question est très simple. Pour toi, et là vraiment je m'adresse à ta conviction, où est la ligne rouge entre accepter finalement le dépassement ou augmenter l'humain, soit par eugénisme, soit par neurones. Les lignes rouges éthiques n'existent pas. Tu sais, tu connais ma conviction, on change d'éthique et de morale comme on change de chemise. Si on avait dans la France de 1930 expliqué qu'en 2025 il y aurait le mariage gay...

Et puis la PMA et de la GPA qui finalement est acceptée par l'État, même si elle n'est pas, par l'État civil, même si elle n'est pas légale en France, les gens auraient été bouleversés et n'auraient pas compris. inversement les gens sont bouleversés quand ils réalisent que dans les années 50 et 60 on a fait des lobotomies y compris pour empêcher

les jeunes garçons de se masturber dans le Canada des années 60 en considérant qu'il était éthique de faire une opération de neurochirurgie chez des gamins pour diminuer l'onanisme. Ça paraît fou aujourd'hui. Ça paraît éthiquement vraiment dégueulasse, ignoble, et on l'a accepté avant. Donc on voit bien que dans un sens et dans un autre, notre morale change de façon difficilement prévisible.

La thèse de Juan Henriquez dans Right and Wrong, elle change d'ailleurs à une vitesse exponentielle. Exactement. Donc, de savoir comment, face à l'exponentielle de la supérieure, nos lignes rouges éthiques et notre morale va bouger, c'est très difficile à dire. Comme tu sais sur le génisme intellectuel, par sélection brillonnaire. Les chiffres sont absolument dingues.

Le sondage réalisé dans Science, la deuxième plus grande revue scientifique au monde avec Nature, montre que 38% des américains sont favorables à la sélection embryonnaire en éprouvette. de manière à ce que les enfants soient plus intelligents et fassent de meilleures études pour être complémentaires face à l'intelligence artificielle. C'est un chiffre qui était juste inimaginable il y a cinq ans.

Mille les américains sur ce toboggan génie qui pousse plus d'un tiers aujourd'hui à vouloir utiliser la génétique. pour que leur gamin soit compétitif face à l'IA. Et tu sais que les premières offres de sélection embryonnaire intellectuelle sont arrivées aux Etats-Unis. Et j'invite tes lecteurs à aller voir le site d'Heliosept Genomics où pour 50 000 dollars on te fabrique 100 bébés en éprouvette.

On séquence l'ADN des bébés et on choisit le bébé le plus intelligent. Je ne dis pas du tout que j'approuve, mais je constate cette tendance. La réalité, c'est que l'école va pas marcher. Que la sélection embryonnaire marche déjà aujourd'hui, mais qu'elle pose mille questions. politique absolument effroyable. Et que le neuro-enhancement par des techniques comme Neuralink ne marche pas et n'est pas prêt de marcher. C'est-à-dire d'augmenter les capacités intellectuelles de quelqu'un.

grâce à Neuralink, je ne suis pas sûr que ça arrive avant mon entrée chez Orpéa. Ce n'est pas du court terme. Donc on va se retrouver avec une technologie industrialisable qui est Neuralink. qui n'est pas là avant longtemps, une technologie épouvantable, qui nous rappelle beaucoup de mauvais souvenirs, qui est l'eugénisme.

et qui va marcher plutôt pas mal, à relativement brève échéance, et puis une école qui va devenir de plus en plus inutile, et qui va former des gens non complémentaires de l'IA. Et des futurs chômeurs, probablement, si on ne réorganise pas complètement le monde du travail et le monde de l'éducation. Donc ça va être, pour les politiques, ça va être extrêmement compliqué de se positionner et d'oser dire quelque chose. Qu'est-ce que tu veux raconter ?

Aux gilets jaunes, qu'est-ce que tu veux raconter en situation de précarité cognitive ? Aux gens qui n'ont pas fait beaucoup d'études, qui ne savent pas bien lire, qui ne savent pas bien écrire. Et on sait que le pourcentage de Français qui ne maîtrisent pas bien l'écrit, il est important. Qu'est-ce que tu veux leur dire à l'ère de l'Edgeia et voire de la Supéria ? Qu'est-ce que tu veux leur dire à l'ère des robots intelligents ? Tu te souviens qu'avec Babo, j'avais écrit dans le...

Dans le Figaro, un papier au titre un peu clivant. Les robots ouvriers auront l'intelligence d'un polytechnicien. Mais c'est la réalité. C'est qu'on va avoir des IA. super intelligente et des robots branchés sur les meilleurs IA, des robots humanoïdes. Ça crée un paysage où il est très difficile de savoir ce qu'il faut faire politiquement.

et même ce qu'il faut faire à titre personnel. Et pour nos gamins, la semaine dernière, tu as vu que Elon Musk a déclaré que les robots humanoïdes seraient meilleurs en chirurgie que les meilleurs chirurgiens du monde.

début des années 2030, alors il se trompe peut-être sur le timing, mais même une profession très technique, à la fois intellectuelle et technique comme la chirurgie, sera dépassé par les robots dotés d'intelligence artificielle dans le futur, il faut 11 ans pour avoir la qualification en chirurgie, moi j'ai J'ai eu la qualification en chirurgie après 11 ans d'études de médecine, 11 ans. Et tu es jeune, étudiant en médecine, tu rentres en première année, tu te dis je veux être chirurgien.

Et tu risques d'avoir, même si l'homme mosse se trompe de quelques années, tu risques d'avoir des robots humanoïdes opérant mieux que toi, plus intelligents que toi, avant que tu aies commencé ton internat en chirurgie. C'est très très très très bouleversant. C'est très très très difficile de se positionner. Et je pense que les gamins vont prendre peur. Je pense que les gamins vont devenir un peu foufous.

surtout tous les gamins qui sont dans des facs poubelle, dans des facs sans moyens, dans des facs avec des professeurs pas très bons, qui forment à des cursus dépassés. J'ai vu récemment... Dans une fac du Nord, j'ai vu le niveau des cours, j'ai vu le niveau des profs. Je ne vais pas dire dans quelle fac de l'île. C'est assez bouleversant de voir à quel point on envoie au casse-pipe les enfants aujourd'hui et à quel point on a créé plein de facs de très bons véniveaux.

qui déjà étaient inutiles avant l'intelligence artificielle, mais qui à l'ère de l'intelligence artificielle sont vraiment complètement à côté de la plaque. Laurent, on va s'arrêter là pour la première partie, on a abordé des sujets vertigineux, on va aller encore plus loin dans la deuxième partie, on va parler de société post-AGI, on va parler de géopolitique, on va parler aussi de transhumanisme. Je vous propose de nous retrouver la semaine prochaine pour la deuxième partie de cette émission.

Whoa there. Victoria's had a Friday night to remember, but now she's outside in the pouring rain and... You are joking. I've got no data. How are we going to get home? But then she remembers she's with EE. Yes, Uber still works. So then she... Uber's on me, guys. Should we get a kebab? Use essential apps like Uber and WhatsApp even when you run out of data. Search EEMobile. Stay connected at 0.5 megabits per second. Turns apply. Since when did pride in your country become prejudice?

Our thoughts exactly. The Telegraph We speak your mind. Hello, this is Jane and Fee from Off Air with Jane and Fee. Our podcast is currently sponsored by My Garden Escape at QVC. Now we've all got a different idea of what a perfect garden is. For some of us it's a place to relax with a good book. but for others it's about growing vegetables or hosting friends. Whatever yours is, my garden escape at QVC has everything you need to create your perfect outdoor escape.

Whether you're a seasoned gardener or just starting out, My Garden Escape at QVC will help you master your outdoor space with trusted recommendations, plant care tips... and interactive live streams from QVC's Resident Garden Expert. Search MyGardenEscape at QVCUK.com to discover more and use the code QVCPOD for £10 off your first order. Minimum spend supply for full terms. Visit the QVC website.

This transcript was generated by Metacast using AI and may contain inaccuracies. Learn more about transcripts.
For the best experience, listen in Metacast app for iOS or Android
Open in Metacast