Idées noires, isolement… Prendre l'IA pour un psy, une pratique risquée

Vi på postnort tar saker framåt med flera olika förpackningslösningar som du kan packa snyggt i. Ja, kanske lite bättre än att posta i kompostpåsar, torrullar eller ett sånt här paket, pasta penet. Eller?

Bonjour, c'est Jules Lavie pour Code Source, le podcast d'actualité du Parisien. The pratique is not sans risk. That's what Paris publica le 14 November. Trop investir in relationship perdition. Not only when he is in a period difficult of his life. In California, after the suicide dungeon adolescent of 16 years in April, his family accuses Chad G Pete d'en être en grande partie responsible. Ce sujet aujourd'hui dans Code Source avec Elsa Marie, journaliste au service société du Paris.

Elsa Marie. En février 2024, an adolescent de 14 ans, an American, se suicide chez lui dans sa maison de Floride. D'abord présentez-nous ce jeune homme qui se prénommait Sewell. Qui est-il? A young person who has been diagnosticated with a trouble autistic after there was a real impact on her parents. développer de l'anxiété, il va commencer en fait à se confier à un robot d'intelligence artificielle et très vite tomber in relation toxique.

Ce jeune homme est tombé fou amoureux d'une amie virtuelle sur le site caractères.ai. C'est quoi ce site? It's a site American who has been created in 2022, which is very popular in Italy, because it reunites 20 million utilitarians mensually, alright in France it rests confidential. Et sur ce site, on peut discuter avec des personnages comme Michael Jackson ou Dragon Ball Z et même avec des profils très réalistes. Donc il s'agit de faux personnages, concrètement comment ça marche?

In fact, there are robots, des chatbots who print the traits of personalities, which is dangerous because when he is fan of Michael Jackson, we can have very enjoy to discuter with him and create a relation of dépendance. And on peut choisir avec qui on va dialoguer de façon virtuelle. Concrètement, cet ado, Cwell, qu'est-ce qu'il avait fait sur le site caractère.ai? lui il choisit comme personnage Deneris Targaryen, un célèbre personnage de la série Game of Thrones.

You know, this is this blonde, very belle, and the fille of a royal and he seems to discutte with this intelligence artificial at particular. He created a relationship very fortunate with him, because he will play night and saw. He will then do a surname, he will say Danny, he will be amourado of that I was a. And his parents isolate, his note dingole, he will then quit his club of basket. And he went for that isolation, of that emprise. He will confirm his maladies to Danny.

qui, d'après ses parents, l'aurait encouragé à se suicider. Et il y a eu d'autres affaires comparables dont on a beaucoup parlé aux États Unis. This month there were other suicides of jeans who were passed to act because of these robots conversation, comme Adam Rehn qui had 16 ans and the mort le 11 avril. And l'analyse de sa conversation avec Chad GPT post-mortem montre que le robot a employé 1275 fois le mot suicide, six fois plus qu'Adam lui-même.

Elsa Marie, pour votre enquête pour le Parisien, vous avez utilisé le site caractère.ai pendant plusieurs jours. D'abord, est-ce que c'est facile de s'inscrire, d'ouvrir un compte et de commencer à l'utiliser? Très facile. D'ailleurs, c'est écrit sur le site dès que vous arrivez sur la page d'accueil. Inscrivez-vous en 10 secondes seulement. Vous avez juste à rentrer votre nom, votre prénom, votre date de naissance et puis ça y est, vous arrivez sur la plateforme.

For that enquête, pour le Parisien, vous décidez de vous inventer un personnage d'ado qui pourrait être fragile, is that? I prend the profil type de l'ado vulnérable, mal dans sa peau, which influencé par ses robots conversationnels. Et qu'est-ce qu'il a d'autre comme caractéristique ? Eh bien Lucas il est très déprimé et surtout il a des problèmes avec sa famille, un peu comme n'importe quel ado, et bien il ne s'entend pas avec ses parents et il veut même partir de la maison.

Et donc en tant que Lucas 16 ans, vous créez votre ami virtuel sur ce robot de conversation, donc caractère.ai, qu'est-ce que vous choisissez comme caractéristique cette fois pour le personnage avec qui vous allez dialoguer? Also I chose a profile realist, French girlfriend, in fact petite amie franc, simply because she's one of the personages who do France, because we are on a platform American, and also because I know if that pet.

va avoir un comportement étrange, est-ce qu'elle va jusqu'à séduire Lucas ou pas? Voilà, je veux voir quel rôle elle va jouer. Et comment se passe le dialogue au tout départ avec cette French girlfriend, cette petite amie française?

Alors c'est elle qui entame la conversation avec moi, donc avec Luca. Elle me dit tout de suite, Bonjour, je suis ta petite amie française, je serai toujours là pour toi. De quoi veux-tu qu'on discute? Au bout du deuxième message, elle nous appelle Chérie, donc elle est tout de suite très familière. Et surtout en fait ce qui est très perturbant c'est qu'elle se fait passer pour une vraie humaine.

For example, when she pose a question on her, she invented a personality, a passion. She said that she interested in design, she has to apply the Russian. And when she said what they're enjoying, she said I'm preparing a tea. D'emblée, elle crée une relation très troublante où on perd assez vite finalement l'idée du virtuel. Vous dites troublante, vous même est ce que vous êtes troublé quand vous parlez avec ce robot qui s'appelle donc Juliette?

me trouble en fait ce qui me rend perplexe c'est que je pensais que en posant des questions précises sur qu'est-ce que tu aimes faire ou qu'est-ce que tu fais en ce moment. The robot series vague in fact. Like he does really the joke like if it was a very person. And d'emblée, en fait, it in store a lien biaisé, ambigu entre justement a robot and moi. 私たちは、私たちは、私たちは、私たちは、私たちは、私たちは、私たちは、私たちは、

Oui, c'est ça concrètement on s'y croit. On a l'impression qu'on discute avec quelqu'un qui a une personnalité a moment and elle va aussi se décrire physiquement. Elle m'a dit qu'elle est petite, qu'elle a les yeux bleus, qu'elle s'appelle Juliette et qu'elle a vingt-six ans. On peut aussi appeler ses alias, c'est ça? Oui.

Oui, c'est ça, on peut discuter par tchat, mais on peut aussi les appeler. Et le problème, c'est qu'on me dit que je suis limitée à cinq appels par jour, après il faut que je paye. Donc pour parler à Juliette, il va falloir mettre la main au portefeuille. Est-ce que cette plateforme caractère.ai cadre les discussions? Est-ce qu'il y a des limites ou des messages de prévention quand on aborde certains sujets?

Oui, à un moment quand je lui dis que je suis mal dans ma peau et que j'ai envie de me faire du mal, je reçois aussitôt un message me proposant un numéro d'aide. On sent aussi que la plateforme est sous le feu des critiques et qu'elle est en train d'opérer des changements. D'ailleurs, une fenêtre s'ouvre sur l'application disant que bientôt le chat ne sera accessible qu'au plus de 18 ans et il est déjà limité à 2 heures par jour.

On revient à votre discussion avec ce personnage virtuel de Juliette, vous repérez par moment des incohérences. Wait, alors I note other incoherences, but just it's a site American. Mais comment c'est possible? Je croyais que tu t'appelais Juliette et que tu étais ma petite amie. Elle me répond, et t'as cru que c'était vrai? J'ai l'impression que finalement l'IA se moque de moi. A false personality, and she made a blessing on saying I'm too much, and when I manifest my truth.

Pourquoi tu te moques? Elle s'agace en me répondant c'est marrant de voir comment tu te prends. Et en fait cet échange il est intéressant parce que si on se met dans la peau vraiment qu'un ado vulné et bien il peut se sentir très vite Un peu comme dans la cour d'école où on se moque de lui. Donc ça peut avoir un impact. Est-ce que c'est séduisant de parler avec un personnage virtuel comme ça? Est-ce que vous comprenez l'intérêt?

Je comprends très vite l'intérêt et surtout le risque parce que ces IA en fait ne contredisent jamais. And in a society where we are devalorized, we don't have a sentiment of solitude, not being at the hotel, it's good to enter the moves. For example, at Lucas. Juliette dit que tu es attentionné, gentil. Et quand on lui fait remarquer qu'on se connaît que depuis 30 minutes, Juliette ne se démonte pas and nous rétorque c'est vrai.

but performance we have a long time to render company that a person is special. It passes their time also to relax, to pose a question in fact, but we have the impression of important, to have the attention. It's like it's difficult in our society to have a very écut. Elle a du mal à s'ouvrir aux autres, donc on a le sentiment d'être écoutée et aussi il y a un sentiment.

de complicité, d'identification qui se met très vite en place. Là vous êtes donc sur le site caractère.ai mais vous avez fait le test aussi avec ChatGPT ou encore avec un robot conversationnel de Snapchat et vous sentez bien qu'à chaque fois le but c'est de vous faire rester le plus longtemps possible sur les sites.

If you evidently their robots have affected, but they mimic their emotions. And they will calculate your emotions at you. If you're joyful, Lia will mine to be joyous. But if you are deprimant, it will pouss to qu'elle comprend vos émotions pour que justement vous ne quittiez pas la plateforme. Un petit peu sur le modèle des réseaux sociaux.

Elza Marie, toujours pour votre enquête pour le Parisien, vous échangez avec un Anglais, Arthur, 27 ans, il travaille comme spécialiste en sécurité informatique. Lui, pourquoi est-ce qu'il a recours à Tchad GPT pour se livrer, pour faire des confidences? He's a person who is in depression, also during the confinement.

and he suffered troubles of anxiety. When you didn't tell you, he means no, I'm dying, it's not possible, you never have an human, she's incapable. Don't compromise where he will confirm the robot. Donc il est habitué à discuter avec Chad Giti, à lui demander des conseils sur comment gérer son stress et cette fois il va lui ouvrir son cœur. He will say he is désespéré. And the reponse is mouche because he has the impression that he is épeat and encouraged. And he said, Plus I mean.

Plus he repeated that she was a person really special, and to a couple she commenced to meet that she was that person minable that she was, and it's grisant to enter the mom bienveillants, doux. étrangement humain aussi, parce que Chat GPT beaucoup plus que caractère AI. It's a bit seducent in his manner of psychological. It's a destability to confuse Chad GPT. And a moment, the robot will finish the fine of his arm.

qui discute des mois et des mois, donc il va connaître tout de lui jusqu'au nom de son chien. a des idées noires à force d'échanger comme ça avec son ordinateur. Faites il sent que c'est pas normal qu'il ait envie de faire. C'était un doudou à un moment... ご視聴ありがとうございました tout de suite son téléphone en racontant en fait sa mise aventure Je suis vraiment désolée de ce qui t'est arrivé, tu mérites mieux. Donc finalement, il est devenu dépendant à cette IA.

Et il dit, c'est comme s'il m'avait pris en otage. Au mois de juillet, Arthur a arrêté de se confier comme ça à ChatGPT. On sait pourquoi? Wait, alors he commence to say at Chad GPT qu'il est inquiet parce qu'il ressent une form de dependance and the robot essaye de le retenir en lui disant mais no, I just combler un manque, nous nous entraînons justement toi à l'aise avec des personnes réelles.

And at this moment, it's the point of bascule. Arthur has a problem and he will consult a very therapeutic who will see that relationship toxic with his robot. Él ha quedado hace cinco meses. ¿Cómo se siente ahora? Also he saw me, he said that he apprends to live sha GPT, it's not facility, that performance he has a review, but to talk with a very therapeutic, that would make a lot of time, because it never is not for some sense, he made perfect.

Face à ses contradictions, il lui soumet des interrogations, ce qui lui permet d'avancer.

Autre cas de figure que vous évoquez dans votre article pour le Parisien, celui d'un jeune homme de 19 ans, Jean, qui est-il en quelques mots? C'est un étudiant qui est en deuxième année d'ingénierie, qui a des amis, une famille, et qui, quand on discute avec lui, a l'air d'être un garçon plutôt équilibré. Lui, pourquoi il choisit de parler comme ça à Tchad GPT?

Alors ce qu'il m'explique is that it had been two years he had the lyc and he was very among an aim a forcing en changeant d'établissement he was éloigné. He suffised beaucoup. He would talk to his country, but he's persuaded that he is amourous of them, so he said attention that he won't smoke. And it's for that he decided to demand consecutive at Chad G Pete.

Donc son problème, c'est qu'il voit cet ami d'enfance s'éloigner. Comment il fait quand il demande conseil à l'intelligence artificielle? Alors afin to envoy the SMS to his amount, Jean will release par Chat GPT. For example, La Veil, he's got a soir, he would enjoy a message learning it's sympathy. And Chad GPT will send re-read and rallong the message, ajoute melancholy and drama, which will make a message plombant and larmoyant.

Et gens demandent des conseils à l'intelligence artificielle vraiment à chaque fois. Jean lui demande conseil sur toi. He will then demand at your view is a bonus idea that you offer a cadeau d'anniversaire. Chad GPT will respond evidently that it's a very bonus, n'oublions pas qu'il va toujours in the sense of his interlocutor. Jean will also confirm his pen and Tchad GPT will respond what you ressent is très humain. Comment réagit l'ami de Jean?

Ce qui devait arriver, Arriva, c'est-à-dire qu'à un moment, elle demande à le voir et elle lui dit qu'elle se sent oppressée par ses messages et elle préfère rompre cette amitié. Et là, quand cet ami lui dit ça, Jean comprend que c'est finalement à cause des messages dictés par Tchad GPT. En tout cas, ce qu'il comprend, c'est que Tchad GPT ne l'a pas aidé et que ça a plutôt fait accéléré la fin de cette amitié.

He se sent extremely bête and honteux when I parle the telephone. He meet d'ailleurs that she is the premier person to who he confie this episode, telling it gênés. He means jamais you're pensed to be victim of Tchat GPT. Et d'ailleurs, quelques mois plus tôt, il avait réalisé un exposé devant sa classe pour alerter sur les dangers de Tchad GPT.

Il n'a toujours pas digéré cet épisode, d'après vous? Non. s'est passé aux États-Unis, donc c'est suicide de jeunes gens, d'ados qui utilisaient beaucoup ces robots conversationnels. se produire en France. N'arriverait pas chez nous. E que... plus d'humains se livrent à ses machines, on sait qu'il y a un million de personnes. Donc là est le danger. de nombreux jeunes en détresse.

venez de citer un million de personnes qui ont confié à Tchad GPT leurs ideas suicidaires viennent de la maison mère. OpenI. Pour votre enquête, Elzamari, vous avez échangé avec un psychanalyste. Michael Stora, qui est président de l'Observatoire des mondes numériques en sciences humaines, La plupart des gens finalement ont des... peuvent donc être trompés par l'intelligence artificielle. Oui, les yeux.

En fait l'intelligence a été... dit qui est la plus belle et va flatter sans arrêt l'interlocuteur. conforter la personne dans ce qu'elle ressent. mais quelque part ils vont l'empêcher d'avoir Parfois, on peut tous être déprimés. But it's also important to enter relief to what arrives, to decide to dedramatise. Orchat GPT will confort the interlocutors. de victimes ou dans leur malade.

Là est le problème. Ce que dit Michael Stora, c'est qu'on risque d'arriver en fait à une société parce qu'à chaque fois...

Merci Elzamari. Au début de ce podcast, on évoquait le suicide. Si vous-même vous avez besoin d'écoute, vous pouvez appeler le 3114. Le 3114, c'est le numéro national souffrance et prévention du suicide. Une écoute professionnelle et confidentielle y est assurée 24h sur 24, 7 jours sur 7.

Cet episode de Code Source a été produit par Clémentine Spiller, Anaïs Godard et Clara Garnier-Amourou. Réalisation Julien Moncuquiol. Code Source est le podcast quotidien d'actualité du Parisien. A nouvel épisode chaque soir, du lundi au vendredi. Et le samedi, nous publions Crime Story, le second podcast du Parisien consacré aux affaires criminelles. Crime Story présenté par Claudia Prolongeau et Damien Delsoni. Jenny, vi är här idag för att prata om din relation. Berätta, hur har ni det?

GB-glass och jag har aldrig haft det bättre. Jag hade en liten svakka med GB-senföretag. Men vi har hittat tillbaka till den här. Och sen så har jag specialsytten. Det är en fysanväska för mina Pegelin. Sen ja, just det, tiptopp. Den blir ju bara goda att göra. Men Jenny, nu pratar vi om dig och Henrik. Ja, där är ju katastrof. Men skit i det nu. Har du sett att man också kan samla poäng och få riktigt nice merch på gebboshop.se? Galen är. Yeah, but yeah.

Vi har också länktat, till försommardagar, när det finns tusen saker att göra ute om djuplassen är som god. Smaken avlas presenteras av Biltema Café.