Wie schützen wir uns vor Manipulation durch Chatbots?

ChatGPT bekommt ein unheimliches Persönlichkeitsupdate und ein ethisch zweifelhaftes KI-Experiment täuscht eine ganze Internet-Community: Bessere KI-Modelle bedeuten auch eine höhere Manipulationsgefahr. Was tun wir dagegen - und wie stellen wir sicher, dass unsere Gedanken nach wie vor die eigenen bleiben? Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Er arbeitet unter anderem für den Bayerischen Rundfunk und das Tech-Magazin 1E9. In dieser Folge: 0:00 ChatGPTs großes Einschmeichel-Problem 15:10 Kontroverses Reddit-Experiment 19:10 Macht KI uns manipulierbar? 24:00 Was tun wir dagegen? 30:00 Was haben wir mit KI gemacht? Links: Münchner Rundfunkorchester 2024/25: "Multiverse Symphony - Münchner Rundfunkorchester meets AI" https://www.br-ticket.de/events/mro-24-25-multiverse-symphonie-05-06-2025-funkhaus/ Podcast-Tipp: Too Many Tabs https://www.ndr.de/podcast/podcast5522.html ChatGPT-Update sorgt für Chaos - das steckt dahinter https://www.br.de/nachrichten/netzwelt/neues-chatgpt-update-sorgt-fuer-chaos-was-steckt-dahinter,Ujf6Nzk OpenAI-Statement: Expanding on what we missed with sycophancy https://openai.com/index/expanding-on-sycophancy/ Experiment im Reddit-Forum "Change My View” https://old.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/ https://the-decoder.de/umstrittenes-ki-manipulationsexperiment-der-universitaet-zuerich-auf-reddit-endet-ohne-paper/ ChatGPT hilft Shoppen - und könnte eine ganze Branche bedrohen https://www.br.de/nachrichten/netzwelt/chatgpt-hilft-shoppen-und-koennte-eine-ganze-branche-bedrohen,UjqTFQv Gregors Suno-Songs https://suno.com/s/zqUc0nnrkk8KljO9 (Demo Tape Version) https://suno.com/s/x7stkQFyjjSuZKlG (House Version) https://suno.com/s/74vEd3IG95zE3NVX (Hyperpop Version) https://suno.com/s/3lFj6Uhpb8xRgiV4 (Musical Version) Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Elisa Harlan, Franziska Hübl, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Kontakt: Wir freuen uns über Fragen und Kommentare an kipodcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!