KI, Deepfakes & Co: Wie erkenne ich KI-Content?

Ihr wisst, man kann Videos im Internet wirklich nicht mehr trauen. Ich meine, wer weiß, bin das gerade wirklich ich, der hier im Studio sitzt und mit euch spricht? Oder ist das alles nur KI? Tja, tatsächlich habe ich das gerade gesagt, aber wir wissen ja,

Doch alle, dass es mittlerweile ohne Probleme möglich wäre, mich einfach so in ein Studio reinzugenerieren. KI-generierter Content kann ja auch ganz witzig sein. Der Papst, wie auf einmal eine fancy Down-Jacke trägt, Kaninchen, die auf einem Trampolin rumhüpfen, oder Friedrich, Wie er die neuesten TikTok-Tänze auspackt. Aber KI kann uns auch täuschen und im schlimmsten Fall richtig Schaden anrichten.

Ich wusste auch nicht, wie ich das meiner Familie gut erklären kann. Also so, hey Mama, Papa, es gibt irgendwie gefälschte Nacktbilder von mir im Internet, die zu tausend geliked und runtergeladen werden, ist irgendwie nicht so eine einfache Konversation. Kurz vor Weihnachten stößt Theresia im Internet auf ein Fake-Profil von sich selbst. Jemand hat mit KI pornografische Bilder und Videos von ihr erstellt und veröffentlicht. Bilder, die sie nie gemacht hat. Trotzdem ist ihr Gesicht überall.

Aber ich habe auch für ein paar Sekunden so gedacht. Wann wurden diese Bilder aufgenommen? Mein Gehirn hat wirklich länger gebraucht, um zu checken, das bist du gar nicht. Das ist ein gefälschtes Bild.

Boah, das muss ja so absurd sein, das so zu sehen. Diese Bilder sind mittlerweile einfach so täuschend echt, dass wir sie kaum noch von echten Bildern unterscheiden können. Und Anfang des Jahres war ja auch der Fall von Coline Fernandes groß in der Presse. Sie kämpft ja schon seit Jahren gegen Deepfake-Port.

die gegen ihren Willen erstellt und im Internet verbreitet wurden. Aber nicht nur KI-Pornos sind ein Problem. Plattformen wie TikTok werden regelrecht mit KI geflutet. Ein Viertel aller meisten TikTok-Suchergebnisse sind KI generiert. Und nur die Hälfte der KI-Beiträge auf TikTok sind auch richtig als KI gelabelt. Das zeigt eine Studie aus dem Jahr 2025. Auch in meinem Freundeskreis und auf Social Media wird gerade ziemlich viel darüber diskutiert.

Diskutiert, wie schwer es mittlerweile ist, KI-Content zu erkennen. Watcher seid ihr euch eigentlich, ob ihr noch echte Bilder von KI-generierten Fakes unterscheiden könnt? Ich nehme mich nicht mehr so sehr. Thank you. auf die Kommentare gegangen. Ich hatte es komplett für wahre Münzen genommen. What is the genuine purpose of creating realistic AI images? Call me a pessimist or a conspiracy theorist, but the only thing I can think of is this is to have us question the reality of everything.

Also, das wirkt ja so, als wäre es fast unmöglich, zwischen KI-Content und echtem Content zu unterscheiden. Und das ist auch für unsere gesamte Gesellschaft eine richtige Gefahr. Und gerade dieses Problem hat uns dann sehr lange beschäftigt, weil es eben auch viele Auswirkungen hat, zum Beispiel auf mögliche Angriffe auf die Demokratie, diese ganzen Misinformationskampagnen oder dass man eben Menschen beeinflussen kann. Ich bin Julian Stopper.

Und ihr hört und seht Wissen Weekly, der Videopodcast, der noch nicht von einer künstlichen Intelligenz betrieben wird. Wir graben uns für euch durch Studien und reden mit ExpertInnen und Betroffenen, damit ihr in der nächsten Diskussion wirklich wisst, was gerade Sache ist. In dieser Folge klären wir, wie problematisch ist KI wirklich ist? Okay. So, welches Video würdest du sagen, ist AI? Also man sieht hier so einen Hai, der durchs Wasser schwimmt.

Das ist meine Kollegin Lea Grise. Sie testet gerade mit mir, wie gut ich darin bin, echte Videos von KI-Videos zu unterscheiden. Und Real Talk, ich dachte, das ist deutlich einfacher. Boah, ich glaube das Rechte.

Das Rechte? Das rechte ist AI, weil ich das gef. Oh, nee, das linke. Entschuldigung, nee, das linke. Weil ich glaube, wenn man im Wasser wäre und da wäre ein Hai, dann würde man den Hai weiterfilmen.

Der Test, den ich gerade mache, basiert übrigens auf einer Studie des KI-Unternehmens Runway mit über 1000 Teilnehmenden. Vor dem Test war ich eigentlich noch ziemlich überzeugt von meinen Fähigkeiten. Ich dachte, dass ich die KI-Videos easy an diesen klassischen Merkmalen erkennen kann, also schiefe C. Weirder Hintergrund oder vielleicht ein Finger zu viel. Tja, Okay, wir sehen eine Frau mit einem Pudel. Mhm. Die losläuft und die irgendwie mit einem Ballfeuer gespielt haben, scheinbar.

Finde ich wahnsinnig schwer. Ich glaube, links ist echt. Links ist KI. Also rechts ist KI. Ich habe das Gefühl, der Hund hat sich komisch bewegt. Keine Ahnung. Okay. Nur ein Gefühl. Ich drücke mal rechts KI. Ach, real, das war falsch. Wenn ihr Lust habt, den Test auch zu machen, wir verlinken ihn euch in den Shownotes. Wie mein Test ausgeht.

Das verrate ich euch später. Zum Glück bin ich mit meinen Struggles aber nicht allein, sagt unser Experte in dieser Folge, Professor Dr. Torsten Holz. Er ist Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum. Was ich ziemlich krass finde, So richtig wohl fühlt er sich auf Social Media selbst nicht mehr.

Ich war früher ein großer Fan von Twitter. Das ist leider mittlerweile nicht mehr ganz das tolle soziale Netzwerk. Da bin ich leider raus. Seitdem habe ich keine wirklich richtige neue Heimat gefunden. Ich habe zwar Profile auf den typischen sozialen Medien, aber Twitter traue ich immer leider noch ein bisschen nach.

Thorsten Holz beschäftigt sich damit, wie sicher wir im Netz sind und wie gut wir Täuschungen überhaupt noch erkennen. Um das herauszufinden, hat er mit KollegInnen im Jahr 2023 eine der ersten wirklich umfassenden Studien weltweit dazu gemacht. Mehr als 3000 Menschen aus den USA, Deutschland und China sollten bei Bildern, Audio und Texten unterscheiden, was echt und was KI generiert ist.

Und das überraschende Ergebnis war, dass die Modelle mittlerweile so gut sind, dass die Menschen fast geraten haben. Also sie waren eigentlich nicht systematisch in der Lage zu unterscheiden, ist etwas echt oder gefällt. Das ist so crazy. Bei Audio und Texten konnten nur 60% der Teilnehmenden zwischen echten und KI-Inhalten unterscheiden. Und bei Bildern sah es noch schlechter aus. Da lag die Trefferquote in der Studie im Schnitt bei unter 50%.

Es ist einfach richtig schwer. Sogar ExpertInnen für Gesichtserkennung können KI-generierte Gesichter kaum von Echten unterscheiden. Das zeigt eine australische Studie vom Februar 2026. Also früher war zum Beispiel noch so eine typische Methode, man hat sich den Hintergrund genauer angeschaut, hat dann Inkonsistenzen gesehen.

Oder so etwas typische, zum Beispiel meiner Frau, dass ein linker und der rechte Ohrring unterschiedlich war. Die Modelle wurden aber besser. Das ist heutzutage fast kein Problem mehr. Die Hintergründe sind gut. Die ganze Konsistenz innerhalb des Bilds ist stimmig. Also es wird immer schwieriger, weil die Modelle eben auch viel besser trainiert werden, viel besser sind. Das ist so heavy. Wenn unser Experte von früher spricht, meint er vor ein bis zwei.

Bis zwei Jahren. Das war ja gerade erst. Und interessanterweise ist es auch noch so, dass wir KI-Gesichter sogar als vertrauenswürdiger einschätzen als echte Gesichter. Das zeigt eine Studie aus dem Jahr 2022. Und ja gut, jetzt könnte man ja denken, hm, irgendwie doof, aber mich als Autonomalverbraucher betrifft das ja eigentlich nicht wirklich. Und das stimmt halt leider nicht. Wir können alle Opfer werden. Zum Beispiel von Deepfakes. So ging es zum Beispiel Mel.

Sie ahnt nichts Böses, als sich eine Freundin bei ihr meldet. Die hat mir an diesem Tag, früh morgens auf Instagram, so eine Nachricht geschrieben: Hey, guck mal, das sieht voll irgendwie nach dir aus. Hast du damit was zu tun? Guck dir das mal an. I'm Mel, online besser bekannt unter Vanelli Melli, arbeitet seit über zehn Jahren als Content Creatorin, Fotografin und Model.

Als Mel auf den Link von ihrer Freundin klickt, sieht sie auf einmal einen Werbespot mit einem Model, das wirklich eins zu eins Mel sein könnte. Nur, dass sie noch nie von der Kampagne gehört und auch nicht am Werbespot mitgewirkt hat. Ihr Verdacht Für die Werbung wurde eine Art KI-Zwilling von ihr erstellt, also ein Deepfake. Also ich saß vor meinem Computer und hatte wirklich so die Kinnlade unten, weil das total absurd ist. Also ich muss sagen,

Dadurch, dass ich in der kreativen Branche arbeite, viel mit Foto, ist mir jetzt KI-generierter Content natürlich nicht fremd. Aber dann so eine starke Ähnlichkeit zu sich selbst. zu sehen war schon einfach ein bisschen beängstigend. Schaltet jetzt gerne mal den Video-Podcast an, da könnt ihr mal sehen, wie das aussieht. Dieser KI-Avatar sieht zwar in jedem Frame ein bisschen anders aus, aber ich finde schon, dass die Ähnlichkeit echt krass ist. Denn Mel hat im Frühling 2023.

Für eine andere Werbekampagne Fotos auf Instagram hochgeladen, mit demselben Outfit und Look wie die KI-Mail in dem Spot. Vor allem auch in der Kleidung, weil das halt eins zu eins wirklich aufs kleinste Detail der Hosenfarbe und das Muster vom Kleides so genau war. Ich hatte das Gefühl, ich bin in einer Parallelwelt quasi gelandet.

Auch voll die grusige Vorstellung, plötzlich morgens mit Bildern von sich in einer Werbung aufzuwachen, nur weil man mal vor ein paar Jahren Bilder auf Instagram gepostet hat. Und damit kommen wir zu einer fundamentalen Frage. Wie kriegt die KI das überhaupt hin? Denn nur wenn wir verstehen, wie diese Systeme funktionieren, können wir auch einschätzen, warum sie so überzeugend sind und wo ihre Grenzen liegen. Werfen wir mal einen Blick auf den aktuellen Stand der KI-Technik.

Die meisten KI-Inhalte entstehen heute mit sogenannten Diffusions- oder Transformer-Modellen. Ich lasse das aber mal lieber unseren Experten Thorsten Holz erklären. Weil im Endeffekt, was die Modelle machen, ist, sie versuchen ja etwas aus einer großen Menge an Daten so einen neuen Datenpunkt, also ein neues Bild zum Beispiel zu erzeugen.

Dadurch haben sie eine gewisse mathematische Operation, auf denen Sie arbeiten, aber im Endeffekt haben sie dann so eine Art Mittelwert, was Sie immer versuchen rauszubringen. Das bedeutet, die KI greift zuerst auf eine riesige Menge an Daten zu. Dann lernt sie, wie Bilder aussehen und wie man sie Schritt für Schritt in Rauschen verwandelt, das nichts mehr mit dem ursprünglichen Bild zu tun hat. Das sieht dann aus wie ein buntes Pixel, wie ihr wahr. Danach trainiert sie.

Die KI diesen Prozess wieder umzukehren. Um wieder ein realistisches Bild zu erzeugen, entfernt die KI Schritt für Schritt dieses Rauschen. Am Ende entsteht so ein komplett neues realistisches Bild, das auf gelernten Mustern basiert. Und so konnte die KI auch Melz Melzbilder so realistisch machen. Also als die Bilder entstanden sind, 2023 hatte ich noch längere Haare. Ich hatte so einen lockigen.

Jetzt habe ich seit einem Jahr diese Kurzhaarfrisur, den Pixi, und der wurde quasi geupdatet auf diese KI-Person. Das war schon irgendwie komisch. Sich selbst so als Avatar zu sehen, ohne dass man dem halt zugestimmt hat Nach dem ersten Schock entscheidet sich Mel dazu, ihren Fall öffentlich zu machen. Sie lädt ein Reel dazu hoch und kriegt online ziemlich viel Zuspruch. Trotzdem entscheidet sie sich letztendlich dagegen, rechtliche Schritte einzuleiten.

So wie es jetzt gerade aussieht, werden wir nicht vor Gericht damit gehen, weil die Chancen, das zu gewinnen, jetzt nicht überragend sind. Warum es so schwer ist, in Deutschland gegen Deepfakes vorzugehen, dazu kommen wir gleich noch. Erstmal wollen wir verstehen, welchen Einfluss KI auf unsere Gesellschaft nehmen kann.

Also, nicht nur Betroffene haben ein Problem mit ihrem Persönlichkeitsrecht, wenn die gefakten Bilder so täuschend echt sind, sondern auch wir als Gesellschaft. Während der ersten Wochen des Kriegs im Iran haben sich auf Social Media massenweise KI-generierte Videos und Bilder verbreitet. Die Videos zeigen zum Beispiel riesige Explosionen oder Proteste, die nie passiert sind.

Die New York Times hat innerhalb von zwei Wochen über 110 KI-generierte Inhalte rund um diesen Konflikt gefunden. Und genau deshalb ist das auch ein zentrales Thema in der Forschung, sagt unser Experte Thorsten Holz. Und gerade dieses Problem hat uns dann sehr lange beschäftigt, weil es eben auch viele Auswirkungen hat, zum Beispiel auf mögliche Angriffe auf die Demokratie, diese ganzen Missinformationskampagnen oder dass man eben Menschen beeinflussen kann.

Denn klar, wenn mir KI falsche Tatsachen zeigt, kann das meine politische Haltung beeinflussen und damit vielleicht sogar, wie wir wählen. Also, wir halten fest. Durch die aktuellen Diffusions- und Transformer-Modelle können wir KI kaum noch erkennen. Und die Hinweise, wie dass ein Finger an der Hand zu viel ist, funktionieren in den meisten Fällen nicht mehr. Und selbst KI-Profis haben Schwierigkeiten, KI richtig zu erkennen.

Parallel wird KI aber eben nicht nur für lustige Tiervideos verwendet, sondern auch um Deepfakes von Frauen wie Mail zu erstellen oder politische Narrative zu verschieben. Also, was können wir tun? Gibt es echt gar keine Möglichkeit, KI-Inhalte zu erkennen?

Jetzt von der Oscarverleihung gab es ganz viele KI-generierte Bilder von Timothy Chalamet, wie der irgendwie, keine Ahnung, eine Treppe runterfällt oder so. Da dachte ich, das ist echt für einen Moment. Und dann habe ich das erst gegoogelt und dann habe ich gesehen, ach Kacke, das ist nicht echt. Und das ist ein ganz komischer Moment, wenn man da.

irgendwie mit konfrontiert wird, dass man gerade darauf reingefallen ist. Ist ganz weird irgendwie. Seid ihr doch mal ehrlich, wie oft seid ihr auf TikTok schon auf so random Fakes reingefallen? Schreibt mir das doch mal in die Kommentare. Also, der zuverlässigste Weg, um KI zu erkennen, ist

Ist oft nicht mehr das Bild selbst, sondern der Kontext. Wenn ihr euch nicht sicher seid, dann könnt ihr euch Fragen stellen wie: Wer hat das gepostet? Und warum geht genau das gerade viral? Wer profitiert vielleicht davon? Das sagt auch unser Experte Thorsten Holz.

Oder wenn es eben so etwas ist wie ein Angriff aufs Weiße Haus oder andere größere politische Events, dann sollte man vielleicht noch andere Quellen dazu ziehen, ist gerade wirklich etwas passiert oder ist das hier jetzt nur etwas, was gerade irgendwie reinkommt? Das heißt, nicht alles direkt teilen, ohne es zu hinterfragen. Aber ganz ehrlich, mache ich das auch wirklich, wenn ich abends auf dem Sofa liege? I'd outed it

Bei Instagram gibt es jetzt deshalb einen Account, der euch dabei helfen kann. Ihr könnt da per Direktnachricht einfach das Bild hinschicken, bei dem ihr unsicher seid. Dann hilft euch ein KI-Detektor im Chat, das Bild zu analysieren, und sagt euch auch, ob es wahrscheinlich KI ist.

Den verlinken wir euch in den Shownotes. Und es gibt tatsächlich auch Menschen unter uns, die einfach krass gut darin sind, KI zu erkennen, die sozusagen ein Talent dafür haben. In der Forschung nennt man sie Super Recognizer. Man weiß auch nicht genau, wie diese Super Recognizer das machen, dass sie aber dann zum Beispiel anhand des Gesichtsausdrucks anscheinend in der Lage sind zu merken, okay, das ist jetzt nicht so ein normales Lächeln, sondern das ist etwas, was jetzt künstlich aussieht.

weil einfach ein Mensch irgendwie anscheinend nicht so lächeln würde. Nach einem kurzen Training können nämlich diese Super Recognizer schon 64% aller KI-Gesichter erkennen, während alle anderen nur auf 51% kommen. Das zeigt eine britische Studie aus dem Jahr 2050.

Mit über 600 Teilnehmenden. Und das macht ja auch so ein bisschen Hoffnung. Und wenn ihr herausfinden wollt, ob ihr eventuell auch einen Super Recognizer seid, könnt ihr verschiedene Online-Tests machen. Die verlinken wir euch in den Shownotes. Auch Theresia hätte so einen Super-Recognizer Superrecognizer gut gebrauchen können. Ihr habt sie schon am Anfang der Folge gehört.

Also ich habe vor Weihnachten immer wieder gemerkt, dass ich so komische Nachrichten auf Instagram bekomme von Männern. Ich konnte die aber nicht ganz zuordnen, weil die auch mal so ein bisschen kryptisch waren. Also, das war dann sowas wie, hm, ich weiß, wer du wirklich bist, was du wirklich machst.

In den Weihnachtsferien 2023 ist sie auf Heimatbesuch bei ihren Eltern in Schwerin. Theresia hofft auf eine ruhige vorweihnachtliche Zeit, denn sie studiert Jura und muss für ihre Prüfungen lernen. Aber immer wieder kriegt sie diese merkwürdigen Nachrichten. mir dann jemand geschrieben hat, hey, ich glaube, es gibt ein Fake-Profil von dir, guck dir das mal an mit einem Link.

Ich bin dann raufgegangen und habe dann eben ein Profil von mir entdeckt, mit meinem Namen, meinem Gesicht, meinem Geburtsdatum, meinem Alter, Bildern von mir, aber halt nicht nur Bilder. wo ich normal bin, sondern auch gefälschte Nacktbilder von mir. Es gab Bilder, die haben meiner Meinung nach aus Situationen dargestellt, die gewaltvoll sind, also wo das für mich nicht nach Ein vernehmlichen Um sexuellen Interaktionen aussah

Das ist Horror, ist unvorstellbar. Schon 2019 bestanden 96% aller Deepfakes im Netz aus nicht einvernehmlicher Pornografie. Das hat eine Studie von der damaligen Cybersecurity-Firma Deep Trace. Heute hat Sensity AI herausgefunden. Sie hat sich auf die Untersuchung von Deepfakes spezialisiert. Experten wie Thorsten Holz vermuten, dass die Dunkelziffer noch weitaus höher ist. Also, als ich das das erste Mal gesehen habe, war ich glaube ich erstmal so richtig.

ohnmächtig, machtlos. Ich habe mich schon gefragt, warum passiert mir das. Ich war damals auch nicht groß auf Social Media unterwegs, also ich hatte einen normalen Account, Ich habe jetzt nicht irgendwie zehntausende Follower gehabt oder sowas.

Ein prominentes Beispiel für nicht einvernehmliche Deepfake-Pornos ist die Schauspielerin Colleen Fernandes. Laut Spiegel sollen seit Jahren hunderte gefälschte Pornoaufnahmen von Fernandes im Netz sein, darunter auch Deepfakes. Der Fall hat ja in Deutschland für eine riesige Aufmerksamkeit. Aufmerksamkeit gesorgt, weil sie gegen ihren Ex-Mann Christian Ullmen Klage eingereicht hat.

Er soll über Jahre unter anderem Fake-Profile von ihr erstellt und damit sexualisierten Content, der ihr optisch ähnelt, verschickt haben. Colin Fernandes hat die Klage aber in Spanien eingereicht, denn in Deutschland gibt es für Deepfakes bislang keinen eigenen Straftatbestand.

Es gibt wirklich keinen Paragraphen, der konkret die Verbreitung von künstlich generierten Inhalten unter Strafe stellt, insbesondere sexualisierte. Natürlich gibt es Strafen für Vergewaltigungen oder sexuelle Nötigungen, aber eben nur, wenn diese Taten auch mit direktem Körper.

Körperkontakt passiert sind. In Italien und Spanien hingegen ist digitale Gewalt bereits strafbar. Für Fälle wie Theresia kommt die aktuelle Debatte aber zu spät. Als 2023 ihre gefälschten Nacktbilder auftauchen, ist sie damit noch ziemlich allein. Ich glaube, ich habe mir die Schuld am Anfang selbst gegeben, nach dem Motto, naja, du hast Selfies von dir im Internet gepostet, dann musst du auch damit rechnen, dass es Menschen gibt, die sowas damit machen.

Bis jetzt kann man eben nur über Umwege dafür sorgen, dass diese digitale Gewalt auch geahndet wird, zum Beispiel über das Recht am eigenen Bild. Theresia entscheidet sich, trotz der schlechten Rechtslage, dagegen vorzugehen. Nach ein paar anstrengenden Wochen rund um Weihnachten erstattet Theresia dann kurz nach Neujahr 2024 die Anzeige.

Ich weiß noch genau, dass ich so in meinem alten Kinderzimmer war und es war eine sehr surreale Situation, dass ich jetzt auf einmal mit der Polizei rede, darüber, dass es gefälschte Nacktbilder von mir gibt, wenn ich umgeben bin von diesen Reliquien meiner Kindheit. Die Polizei findet den mutmaßlichen Täter bereits nach ein paar Wochen, da man ja eine E-Mail-Adresse oder Telefonnummer hinterlegen muss, wenn man einen Account erstellt.

Ein Megaerfolg für sie. Es ist ein junger Mann aus Sachsen-Anhalt, den Theresia nicht persönlich kennt, der ihr aber auf Social Media folgt. Aber von da an läuft es auf rechtlicher Seite nur noch sehr schleppend. Ab dem Moment, wo klar war, wer das sein könnte, gab es einfach gar keine Rückmeldung mehr von der Polizei oder der Staatsanwaltschaft.

Also ich dachte, jetzt ist der Moment, wo es losgeht. Aber mir wurde immer nur gesagt, ja, das reicht von den Beweisen nicht. Wir müssen beweissichernde Maßnahmen ergreifen, also zum Beispiel eine Hausdurchsuchung machen. Und darauf habe ich dann. Andinhalb Jahre warten müssen. In den anderthalb Jahren wurden mir keine Informationen zur Verfügung gestellt, außer dass Ich habe keinen Zugriff auf die Akten habe, weil sie bearbeitet werden.

Experte Thorsten Holz kann die Frustration verstehen. Letztendlich gibt es aktuell wenig, was man dagegen machen kann. Ich kann zwar versuchen, dass die Bilder online heruntergenommen werden, ich kann die vielleicht bei Google aus dem Suchendex entfernen lassen, aber dass sie eben auf gewissen Plattformen sind, das ist eigentlich schwierig.

Wenn ihr gegenchecken wollt, ob es vielleicht auch Deepfakes von euch gibt, dann gibt es verschiedene Möglichkeiten. Eine davon ist zum Beispiel in deiner Suchmaschine deinen Namen und Video Deepfake einzutippen. Eine andere sind sogenannte Reverse-Suchmaschinen. Wir verlinken euch eine. eine in den Shownotes. Natürlich sind das nur ein paar Möglichkeiten, ihr solltet euch nicht zu 100% darauf verlassen, falls ihr da nichts finden solltet. Und wenn ihr das Gefühl habt, dass ihr selbst

Digitaler Gewalt betroffen seid, dann gibt es Hilfe. Zum Beispiel bei HateAid, einer Organisation, die sich für Menschenrechte und gegen Hass im Netz einsetzt. Also wir halten fest, wir können alle Opfer von Deepfakes werden. Und leider sind 96 Prozent.

Aller Deepfakes tatsächlich Pornos. Es gibt bislang keinen Paragrafen, mit dem wir uns rechtlich gegen die Verbreitung von KI-generiertem Content wehren können. Aber es gibt noch andere Möglichkeiten, um sich selbst mehr zu schützen. Darüber sprechen wir gleich. So, jetzt aber zurück zum Test, den meine Kollegin Lea mit mir gemacht hat, um zu checken, wie gut ich eigentlich KI-Videos erkennen kann. Wir sind mittlerweile fast am Ende angekommen. Letzte Frage jetzt. Jetzt wird's spannend.

Man sieht ein Feld mit Ich weiß nicht, was das ist. Was ist das für ein Korn? Ja, irgendein grünes Korn. Fade. Es ist wirklich deckungsgleich für mich. Also, du könntest es vertauschen, und ich würde wieder glauben, es ist genau wie vorher. Mm-hmm. Mein Gefühl sagt, links ist KI. Links ist KI. Okay. So jetzt ist der Moment der Wahrheit gekommen. Wie viele hast du richtig? Real. Vierzehn von zwanzig. Ist das gut? याँ

Ja, ich bin schon ein bisschen stolz. Tatsächlich war ich am Ende sogar 79 Prozent besser als die anderen NutzerInnen. Aber ich bin Journalist. bin Gen Z und sehe täglich KI-Slob auf TikTok. Und selbst ich hatte ja echt Schwierigkeiten. Und ich hatte jetzt ja auch beide Videos direkt im Vergleich und wusste schon vorher, dass eins davon auf jeden Fall KI ist. Auf TikTok ist es ja nicht so leicht.

Für mich zeigt das auf jeden Fall, wir wissen viel zu wenig über den aktuellen Stand der Technik. Und auch unser Experte Thorsten Holz findet, wir sollten uns viel mehr mit KI auseinandersetzen. Was wir in den Interviews gesehen haben, ist, dass viele Leute haben sich einerseits mit dem Thema noch gar nicht auseinandergesetzt. Ich glaube, das ist etwas, was wir jetzt innerhalb der nächsten Zeit sehr, sehr schnell alle lernen werden, dass einfach da super viel möglich ist.

Dann haben wir auch gelernt, dass das ganze Missbrauchspotenzial noch nicht so ganz gut verstanden ist. Aber trotzdem gab es immer den Wunsch, okay, wenn etwas AI ist, will ich irgendwie auch wissen, dass das AI ist. Also, wir brauchen dringend bessere Regeln, damit wir KI-Inhalte im Netz auch direkt erkennen können. Ein erster Schritt kommt jetzt von der EU. Ab dem zweiten

Am 2. August müssen Unternehmen oder Personen, die ein KI-Modell entwickeln, ihre KI-generierten Inhalte auch verpflichtend kennzeichnen. Also alles, was täuschend echt wirkt. Das wird es für uns hoffentlich deutlich leichter machen, KI-generierten Content zu erkennen. Aber damit ist die aktuelle Gesetzeslücke in Deutschland noch nicht geschlossen. Das wird sich vermutlich erst in den kommenden Monaten entscheiden.

Die Technologie entwickelt sich halt aktuell schneller, als die Gesetze hinterherkommen. Und die Politik hat das Problem lange nicht ernst genug genommen. Deshalb ist es auch so mega wichtig, dass wir selbst lernen, damit umzugehen. Also insofern, glaube ich, noch viel Aufklärung nötig und auch der Appell. Also müssen sich irgendwie damit auseinandersetzen, weil das wird einfach mehr und mehr wichtig. Deshalb nutzt auch Chatbots, um einfach nur zu schauen, was technisch möglich ist.

Also, fassen wir zusammen. Es ist super wichtig, auf den Kontext des KI-Contents zu achten und sich immer wieder zu fragen, warum wird das gerade gehypt? Ist das wirklich realistisch? Wenn ihr euch nicht sicher seid, gibt es verschiedene Optionen.

Option, wo ihr die Bilder hochladen und gegenchecken lassen könnt. In Theresias Fall gibt es mittlerweile auch endlich einen Strafbefehl. Der Täter wurde zu einer Geldstrafe verurteilt und gilt jetzt auch als vorbestraft. Erledigt ist die Sache für sie damit aber nicht. Es ist nie vorbei. Es gibt immer wieder Leute, die diese Bilder finden, weiter teilen, neue Bilder erstellen. Mich belästigen, bedrohen.

Theresia steht mittlerweile selbst in der Öffentlichkeit und engagiert sich auch über ihren Fall hinaus gegen digitale Gewalt und für den Schutz von Frauen im digitalen Raum. Dafür spricht sie im Bundestag oder auf Demos. Es gibt mir ein bisschen das Gefühl, es hatte irgendwie einen Sinn oder ich kann was Gutes aus einer sehr schlimmen Erfahrung machen.

Folgt dem Podcast hier auf Spotify und aktiviert die Glocke, um keine Folge mehr zu verpassen. Und lasst uns auch sehr gerne eine Bewertung da oder schreibt uns einen Kommentar. Nächste Woche geht es um traditionelle chinesische Medizin. Akupunkt und ob das wirklich wirkt. Aber ich war halt in dem Zeitpunkt total verzweifelt. Man versucht aus allen Ecken irgendwas zu finden, was hilft.

Ich bin Julian Stopper und bedanke mich bei allen, die mit uns bei der Recherche gesprochen haben. Vielen Dank an Theresia, Mell und Prof. Dr. Torsten Holz. Wissen Weekly Das ist eine Produktion von Spotify Studios in Zusammenarbeit mit Kugel und Niere. Executive Producer Michael Batlewski. Redaktion: Lea Grise, Michael Batlewski, Elisabeth Fee und ich, Julian Stopa.

Creative Producer Nadine Raaber. Produktion Jonas Schlögl, Joe Fleischhauer und David Burger. Design: Hannah Wiesner und Julia Bochnick. Line Producer Sarul Krause Jentsch.