KI statt Arzt - Kann man den Chatbots vertrauen?

R D Sounds

Oh, das klingt leider nach einem klassischen Anfang von einer Erkältung. Es könnte auch eine leichte Grippe sein. Achte auf die Ruhe, trink genug und wenn es schlimmer wird, würde ich vielleicht einen Arzt dazu holen. Aber ich drück dir die Daumen, dass es schnell wieder besser wird.

Okay, das klingt jetzt erstmal ganz gut, und am Ende gibt es ja auch den Hinweis darauf, sich ärztlich Unterstützung zu holen im Zweifel, aber wie wäre das bei schwereren Erkrankungen oder bei Symptomen, die nicht so eindeutig sind? Da kann ein falscher Ratschlag wirklich consequenzen. And we sollten immer daran denken, dass KI auch Fehler machen kann, was wir nicht nur bei medizinischen Themen, sondern auch bei der Waschmaschine oder der Altersversorgung im Hinterkopf behalten sollten.

Lukas Kohlenbach ist Arzt- und Wissenschaftsjournalist Lukas. Du hast den Vorteil als Arzt, kannst du dich auch immer selber fragen, wenn du was hast. Aber du hast für uns auch recherchiert, wie gut KI in dem Bereich funktioniert. Was sagst du jetzt? Würdest du deine Gesundheitsfragen mit einer KI besprechen?

Ehrlich gesagt, ich werde da etwas vorsichtig. Ich habe das zwar selbst auch schon hin und wieder mal gemacht. Viele andere machen das offenbar auch. Darauf deuten repräsentative Umfragen in Deutschland inzwischen hin. Fast die Hälfte aller Befragten gibt darin an, schon mal Gesundheitsfragen mit Chatbots besprochen zu haben. Das ist eine Menge.

Okay, Datenschutz ist nun mal so ein eigenes Thema, aber was die Fähigkeit angeht, also da gibt es so diese Geschichten zum Beispiel, dass die großen Sprachmodelle inzwischen Ziemlich souverän medizinische Staatsexaminer bestehen können. Ich meine, da müssten sie doch auch Gesundheitsfragen eigentlich gut beantworten können. Also sagen wir mal, zumindest so gut wie ein junger Arzt, das kann so nah am Studium.

Hm, das tun sie mitunter. Doch der entscheidende Faktor, der sitzt dabei tatsächlich vor dem Rechner oder dem Smartphone.

Warte, ich drehe mich mal kurz um. Achso, du meinst uns, ja? Also die, die wir mit KI chatten quasi, ja.

Ja, genau. Das hat eine Studie gezeigt, die vor ein paar Wochen im Fachjournal Nature Medicine erschienen ist. In der Studie haben Forschende getestet, wie gut weit verbreitete Sprachmodelle Krankheiten erkennen können.

Okay, dann willst du nicht bei den restlichen 5% mit dabei sein, aber also klar, es ist nicht perfekt, aber es ist schon echt gut, ne?

Ja, aber jetzt kommt der Haken. Die Wissenschaftler, die haben auch mehr als tausend Freiwillige in Großbritannien rekrutiert und die haben sich dann auch so ein Fallbeispiel ausgesucht und darüber dann mit dem Chatbot geschaut.

Okay, Fallbeispiel ausgesucht heißt, die haben quasi da was gelesen und haben dann so getan, als hätten sie selbst diese Symptome und sich dann eben Rat bei der KI gesucht.

Ja, genau, so sah das aus, und in diesen Gesprächen, da haben die Sprachmodelle dann nur noch in fünfunddreißig Prozent der Fälle die Krankheiten richtig erkannt.

Okay, das heißt, die haben dann eine klassische Internetrecherche gemacht.

Ja, oder sie sind direkt auf vertrauenswürdige Seiten gegangen, zum Beispiel die vom staatlichen Gesundheitsdienst in Großbritannien. Und mit diesem klassischen Ansatz, da waren die Freiwilligen genauso erfolgreich oder sogar erfolgreicher als die StudienteilnehmerInnen. Die mit der KI geschettet hatten. Ach was. Ja. Aber tatsächlich auch hier sind sie nur so in maximal etwas mehr als der Hälfte der Fälle mit den Informationen dann auf ihre richtige Diagnose gekommen.

Okay, wenn du das so erzählt, dann kann man schönen Eindruck bekommen, egal wie man es jetzt macht, ne, also egal ob mit ChatGPT oder hier so dieser klassischen Internetsuche. So richtig sicher kann man sich jetzt nicht sein, dass ich als Laie mithilfe des Internets irgendwie zu einer richtigen Diagnose gelange.

Nee, das kann man tatsächlich nicht. Jetzt könntest du natürlich einwenden, okay. Das waren alles Menschen aus Großbritannien. Vielleicht sieht das hier bei uns in Deutschland etwas anders aus. Ja. Ja, aber ehrlich gesagt, dafür spricht wenig.

Die erste Hürde ist, ist diese Information eigentlich evidenzbasiert, die mir angeboten wird? Und dann gibt es die zweite Hürde diese Information kann evidenzbasiert sein, aber einfach auf mich nicht zutreffen.

Und evidenzbasiert heißt hier, dass diese Information auf hochwertigen Studien basiert, ja, also quasi wissenschaftlich geprüfte Daten.

Genau. Aber das allein reicht eben noch nicht aus. Denn wenn wir einem Chatbot unsere Symptome chiltern, Dann lassen wir mitunter einige wichtige Infos aus, die auch noch relevant gewesen wären. Der Chatbot fragt auch nicht so geübt wie Ärztinnen nochmal nach. So kommen wir am Ende auf ein Ergebnis, das Was für unseren eigenen konkreten Fall vielleicht gar nicht so passend ist, auch wenn der Chatbot an sich eigentlich schon recht viel eigenes medizinisches Wissen hat.

Jetzt ist ja seit Anfang des Jahres in den USA ein neuer spezieller Modus von Chat-GPT verfügbar. Also bisher nur in den USA. Chat-GPT Health heißt er. Ist der dann vielleicht geübter darin, die richtigen Fragen zu stellen?

Erste Studienergebnisse deuten nicht darauf hin. In Nature Medicine, da ist gerade erst vor einigen Tagen eine Studie erschienen, die zeigt, dass Chat-GPT Health. In über der Hälfte aller Fälle Symptome noch als zu wenig dringlich einstuft. Zum Beispiel: Menschen mit Diabetes, deren Blutzuckerwerte schwer entgleist waren, hat ChatGPT Health nicht gesagt,

Also bleibt im Zweifel die Safernummer doch der Weg zur Ärztin oder zum Arzt. Wobei, naja, das ist auch nicht mehr einfach heutzutage, ne? Also mit Termine sind schwer zu bekommen, Notaufnahmen sind überfüllt. Und man möchte das Gesundheitssystem ja auch nicht wegen jeder Kleinigkeit belasten, ne? Dann will man ja auch nicht in Augenrollen der Hausärztin oder des Hausarztes riskieren, ne?

Nee, nee, das das muss man auch wirklich nicht. Also, wenn man es gerade nicht zum Hausarzt schafft oder der einfach schon zu hat oder man sich unsicher ist, ob man überhaupt gehen soll. Dann hilft häufig erstmal ein Anruf bei der 116117. Das ist der sogenannte hausärztliche Notdienst. Und da kann man rund um die Uhr mit Fachpersonal sprechen, ohne gleich den Notruf 112 zu wählen und dort die Leitung zu belegen.

Das finde ich ist nochmal ein richtiger und wichtiger Hinweis. Also gut, dass du das nochmal erwähnst, weil die Nummer haben, glaube ich, nicht alle auf dem Schirm. Alles in allem kann man aber festhalten, deine Recherche geht so ein bisschen ernüchternd aus. Also, das klingt so, als würden wir uns Die ganzen technischen Innovationen der vergangenen Jahre eigentlich sparen können. Also würden die Stand jetzt zumindest noch nicht wirklich nutzen bei unseren täglichen Gesundheitsfragen.

Ja, also so schlecht sieht es dann auch wieder nicht aus. Wir können zwar vielleicht nicht unsere akuten Beschwerden mit den neuen Tools zuverlässig abklären, aber wir können sie durchaus nutzen, um unser Gesundheitswissen allgemein zu steigern. Dabei sollten wir aber ein paar Dinge beachten, damit wir auch dann wirklich seriöse Informationen finden. Wenn wir zum Beispiel googeln oder andere Suchmaschinen wie Bing oder DuckDuckGo benutzen,

Das heißt, ich kann mir sparen, die ganzen Seiten, die danach kommen, also die komplette Trefferliste quasi durchzugehen, ja. Mhm.

Viel entscheidender ist es, dass wir uns selbst zwei Fragen stellen. Nämlich zum einen erstmal beantwortet die Seite, auf die ich dann gehe und die ich gerade lese. wirklich die Frage, nach der ich auch gesucht habe. Denn die Forschenden haben gesehen, in der Trefferliste da gibt es immer einige Seiten, schon auf der ersten Seite, die gar nicht die eigene Suchanfrage beantworten und somit auch nicht hilfreich sind.

Also ist die gute alte Suchmaschine vielleicht am Ende doch nicht so schlecht, wenn man eben so ein paar Dinge beachtet. Aber was ist denn jetzt am Ende wirklich mit Chatbots? Wie gehe ich mit denen um? Mhm.

Da kann man aus der Studie aus Spanien auch etwas draus entnehmen. Mit diesen Chatbots. Da kann man zuverlässiges Gesundheitswissen finden, aber der Chatbot sollte in einem Modus sein, wo er zusätzlich noch auf Suchmaschinenergebnisse zurückgreift. Dann ist das zuverlässiger. Und auch hier gilt Unser Prompt ist extrem entscheidend dafür, wie gut wir am Ende zuverlässige Infos finden.

Also Prompt, für die, die ihr vielleicht noch nicht KI-Profis seid, das ist quasi die Eingabe, die man macht, also die Frage, die man stellt oder die Informationen, die man da am Anfang reingibt. Wie könnte denn so ein Prompt im besten Fall aussehen? Oder das könnte denen besser machen.

Herr Präsident. In der Studie aus Spanien haben die Forschenden den Sprachmodellen zum Beispiel gesagt, dass sie nur in der medizinischen Datenbank PubMed nach Informationen suchen sollen, denn dort ist ein Großteil einer medizinischen Studien aus aller Welt gesammelt.

Das klingt jetzt auch einigermaßen komplex. Das heißt, da muss man sich tatsächlich auch vielleicht besser mal hinsetzen, sich ein bisschen Zeit nehmen und eigentlich erstmal lernen, wie man richtig promptet, ne?

Ja, das ist wirklich etwas, was wir alle, wenn wir diese Technologien nutzen möchten, in nächster Zeit lernen müssen. Ich habe mich darüber auch mit Christoph Dockweiler von der Universität Siegen ausgetauscht. Er forscht daran, wie digitale Technologien uns in Zukunft gesünder machen könnten. Und er sagt, die Forschung zeige heute schon, dass Gesundheitskompetenz und auch digitale Skills leider ungleich verteilt sind.

Das heißt, wenn diese Menschen nicht beim Lernprozess, den wir jetzt, wie du gerade schon angedeutet hast, eigentlich alle machen müssen, ne, wenn die nicht mitkommen werden, dann bleibt diese Ungleichheit bestehen.

Oder sie könnte sich tatsächlich noch verstärken. Die Forschung hat da bereits einen Begriff für AI Divide, wird das unter WissenschaftlerInnen genannt. Noch ein weiteres, ganz akutes Problem, worüber wir gar nicht mehr so viel sprechen können, ist natürlich auch noch der Datenschutz.

Ja, und die KIs, die nehmen das alles mit, die vergessen auch nichts. Merkt man ja vielleicht immer mal wieder selber, wenn man dann mal ein Thema mit einer KI besprochen hat, da eine Weile nicht, und dann kommt eine Frage, die in eine ähnliche Richtung geht, dann kommt plötzlich auf, aber du hast ja schon mal gefragt das und dann merkt man, ach ja, die weiß schon eine ganze Menge über mich, diese KI.

Ganz ehrlich, haben wir sicher alle schon mal gemacht, auch wenn es vielleicht Menschen gibt, die das mehr tun, andere weniger. Lästert, man könnte auch Tratschen sagen, klingt zumindest alles ziemlich negativ. Auf der anderen Seite, ist das nicht auch normal, dass Menschen über Menschen reden? Erfüllt das nicht vielleicht sogar irgendein Zweck?

Naja, also es kann schlimm sein und es kann auch echt Schaden anrichten, aber es ist nur ganz selten die Absicht, wenn wir über andere reden. Und gleichzeitig kann es aber auch positive Effekte für unser soziales Miteinander haben. Also kann durchaus besser sein als sein Ruf.

Okay, das ist auf jeden Fall spannend, weil man ja wirklich so das Gefühl hat, wie ich es gerade schon beschrieben habe, dass Lestern eher irgendwie so etwas Unschönes ist. Was ist denn das Gute am Lestern?

Also es gibt Studien, die vergleichen, dass über andere reden mit der Fellpflege bei Primaten. Wenn jetzt so Schimpansen sich gegenseitig kraulen und Blätter dreck oder Insekten aus dem Feld zupfen, das heißt, es stärkt die Beziehungen untereinander und auch den Zusammenhalt einer Gruppe. Das wird auch manchmal so als Kit für die Gesellschaft beschrieben. Und vor allem.

Zwei Drittel. Okay, das ist auf jeden Fall meine Ansage. Das ist auch ganz schön viel. Also, du sprichst jetzt von Gossip. Ja, im Deutschen würde man wahrscheinlich so etwas wie Klatsch und Tratsch sagen.

Yeah.

Oder wie würdest du es übersetzen?

Das ist ein Punkt, den ich super wichtig finde, weil sobald wir von Klatsch und Draht sprechen oder auch lästern, da schwingt ja direkt so eine wirklich negative Note mit. Und wenn man sich das im Duden anschaut, also die Definitionen anschauen,

Clutches.

Vielleicht noch so am neutralsten. Da heißt es, wenn wir in geschwätziger Weise über Nicht-Anwesende reden.

Ja, das klingt eigentlich ganz nett, ja.

Ja, es geht noch, ne? Tratschen wird dann als gehässiger Klatsch definiert. Und beim Lästern heißt es, sich über jemanden, der abwesend ist, mit kritischen und ein wenig boshaften Kommentaren äußern.

Aber so grob geht es schon irgendwie in die gleiche Richtung. Wir reden über nicht anwesende Dritte und irgendwie haftet dem Ganzen schon so ein bisschen was Negatives an.

Ja, definitiv. Und bei dem englischen Begriff Gossip ist es anscheinend nicht so. Ich habe darüber mit Miriam Bechtold gesprochen, die ist Professorin an der EBS-Universität im Rheingau. Die ist Psychologin und hat auch zu Gossip geformt.

In der Wissenschaft ist die Definition ganz klar: Es ist das Reden über nicht anwesende Drittpersonen. Ganz neutral. Das heißt, es kann sowohl negatives, aber es kann auch positives Material beinhalten.

Darum verwendet Miriam Bechtold zum Beispiel eigentlich ausschließlich diesen englischen Begriff Gossip. Mhm.

Okay, also wenn Gossip neutral ist und alles beinhalten kann, was wir so über andere zu sagen haben. Dann ist dem Verständnis nach auch Gossip, wenn ich jetzt irgendwie von meiner Nachbarin erzähle, dass sie, was weiß ich, einen schönen Garten hat.

Ja, ganz genau. Also ganz weit entfernt von Leistern. Und da könnte man jetzt aber auch mal überlegen, warum wir überhaupt über andere reden. Und Miriam Bechtold hat da eben viele verschiedene Gründe aufgezählt. Einer ist zum Beispiel, dass wir uns einfach nur informieren möchten.

Wenn ich wissen möchte, wie sich Eis anfühlt, dann kann ich das anfassen und ich kann feststellen, oh, das ist aber kalt. Das heißt, ich kann die physische Realität selbst überprüfen und testen. Wenn ich aber wissen möchte, wie die soziale Welt funktioniert, dann bin ich darauf angewiesen, dass ich Informationen von anderen bekomme. Also wenn ich wissen möchte,

Also es geht darum, das Soziale miteinander zu organisieren und da brauchen wir eben auch einfach den Erfahrungsaustausch untereinander.

Also es geht schlicht gesagt um Informationen, aber du hast auch gesagt, es gibt verschiedene Gründe, warum wir über andere reden. Was kann noch dahinter stecken?

Wenn ich dir jetzt zum Beispiel was über eine andere Person erzähle, dann kann es mir auch einfach darum gehen, das Vertrauen zu dir zu stärken.

Weil ich dann sozusagen ein Geheimnis mit dir teile.

Yeah, zum Beispiel.

Ja, dann ein gemeinsames Geheimnis haben so.

Ja, genau. Und das versteckt dann unser Vertrauen untereinander. Oder es kann auch einfach sein, dass ich dir mein Herz ausschütte, weil mein Freund war doof, ich habe mich mit dem gestritten. Und da geht es am Ende gar nicht so sehr um meinen Freund.

In dem Fall wäre das ja schon durchaus dann was Negatives, wenn du sowas über eine dritte nicht anwesende Person sagst.

Ja, aber der eigentliche Zweck wäre in diesem Zusammenhang, dass ich es gut mit dir meine und dich vor Problemen bewahren möchte, nicht, dass ich irgendwie das Negative über die andere erzählen möchte. Okay.

Dann halte ich fest, sehr nett von dir. Vielen Dank.

Yeah.

Und das ist eben etwas, was Miriam Bechtold und die anderen Kolleginnen, mit denen sie zusammengeforscht hatten. Immer wieder betonen, also wenn wir über andere reden, dann passiert es wirklich nur ganz selten, dass das eben wirklich mit einer negativen Intention passiert. Mhm.

Okay, aber auch so Klatsch und Tratsch, der eigentlich vielleicht nicht so böse gemeint ist, der kann ja trotzdem für die Person, um die es geht, blöd sein, ne? Einfach weil es ein doofes Gefühl ist und weil er ja teilweise auch einfach Quatsch erzählt wird, ne?

Ja, guter Punkt. Also wenn wir über Abwesende sprechen, da gibt es natürlich Dinge, die wir nicht so ganz genau wissen oder die wir interpretieren und die Person, um die es eigentlich geht, ist halt nicht dabei und hat jetzt auch überhaupt keine Chance, Fehler zu korrigieren oder so.

Und dann geht das so nach dem Stille-Post-Prinzip. Hier, dieses Kinderspiel, da flüstert man seiner Nachbarinnen oder dem Nachbarn irgendwas ins Ohr. Das macht dann einmal die Runde durch die Nachbarschaft und am Ende kommt was ganz anderes dabei raus.

Ja, ist ein lustiges Spiel, aber beim Klatsch und Tratsch kann es auch richtig doof sein. Und so entstehen dann Gerüchte. Die ganze Sache ist, beim Klatsch und Draht spielt oft auch Moral wirklich eine große Rolle. Das hat mir Jörg Bergmann gesagt. Der ist emeritierter Professor für Soziologie an der Uni Bielefeld.

Oft beginnt ja Klatsch, indem man sagt, hast du wieder was von Erwin gehört? Zum Beispiel. Dann kommen Neuigkeiten und die Neuigkeiten Die werden dann verbunden und verglichen mit früheren Erfahrungen mit dem und so Ach, ist er noch mit der Miriam zusammen, also solche Sachen, aber die Informationen werden dann eben beurteilt. Dass man sagt, ach, jetzt hat er schon wieder eine neue zum Beispiel, und dieses hat er schon wieder eine neue.

Ich finde, der beschreibt das ganz schön, wie sich eben so eine harmlose Nachfrage: Ach, wie geht es denn eigentlich XY, dann eben auch so klatsch und moralische Urteile einschleicht.

Ja, ich bin auch auf dem Dorf groß geworden und ich meine, das ist halt ein Problem, wenn wirklich jeder jede kennt. Das heißt, man kann schon sagen, einfach durchs Reden, da kann auch ein ziemlich großer Schaden entstehen, vielleicht sogar ohne eine böse Absicht dahinter.

Ja, aber gerade in Bezug auf diese Absicht, da gibt es auch Forschung. Da geht es um mehrere Studien zu Gossip. Und zwar haben die Forschenden da ja ein Dilemma untersucht, also so eine Schieflage in den Daten, die es schon seit den 1990er Jahren gibt. Und zwar ist es so, dass damals bei Befragungen rauskam,

Also, das ist so das Ungleichgewicht, ja. Viele fühlen sich als Opfer, aber am Ende will es niemand gewesen sein, geht ja irgendwie nicht auf.

Ja, und bisher war eine Erklärung: entweder leugnen es die meisten oder sie nehmen es selber gar nicht wahr, wenn sie lästern. Und an dieser Stelle hat jetzt eben dieses Paper angesetzt, Und zwar haben die Forschern die Annahme verfolgt, dass die Frauen ihren Gossip einfach anders verpacken. Und demnach wird Tratsch unter Frauen oft als Besorgnis ausgedrückt.

weiß man was darüber, warum.

Ja, wenn du den Ruf einer Tratstante oder eines Lestermauls hast, dann kann das eben auch deinem eigenen Ruf schaden. Also, es gibt auch andere Studien dazu, die herausgefunden haben, zum Beispiel, dass du dann auf der Arbeit als weniger kompetent und vertrauenswürdig eingestuft wirst. Und jetzt bei dieser aktuellen Studie oder bei diesen Studien, da war eben auch ein Ergebnis, dass Frauen, die ihren Gossip als Besorgnis verpacken,

Super !

als Mittel, um einerseits seinen eigenen Ruf zu schützen, aber den Ruf einer anderen Person durchaus zu schädigen.

Hm. Jetzt hier am Schluss hast du mal von Person gesprochen, davor aber eigentlich nur von Frauen. Warum?

Ja, tatsächlich ging es hier jetzt konkret darum, wie Frauen im Wettbewerb Gossip als Mittel einsetzen. Also wie sich Männer in solchen Situationen verhalten. Das hat jetzt diese Studie nicht untersucht.

Das heißt, man könnte an der Stelle mal zusammenfassen, wenn wir reden, reden wir insgesamt sehr viel über Personen, die nicht anwesend sind. Es gibt viele unterschiedliche Gründe dafür, dass wir das tun. In vielen Fällen machen wir das. Nicht mit negativer Absicht, aber na ab und zu eben doch. Und gelegentlich wird diese negative Absicht dann auch als besorgte Nachfrage verpackt und wird dann von anderen auch nicht unbedingt als Gossip wahrgenommen.

Also ich würde sagen, einerseits ist es etwas sehr Menschliches. Wir alle tun es, auch diejenigen, die sagen, nein, ich doch nicht. Aber wenn wir über andere reden, sollten wir auf jeden Fall immer im Hinterkopf haben. Also es kann durchaus großen Schaden anrichten.

Das heißt, vielleicht sollten wir mal drüber nachdenken, ob wir diese Information wirklich in Abwesenheit des oder der teilen wollen oder müssen. Wenn es nicht unbedingt sein muss, kann man vielleicht ja auch einfach mal kurz die Luft anhalten. Wäre Pache aus dem Quox-Team. Ich bin auf jeden Fall froh, dass wir hier jetzt miteinander und nicht übereinander geredet haben. Vielen Dank.

Dir auch, Dankeschön.

Yeah.

So, jetzt ist Gossip auf der Arbeit ja das eine und ein Stück weit schon auch menschlich, wie wir gerade von Vera erfahren haben, aber gerade im Arbeitskontext können da ja auch noch ganz andere Gefühle entstehen.

Angst, Wut und Trauer, Neid, Scham, Schuld und Ekel. Das wären so die sieben Klassiker der Bad Feelings.

Das war ein Ausschnitt aus dem Podcast Die Lösung, der Psychologie-Podcast, gehostet von Nike und Phoebe. Und in dieser Folge beschäftigen sie sich eben auch mal mit den sogenannten. Gefühlen und klären, warum die gar nicht so schlecht sind und wie man mit ihnen konstruktiv umgeht. Die Lösung der Psychologie-Podcast findet ihr in ARD Sounds und die passende Folge hier zu den Gefühlen, die verlinken wir euch in den Shownotes. Und wenn ihr schon mal in den Shownotes