Steuern mit Recht, das Interview mit Konstanzeelter und Carsten Fleckenstein. In unserer Interviewfolge holen wir die große Taschenlampe für unseren Gast raus. Und der beleuchtet dann mal den Hintergrund. Mal schauen, welche Erkenntnisse es sich ergeben. Wir wünschen erhellende Einsichten. Aus Berlin zugeschaltet ist Aljosha Burchardt vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin. Hallo Aljosha. Hallöchen. Und welche KI hast du denn heute schon genutzt?
Was habe ich heute genutzt? Also spannende Dinge wie eine Suchmaschine, Navigationssystem, so die richtige OldschoolKI. Ist es überhaupt noch eine Option, um KI rumzukommen? Kann man leben ohne KI? Natürlich ist das eine Option, gerne. Natürlich. Du weißt die Leute, die sich selber damit beschäftigen, die leben komplett analog. Nein, das ist, weil in meinem Fall ist es wirklich auch mit einer Schallplatten, Sammlung und Kindern im Sandkasten.
Aber ich glaube, dass viele sich gar nicht bewusst machen, dass sie KI benutzen. Wir haben das nämlich auf dem Weg ins Studio auch gerade noch überlegt und haben dann festgestellt, dass wir doch schon relativ viel benutzen und das gar nicht wahrnehmen oder nicht mehr wahrnehmen als KI. Das ist eben von der Rechtschreibkontrolle bis zur Suchmaschine. Das sind eben Dinge, die wir jeden Tag nutzen. Das ist so ein bisschen ein Paradoxon eigentlich.
Die Sachen, die wir schon täglich nutzen, die nennen wir nicht mehr KI. Und das, was wir KI nennen, ist dann oft das, was ein bisschen spooky ist, was neu ist, was noch kommt, was man noch nicht so ganz verstanden hat. Und da sind wir ja schon mittendrin im AI-Act der Europäischen Union und den hoffentlich nicht nur spookigen, günstigen Intelligenzsystemen. Aber reden wir drüber.
Mit dem AI-Act wollte man ja grundsätzlich eigentlich nicht die Technologie als solche regulieren, sondern deren Anwendung. Was ist deine Meinung? Ist das gelungen? Und das ist natürlich ein Wahnsinn. Also jetzt bitte nicht despektierlich verstehen. Natürlich brauchen wir Regulierung. Natürlich ist klar bei so einer Technologie, dass alle darauf warten, Investitionssicherheit zu haben und Leute, die es nutzen, auch wissen, dass sie das auch nächstes Jahr noch nutzen können.
Das ist alles vorangestellt völlig klar, dass man regulieren muss. Aber auf der anderen Seite bei einer Technologie, die so eine breiten Wirkung hat und so eine Basistechnologie ist, so eine Schlüsseltechnologie ist, zu hoffen, dass man dann eben auch Anwendungen sinnvoll regulieren können, das finde ich ein großes Vorhaben. Ich pigue noch mal ein Beispiel raus. Social Scoring. Natürlich wollen wir kein Social Scoring.
Wir wollen nicht, dass man sagt, wenn du ins Krankenhaus gehen willst, nee, aber die Schulnote deines Kindes war nicht gut genug. Du hast dir keine Kreditpunkte als guter Bürger erworben, du kommst nicht ins Krankenhaus, aber dafür braucht es keine KI. Ja, so was könntest du ja mit jeder anderen Software, das könntest du auch per Hand machen.
Im Prinzip aber wir regulieren das mit im AI-Act, weil es natürlich auch mit KI geht und mit KI auch vielleicht leichter geht und vielleicht auch ein bisschen stärker skalieren kann. Aber ihr seht, worauf ich hinaus will. Dann bist du plötzlich gezwungen, das gesamte digitale Leben zu regulieren und das ist natürlich viel. Und trotzdem sind ja schon Ausnahmen definiert, wie jetzt beispielsweise im Social Scoring. Das Ganze ist ja eine riesige Bandbreite, wie du gesagt hast.
Da gibt es KI für Kommunikation, für Medizin, für Verkehr, für Militär. Wie kann man denn mit einem Gesetz daran gehen und das pauschal regulieren? Ja, du nennst ja jetzt schon Anwendungsbereiche, das hat man ja auch in dem Gesetz versucht. Man hat gesagt, wir nählen bestimmte Anwendungsbereiche, wo man genauer hingucken muss. Die Daseinsvorsorge, der Zugang zu Bildung und ähnliches, die hat man dann da reingeschrieben.
Aber selbst dort wird KI jetzt genutzt, um eine Rechtschreibkorrektur zu machen, irgendwo in so einer langen Pipeline oder wird es wirklich genutzt, ich sage mal, um Entscheidungen vorzubereiten, was dann möglicherweise Leute auch beeinflusst in ihren Entscheidungen und damit eine große Tragweite haben kann für diejenigen, über die entschieden wird. Und das ist eben super schwer in so einem Gesetz. Da hätte man, meiner Meinung nach, etwas tiefer reinspringen müssen,
bzw. in der nationalen Umsetzung, muss man dann einfach in die Details stärkerein gehen. Woran erkenne ich denn? In einem soziotechnischen Prozess, wo Menschen und Maschinen zusammen Dinge entscheiden, Dokumente bearbeiten und so weiter. Wie bekomme ich denn raus, ob der Anteil der KI in diesem Gesamtprozess so war, dass hier überhaupt eine Regulierungslücke vorliegt? Das wäre ja meine Frage so, dann würde ich ja ganz naiv als Wissenschaftler vorgehen.
Ist da überhaupt irgendwas, wo ich merke, da passieren Dinge, was wir haben, was wir haben, mit dem heutigen Gesetzen, was Medizintechnik anbelangt und was eben auch Grundgesetz und Antidiskriminierung und so weiter. Wir haben ja viele Dinge, die viele Dinge des Lebens regeln schon. Wo sind denn Lücken aufgetreten, dadurch, dass KI ins Spiel kommt? So rum würde ich rangehen, aber ich weiß nicht. Man ist ja sehr poschal vorgegangen.
Welche Lücken würdest du denn nennen, wenn du jetzt selber entscheiden müsstest, dass du okay, da müssen wir ran? Beispiel Plagiate. Bilder kopieren, sich für einen anderen Maler oder so ausgebenden Stil emitieren, war vor KI verboten und ist mit KI verboten.
Jetzt kann man sich aber zum Beispiel fragen, ist das durch die KI-Systeme so viel leichter geworden, dass wir einfach sagen können, wir müssen zum Beispiel auch die Tools, mit denen man das machen kann, mindestens mal eine Kennzeichnungspflicht dafür basteln, dass man sagt, dann muss man wenigstens erkennen können, dass irgendwie ein Bild KI generiert ist, und dann kann man sich eben Gedanken machen, ist dann Stil kopiert worden. Da ist eine Lücke entstanden.
Durch KI gibt es jetzt eine Möglichkeit, Bilder zu kopieren, die ist anders, als sie früher war. Das kann ich mir schon vorstellen. Du hattest es ja gerade kurz angesprochen nochmal zum Verständnis. Der AI-Akt ist also keine direkt in die Nationalstaaten übergreifende Regelung, sondern es muss jetzt jedes Land hergehen und eigene Schlüsse daraus ziehen? Oder ist das direkt wirkend? Das müsst ihr die Juristen fragen.
Ich bin Wissenschaftler, aber meines Wissens muss das noch umgesetzt werden, auch in die Frage, welche Institutionen, welche Prüfungsorganisation, welche Auditingprozesse, wer muss bei was draufgucken, wer bestimmt denn, ob ein System in was für eine Risikoklasse fällt, weil man arbeitet hier mit Risikoklassen, wer kann das letztendlich absegen? Das fängt an mit einer Selbstauskunft, der Firma, die sagt, bei uns ist alles im grünen Bereich.
Oder gibt es dann eben Sektor, wo dann einfach jemand draufguckt und sagt, dokumentier mir mal, was du da machst, und dann bestimme ich, ob da alles im grünen Bereich ist oder ob du eventuell in den Risikobereich fällst, wo dann eben Sicherheitsmaßnahmen, Dokumentationspflichten und viele andere Dinge greifen, die dann im AI-Akt definiert sind. Aber auch die muss man natürlich ausgestalten.
Und letztlich braucht es natürlich für so einen Unterfang technische Standards, Benchmarks, Prüfer fahren und so, die wir auch aus anderen Medizintechnik oder so kennen. Da ist ja auch festgelegt, wenn ein neues Medikament rausgegeben wird, nach welcher Art und Weise das zu prüfen ist, wird ja viel, viel mehr über den Prozess noch vorgegeben. Und das ist dann lustig, selbst wenn wir es national umsetzen, wollen wir es natürlich harmonisiert umsetzen.
Wir wollen ja nicht komplett anders prüfen in Deutschland, als wir jetzt in Frankreich oder Polen oder Ungarn prüfen. Das heißt, das wird eigentlich nochmal super spannend. Der spannendste Teil kommt eben dann noch, wenn es wirklich darum geht, sich abzustimmen. Jetzt hat es dir gerade schon von den technischen Standards gesprochen. Für mein Verständnis gehören da auch diese genannten Anforderungen an Daten und Datensätze dazu. Ist das schon genauer beschrieben, wie das aussehen soll?
Und wenn ja, wie? Ich denke, es gibt nur Ansätze. Und das ist eben auch ein bisschen die Frage, wer soll das denn eigentlich beschreiben? In den USA ist man ein bisschen andersrum vorgegangen. Da hat man mehr oder weniger der Industrie und der Forschung uns so gesagt, macht mal freiwillig ein paar Vorschläge, aber kümmert euch drum. Hier sagt man jetzt erstmal, wir gehen andersrum vor. In der Forschung gibt es Ansätze in Prüfinstanzen wie den TÜV und andere.
Die haben natürlich jetzt Vorschläge gemacht zu diesen ganzen Dingen. Die müssen dann noch in technische Komitees ausgelagert werden und dann eben letztendlich auch Teil der Verordnungen und der Gesetze werden. Also da wird es dann immer spannend, weil bisher konnte man ja arbeitsteilig vorgehen, ja Juristen konnten sich ja schöne Dinge ausdenken für die Regulierung, aber irgendwann müssen dann die Techniker, die sich nicht notwendigerweise gerne mit Regulierung beschäftigen.
Irgendwann muss man dann zusammenarbeiten und sagen, wie können wir das sinnvoll auf die Straße bringen? Aber wenn man sich das jetzt anguckt, dass diese ganzen KI-Systeme unter einer Konformität gehalten werden, das braucht doch schon eine Masse an, ich sag mal, Zertifizierungsstellen oder wie man es auch nennen mag. Und die ganzen Systeme, die hören ja jetzt nicht auf zu wachsen, nur weil wir jetzt versuchen, das Ganze zu zertifizieren und konform zu halten.
Und dann ist da auch noch eine Dynamik von der Zeit her, wo das relativ schnell geht. Wie viele Stellen braucht man denn und muss das bundeseinheitlich oder europaweit geregelt werden? Oder muss das runtergebrochen werden auf ganz kleine Körner, wie im kleinsten Fall vielleicht das Bundesland oder eine Region im jeweiligen europäischen Land? Das sind natürlich alles sehr gute Fragen. Ich habe ja am Anfang schon gesagt, diese Idee horizontal zu regulieren, finde ich schwierig.
Die ist natürlich erstmal eine gute Idee, dass man denkt, wunderbar, dann haben wir das alles mit einem Rutsch und nicht jeder macht Science und so weiter. Aber letztlich wird man wahrscheinlich nicht umhinkommen, sektor-spezifisch oder noch kleinteidiger, vielleicht auch anwendungsspezifisch vorzugehen. Also was ein Entscheidungsunterstützungssystem im medizinischen Macht ist, vielleicht was ähnliches, was das Entscheidungsunterstützungssystem im Personalwesen macht.
Und muss dann vielleicht gucken, dass man vielleicht für Systemtypen und vielleicht für gewisse Branchen dann das Ganze runterbricht. Das ist wirklich eine interessante Zeit. Die Gewerkschaften machen Vorschläge, Betriebsräte wollen mitgehört werden. Wir haben wirklich ein großes interdisziplinäres Unternehmen vor uns. Vielleicht ist ja an der Gewinn, dass man zumindest mal darüber redet, was sich da gerade so entwickelt.
Aber vielleicht bleiben wir nochmal ganz kurz bei diesen Risikoklassen stehen. Das ist ja gerade schon auch kurz erwähnt. Das ist ja ein Kernpunkt, zumindest nach unserem Verständnis, dass eben bestimmte KI-Systeme sehr stark reguliert werden bzw. verboten werden. Die Anwendung von? Die Anwendung von, danke für die Korrektur, die Anwendung von. Also das ist ja ein interessanter Punkt. Also die KI-Systeme dürfen weiter da sein, aber man darf sie nicht benutzen.
Wenn man sie für bestimmte Dinge anwendet, dann muss man eben bestimmte Dinge berücksichtigen, so würde ich sagen. Und gewisse Anwendungen sind gar nicht erlaubt. Ja, so muss man es sagen. Aber das Lustige ist, du musst ja die Anwendungen vorhersehen. Und so, wie ihr habt schon gesagt, so wie die Technik sich verändert, wie die Möglichkeiten sich verhindert, muss man dann immer zu irgendeinem Zeitpunkt sagen, na ja, ist das noch eine Anwendung, die im grünen Bereich ist?
Und das wird ja auch relativ oft gesagt, aber nicht oft genug, dass eigentlich der AI-Eck natürlich davon ausgeht, dass das groh der KI auch die Anwendung, die wir täglich nutzen, eben unsere Rechtschreibkorrektur, unser Navi-System, unser Hautkrebsvorsorge und so weiter, dass die sowieso in den grünen Bereich fallen und okay sind und einfach benutzt werden können, wie sie sind.
Und dann hat man eben diese Risikoklassen und sagt, ganz oben an der Spitze hat man ein paar rote Linien, wo man sagt, das machen wir eben gar nicht. Überwachung im öffentlichen Raum oder war andere Dinge, wo wir sagen, das ist grundsätzlich ausgeschlossen oder je nachdem, wie man sich dann einigt und verwässert. Und das kommt noch erschwerend dazu, weil man natürlich sowas eigentlich nicht innerhalb eines Gewissen Rechtsgebiet regeln kann, ohne Auswirkungen auf die anderen.
Aber jetzt kommt es ja noch toller. Man war ja schon ganz weit mit seiner Regulierung, mit seinen Risikoklassen. Man hat über wichtige Begriffe wie Autonomie und menschliche Kontrolle und so weiter gestritten und Definitionen errungen und war kurz davor eben den Gesetzentwurf fertig zu haben und da kam dann diese generativen KI-Systeme um die Ecke angefangen mit JetGPT und mit Mid Journey and Stable Diffusion und wie sie alle heißen heute, so viel, dass man sie nicht mehr aufzählen kann.
Plötzlich musste man nacharbeiten. Es macht keinen Sinn, ein AI-Eck der nächstes Jahr ein Krafttritt rauszugeben, wo diese Systeme überhaupt keine Berücksichtigung finden. Und dann ist man eben schon an der Stelle inkonsistent geworden und hat plötzlich nicht mehr die Anwendung reguliert, sondern die Technologie selber. Man fing dann an von der Anzahl von Rechenoperationen beim Training der Modelle einzuschreiben.
Ab wann ist es denn überhaupt ein großes Modell und solche Scherze, die man sich dann erlaubt hat, dann ist man schon abgewichen von dieser Idee, wir regulieren die Anwendung, weil es so viele Anwendungen gibt, dass man gar nicht mehr quasi ab Anwendung vorgehen kann. Dann hat man gesagt, na ja, dann reden wir halt an der Stelle doch über foundationalen Muzzle, langenglish-models und so weiter.
Kommt dann per se mit einem großen Risiko, was eben möglicherweise hinterher für die Leute, die es und wenn es auch nur an einer kleinen Stelle anwenden wollen, irgendwo in ihrer Prozesskette, möglicherweise dann zu Dokumentationspflichten zu führen, dass sie ein Meldewesen einführen müssen, Mitigation, Measures, ja, und möglicherweise dann ganz viele Dinge machen und dann man sich entscheiden muss.
Will ich das dann wirklich nutzen oder nutze ich das System nicht und gehe vielleicht auf andere Technologie zurück und habe eigentlich schlechterer Ergebnis am Ende des Tages, weil es mir zu viel war. Und jetzt könnte man es noch weiter treiben.
Es ist ja nicht nur die Anwendung von möglicherweise oder tatsächlich manipulierenden KI-Systemen, die dann eben verboten wird, Social Credit Systeme, zum Beispiel, oder eben auch möglicherweise personalisierte Nachrichten-Feed-Algorithmen, je nachdem, wie die gestaltet sind.
Wenn jetzt aber dann umgekehrt, wie jetzt gerade bei Instagram passiert, politische Inhalte grundsätzlich ausgeblendet werden und man das aktiv und nur sehr versteckt einschalten muss, um das überhaupt noch zu bekommen, kann mit Tumandanich auch über eine Manipulation sprechen. Wie ist die dann reguliert? Ja, das haben wir auch in der Enquete-Kommission KI, wo ich ja Mitglied sein durfte, 2018 bis 2020 auch immer diskutiert.
Das sind natürlich immer zwei Seiten einer Medaille, die einerseits Freiheit, Meinungsvielfalt, Meinungsfreiheit und auf der anderen Seite eben Kontrolle und das Abwenden von Fakes und von Hassrede und von anderen Dingen, die unerwünscht sind und auch demokratiegefährdenden Aktivitäten dort. Und das ist ein schmaler Grad. Also da hat, glaube ich, keiner die Lösung oder die Antwort.
Viele reden natürlich, lass uns über Open Source reden, lass uns über eine Pluralität von System reden, solange das alles Monopole sind, macht es die Sache natürlich nicht einfach. Das heißt, vielleicht schon, wenn man sie dazu bringen könnte, demokratieförderlich zu arbeiten, aber ich meine momentan folgen Sie halt einer Marktlogik.
Und wenn man dann noch betrachtet, dass wir nicht mehr nur über Anwendungen reden, die reguliert werden, sondern über KI-Systeme selbst, ist es dann nicht auch so, dass ich den AI-Akt auch ein Stück weit als möglicherweise Innovationskiller sehen kann, weil er viel zu viel reguliert. Wenn wir auch noch mal ins Ausland schälen, USA, China etc., die ja ganz andere Regularien, möchte ich mal sagen, laxere Regularien haben, geraten wir dann nicht auch ein bisschen ins Hintertreffen in Europa.
Das hat man ja versucht mit diesen sogenannten regulatorischen Sandkästen ein bisschen abzumildern, dass man sagt, unter bestimmten Bedingungen, in bestimmten Bereichen kann man vielleicht auch mal mit einer vorausallenden Regulierung und mit Einverständnis oder so Dinge ausprobieren auch jetzt, bevor die Regulierung vielleicht da ist und auch später noch.
Aber ich fürchte auch, man kauft sich da möglicherweise dann doch einen ganzen Rattenschwanz von Maßnahmen ein, dem man dann genügen muss.
Die Forschung soll ja angeblich Ausnahmen haben, aber man kennt das ja auch von anderen Dingen, der DSGVO oder so hat ja total auch Blüten getrieben, dass du dann keine Klassenliste mehr im Kindergarten bekommst oder in der Schule, weil die Leute sich nicht mehr trauen oder die Lehrer sich nicht mehr trauen, da irgendwie eine Telefonnummer von den Eltern rumzuschicken, was mit Sicherheit nicht intendiert war, als das Gesetz gemacht wurde.
Man hat ganz andere Dinge gedacht, aber am Ende des Tages läuft es dann darauf hinaus, dass Leute dann den Mut verlieren und überreagieren an solchen Stellen. Das heißt, es ist ja nicht mal notwendigerweise die Frage nur für was ist das Gesetz gemacht und eben auch, wie wird es dann hinterher gelebt? Und wenn das dann eben zu einem Klima der Angst führt?
Ja, und wenn man es dann auch nochmal rumdreht und sagt, okay, wir regulieren das zwar, aber bei manchen Systemen existiert so eine Tiefe. Also, beispielsweise die Modellierung von Deep Learning, die basiert ja auf diesen sogenannten Blackbox-Modellen, die nicht bis in die letzte Ebene transparent gemacht oder transparent erklärt werden können. Also, ist hier überhaupt das Ziel des AI-Aggs, wenn man schon anfängt, dieses Thema ein bisschen zu regulieren, überhaupt umsetzbar?
Und vor allen Dingen, wenn ich eben Systeme auch noch verwenden will, die schon da sind, dann müsste ich ja auch denjenigen zwingen, mir auch zum Beispiel seine Trainingsdaten offen zu legen, komplett. Also, das ist ja bisher auch nicht so, das werden die Anbieter vielleicht dann nachholen. Das gab es natürlich in der Vergangenheit auch, dass Dinge plötzlich gehen.
Die EU ist ja jetzt auch nicht niemand, ja, so ein paar Hundert Millionen Kunden, die möchte man vielleicht auch weiter behalten. Da gibt es dann auch noch solche Aspekte, dass zum Beispiel Juristen sehr wohlmeinend in solche Gesetze reingeschrieben haben, dann soll man die involvierte Logik, the logic involved eines Systems erklären. Wenn es automatisierte Entscheidungen herbeiführt, kann man darüber diskutieren, was eine automatisierte Entscheidung eigentlich ist.
Aber wie erklärt man die Logik eines solchen Systems? Wie will man das erklären, nach welcher Logik das funktioniert? Na ja, Next-Word-Prediction, und damit war es das, das erklärt aber nichts. Und dann gibt es da auch Dinge, die stehen jetzt im AI-Akt drin, zum Beispiel, dass für bestimmte Anwendungen man dann garantieren soll, dass die Trainingsdaten vollständig und fehlerfrei.
Ich trainiere jetzt ein System für Human Resource Management, was meine eingegangenen CVs irgendwie sortiert, und da muss ich eben in meinen Trainingsdaten für diese Aufgabe nachweisen, dass das vollständig und fehlerfrei war. Und damit ist es schwierig. Ja, klingt ein bisschen utopisch. Ein Ziel ist ja auch gewesen, dass man nicht nur reguliert, sondern transparent und verständlich machen wollte, was dahinter steckt.
Das scheint doch schon einen Trugschluss zu sein, dass das eben bei bestimmten Systemen möglicherweise gar nicht funktioniert, weil sonst diese Systeme nicht funktionieren würden. Die Crux ist ja, wenn Probleme auftauchen, dann wollen wir nicht einen dreidefährigen Gesetzesgebungsprozess anstoßen müssen, weil es dann viel zu spät wäre. Ja, wir haben so ein bisschen ein Problem, dass natürlich unser Rechtssystem nicht darauf geeicht ist, so agil zu sein.
Ja, dass man sagt, wir machen eine Rahmengesetzgebung und können dann, wenn das Problem auftritt, sehr schnell wirklich die geeignete Maßnahme uns ausdenken, die dann die geeignete Art von transparentstige, geeignete Art von Dokumentation für den jeweiligen Zweck, für die jeweilige Kundschaft auch, die damit zu tun hat.
Oder sind es Experten, sind es Endnutzer, sind es vielleicht vulnerabile Personen, denen man das ganz anders vermitteln muss, dass man eigentlich dann gezielt sagen müsste, für diese eine Sache, die hier schief geht, müssten wir eigentlich den Riegel davor schieben, dass es in Zukunft so und so passiert. Da haben wir jetzt, glaube ich, das Problem. Italien hat ja Chatchipiti irgendwann mal abgeschaltet wegen DSGVO-Verstößen.
Wenn man dann solche Mittel einsetzen muss und dann sagt die Firma sofort drei Tage später dann ist wieder gut. So was möchte man vermeiden. Das verstehe ich auch. Wenn wir nochmal auf die Risiken gucken, wir haben es vorher schon mal angesprochen, KI-Systeme gibt es heute schon, manche sind noch in irgendeinem Entwicklungsstadium und kommen ziemlich rasant auf uns zu und da zeigen sich auch die entsprechenden Risiken erst, wenn sie vielleicht schon auf dem Markt sind.
Naja und auf der anderen Seite haben wir eher lahme Modelle wie zum Beispiel die Empfehlungsalgorithmen in sozialen Medien, die sind gar nicht besonders spannend, aber sie führen zu demokratisch riesigen Zerwürfnissen und spülen Content hoch und lassen da eine rechte Szene entstehen. Gerade würden Politiker in Deutschland angegriffen von einem aufgeheizten Mob. Das heißt, die Systeme selber waren gar nicht irgendwie sophisticated.
Laufen seit Jahren, werden immer mal ein bisschen besser und schlagwertiger oder so, aber die Systeme selber sind jetzt nicht das, was einem vom Hocker haut, aber diese Skalierung, dass die eben Millionen von Usern mit Content bedienen können und gegeneinander aufhetzen können. Das ist das, was einem eigentlich Angst macht. Das ist die Anwendung, die hier einem Sorgen macht und nicht die Intelligenz des Systems.
Vor allen Dingen, wenn die Leute oder die Industrie damit drin sitzt, die die Regularien erstellt und guckt, was eigentlich braucht, irgendwann kommt man zu einem KI-System, das sich selbst reguliert, beziehungsweise KI, das so autonom handelt, dass ein menschliches Eingreifen zwar möglich, aber nicht unbedingt mehr nötig ist.
Wann gibt es denn einen Zeitpunkt, dass sich KI gar nicht mehr regulieren lässt und wir uns mit solchen Sachen wie AI-Act eigentlich gar nicht mehr beschäftigen müssen? Also noch reden wir über Computersysteme, die auf einem Rechner laufen und man kann den Ausschalten und dann ist Ruhe. Wir reden jetzt noch nicht hier von dystopischen Fantasien, von Systemen, die dann dem Rechenzentrums-Betreiber irgendwie einlullen, damit er sich nicht traut. Das ist ja eher Science-Fiction.
Das heißt, die Vergleiche, die man zum Teil hat, sagen wir mal, mit Gentechnik oder mit Atomkraft, dass man sagt, wir treffen hier Entscheidungen. Und wenn du das strahlende Zeug da hast oder einmal das gehtveränderte Mais auf den Feld, du kriegst du das nicht in die Tube zurück. Ich glaube, diese Gefahren bestehen ja jetzt erst mal nicht.
Als Wissenschaftler kann ich nie sagen, es kann sein, du stellst ein Supercomputer an und der sagt, Papi, das will ich nicht ausschließen, dass wir das noch erleben. Aber ich denke mal, mit der jetzigen Geschwindigkeit und dem, wie wir vorgehen, sehe ich eigentlich nicht diesen Moment kommen. Und auf der anderen Seite haben wir im Alltag ja auch oft nur die Fiktion von Kontrolle.
Schönstes Beispiel, du fährst in Deutschland mit 250 über die Autobahn und du meinst, du hättest Kontrolle über dein Auto. Das ist natürlich vollkommen der Quatsch. Ja, das ist ein reines Glücksspiel. Im Normalfall geht es auch gut, wenn die Strecke frei ist. Aber unsere ganze Kognition und so ist nicht darauf ausgelegt, mit 250 km/h sich durch die Gegend zu bewegen und das kann man auch nicht mehr die Bremsen kontrollieren. Das wissen wir alle eigentlich.
Ja, das ist eine Illusion von Kontrolle, die wir haben und trotzdem leben wir ganz gut damit. Aber danke für dieses schöne dystopische Beispiel. Endlich mal. Mein Auto kann nicht 250 fahren. Oh, meinst auch nicht. Meinst es mit 80 km/h schon so laut, als würde man nicht 90 fahren. Genau, die Illusion von Kontrolle ist wahrscheinlich trotzdem... Aber meinst kann sagen, ich fahr zu schnell. Zu sich selber oder für dein Selbstgespräche? Das ist für das Selbstgespräche.
Ich bin halt nur der, der das mitkriegt. Ja, okay. Aber zurück zu dem Ernst dieser möglichen oder vielleicht auch tatsächlich unmöglichen oder unwahrscheinlichen Systopie, diskutieren wir dann unter diesem Deckmantel, künstliche Intelligenz oder KI-Systeme regulieren zu wollen, nicht ganz andere gesellschaftspolitische Fragen. Ja, das denke ich schon. Das kenne ich auch.
Wir haben in der Enquete immer gesagt, wir wollen nicht alle Probleme des Internets lösen unter dem Stichwort KI, aber letztendlich ist es natürlich so, dass böse Menschen, die digitalen Techniken nutzen, um andere zu manipulieren, sei es eben zu Kaufentscheidungen oder sei es zu politischen Entscheidungen, auch Leute aus dem Ausland natürlich und nicht Demokratische leider mehr und mehr Kräfte aus dem Inland gibt, die Interesse daran haben,
Leute gegeneinander aufzuhetzen und Leute scharf zu machen. Und vieles von dem wird dann eben natürlich über KI und durch KI thematisiert und diskutiert, obwohl die darunter liegende KI vielleicht gar nicht wahnsinnig spannend ist. Aber das ist schon so, es zwingt uns immer wieder auch unser digitales Zusammenleben uns anzugucken und uns zu fragen.
Man will nicht Überwachungsstaaten haben wie in China, auch das sind natürlich Sachen, die technisch leichter gehen mit KI als ohne, also Stasi Werger Stolz. Auf das, was heute geht, ja als die Kassetten noch per Hand abgetippt wurden, da ist man natürlich heute in einer anderen Situation. Und dafür ist die Datenflut auch immens größer geworden, exponentiell. Also ich weiß nicht, ob sie damit genauso wenig hinterhergekommen werden wie damals. Wäre auch möglich, ja.
Aber ich frag mich das tatsächlich wirklich, ob wir da möglicherweise dann nicht an der falschen Stelle ansetzen, Dinge regulieren zu wollen, ob wir dann nicht möglicherweise. Und dann geht es jetzt aber wirklich schon ins philosophische, ganz andere Dinge regulieren müssten, als wir gerade mit dem AI-Akt reguliert haben. Und erschweren kommen noch so ein paar Dinge hinzu.
Das bestimmte Branchen sage ich jetzt mal, wie zum Beispiel der Journalismus oder das Bildungssystem, die schon seit Jahren in verschiedenen Krisen sind. Und was nicht gut ist für die Demokratie, was nicht gut ist, dafür so ein Diskurs zu führen, dass die teilweise auch bei dieser Technologie ihre Schwierigkeiten haben oder sich gar bedroht fühlen durch die Technologie. Und deshalb auch ein verzerrter Diskurs stattfinden oder der Diskurs überhaupt nicht angefangen wird.
Oder man sagt, das verstehe ich eh nicht. Da möchte ich mich gar nicht mit beschäftigen. Das heißt, wir haben auch Berührungsängste an Stellen, wo wir sie eigentlich gar nicht haben dürften, sondern das Gegenteil sein müsste. Wo eigentlich genau die Leute, die sich eben mit Bildung, mit Weiterbildung, mit Journalismus, mit Informationen der Leute beschäftigen, gerade die müssten natürlich ganz vorne sein im Diskurs und mitmachen.
Das heißt, niemand muss Techniker werden, das ist völlig klar. Man muss sich sozusagen die Themen aufzufalten und durchzugehen und zu sagen, wie möchten wir zusammenleben? Wie möchten wir damit obengehen, dass wir Dinge stärker kontrollieren können, möglicherweise vielleicht auch zum Guten, ja, vielleicht sicherlich auch zum Schlechten manipulieren können. Aber das muss diskutiert werden. Und da muss man dann eben im Einzelnen sich mit beschäftigen und drüber reden.
Und das ist so ein bisschen meine Sorge, dass wir da eben auch KI zum Teil als Saudi-Storff getrieben wird. So nach dem Motto macht jetzt eben die Musikbranche kaputt, macht den Journalismus kaputt, macht den Schulend kaputt durch ChatGPT oder so. Aber die sind schon länger kaputt.
Dass die Unis viele Studenten nicht mehr motiviert, das wissen wir, ja, dass diese Eintrichtervorlesungen morgens und dann bulimisch nachmittags irgendwelche Hausarbeiten schreiben, die dann benötigt werden, dass das System nicht gutes weiß man ja seit Jahren. Ja, das wird durch ChatGPT jetzt nochmal beschleunigt, diese Erkenntnis.
Und man überlegt sich, wie können wir mehr auf Teamarbeit, kritisches Denken, auf ganz andere Dinge umstellen, ganz andere Fähigkeiten, die man in der heutigen Welt vielleicht dringender braucht, als Fakten reinzulernen in Massenvorlesungen. Das kommt ja auch. Will das jetzt mal ins Hoffnungsfrohe drehen?
Ja, vielleicht gibt es dann doch das richtige Leben im Falschen an der Stelle und wir können diese Diskurse dann vielleicht doch durch die Hintertür reinbringen, weil uns die Technologie auch ein Stück weit zwingt, eben Dinge zu überdenken, die schon in der Analogenwelt nicht gut waren. Also ein Votum für mehr Transparenz und mehr Verständnis am Ende.
Ja, vielleicht hilft auch die KI und man hofft dann ein bisschen darauf, dass die KI die Verantwortung übernimmt und auch ins Tun kommt und der Mensch nur noch davon profitiert. Ja, ich habe mir ja in meinem Interview die fünf Stundenwoche ausgerufen.
Ich habe dann gesagt, morgens von acht bis neun macht man die Sachen, die KI nicht kann und dann geht man in die Hängematte und den Rest macht KI und wurde dann in Nachfolgeinterviews immer mal wieder gefragt, wie haben Sie das denn gemeint und wie kriegen wir das denn hin? Also dann würde ich sagen, wir haben die fünf Stunden, diese Woche, da sind wir schon längst drüber. Also ist die KI noch nicht weit genug für uns alle.
Und ich zitiere immer einen deutschen Philosophen, Gegenwartspfilosophen, Helge Schneider, der ja sagt, wer arbeitet, der kriegt auch welche. So ist es Al-Yoshaburchad vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin. Vielen Dank, dass du bei uns in der Sendung warst. Ja, danke euch. Steuer mit Recht. Der DARTEV Podcast. [Musik] [Musik] [MUSIK]