Ja, hallo und herzlich willkommen zur 210. Ausgabe des e-Government-Podcasts. Ich bin Thorsten Frenzel und heute habe ich einen, ja, quasi Podcast-Kollegen in meinem Studio. Hallo Gregor, ich grüße dich.
Hi Thorsten, freue mich da zu sein. Ich hoffe, mein Mikrofon wird dem gerecht, dass du mich so ankündigst.
Naja, als Podcaster, bitteschön. Ich habe es ja schon im Wild gesehen, was du für ein anständiges Mikrofon hast. Vielleicht erzählst du mal ganz kurz was zu dir.
Ja, gern. Also ich heiße Gregor Schmalzried. Ich hoste aktuell den KI-Podcast in der ARD. Also die erste Frage, die normalerweise Leute stellen, wenn ich das sage, ist, ach ja, wie heißt der? Er heißt der KI-Podcast tatsächlich. Da beschäftigen wir uns seit über anderthalb Jahren, jede Woche mit den aktuellen Storys in der KI-Revolution.
Und das ist auch, glaube ich, so mein Hauptthema aktuell. Also ich beschäftige mich mit künstlicher Intelligenz seit einiger Zeit als Tech-Journalist ursprünglich im Bayerischen Rundfunk. Jetzt seit anderthalb Jahren im Podcast. Ich schreibe ein Newsletter zu dem Thema und mache auch sehr viel Freelance gerade in dem Bereich. Also Talks, Projekte, Beratung und so weiter.
Ja, schön, dass du bei mir bist und man merkt direkt, du bist ein Profi. Du hast nicht die Sendungstitel gespoilert direkt in der Vorstellung. Aber wir sprechen natürlich über KI. Und wir hatten uns mal kennengelernt auf einer Veranstaltung und natürlich höre ich auch deinen Podcast regelmäßig. Und habe mir gedacht, das ist der Profi, mit dem ich jetzt mal über KI spreche.
Und zwar wollen wir uns mal so ein bisschen anschauen, was gibt es denn für Anwendungen und wie können wir die vielleicht auch in der öffentlichen Verwaltung verwenden? Und was kann man mit KI überhaupt generell so machen? Wir haben ein paar Stichpunkte gesammelt, aber wir hangeln uns jetzt mal hier so durch. Und ja, schauen wir mal, wo wir am Ende rauskommen.
Ja, ich bin gespannt.
Mir fällt als allererstes mal ein, Wir haben in der öffentlichen Verwaltung einen ganz großen Digitalisierungsdruck. Und die Idealvorstellung ist in der Digitalisierung auch immer, dass ich natürlich meine analogen Prozesse erstmal analysiere und die analogen Prozesse auf die Digitalisierung quasi umwandle und nicht einfach analoge Prozesse in digitale Prozesse umwandle. Siehst du da ein Anwendungsfeld, wo man da eventuell die KI einsetzen kann und vor allen Dingen, was könnte man da einsetzen?
Also da sind wir natürlich, glaube ich, gleich bei einer Frage, zu der man zwei komplette Folgen machen könnte. Deswegen, ich versuche mir einfach so mal ein, zwei Sachen da rauszupicken. Es ist natürlich schon ein Phänomen gerade und das ist auch nicht auf, sage ich mal, den öffentlichen Sektor beschränkt, dass eine ganze Menge Häuser auf einmal merken, ach so, ja, dieses KI-Zeug ist ja schon ganz interessant, Da kann man ja richtig viel mit machen.
Sind aber noch nicht mal über den letzten Schritt hinweg eigentlich. Also der letzte Schritt, der daraus bestanden hätte, dass man wirklich analoge Prozesse digital smart transformiert hat. Also ganz oft gibt es sozusagen die Diskussion jetzt, ob man quasi vom Faxgerät direkt zu Chat-GPT springt. Also ob man sozusagen alles, was dazwischen irgendwo war, überspringt. Es kann tatsächlich sein, dass es sogar einzelne Fälle gibt, wo das so ein bisschen funktioniert.
Aber in vielen Fällen, wahrscheinlich so eher im Regelfall, braucht es natürlich noch diesen Zwischenpunkt, weil um KI richtig einsetzen zu können, braucht es Datenregime, die funktionieren, braucht es eine Art und Weise, mit Daten umzugehen, sichere Anwendungsmöglichkeiten, Server und so weiter zu haben.
Das hätte man alles schon vorher gebraucht. Jetzt gibt es quasi nochmal zusätzlich die Möglichkeit, da ganz viel mit großen Sprachmodellen wie Chat-GPT anzustellen, was vorher nicht möglich war. In ganz vielen Fällen habe ich jetzt sogar das Gefühl, man hat vorher möglicherweise eine Art Datenbank eingesammelt und weiß jetzt erst, wofür die eigentlich da ist.
Also ich merke das so bei mir privat. Ich sammle total viele Informationen, nicht so systematisch, wie das jetzt in der Verwaltung der Fall wäre. Aber bei ganz vielen Dingen fällt mir auf, Achso, Moment mal. Früher hätte ich mich da jetzt halt händisch durchgeklickt durch meine Sammlung. Mittlerweile kann ich die Smart mit einem KI-Tool durchsuchen. Also ich wusste gar nicht genau, wofür ich das gesammelt habe. Und das ist natürlich erstmal die erste Frage, die man stellen muss.
Wo fängt man eigentlich an? Also was ist sozusagen da und wofür kann man das dann einsetzen?
Also Daten haben wir ja in der öffentlichen Verwaltung jede Menge, aber ich erzähle jetzt mal noch ein kleines Geheimnis, wir sind ja nur unter uns. Die Prozesse sind meistens nicht abgebildet irgendwo, das heißt, die müssten wir sich erstmal alle analysieren. Aber da kommen wir gleich zum Thema. Wo siehst du denn Einsatzmöglichkeiten von KI? Weil wir haben, wie gesagt, wir haben einen großen Datensatz, wie du auch schon festgestellt hast.
Wir haben sehr, sehr viele Informationen über unsere Bürgerinnen und Bürger, über die Stadtstädte allgemein, über Infrastruktur. Wo siehst du da zum Beispiel Möglichkeiten, KI einzusetzen?
Also wir tun jetzt erstmal so, als sei das ganze Datenschutzthema. Da kommen wir wahrscheinlich noch dazu.
Ja, ich glaube, das klappern wir heute mal aus mit dem Datenschutz, weil das würde uns bei uns so im Denkspielchen hier etwas behindern, glaube ich.
Okay, dann tun wir jetzt einfach mal so, als hätten wir alle unseren eigenen NVIDIA-Server im Nebenbüro und da läuft das alles drüber und das muss nicht irgendwie ins Internet und ist alles abgesegnet. Also wenn das jetzt der Fall ist und wir uns quasi keinen Gedanken machen müssen über Datenabfluss und so weiter, dann geht natürlich wahnsinnig viel. Also große Datenmengen, auch teilweise unstrukturierte Datenmengen, in kurzer Zeit auf bestimmte Informationen zu durchsuchen.
Das ist sicherlich was, was in der Verwaltung einen nicht unwesentlichen Teil des Arbeitstages einnimmt. Und das ist natürlich was, wo große Sprachmodelle wie ChatGPT, also GPT 4.0 oder andere Tools wahnsinnig gut sind. Also die Nadel im Heuhaufen finden ist wahnsinnig interessant. Das kann sein, indem man eine sehr große Liste durchgeht und abgleicht mit einer
anderen Liste. Es kann auch sein, dass man, das passiert ja jetzt schon im Rechtsbereich ganz viel, einen langen Vertrag, eine lange Zeit. Urkunde, was auch immer es ist, einen sehr langen Text durchsucht nach bestimmten Faktoren, die relevant sein könnten für Thema Schieß mich tot. Also in kürzerer Zeit dahin kommen, wo man sonst auch schon hingekommen wäre, nur halt nach einer ganzen Menge Haare raufen. Das ist eigentlich das, was diese Tools am allerbesten tun.
Und da sehe ich auch jede Menge Potenzial. Also ich sehe es in meiner eigenen Anwendung natürlich vor allem dann, wenn die Datenfrage nicht so relevant ist, weil es um meine Urlaubsplanung oder so geht. Aber da kommt man mittlerweile in Informationen in der Geschwindigkeit, was vorher nicht möglich war. Aber ich glaube, ein Problem ist manchmal, dass ganz viele Leute haben bei Chat, Chibi, Di und Co. Immer noch das im Kopf, dass ja die KI sozusagen selber auf die Informationen kommen muss.
Also ich muss die KI fragen, ja, was ist denn eigentlich, was steht denn eigentlich im EU-Recht zu Thema XY? Das ist das, wo dann am ehesten die Fehler passieren. Also auch die werden weniger, das gehört mit dazu. Also die Halluzinationsrate, Halluzination nennt man das ja, wenn ein Chatbot zum Beispiel eine Antwort gibt, die plausibel klingt, aber eigentlich nicht richtig ist, die geht runter.
Aber es kann immer noch vorkommen. Wenn ich aber den Chatbot nicht einfach nur so allein lasse und einfach nur sage, ja, such mir mal die Info raus, sondern wenn ich dem Gesetzestexte gebe, Datensätze gebe, was auch immer, dann können die sich mittlerweile eigentlich sehr verlässlich auf diese Daten beziehen und mir entsprechend auch die Informationen raussuchen.
Und ich glaube, jeder, der diesen Podcast jetzt gerade hört, dem wird irgendwas einfallen, wo genau das, in welchem Format auch immer, PDF, Spreadsheet, langes Word-Dokument, was es auch sei, wo einem das helfen kann.
Ja, das kann ich tatsächlich aus eigener Experimenten bestätigen. Also ich habe neulich eine Frage zum TV-ID gehabt. Die vielleicht ein bisschen tricky war. Und da habe ich die kompletten TV-Idee als Datensatz in ChatGPT gegeben und habe gesagt, so jetzt habe ich diese Frage, beantworte mir bitte mal diese Frage anhand des Textes, die ich hier gegeben habe. Und das war sehr gut. War jetzt nicht so, als ob da ChatGPT irgendwie halluziniert hätte oder Ähnliches
getan hätte. Also irgendwas ausgedacht.
Ja, ich habe auch schon ganz tolle Steuerspartricks erhalten von ChatGPT. Die muss ich dann erstmal noch an meinem Steuerberater abnehmen lassen. Aber bislang war der zufrieden.
Einfach nicht überweisen. Das ist auch ein Steuerspartrick.
Der statt aber nicht in den Quellen, ja.
Du hast jetzt schon mehrfach ChatGPT gesagt. Gibt es noch andere KI-Tools? Also wenn man an KI denkt, aktuell, denkt man tatsächlich an ChatGPT, Gemini, was man so alles so auf seinem Handy so hat, was man auch mitgeliefert bekommt. Gibt es noch andere KI-Tools, die für mich jetzt als Verbraucher oder vielleicht auch für mich als Mitarbeiter in der öffentlichen Verwaltung relevant sein könnten?
Genau, ich spreche in der Regel über ChatGPT, weil es das ist, was die meisten kennen. Also das haben die meisten mal ausprobiert und nutzen das ja auch schon privat. Also das ist ja mittlerweile wirklich ein Massenphänomen, insbesondere unter jungen Leuten, die chillen den ganzen Tag da drin und lassen sich alles machen, von Hausaufgaben bis Dating-Tipps. Aber ich sage mal, die Technologie, die dahinter steckt, ist mittlerweile gar nicht mehr so wahnsinnig besonders.
Also ChatGPT wandelt sich gerade Stück für Stück zu eigentlich einer Endverbraucher-App, die deswegen genutzt wird, weil sie hat so einen coolen Voice-Mode, mit dem ich reden kann und er kann ins Internet gehen und er kann viele verschiedene Funktionen. Jetzt auf einmal können da sogar To-Do-Listen, was ich jetzt nicht, hatte ich jetzt nicht nachgefragt, aber okay. Aber die eigentliche KI selbst ist ja gar nicht ChatGPT.
Die eigentliche KI selbst, das KI-Modell, auf das ChatGPT zugreift, heißt in der Regel GPT-4O. Es gibt noch andere Modelle in ChatGPT wie O1, was nochmal andere Stärken hat. Und dieses Modell, das ist auf einmal das, worum es geht. Und das ist zum Beispiel auch gerade so interessant geworden bei Deep Seek.
Vielleicht noch eine ganz kurze Rückfrage. Was ist denn ein Modell?
Also es ist, glaube ich, wichtig zu unterscheiden zwischen der App und dem KI-Modell. So, ChatGPT ist in erster Linie eine App. Also das ist eine App, die hat ein schönes Logo und ein paar Fun-Funktionen und lässt sich besonders benutzerfreundlich gestalten. So, das ist das eine, das ist die App. Das andere ist das KI-Modell, aus dem ChatGPT seine Antworten generiert.
Also wenn die Chat-GPT-Oberfläche meine Antwort beantworten möchte, wenn die wissen möchte, okay, wo in diesem langen Text hier wäre möglicherweise eine Information zum Thema Umsatzsteuer gesetzt, die für mich relevant ist, dann wird sozusagen die KI angeschmissen, das KI-Modell. Das KI-Modell ist in der Regel GPT-4O und das generiert mir die Antwort, gibt die zurück an Chat-GPT und ich kann sie lesen. Das Interessante ist, dass man das Modell so ein bisschen rauslösen kann aus der App.
Also das geht jetzt schon. GPT-4O, das Modell von OpenAI, das gibt es nicht nur in Chat-GPT, das gibt es zum Beispiel auch über den Microsoft Co-Pilot. Auch die bieten das dann mittlerweile an, kann man auch über Microsoft Azure benutzen und wirklich interessant wird es dann, wenn man sagt, es gibt ja nicht nur OpenAI. Also es gibt nicht nur die Modelle von OpenAI, Microsoft oder sogar Google, sondern es gibt mittlerweile auch sehr starke Open-Source-Modelle.
Das bekannteste jetzt seit kurzem ist tatsächlich ein chinesisches Modell, DeepSeek, was in seiner App-Source. Also wenn man sich die DeepSeek-App runterlädt, zum Beispiel stark zensiert ist und recht problematisch aus sehr vielen Gründen, weil natürlich auch, was den Datenabfluss angeht, bei einer chinesischen App nochmal ganz andere Fragen sich stellen. Aber theoretisch kann man sich diese KI frei runterladen und auf einem Server mehr oder weniger zu Hause laufen lassen, dann fließt nichts ab.
Und das ist das Interessante. Also, dass sozusagen nicht mehr nur die App relevant ist, sondern dass es mittlerweile relativ viele konkurrenzfähige KI-Modelle gibt, Die werden alle immer billiger, die werden alle immer freier. Man kann viel weniger Ressourcen als noch vor ein, zwei Jahren auf richtig leistungsstarke KI zugreifen. Man braucht quasi nur ein bisschen Hardware.
Ja, ein bisschen Hardware ist ja vielleicht ein bisschen untertrieben. Aber wenn man so über Modelle liest oder von Modellen hört, hört man auch immer, ja, das Modell ist trainiert worden oder es ist mit folgenden Daten trainiert. Was heißt denn, ich muss ein Modell trainieren? Was heißt denn überhaupt trainieren eines Modells?
Ja, das ist letztlich der Lernprozess. Also das wird oft verglichen mit tatsächlich der Art und Weise, wie Menschen lernen. Das ist natürlich immer ein bisschen schwierig, weil natürlich funktioniert so ein digitales Gehirn ja völlig anders als ein menschliches Gehirn und die haben auch kein Bewusstsein oder irgendwie sowas.
Aber es ist schon so, dass die Art und Weise, wie diese großen Sprachmodelle, das ist so der Überbegriff dafür, wie die trainiert werden, der hat erstaunlich viel damit zu tun, wie wir als Menschen auch lernen. Und am besten verstehen wir das, wenn wir uns angucken, wie so klassisch regelbasierte KI funktioniert. Also bis vor so zehn Jahren oder fünf Jahren sogar, hat man beim Thema KI vor allem gedacht an regelbasierte Systeme.
Das ist dann ein Roboter, der fährt durch die Lagerhalle und sieht, ob eine Schachtel rot oder blau ist und je nachdem, ob sie rot oder blau ist, weil er entsprechend die Lichtfrequenz so aufnimmt, ist er programmiert, eine bestimmte Entscheidung zu treffen. Also das ist regelbasierte KI. Die Revolution kam nicht nur durch Chat-GPT, die kam eigentlich vorher durch Deep Learning.
Also dass man eben so ein Modell nicht mehr jede einzelne Information vorgibt, dass man ihm nicht so einen großen Entscheidungsbaum gibt und der, wo immer nur draufsteht, wenn... Die Box blau ist, dann machst du das, wenn die Box rot ist, dann machst du das, sondern dass man das Modell so ein bisschen, ja, mit wahnsinnig vielen Informationen füttert. Im Fall von den GPT-Modellen oder von anderen großen Sprachmodellen ist das letztlich praktisch aller Text, der im Internet frei verfügbar ist.
Also man könnte fast so ein bisschen sagen, das Menschheitswissen wurde da einmal reingekippt und dann hat man es eine Weile köcheln lassen, bis sozusagen die KI in der Lage war, diese Verbindung selber herzustellen. Und jetzt haben wir auf einmal Systeme, die mehr oder weniger sagen können, ob die Box rot oder blau ist, aber eben auch, ob sie überhaupt keine Farbe hat. Und das ist so ein Problem, was quasi die klassische regelbasierte KI nicht
konnte. Wenn die vor einer grünen Box stand, wusste sie nicht, was tun. ChatGPT und Co. wissen es auf einmal. Die sagen, ach so, okay, hier ist eine grüne Box, was mache ich jetzt damit? Und erschließen sich vielleicht sogar aus dem Kontext, was das bedeuten könnte.
Das ist eine Riesenchance, weil man auf einmal so viel mehr machen kann mit diesen Systemen, weil man ihnen nicht mehr alles explizit vorgeben muss, sondern teilweise geben die Hersteller von diesen KI-Systemen ihre Modelle raus und wissen selbst gar nicht, wofür die eingesetzt werden. Es braucht sozusagen die gesamte Menschheit, die sich dann hinsetzt und ausprobiert, um auf diese Anwendungsfälle zu kommen. Das ist auch das, was ich daran so spannend finde.
Der Nachteil ist allerdings, in einem von tausend Fällen geht das vielleicht schief mit der Box. Also dann wird halt versehentlich mal eine rote Box doch für blau gehalten. Und das ist so eine Fehlerquote, die hatten wir vorher nicht bei der regelbasierten KI. Also das ist sozusagen das, was da diese neue Generation von KI-Modellen so besonders macht.
Das heißt, die neuen Generationen sind sowas, wie auch unser menschliches Gehirn, eine Mustererkennungsmaschine.
Ja, das ist eigentlich in einem Satz das gesagt, was ich genau sagen wollte, richtig.
Genau. Und jetzt kommen wir nochmal zurück zum eigentlichen Thema. Wie setzen wir das Ganze jetzt in der Verwaltung ein? Ich habe da schon ein paar Ideen, aber vielleicht hast du auch noch ein paar ganz praktische aus deinem Alltag.
Also wir hatten ja schon das Thema strukturierte Daten, unstrukturierte Daten. Das finde ich total relevant. Also große Textmengen schnell durchsuchen nach einer bestimmten Information. Das ist ein riesen Game Changer. Ich finde auch immer sehr interessant, dass man ja mit KI in der Lage ist, sehr personalisiert zu arbeiten. Also dass man eben jetzt die Möglichkeit hat, sich einen Text zusammenfassen zu lassen.
Ja, das ist das eine. Aber eben auch einen Text auf eine Art und Weise zusammenfassen zu lassen, wie die für mich persönlich relevant ist. Also wenn ich einen Text bekomme, ein langes Dokument, und da geht es um, ich nenne jetzt einfach mal zwei Themen, ich nenne einfach mal Fußball und Weideflächenregulierung. Das sind die zwei Sachen, die da zusammenkommen aus irgendeinem Grund. Und ich sage mal, mit Fußball kenne ich mich super aus und mit Weideflächenregulierung überhaupt nicht.
Dann könnte ich jetzt der KI entsprechend sagen, fass mir das mal zusammen und bedenke... Fußball bin ich Experte, aber was die Weideflächen angeht, da weiß ich gar nichts. Also fang da bitte bei Null an. Und das, so eine personalisierte Textzusammenfassung zu bekommen, das geht in Sekunden und funktioniert wahnsinnig gut.
Also, dass ich eben nicht gezwungen bin, wie bei jeder anderen Software, das Gleiche zu benutzen, was jeder andere benutzt, den gleichen Button zu drücken, den jeder andere drückt, sondern Medi-KI so zusammenstellen lassen, wie ich das persönlich gerne habe, das ist schon wahnsinnig spannend.
Das heißt, ich könnte mir das jetzt übersetzt in die öffentliche Verwaltung als Verwaltungsmitarbeiter die ganzen unsäglich langen Texte aus den Gemeinderats- und Stadtratssitzungen so zusammenfassen, dass das genau für mein Aufgabengebiet mir genau die richtigen Themen raussucht. Und vielleicht auch nicht nur in meinem Abschnitt, wo es um meinen Bereich geht, sondern vielleicht auch aus den anderen Abschnitten da die entsprechenden relevanten Dinge mit dazu schreibt.
Exakt. Und dann kann man es vielleicht noch ein bisschen gewichten lassen. Also sagen, ich hätte gerne 80 Prozent der Zusammenfassungen sollen sich mit dem Thema befassen und 20 Prozent mit dem, weil da brauche ich eigentlich nur einen groben Überblick. Ich muss einfach nur grob wissen, was da los war. Ja, absolut.
Ich höre gar nicht, ganz viele Werkstudenten jauchzen, weil die Executive Summaries per JGBT gemacht werden.
Auf jeden Fall, ja.
Ein großes Thema in der öffentlichen Verwaltung ist zum Beispiel auch die Stadtplanung. Stadtplanung ist ein großes, kompliziertes und komplexes Feld. Da gibt es Gebäude, die schon dastehen. Es gibt Gebäude, die es schon gab. Es gibt Straßen, die da sind. Es gibt Straßen, die es schon gab und so weiter. Und dann gibt es jede Menge auch unterirdisch. Fällt dir da eine Möglichkeit ein, wie wir hier KI einsetzen können?
Also im Prinzip ist so eine Stadtkarte oder Landkarte ein ziemlich chaotisches System.
Ja, auf jeden Fall. Also das ist ein total spannendes Feld und ich glaube, da sind wir eher im Bereich von, ich sage mal, spezialisierten Systemen. Also das Interessante an, ich sage jetzt mal wieder ChatGPT, aber Chatbots, großen Sprachmodellen ist eben, dass man die einsetzen kann, wofür man mehr oder weniger möchte, aber nicht für alles. Also es gibt Bereiche, da kommen die doch an ihre Grenzen.
Und Stadtplanung ist, glaube ich, sowas, weil da ist sozusagen das Problem, was ist, wenn einmal die falsche Box ausgewählt wird, zu groß. Also da ist es eine Schwierigkeit, wenn die Ampel sich auf einmal falsch umschaltet, dann ist Game Over, das sollte sie nicht machen. Das heißt, da braucht es andere Systeme. Auch hier kann, was ich stelle mir mal vor, so Zukunftsszenarien durchzuplanen, wahnsinnig interessant sein.
Automatisches Überwachen von Verkehrsströmen. Das dann zusammensetzen mit anderen Datenquellen und da dann entsprechend Informationen abzuleiten.
Ich glaube, das geht wahnsinnig gut. Da sind wir aber eher, glaube ich, im Bereich von so Digital Twins und wirklich hochkomplexen, spezialisierten Systemen, wo man sich wirklich noch ein bisschen klassischer eigentlich, wie klassisch in der Industrie, hinsetzt und überlegt, was ist denn die Lösung, die wir eigentlich brauchen und die dann auch baut und weniger im Bereich von, ach so, hier ist jetzt ein Modell, was enorm smart ist. Gucken wir mal, ob es das kann.
Ja, jetzt kommen ja große Themen auf uns zu in diesem Jahr oder ab diesem Jahr. Die kommunale Wärmeplanung und vor allem auch kommunale Kälteplanung. Du hast wahrscheinlich davon noch nie was gehört. Aber da geht es zum Beispiel darum, dass genügend Wasser zur Verfügung stellen und dass so Hitzeecken vermieden werden und überhaupt erst mal festgestellt werden.
Da kann ich mir auch einen ziemlich guten Anwendungsfall für KI vorstellen, weil es gibt zwar Ecken, die sind mal ein, zwei Tage im Jahr heiß, aber es gibt andere Ecken, auf die das Auswirkungen hat, die dann ihre Temperaturen zum Beispiel verändern?
Also wenn man in irgendeiner Form da Datenquellen hat, dann ist natürlich möglicherweise das wieder was, wo dieses Nadel-im-Heuhaufen-Problem ganz interessantes ist. Also wenn man schon weiß, es gibt einfach einen bestimmten, Der Richtwert, der darf nicht unterschritten werden und man hat den klassischerweise immer händisch überprüft. Ja, das können mittlerweile natürlich automatische Systeme, das können die aber auch schon eine Weile.
Also ich glaube für so klassische Anwendungen dieser Art, da haben wir gar nicht so große Revolutionen gesehen in den letzten paar Jahren, sondern die war dann wirklich mehr in den sogenannten Sprachmodellen, die ein bisschen schwerer überwachbar, aber dafür auch ein bisschen flexibler sind.
Was würdest du dir denn als Bürger wünschen im Kontakt mit der öffentlichen Verwaltung oder überhaupt mit Behörden, wo die am besten KI einsetzen können, was dir als Bürger was bringen würde?
Ich glaube, das sind ein paar Sachen. Also einmal habe ich oft das Gefühl, dass es eine ganze Menge Informationen gibt, die eigentlich da sind. Man kommt nur nicht an die ran. Und das ist was, das wird ja auch schon viel gemacht. Also es gibt viele Experimente mit so bürgernahen Chatbots und so weiter. Das Problem da ist wahrscheinlich eben auch, dass wenn jeder seinen eigenen Chatbot baut, dann funktionieren die auch alle ein bisschen anders.
Und jeder hat so ein bisschen seinen eigenen Zuständigkeitsbereich und am Ende ist möglicherweise die Situation auch noch, dass ich nicht weiß, an welchen Chatbot ich mich wenden muss und dann bin ich quasi wieder beim gleichen Problem vom Anfang. Also da bräuchte es wahrscheinlich wirklich entweder eine zentralisierte Lösung oder halt die Möglichkeit, dass ich vielleicht auch bei der falschen Behörde lande und die mir trotzdem Informationen gibt. Das fände ich jetzt auch nicht so verkehrt.
Aber eigentlich fände ich es vor allem schön, wenn es möglich ist oder wenn ich zumindest ein gewisses Vertrauen darin habe, dass tatsächlich auch die Verwaltung so funktioniert, wie sie funktionieren kann. Also, dass die Verwaltung genauso profitiert vom technischen Fortschritt wie, gut, die normale Wirtschaft tut sich in Deutschland auch manchmal schwer damit, aber wie eben viele, wie normale Unternehmen in Deutschland zumindest.
Also, wenn da was Neues kommt, was Leute entlasten kann, was Leute dazu bringen kann, dass sie vielleicht ihre Zeit wirklich mit den Dingen verbringen können, die sie gebraucht werden, weil es vielleicht besondere Fälle sind, besonders interessante Fälle, besonders Fälle, bei denen menschliches Urteilsvermögen relevant ist und weniger mit den Sachen, wo man sagt, gut.
Diese Haken setzen könnte eigentlich auch eine Maschine machen, wenn wir sicherstellen können, dass die tatsächlich auch am Ende entsprechend die Informationen so verarbeitet, wie sie es soll. Das fände ich natürlich sinnvoll.
Mir fällt auch noch ein ganz praktisches Beispiel ein, wenn ich in einer Stadt, ich spreche aber jetzt von größeren Städten wie Nürnberg, Augsburg, Berlin, große Städte, wenn ich nur noch eine einzige Stelle habe, wo Anträge überhaupt eingehen, egal ob analog, digital, meinetwegen auch per Fax, wo dann eine KI sich diese Anträge nimmt, klassifiziert, was drinsteht und das direkt an den richtigen Sachbearbeiter weitergibt oder vielleicht sogar ans richtige Fachverfahren,
um das in sogenannter Dunkelverarbeitung tatsächlich elektronische, chronisch zu bearbeiten, ohne dass noch mal jemand drauf schauen kann.
Ja, klar. Das wäre es. Und ich glaube auch, aktuell ist es ja schon so, ich hatte jetzt vor kurzem den Fall, dass ich meine PIN verloren für meinen E-Ausweis.
Glaube ich. Oh ja.
Es gab da Websites, wo stand, was ich tun soll, aber ich habe wirklich nicht verstanden, was von mir verlangt. Ich habe das gelesen und ich habe es nicht kapiert, was das soll. Und ich denke mir, gut, ich bin jetzt auch nicht unbedingt, ich will gar nicht wissen, wie das für jemand ist, dessen Muttersprache vielleicht nicht. Deutsch ist oder so. Also da ist man natürlich wirklich in einer völlig anderen Welt. Aber dann bin ich zum Schalter gegangen, habe das der Frau gesagt.
Die wusste sofort genau, worum es geht. Die konnte mir sofort weiterhelfen. Also da war die Information da. Sie war noch nicht verfügbar. Und das ist natürlich schon ein bisschen schade.
Da habe ich noch einen kleinen Hinweis. Es gibt die sogenannte D115. Das ist die Behördenrufnummer. Da wählt man einfach 115 auf seinem Handy oder jeglichem Telefon. Und dann wird man tatsächlich teilweise in Callcenter, teilweise zu Sachbearbeiter verbunden, die einem dann entsprechend mit Fragen beantworten. Die haben übrigens einen sehr, sehr großartigen Fragen- und Antworten-Katalog. Den würde ich auch sehr gerne als Basis oder als Datenbasis für eine KI sehen.
Das ist super. Über die habe ich sogar nachgedacht. Ich musste nur tatsächlich eh ins Bürgerbüro wegen was anderem.
Also im Bürgerbüro geht es ja innerhalb von zwei Minuten, hat man eine neue PIN. Ich weiß, wovon ich spreche, weil ich bei dem ganzen Thema seit Anfang an dabei bin, was Personalausweis angeht, seit es ihn überhaupt gibt. Und ich hatte neulich, hatte meine Frau ein ähnliches Bedürfnis, den Personalausweis mal zu verwenden. Und da habe ich erst mal realisiert, wie komplex und kompliziert teilweise überhaupt ist, den Ausweis einsetzen zu können.
Eine interessante Herausforderung ist da dann natürlich, wenn wir das auf jetzt wieder die KI beziehen, dass KI ist ja ein Sprachmodell, so wie GPT-4O oder wie DeepSeq oder wie Lama von Meta. Gibt es ganz viele verschiedene Sprachmodelle, aber die funktionieren alle ungefähr gleich. Die haben oft ein bisschen die Problematik, dass die natürlich nicht notwendigerweise. Trainiert sind auf Behördendeutsch, wo es ja schon sehr genau darauf ankommt, welches Wort man jetzt benutzt.
Also da gibt es ja möglicherweise dann doch Unterschiede zwischen eigentlich sehr ähnlich klingenden und irgendwie ähnlich angelegten Wörtern. Aber genauso wie ein Mensch das vielleicht auch durcheinander bringen kann, kann das hier auch passieren. Und das ist was, was mit klassischen Systemen eben auch nicht passiert. Eine klassische Datenbank sortiert unterschiedliche Wörter immer unterschiedlich ein. Das ist völlig normal.
Aber ein Ein LLM, ein Large Language Model, ein großes Sprachmodell, kann ähnliche Wörter clustern. Und das ist einerseits eben genau das, wo die ganze Innovation passiert. Das ist das, was auf einmal Dinge möglich macht, die vorher nicht gingen. Es kann aber natürlich zu Fehlern führen, wenn zum Beispiel bestimmte Wörter eben doch nicht so hinterlegt sind, wie sie eigentlich hinterlegt werden sollen.
Dass dann halt eine KI genauso durcheinander kommt bei verschiedenen Amtsbegriffen, wie das jetzt vielleicht ein durchschnittlicher Bürger auch machen würde. Und wenn man dann sagt, okay, man bietet diese KI jetzt dem Bürger zum Ausprobieren an, funktioniert es natürlich auch wieder nicht. Aber auch da gibt es Fortschritte. Also ich habe vor kurzem mal ein Experiment gemacht, da ging es um Übersetzung von Text, also Übersetzung von sehr fachlichem Text, wo die Aufgabe die war.
Dass sich die KI einen Text nehmen sollte und Fachbegriff aber auf eine bestimmte Art und Weise übersetzt. Also nicht einfach nur, was hier gerade in den Sinn kommt als mögliches deutsches Wort, sondern sie sollte wirklich nachschauen im Fachwörterbuch. Da ging es, glaube ich, um Luftfahrt oder so, also irgendwas sehr Technisches.
Und das hat super funktioniert. Also der hat wirklich jedes Mal nachgeguckt, okay, jetzt kommt das Wort Low-Medium-Drift und hat dann geguckt, was das jetzt genau bedeutet in dem Wörterbuch und auch entsprechend das Wort eingebaut. Also da gehen auch mittlerweile Sachen, eben weil wir auf einmal die Möglichkeit haben, diese Modelle selber auf so eine Art und Weise zu benutzen, wie wir das eigentlich wollen und nicht einfach nur den einen Button, wo wir einmal auf Übersetzen drücken.
Was ist deine Lieblings-KI, die du gerade benutzt?
Also tatsächlich, es gibt glaube ich zwei Antworten. Also Claude von Anthropic heißt das, es ist sehr gut, weil es so eine eigenartige Wärme hat, wie die ganz viele andere KIs nicht haben. Also Chat-Chip-ET ist ja schon sehr strikt und ein bisschen kühl, aber Claude redet, wenn man mit dem wie ein Mensch redet, wirklich wie ein Mensch. Das ist ein bisschen unheimlich, aber der kann dafür sehr gut schreiben. Und also seit kurzem, ChatGPT01 ist ein sehr interessantes Tool.
Also es gibt, ich habe ja schon gesagt, innerhalb von ChatGPT eigentlich verschiedene KIs. GPT40 ist so die normale. Das ist so das, was man benutzt als Durchschnittsperson. Das ist auch die, die es in der Gratisvariante gibt. Aber es gibt eben auch seit einer Weile O1. Das ist ein sogenanntes Reasoning-Modell. Der Begriff ist ein bisschen umstritten. Im Wesentlichen, was diese KI macht, ist, sie antwortet nicht einfach sofort.
Also sie fängt nicht einfach sofort an, wenn ich frage, wer ist der Podcast-Host Thorsten, dann fängt sie nicht einfach sofort an mit der Podcast-Host Thorsten, sondern sie geht in Anführungszeichen in sich und überlegt erst mal so. Also sie rechnet so ein bisschen hin und her und schaut, was wäre denn die richtige Methode, um dieses Problem zu lösen und kommt dann erst zurück.
Und das macht die Aufgaben in bestimmten Fällen und die sind dann sehr interessant, sehr viel besser und sehr viel verlässlicher, weil sie auf einmal in der Lage ist, sich selber zu hinterfragen, weil sie erstmal überlegen kann, okay, wie gehe ich dieses Problem an? Ich mache das vielleicht so, vielleicht so, vielleicht so und am Ende kommt tatsächlich was Sinnvolles dabei raus.
Ich habe das zum Beispiel neulich benutzt, um eine Dienstplanung zu machen, also wo es darum ging, man braucht bestimmte Leute und die haben alle bestimmte Verfügbarkeiten und der kann nur da und die kann nur da und wie kriegen wir das jetzt so zusammen, dass jeder trotzdem fünfmal eingeteilt ist. Das funktioniert fantastisch. Das funktioniert wahnsinnig gut.
Und da gibt es, glaube ich, ganz viele Aufgaben, wo man bisher einfach so agiert ist, dass man gesagt hat, so, jetzt geh mal bitte in den Raum da und komm in acht Stunden wieder raus und hab das ausgeknobelt. Und jetzt kann das auf einmal eine KI knobeln. Das ist schon spannend.
Ja, und das kann auch viel mehr. Ich habe da neulich ein Problem gehabt. Ich brauchte bestimmte Informationen von einer Webseite. Und die Webseite, da hätte ich mich irgendwie über 20, 30 Seiten nach unten klicken müssen. Und da habe ich einfach gesagt, ich brauche folgende Informationen von dieser Webseite in einer Tabelle aufbereitet und es einfach passiert.
Und dann hat mir das Modell sogar noch den Python-Code dafür ausgespuckt, sodass ich da quasi einen Crawler hätte auf meinem Rechner laufen lassen können, der das regelmäßig tut.
Ja, super.
Und da frage ich mich manchmal bei Dienstleistern, die mir dann eine Schnittstelle anbieten, die dann tausende von Euros kosten und ich habe das gleich einfach per Prompt gelöst gehabt.
Ja, das ist total schön. Also das passiert, glaube ich, jetzt immer wieder, dass man auf einmal merkt, ach so, ich kann einfach, ich habe einfach mal selber so ein Werkzeug in der Hand, womit ich einfach reden kann. Also wo ich jetzt nicht mich komplett einfuchsen muss, in wie genau dieses Problem funktioniert und wie genau die Datenbank funktioniert und mich möglicherweise für irgendeine Schnittstelle bewerben, sondern ich sage einfach der KI, okay, ich habe folgendes Problem, mach mal.
Und es funktioniert nicht immer, aber es funktioniert eben oft. Und wenn es funktioniert, dann fühlt sich das schon an wie so eine kleine Superkraft.
Es gibt ja das bayerische Unternehmen SumAI, das kennst du wahrscheinlich auch.
Ja, auf jeden Fall.
Die übersetzen ja Texte in leichte Sprache. Jetzt, wenn ich mir anschaue, was man so für Bescheide bekommt, also die Steuerbescheide sind inzwischen zum Glück so formuliert, dass man sie auch verstehen kann. Aber wenn ich jetzt nicht Muttersprachler bin, dann verstehe ich es nicht. Und Samae-Ei ist eine hervorragende KI, die genau solche Texte in eine verständliche Struktur übersetzen kann. In leichte Sprache und vor allem auch in einfache Sprache.
Also ich finde, entweder die Verwaltung bemüht sich, besser zu schreiben und besser verständlich zu schreiben. Oder setzen von vornherein solche KIs ein, dass die Bürgerinnen und Bürger solche Bescheide auch verstehen können.
Genau, und Samae-Ei ist glaube ich auch ein schönes Beispiel, weil das wieder zeigt, dass KI nicht gleich KI ist. Also da steckt auch eine ganze Menge Geisteswissenschaftsarbeit drin. Sprache eben wirklich so einzusetzen, dass wir Menschen sie verstehen, weil auf der einen Seite hat mein eigener Chatbot, den ich irgendwie für mich benutze, den Vorteil, dass ich den relativ frei,
anweisen kann, so zu agieren, wie ich das möchte. Aber er hat den Nachteil, dass er nicht wirklich versteht, wie wir Menschen denken. Also das merkt man, wenn man zum Beispiel mal zehn Witze in Chat-GPT einfügt und dann fragt, welches ist der lustigste. Kein Mensch der Welt wird auf die Idee kommen, dass dieser Witz der lustigste ist.
Also es gibt so gewisse Sachen, da funktioniert einfach das digitale Gehirn so vollkommen anders als das Menschliche und oft reicht es, also oft ist es völlig in Ordnung, weil ich muss vielleicht wirklich einfach nur wissen, okay, was bedeutet jetzt in diesem Satz, dieser Kontext dieser Satz so, dann langt das, aber gerade bei Themen wie leichter Sprache ist schon auch ein strukturierterer Ansatz glaube ich ganz sinnvoll und natürlich kann man den jetzt dank KI einfach
skalieren, also das ging ja früher nicht, das ist das Spannende.
Ja, vor allen Dingen zeigt das Beispiel Same-Eye auch, dass es KI nur Aho in Deutschland gibt und auch KI-Software, die in Deutschland hergestellt wird und erfolgreich funktioniert. Wir müssen nicht immer gucken, was da von Amerika oder China kommt vielleicht. Nochmal ganz allgemein zum Thema KI. Ich habe immer so ein bisschen Angst, wenn so Hype-Themen kommen. Überall auftauchen. Also du kannst dich vielleicht vor fünf Jahren erinnern an das Thema Blockchain.
Plötzlich musste alles mit Blockchain funktionieren. Ja, Blockchain ist eine coole Geschichte, aber ist nicht für alles notwendig anzuwenden. Und ich habe gerade auch so ein bisschen Angst, dass überall KI reingebaut wird, wo wir es vielleicht überhaupt gar nicht brauchen, wo vielleicht eine einfache Datenanalyse ausreichen würde oder eine einfache Mustererkennung ausreichen würde. Siehst du den Hype in echt, dass es nicht nur ein Hype ist, sondern dass das Thema wirklich ein großes Thema wird?
Oder siehst du eher so einen Hype?
Also es ist sicherlich beides. Es ist sicherlich ein gigantisches Thema. Und ich glaube, es ist das Technologiethema unserer Gegenwart und vermutlich auch der Zukunft so für alle absehbare Zeit. Das ja, aber trotzdem, auch das Auto war ein Riesenthema. Und trotzdem lösen wir heute nicht alle Probleme mit dem Auto. Sondern wir haben auch andere Wege oder das gleiche könnte man über das Feuer sagen oder was auch immer.
Und gerade sind wir natürlich vor allem deswegen, glaube ich, in einer gefährlichen Phase, weil das Wissen darum, wie diese Systeme eigentlich funktionieren, nicht nur nicht sehr verbreitet ist, sondern auch fast unmöglich ist, aktuell zu halten. Also es ist ja so, dass ständig was Neues passiert, ständig kommen neue Tools auf den Markt, ständig werden neue Benchmarks gerissen, also da passieren wirklich Sachen, das ist der absolute Wahnsinn.
Also ich habe wirklich auch in meiner eigenen Arbeit, wie ich arbeite, hat sich vollkommen transformiert in zwei Jahren. Also ich kann mir wirklich nicht mehr vorstellen, wenn man mir jetzt KI wegnehmen würde, das wäre wie mir die Tastatur wegzunehmen oder so. Also es geht nicht mehr ohne. Deswegen würde ich auf jeden Fall sagen, es ist nicht nur ein Hype. Das ist wirklich ein Thema, was unsere Wissensarbeit prägen wird für absehbare Zeit. Das ist das eine.
Das heißt aber natürlich nicht, dass alles, wo KI draufsteht, auch sinnvoll ist. Ich glaube, der beste Weg, da vorzugehen, ist tatsächlich, sich möglichst nah an der Technologie aufzuhalten. Und eben vielleicht auch nicht die Katze im Sack zu kaufen, nur weil irgendeine Dienstleiste ankommt und sagt, ich habe hier ein total tolles KI-Produkt, das löst alle eure Probleme.
Und wenn dann jemand aber in dem Team sitzt, der dafür verantwortlich ist, rauszufinden, ob wir das einsetzen sollten oder nicht, der sich ein bisschen auskennt mit der Technologie, dann sieht er vielleicht recht schnell, ah okay, alles, was die gemacht haben, war, die haben ein frei verfügbares Sprachmodell genommen, was irgendwer anders entwickelt hat, haben da so ein kleines Interface drumherum geklatscht.
Und vielleicht ein kleines Retrieval Augmented Generation System, muss man jetzt nicht kennen den Begriff, aber einfach ein kleines Programm, was ein bisschen hilft bei der Dokumentenanalyse und uns das gegeben und wollen dafür jetzt, was weiß ich wie viel Geld, das könnten wir uns auch selber bauen mit sehr viel geringerem Aufwand. Und so dieses Wissen ist, glaube ich, jetzt gerade das Interessante, dass wir eben bei der neuen Technologie.
Den Vorteil haben, gerade im Vergleich vielleicht zu sowas wie der Blockchain und Co., dass man viel leichter selber rankommt, dass man viel leichter selber die Ärmel hochkrempeln kann und einfach mal ausprobieren, einfach mal gucken, was kann das eigentlich, weil die beste KI kostet immer noch nicht sonderlich viel Geld.
Also ChatGPT kostet den Durchschnittsnutzer, der Geld dafür zahlt, nicht mal den Gratisnutzer, nur 20 Euro im Monat und dafür kriegt man wirklich eine fantastische KI, die man ausprobieren kann. Also es ist viel, viel leichter als mit praktisch allen anderen Innovationsthemen, die mir einfallen, Pilotprojekte zu starten, Hackathons zu machen, einfach mal auszuprobieren, was geht denn eigentlich.
Das geht mit wahnsinnig kleinen Ressourcen und man hat trotzdem viel darüber gelernt, wo die Technologie gerade ist, was sie kann und ist dann auch besser gewappnet, wenn das nächste Mal jemand ankommt und sagt, hier, ich habe euch alle Probleme gelöst, gebt mir mal bitte eine Million Euro dafür.
Was rätst du denn Menschen in der Verwaltung, die so ein bisschen Angst vor der KI haben? Was rätst du denn, was sie jetzt schon mal machen können, um sich das so ein bisschen näher zu bringen, das Thema?
Ja, das ist wahrscheinlich keine spannende Antwort, aber auch da gilt ein bisschen das Gleiche. Man muss das ausprobieren. Man muss einfach da rein. Und das Gute ist, das macht ja auch Spaß. Also ich kann mir auch im Urlaub, habe ich eigentlich ständig Chat-GPT oder Klot offen und fotografiere irgendeinen Drink ab und lass mir mal erklären, was für ein Drink wäre das bei uns. Gib mir mal ein paar Vergleichspunkte oder lass mir Verkehrsschilder analysieren.
Analysieren, vergleiche Hotels miteinander, ja, welches Hotel ist besser, soll ich lieber da rein, soll ich lieber da rein, gib mir mal Ideen, was ich hier oder da machen kann. Da hört man nicht auf mit. Also wenn man einmal anfängt damit, dann ist das wirklich wie, als man irgendwie mal angefangen hat, googeln zu lernen. Ach so, das geht ja, ich kann ja Informationen jetzt auch googeln. Ich musste ja nicht wissen, ich musste ja nicht händisch nachschlagen.
Und so ist es hier auch. Wir lernen, dass es da ein neues Medium gibt und das kann neue Sachen und das lernen wir vor allem dadurch, dass wir es einfach nutzen. Und der Vorteil dabei ist einfach, es macht Spaß. Also, googeln macht nicht so viel Spaß, wie ChatGPT benutzen, weil ChatGPT gibt mir, wenn ich möchte, das im Stil eines Vampirs aus dem 17. Jahrhundert, der Schluck auf hat und Google nicht. Also insofern ist das für mich ein klarer Win.
Das heißt, du empfiehlst ganz klar, probiert die Dinger aus, ladet euch ChatGPT runter, nutzt die KI-Modelle, die schon in euren Handys eingebaut sind, weil Google liefert da jetzt standardmäßig mit aus. Microsoft liefert auch 365, ihre KI mit aus. Also einfach nutzen, ausprobieren, vielleicht am Anfang ein bisschen skeptisch sein, was die Antworten angeht, aber dann üben.
Und das ist natürlich auch was, was sehr schnell, sag ich mal, Ängste, wenn man vielleicht welche hat, ein bisschen entschärft, weil, die sind auch noch teilweise ziemlich blöd. Also das gehört auch dazu. Also KI kann ganz viele Sachen total toll, aber dann, man braucht wirklich nicht lang, bis man da drin ist und auf einmal feststellt, ach so, also diese wirklich sehr einfache Aufgabe, da kommt der überhaupt nicht mit zurecht.
Und dann wird auch, glaube ich, recht schnell klar, dass was wir hier haben, wirklich Systeme sind, die oberflächlich uns sehr ähnlich sind. Also oberflächlich schließt sich das eben so ein bisschen, wie was ein Mensch schreiben würde. Aber je tiefer man da einsteigt, desto klarer werden die Unterschiede. Und diese Unterschiede sind auch die, wo sich die Arbeitswelt der Zukunft und die Aufgaben für Menschen in der Zukunft abspielen werden, weil die spielen
sich genau da ab, wo die KI eben schlechter ist als wir. Und das ist eine ganze Menge. Und das erkennt man jetzt schon deutlich besser, wenn man einfach auch privat ein bisschen damit zu tun hat.
Genau und mein Pro-Tipp hierzu ist, wenn ihr mal wieder eine Information auf der Webseite eines IT-Dienstleisters nicht findet, lasst das Chat-GPT für euch machen. Gregor, vielen Dank, dass du da warst. Vielen Dank, dass wir so viel gesprochen haben zum Thema KI und Möglichkeiten einzusetzen.
Ich glaube, es hat inzwischen jeder gemerkt hier im Podcast, man muss keine Angst davor haben, man muss es sich einfach mal trauen und dann gibt es total viele Möglichkeiten und vor allen Dingen auch, denkt darüber nach, wo kann euch KI unterstützen.
Zum Beispiel bei der Ausweispen, ich kümmere mich drum.
Okay, also vielen Dank fürs Zuhören und bis zum nächsten Mal.
Vielen Dank für die Einladung.