KI-Update Deep-Dive: Mission KI soll Vertrauen in Künstliche Intelligenz stärken - podcast episode cover

KI-Update Deep-Dive: Mission KI soll Vertrauen in Künstliche Intelligenz stärken

Jan 31, 202535 min
--:--
--:--
Listen in podcast apps:

Episode description

Heute beschäftigen wir uns mit der Mission KI. Das ist eine Initiative der Deutschen Akademie der Technikwissenschaft acatech. Mit dem Projekt soll die digitale Wettbewerbsfähigkeit in Deutschland gestärkt werden, zum Beispiel durch das Bereitstellen von Standards und Daten. Wie das konkret umgesetzt wird, darüber hat meine Kollegin Eva Maria Weiß mit den Projektleitern der Mission KI Simon Boffen und Peyman Khodabakhsh gesprochen. https://www.heise.de/thema/KI-Update https://pro.heise.de/ki/ https://www.heise.de/newsletter/anmeldung.html?id=ki-update https://www.heise.de/thema/Kuenstliche-Intelligenz https://the-decoder.de/ https://www.heiseplus.de/podcast https://www.ct.de/ki https://wahl.chat/

Transcript

Das KI-Update. Ein heiser Podcast. Mit redaktioneller Unterstützung von The Decoder. Hallo, ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende. Heute beschäftigen wir uns mit der Mission KI. Mit diesem Projekt soll die digitale Wettbewerbsfähigkeit in Deutschland gestärkt werden.

Wer dahinter steckt und wie dieses Ziel konkret erreicht werden soll, darüber hat meine Kollegin Eva-Maria Weiß vergangene Woche mit den Projektleitern der Mission KI, Payman Chodabatsch und Simon Boffen gesprochen. Die Mission KI ist eine nationale Initiative für künstliche Intelligenz. Das klingt immer so schön. Und sie wird gefördert mit 32 Millionen Euro vom Bundesministerium für Digitales und Verkehr.

Das ist eine Menge Geld und das ist ein spannendes Thema im Moment. Und deshalb freue ich mich heute mit Simon Boffen und Payman. darüber zu sprechen, wofür wird dieses Geld eingesetzt, was macht die Mission KI, was ist die Absicht dahinter? Vielleicht können Sie beide sich kurz vorstellen, sagen, was Ihre Aufgabe ist und was... hinter der Mission KI steckt. Vielen Dank, Frau Weiß. Peyman Chodobasch ist mein Name, Projektleitung der Mission KI seitens Arcatec.

Wie Sie kurz beschrieben haben, also die nationale Initiative für künstliche Intelligenz und Datenökonomie ist der Name unserer Initiative, ein Projekt unter Leitung der Arcatec in Zusammenarbeit mit DFKI. durch das Zentrum für künstliche Intelligenz Kaiserslautern gefordert, in Höhe von 32 Millionen Euro vom BMBV.

Bundesministerium für Digitales und Verkehr. Die Mission KI ist ein Hebelprojekt der digitalen Strategie der Bundesregierung mit dem Hauptziel, die digitale Wettbewerbsfähigkeit zu stärken. Und um dieses Ziel zu erreichen, setzen wir den Fokus auf drei Hauptthemen. Wir bezeichnen die auch als Säulen bei uns in der Initiative. In Säule 1 wollen wir die Datenbasis für KI-Innovation erweitern und dazu Datenräume über Sektoren und Ländergrenzen hinweg vernetzen.

In unserer zweiten Säule wollen wir die Entwicklung vertrauenswürdiger Karrieren stärken und erarbeiten wir dafür einen freiwilligen Qualitätsstandard für vertrauenswürdige Karrierenanwendungen. von einer Seite anschlussfähig an die europäische KI-Verordnung ist und andererseits auf deutschen und europäischen Werten basiert. Darüber hinaus in unsere zweite Säule. Und im Rahmen von KI-Innovations- und Qualitätszentren, abgekurzt IQZ, stellen wir...

Eine Anlaufstelle für Gründerinnen, Startups und KMUs zur Verfügung von einer Seite, aber auch ein Erlebnisraum für die breite Öffentlichkeit und die Zivilgesellschaft. Dritte Säule, wollen wir das Wachstum von KI-Innovation unterstützen und dazu entwickeln wir auch unterschiedliche Instrumente. zur Stärkung des Transfers und auch der Eskalierung von KI-Anwendungen in der wirtschaftlichen Wertschöpfung. Das ist zusammengefasst die Hauptthemen, die Säulen bei uns in der Initiative.

Und was auch super wichtig für uns ist, dass bei allem verfolgen wir auch einen kooperativen Ansatz. Es gibt schon viele gute Ansätze, Projekte und Initiativen. zu diesen Themen in Deutschland, in Europa und diese berücksichtigen wir auch natürlich in der Entwicklung unserer Maßnahmen und versuchen womöglich und weit wie möglich auf bereits bestehende

aufzubauen. Daher kooperieren wir auch mit unterschiedlichen Organisationen, Forschungseinrichtungen, Initiativen, Startups und Unternehmen in die Umsetzung der Mission KI. Das klingt immer erst mal so sehr technisch oder ich finde es immer sehr schwer greifbar, solche Projekte und so übergeordnete Ansätze. Deshalb dachte ich, vielleicht können wir diese drei Säulen, die Sie ja gerade schon genannt haben, einfach mal so ein bisschen...

quasi abarbeiten nacheinander. Die erste Säule ist diese Datenbasis, die geschaffen werden soll. Um welche Daten geht es denn da? Geht es da um... Meine Daten, die ich irgendwo hinterlasse, wo kommen die her, wie sollen die gesammelt werden, was ist damit konkret gemeint? Also ich würde erstmal anfangen mit dem Thema, dass wir immer sagen, dass es für die wertvolle KI-Anwendungen brauchen wir viele Daten. Also für Trainingswecke, aber auch für die Entwicklung der KI-Anwendungen.

Es geht aber nicht nur um viele Daten, sondern qualitativ hochwertige Daten. Es gibt verschiedene Möglichkeiten, Daten für unterschiedliche Zwecke bereitzustellen und eine davon sind die Datenräume. Die sind sichere und souveräne Marktplätze, auf denen Teilnehmerinnen und Teilnehmer, also auch zum Beispiel kleine und große Unternehmen aus bestimmten Sektoren,

Daten in eine souveräne und sichere, datenschutzkonforme Art und Weise austauschen können. Und hierzu gibt es ein gutes Beispiel in Deutschland, also Datenraummobilität. Mit denen arbeiten wir auch sehr eng und hierzu, dass das eine wichtige Thema ist auch das Thema Gewährleistung der Daten. Das ist auch eine Merkmale für die Datenräume. Dabei bleibt der Datenprovider jederzeit der Eigentum der Daten und kann selbstständig entscheiden.

ob und mit wem er in den Datenaustausch tritt. Und das ist auch der Fokus bei uns in der Mission Kai. Was wir machen wollen, ist, dass wir die Interoperabilität der Datenräume verbessern wollen und Daten irgendwie besser nutzbar zu machen und die Datenqualität insgesamt zu erholen. Wenn ich ganz kurz einmal nochmal nachfrage, dieser Datenraummobilität, wer ist da der Provider, wer kann da zugreifen?

Welche Daten sind das? Kann man das noch ein bisschen genauer erklären? Datenraummobilität, wie man von diesen Namen erfüllt, es geht um den Mobilitätssektor. Das ist auch ein Projekt gefordert von BMDV, was passt auch von Arcatec. geleitet wird. Es geht hauptsächlich um die Mobilitätssektor und da befinden sich über 100 Organisationen, Institutionen und Unternehmen, die im Bereich Mobilität unterwegs sind.

sind auch interessiert an einem souveränen und sicheren dortenschutzgemäßen Dortenaustausch. Aber Simon, du kannst auch jederzeit einsteigen. Ja, gerne. Ich kann vielleicht nur ganz kurz ergänzen. Payment, du hast das ja schon sehr gut beschrieben. Ich bin übrigens der Stellvertreter von Payment, stellvertretender Leiter der Mission KI seitens der ACATEG.

Wie Perminess beschrieben hat, Datenräume stellen also eine Möglichkeit dar, Daten miteinander zu teilen, Datensouveränität dabei zu wahren, entstehen aber primär innerhalb von Sektoren. Der Datenraummobilität als Beispiel steht grundsätzlich allen Unternehmen mal offen.

dieses Datenraums zu werden, unternehmen müssen, wenn sie dann aber Teilnehmer eines Datenraums werden, sich auch auf die verschiedenen Regeln, auf die sich Datenräume eben als Ökosysteme einigen und hier auch so ein bisschen den Rahmen bilden, um diesen sicheren, souveränen Datenaustausch dann zu ermöglichen.

Auf diese Regeln müssen sich dann auch Akteure, die eben Interesse haben, dort einzutreten und auch am Datenaustausch teilzunehmen, ebenfalls darauf einlassen sozusagen. Aber grundsätzlich stehen diese Datenräume erstmal allen Akteuren, die eben an dem... Datenaustauschinteresse haben, offen. Das heißt auch im Datenraum Mobilität. Ja, es sind Primärunternehmen aus dem Mobilitätsbereich, aber man findet zum Beispiel auch Versicherungsunternehmen, die Interesse daran haben.

Daten beispielsweise von Automobilherstellern über die Fahrweisen verschiedener Fahrzeuge zu bekommen, um darauf basierend zum Beispiel individualisierte Versicherungspolizen anbieten zu können. Das sind also Use Cases, die in diesen Datenräumen dann umgesetzt werden und die so ein bisschen auch zeigen, dass das Potenzial, gerade wenn Zwischensektoren

Daten geteilt werden, immens ist und das ist, wie gesagt, wie Pemmen auch schon beschrieben hat, bei uns der Fokus, also die Interoperabilität zwischen diesen Datenräumen, die eben innerhalb von Sektoren vor allem entstehen, zu stärken, sie praktikabler. zu machen, um dann mit dem Ziel über die Sektorengrenzen hinweg die Datenverfügbarkeit auch für die Entwicklung von KI-Anwendungen zu stärken.

Wir sprechen ja später auch noch drüber, dass Innovationen und Startups gefördert werden sollen. Wenn ich mir jetzt vorstelle, ich bin ein Gründer und möchte im Bereich Mobilität und KI etwas machen, dann könnte ich da also jetzt eintreten und sagen, hey, das ist meine Idee, kann ich bitte auf diese Daten zugreifen? Genau. Und das wäre genau so ein Anwendungsfall, der dann eintreten würde. Man kann je nach Datenraum, ich glaube beim Mobility Dataspace,

Ist es möglich, auch auf der Website oft einsehen, was es denn da für Datensätze gibt? Auch wir verfolgen ein Projekt, die Landingpage an der Stelle, die eben erleichtern soll, im ersten Schritt überhaupt herauszufinden, okay, wer hat denn möglicherweise Daten, an denen ich Interesse habe, aber das wäre genau ein Beispiel. dann kann das Startup eben Teilnehmer dieses Datenraumsmobilitäts werden.

dann auf Akteure dort zugehen, die diese Daten anbieten, an denen der Akteur Interesse hat und dann sich mit diesem Anbieter auch darauf einigen, unter welchen Konditionen, das heißt für welche Zwecke, vielleicht für welche Kosten der Datenaustausch dann stattfinden kann. Und die Daten, da drin kommen genau woher, ist das zum Beispiel, also einfach wirklich, um ganz konkret zu werden.

Von öffentlichen Verkehrsmitteln werden da Daten bereitgestellt oder aus meinem Auto vielleicht sogar. Kann ich meine Daten spenden, wenn ich das möchte? Wie werden die gesammelt? Also im Datenraum Mobilität sind primär Unternehmen aktiv. Das heißt, dort sind die Datengeber am Ende des Tages die Unternehmen, die Teilnehmer in diesem Datenraum sind. Das sind zum Beispiel Automobilhersteller. Das ist aber an der Stelle auch die öffentliche Hand.

Die Mobilität, also eine Datenbank sozusagen für öffentliche Mobilitätsdaten, ist angeschlossen an den Datenraum. Mobilität, das heißt auch die öffentliche Hand an der Stelle oder fungiert an der Stelle als Datengeber. Man hat natürlich immer, auch im Kontext der Datenschutzgründe,

als Individuum in Abhängigkeit der Vertragsbeziehungen, die man hat mit verschiedenen Organisationen, die Möglichkeit einzuschränken, was mit den Daten, die personenbezogen sind, gemacht werden darf. Das hängt am Ende des Tages immer von den einzelnen Unternehmen ab. die mit ihren Kunden da agieren und zusammenarbeiten, aber am Ende des Tages sind die Datenanbieter in den Datenräumen die Organisationen, die da eben teilnehmen.

Unsere Leser und Hörer sind ja immer sehr interessiert auch am Thema Datenschutz. Jetzt haben sie es gerade angesprochen. Also das wird dann ganz unterschiedlich sein, was für Daten das sind. Lässt sich da grundsätzlich was auf einzelne Personen zurückführen oder ist das sowieso ein Datensatz, der da, ja, fair und weg von ist? Also das ist auch ein super wichtiges Thema und teilweise ein Grund.

Unter anderem, warum viele Organisationen und Unternehmen auch vorsichtig mit dem Teilen von Daten umgehen. Datenräume mit der Gewährleistung der Datenhoheit für Teilnehmerinnen und Teilnehmer auch ein wichtiger Ansatz sind. Das heißt also, alles, was passiert, von Daten ausgetauscht wird, muss datenschutzkonform sein. Und was wir zum Beispiel hier in der Mission KI gemacht haben, das ist auch eine unserer Maßnahmen in unserer ersten Säule.

Gemeinsam mit einem Startup-Norm zu sein, haben wir zum Thema Compliance und Rechtskonformität ein KI-gesteuertes Anwendung entwickelt, um die Datenschutzkonformität bei der Datenaustausch zwischen Aktoren in einem Datenraum in Echtzeit zu überwachen und wenn irgendwas schiefläuft, dass die Teilnehmerinnen auch eine Meldung dazu bekommen. Kommen wir vielleicht schon mal zur zweiten Säule. Qualitätsstandards, die entwickelt werden sollen. Was sind diese Qualitätsstandards?

Betrifft das? Wir haben ja auch den AI Act und damit einhergehen ja auch tatsächlich schon Qualitätsstandards, die da gesetzt werden müssen. Wo greift da die Mission KI? Genau. Also übergreifendes Ziel bei uns in der Säule 2 ist es ja, die Entwicklung vertrauenswürdiger KI zu stärken. Und Sie haben es schon gesagt, da setzt auf europäischer Ebene die KI-Verordnung grundsätzlich mal den regulatorischen Rahmen, verfolgt aber einen Risiko.

Das heißt, die KI-Verordnung schreibt gewisse Anforderungen, Anwendungen vor, die ein gewisses Risiko tragen. Gerade für Hochrisiko-Anwendungen schreibt sie relativ strenge Anforderungen vor, kann man sagen, sie verbietet ja auch. gewisse Anwendungen komplett, zum Beispiel im Bereich Social Scoring.

Gleichzeitig lässt sie aber auch viel Flexibilität für Anwendungen, die eben unterhalb dieser Hochrisikoschwelle anzusiedeln sind. Und auch da verbergen sich viele spannende Anwendungen, die auch im wirtschaftlichen Kontext eingesetzt werden. Das sind zum Beispiel Chatbots, das sind zum Beispiel...

KI-basierte Übersetzungsangebote. Das sind viele Anwendungsbeispiele im Bereich Prozessoptimierung, den Lieferketten, den Lagerbestandsoptimierungen etc. etc. Also man merkt, ein großer Anteil von Anwendungen ist gar nicht von der KI-Verordnung im Kontext der Anforderungen, die sie an die Hochrisikoanwendungen stellt, erfasst.

Gleichzeitig gibt es ja auch für diese Anwendungsbeispiele den Anspruch, dass man dort eine gewisse Qualität ermöglicht. Und wir möchten mit unserem freiwilligen Qualitätsstandort für das vertrauenswürdige KI genau

diesen Anwendungen ein Angebot machen, also eine freiwillige Möglichkeit bieten, nachzuweisen, dass diese Anwendungen eine gewisse Qualität mit sich bringen und dass sich Betreiber und die Unternehmen, die diese Anwendungen einsetzen möchten, auch darauf verlassen können, dass sie sich und eben eine hohe Qualität haben. Ist da auch geplant, sowas wie ein Siegel einzuführen, ein Mission-KI-Siegel, das ist vertrauenswürdig oder geprüft?

Also Fokus bei uns in der Initiative auch als vorwettbewerbliches Vorhaben ist es an der Stelle, diesen Standard zu entwickeln. Das heißt, auf der einen Seite inhaltlich die Fragestellung. zu definieren, was ist für uns eigentlich KI-Qualität und da basieren wir uns in der Mission KI.

In der Erarbeitung des Qualitätsstandards natürlich einerseits auf den bereits, ich glaube 2019 war es, von hochrangigen Expertengruppen auf europäischer Ebene entwickelten Kriterien für Vertrauensmethodologie. Also da wurde schon frühzeitig in einem breiten Stakeholder-Dialog sich die Frage gestellt.

Was ist eigentlich vertrauenswürdige KI? Woran kann ich es festmachen? Und diese Kriterien, die sind einerseits auch die Grundlage so ein bisschen für die europäische KI-Verordnung und sind sie auch bei uns in der Initiative die Grundlage für unseren Qualitätsstandard. Wir haben basierend auf... diesen Kriterien sechs verschiedene Qualitätsdimensionen definiert, an denen wir eben KI-Qualität festmachen, aber übersetzen diese

doch eher abstrakten Qualitätsdimensionen auch in konkrete Prüfverfahren und Prüfmethoden, um eben die Überprüfung der Standards auch zu ermöglichen. Das ist eine große Herausforderung, von denen Unternehmen auch stehen, wenn es darum geht, wie kann ich eigentlich beispielsweise die Transparenz

oder die Nichtdiskriminierung eines KI-Systems wirklich nachzuweisen. Und genau daran arbeiten wir auch bei uns in diesem Vorhaben. Da arbeiten wir auch nicht alleine dran, sondern haben uns da zusammengetan mit einer großen Partnerschaft aus führenden Prüf- und Normungsorganisationen, PwC, unterstützt uns in diesem Vorhaben stark der VDE, das TÜV AI Lab.

unterstützt uns hier Certify als Joint Venture von PwC und DEKRA an der Stelle, der AI Quality und Testing Hub und Fraunhofer EIS. Also wir arbeiten da wirklich mit. vielen Unternehmen zusammen, die sehr, sehr viel Expertise und Kompetenz genau in diesem Themenbereich haben und diesen freiwilligen Standard als Angebot, als freiwilliges Angebot. Also die... Es wird erarbeitet, wie man prüfen kann, aber die tatsächliche Prüfung würde dann wieder woanders stattfinden.

Genau, das ist so ein bisschen auch noch eine Fragestellung, an der wir verstärkt dieses Jahr arbeiten. Wir haben eine erste Version des Qualitätsstandards letztes Jahr auf dem Digitalgipfel im Oktober vorgestellt, da auch sehr viel positiver Resonanz erhalten. Dieses Jahr geht es uns einerseits darum, diesen Standort...

auch nochmal an echten Anwendungsfällen zu erproben. Praxistauglichkeit ist uns hier sehr, sehr wichtig, damit dieser Standard als freiwilliges Angebot von Unternehmen auch angewandt wird, muss er natürlich auch praxistauglich und machbar sein. Genau das ist der Fokus.

sozusagen einerseits dieses Jahr. Eine andere Fragestellung, an der wir dieses Jahr auch noch versteckt arbeiten, ist eben genau auch im Kontext der hohen Dynamik, die man aktuell im Bereich KI-Standardisierung erlebt. Und Sie haben so ein bisschen auch die KI-Verordnung vorhin angesprochen, wo ja auch für die Hochrisikoanwendung Und da gucken wir natürlich dieses Jahr, wie kann sich unser Standard da eben auch anschlussfähig einsortieren.

Und diese Prüfung, Sie hatten eben schon so ein paar Beispiele genannt. Ich komme da einmal noch kurz darauf zurück. Also es geht zum Beispiel um Chatbots, die Unternehmen einsetzen für... Also für interne Nutzung, aber auch zum Beispiel für die Kommunikation mit Kunden. Um was geht es da noch? Was wären noch so konkrete Beispiele, was man prüfen könnte?

Genau, also grundsätzlich ist es ein Angebot für KI-Anbieter, also für Unternehmen, die selber KI-Anwendungen entwickeln. Die können mit unserem Standard die Qualität dieser Anwendungen überprüfen und auch zum Grad nachweisbar machen und damit natürlich auch einen Wettbewerbsvorteil.

dann am Markt generieren und grundsätzlich steht unser Standard allen Unternehmen offen. Also jedes Unternehmen, das eine KI-Anwendung entwickelt und auch die Anwendbarkeit unseres Standards gibt es her, kann unseren Standard anwenden.

Und das ist so ein bisschen auch bei uns Teil des Prüfprozesses, guckt im ersten Schritt immer nämlich genau, was ist eigentlich der eigentliche Anwendungskontext dieses KI-Systems, weil der Anwendungskontext natürlich dann auch vorgibt, wie wichtig ist eine gewisse Qualitätsdimension.

Eine KI-Anwendung zum Beispiel im Bereich Lagerbestandsoptimierung, da ist das Thema Nichtdiskriminierung möglicherweise weniger relevant, weil keine personengruppenbezogenen Daten dort verwendet werden. Das kann bei einem KI-System im Bereich Wissensmanagement oder im Bereich Dokumentenanalyse anders sein, wenn dort Informationen, die auch einen gewissen Personenbezug haben, eben

Also da unterscheidet man so ein bisschen im Kontext der Anwendung, wie sich der Qualitätsstandard dann so ein bisschen justiert ist, also immer im Anwendungskontext zu betrachten, steht aber grundsätzlich deswegen allen KI-Anbietern offen, die eine KI-Anwendung anbieten möchten.

Also richtet sich tatsächlich eigentlich eher an Unternehmen, die quasi so eine Art... eine Zwischenrolle einnehmen, also die selber Anbieter sind, aber die meisten Unternehmen werden ja nicht KI-Modelle selbst entwickeln, sondern diese dann nutzen und dann weitergeben.

Genau. Und für die Betreiber führt es dann eben dazu, also genau diejenigen Unternehmen, die die Karriereanwendungen nutzen möchten, dass sie einfach am Markt mehr Transparenz haben, weil sie eben sehen können, aha, die Anwendung, weiß ich nicht, der Chatbot beispielsweise, an dem ich Interesse habe vom Unternehmen. XY, der hat den Qualitätsstandard angewandt, da kann ich mich drauf verlassen, dass wenn ich diesen

Chatbot bei mir im Unternehmen einsetze, dass ich da mit einer hohen Qualität rechnen kann. Gleichzeitig führt das natürlich auch dazu, dass am Ende der Endnutzer, die Endnutzerin, also diejenigen Personen in den Unternehmen, die mit diesen Anwendungen arbeiten, höheres Vertrauen in die Technologie haben werden.

Aber KI ist ja immer auch ein bisschen schwierig, also generative KI zum Beispiel. Und wie viel man auch immer prüft oder reingibt, das passieren ja auch immer Missgeschicke, nenne ich es mal. KI halluziniert, KI macht Quatsch manchmal einfach. Das kann man ja gar nicht so richtig prüfen. Also wie weit reicht denn diese Prüfung? Ich stelle mir jetzt vor, also ich...

kaufe mir quasi als Dienstleistung einen Chatbot, wenn wir bei dem Beispiel bleiben. Ich glaube, das trifft ja auch sehr viele Unternehmen im Moment, dass sie sowas gerne haben möchten und dann heißt es zuerst, naja. Da kommt kein Quatsch bei raus. Wir haben daran gearbeitet, dass da auch kein besonderer Bias drinsteckt oder ähnliches. Es ist ja nicht zu garantieren, dass dann nicht trotzdem ein halbes Jahr später auf einmal Sätze rauskommen, die ganz deutlichen Bias haben.

Also wie weit reicht denn diese Prüfung oder diese Zusage oder wie sehr bleibt man denn da offen in so einem, naja, Sie wissen schon, das Restrisiko bei KI besteht halt immer. Genau, das ist ja so ein bisschen auch inhärent in der Technologie aktuell, wie sie entwickelt und verfügbar ist. Man kann trotzdem durch verschiedene Metriken und Tests, also beispielsweise die Robustheit eines KI-Systems, schon prüfen. Das ist dann so ein bisschen die Fragestellung.

Wie groß ist das Risiko, dass zum Beispiel Halluzinationen auftreten? Man kann das minimieren. Man kann auch über technische Testverfahren teilweise überprüfen, auch mit Testdatensätzen dann eben, wie schnell oder wie langsam. gemeinsam hallizioniert ein KI-System, wie groß ist die Gefahr dafür, man kann es nicht komplett auslösen, das ist völlig richtig, ich glaube, das ist so ein bisschen Konsequenz einfach der Technologie aktuell und wird

vermutlich eine wirklich substanzielle Weiterentwicklung von KI-Technologien erfordern, um da Halluzinationen komplett ausschließen zu können. Dann gibt es die dritte Säule, KI-Innovation. unterstützen. Vielleicht können Sie da eine Einschätzung geben, wo stehen wir denn überhaupt in Deutschland?

Wir sind in Deutschland im Bereich KI eigentlich ganz gut unterwegs, kann man sagen. Das ist auf der einen Seite, und das hat uns auch letztes Jahr die OECD nochmal in einem längeren Bericht bestätigt, die sehr, sehr starke Basis im Bereich der Grundlagen- und Anwendungsforschung in Deutschland. Da sind wir weltweit mit. Aber auch mittlerweile, was die Anwendung von KI in der Wirtschaft angeht. Bitkom hat, glaube ich, im Oktober letzten Jahres da nochmal eine Studie.

veröffentlicht, die gezeigt hat, dass die Wirtschaft wirklich verstärkt KI einsetzt und auch die Ambitionen, also die Investitionen, geplanten Investitionen in KI sehr stark steigen. Auch in der Startup-Szene haben wir eine große Dynamik. Ich glaube, die Wachstumsrate von KI-Startups

23 auf 2024 lag etwa bei 30, 35 Prozent. Wir haben also auch da eine sehr hohe Dynamik. Also in Summe sind wir eigentlich sehr gut aufgestellt. Natürlich gibt es Bereiche, wo wir noch besser werden können. Und das ist bei uns auch der Fokus in der Säule 3. zu leisten, um, wie Sie sagen, das Wachstum von KI-Innovation zu stärken.

Da verfolgen wir wiederum auch zwei Maßnahmen, die so ein bisschen zwei Schwerpunkte adressieren. Das ist auf der einen Seite ein Gründungsprogramm des AI Founders Fellowship, das wir Ende letzten Jahres gestartet haben. Die Bewerbungsphase lief da bis Mitte Dezember noch, wo sich quasi PhDs, also Studierende, aber auch Postdocs, die im Bereich KI eine spannende...

Idee verfolgen, sich bewerben können und bei uns Teil des Programms gewesen, wo sie dann Unterstützung erfahren, sowohl finanzieller Natur, aber eben auch im Bereich Coaching und Mentoring. Wir arbeiten da mit Venture-Developern zusammen, wir machen auch Investoren-Pitches. Also bieten sozusagen eine Art Rundum-Programm an, mit dem wir die Fellows, wie wir sie dann nennen, dabei unterstützen, ihre Idee auch in ein Gründungsvorhaben zu überführen. Das ist eine.

Große Maßnahme, die jetzt, wir sind gerade in der Auswahl der Bewerberinnen, dann ab Februar laufen wird, bis Oktober diesen Jahres. Und da eben einen Beitrag leistet, den Transfer aus der Forschung in die Anwendung nochmal weiter zu stärken. Ein zweites Thema, das wir bei uns in der Säule 3 umsetzen, sind Matchmaking-Formate, wo wir mittelständische Unternehmen mit KI-Startups vernetzen möchten.

Wissentlich, dass der deutsche Mittelstand ja eine sehr, sehr starke Innovationskraft mit sich bringt. Der deutsche Mittelstand stellt, glaube ich, und das ist eine Studie, die jetzt schon einige Jahre her ist. aber gezeigt, dass der deutsche Mittelstand weltweit, ich glaube, über die Hälfte aller Hidden Champions, also aller Unternehmen, die einen sehr, sehr hohen Marktanteil in einer gewissen Nische haben.

genießen stellt. Also da ist die Innovationskraft einfach super stark. Die allermeisten Unternehmen in Deutschland sind mittelständische Unternehmen. Gleichzeitig sieht man auch, dass je kleiner das Unternehmen ist, desto weniger Berührungspunkte hat es bisher mit KI gehabt.

und genau da möchten wir eben reingehen und diese Unternehmen mit Startups damit Startups eben auch Zugang zu neuen Kunden haben, damit sie ihre Produkte auch in Unternehmen bringen können und damit eben diese mittelständischen Unternehmen gleichzeitig auch Zugang zu Innovationen haben und verstehen können, wie kann ich in meinem Anwendungskontext eigentlich eine KI lösen. Wie kann ich mich denn da bewerben? Wir haben gerade gesagt, dass es eine Bewerbung gibt jetzt bis Februar.

Genau, also das Fellowship-Programm, die Bewerbungsphase lief bis Mitte Dezember. Wir haben auch viele Bewerbungen erhalten, sind gerade in der Auswahlphase an der Stelle und starten das Programm dann jetzt im Februar. Also da werden dann die ersten Fellows die Förderung erhalten. Programm eben starten.

Was sind das denn für Startups? Kann man da vielleicht schon was sagen oder verraten wir dann, wer die Förderung bekommt? Genau, wir werden dann, wenn wir die Auswahl getroffen haben, natürlich auch nochmal kommunizieren, was das für Gründungsideen sind, die wir da unterstützen. Super. Und dann gibt es demnächst in Berlin, das hatten Sie ganz am Anfang auch schon erzählt, ein KI-Zentrum.

Was passiert da? Das soll der breiten Öffentlichkeit offen stehen. Wenn ich da jetzt hingehen möchte, was erwartet mich? Ja, also vielleicht nicht nur in Berlin, sondern auch in Kaiserslautern. Also insgesamt haben wir zwei Zentren, die wir entweder aufgebaut haben oder mit dem Aufbau zurzeit beschäftigt sind. Das Zentrum in Kaiserslautern, also IQZ Kaiserslautern am DFGA Kaiserslautern haben wir bereits im Juli 2024 geöffnet mit dem Ziel.

dass wir die Unternehmen, vor allem kleinere Unternehmen, mittelständige Unternehmen, Startups unterstützen, rund um Themen KI-Qualität und Prüfung. Die Unternehmen bekommen ein umfassendes Beratungsangebot. um mögliche Risiken von KI frühzeitig einzuschätzen, aber auch regelmäßige Workshops mit dem Ziel, dass wir die regionale KI-Community zu stärken. Das einmal zum Thema EQZ in Kaiserslautern. Am 28. Januar wird aber Herr Bundesminister Dr. Wissing das IQZ in Berlin

im Deutschen Technikmuseum eröffnen. Unser Ziel mit IQZ in Berlin ist, dass wir Vertrauen in die Technologie, in KI weiter zu stärken. Also es gab bereits eine Studie von Bitkom im Oktober 2024. Rund um 74 Prozent sehen KI als eine Chance und nur 24 Prozent als Risiko. Wir wollen weitermachen, wir wollen darauf bauen, wir wollen die Zahlen verbessern. Und das ist eigentlich der Fokus bei uns in EQZ Berlin, dass wir einen Erlebnisraum zum Thema künstliche Intelligenz.

Interessierte jeden Alters, erfahren also, wie die Technologie funktioniert und wie... ihre Vertrauenswürdigkeit sichergestellt werden kann und welcher Beitrag die Mission KI bisher dazu geleistet hat. Also als Beispiel, und da arbeiten wir auch sehr eng mit. unterschiedliche Unternehmen und Exponaten werden da bereitgestellt. Ein Beispiel ist KI-basierte frühzeitige Hautkrebserkennung, also SkinDoc-App, was von DFKI.

entwickelt wurde und diese App vergleicht Lebeflecken mit Datenbank und weist auf Auffälligkeiten hin, die untersucht werden sollen. Nur als Beispiel wie man sich da die Ausstellung vorstellen. Also generell unsere Leistungen im IQZ sind von einer Seite erleben und ausprobieren. Anwendungen aus unterschiedlichen Lebensbereichen werden da bereitgestellt, die auch teilweise interaktiv sind. Und diese Anwendungen, diese Exponaten werden wir auch fortlaufend aktualisieren.

Ein zweiter Komponent von unserer IQZ in Berlin ist das Thema Verstehen und Lernen. Da die Ausstellung zeigt, wie die Technologie funktioniert und wie wir sie sicher, verlässig und vertrauenswürdig nutzen und gestalten können, organisieren wir da. Führungen und unsere Explainers passen die Führungen auch dabei individuell an, Vorkenntnisse und Interessen der Gäste an.

Ein dritter Komponent ist das Thema Vernetzen und Austauschen. Organisieren wir da Fachvorträgen, Workshops, Diskussionsveranstaltungen. um einen Raum für Dialog rund um das Thema vertrauenswürdige KI zu schaffen und darüber hinaus auch entwickeln und prüfen. Also wir stehen auf Beratungsangebote. Wir unterstützen Unternehmen und Startups bei der Entwicklung und dem Einsatz von vertrauenswutiger KI. Und was auch super wichtig ist zu erwähnen, dass unsere EQZ in Berlin ist kostenfrei.

Und wie gesagt, wird am 28.01. eröffnet und nach der Eröffnung können ab dem 1.2.2025 die Führungen über unsere Mission-KI-Webseite gebucht werden. Das heißt, da geht es nicht nur um die aktuell vielgehypte generative KI, sondern wirklich alle KI-Anwendungen, die es so gibt. Finde ich sehr spannend, dass es, weil das immer so gerne vermengt wird oder im Moment nur von generativer KI gesprochen wird.

Ich würde gerne noch abschließend tatsächlich auch über den Hype quasi sprechen, nämlich es ist ja auf jeden Fall ein Hype, den wir gerade alle erleben und es wird ja wahrscheinlich nicht in der Form. stehen bleiben. Sie fördern Startups, haben ganz viel mit Startups zu tun und mit dem, was gerade passiert, was es an Innovationen gibt. Was glauben Sie denn,

Was oder wie viel wird sich durchsetzen? Wird KI uns überall weiterhin begleiten oder wird das Ganze vielleicht auch noch wieder eine ganze Spur runtergekocht und sich an mancher Stelle zeigen? Da vielleicht doch nicht. Und hier aber dafür umso mehr. Ja, also ich glaube, was sich genau durchsetzen wird, ist schwer zu sagen aktuell.

Grundsätzlich der Trend und das ist, glaube ich, auch ganz gesund, so ein bisschen weg von dem Hype auch zu kommen ist, dass es vermutlich jetzt auch dieses Jahr verstärkt um das Thema Anwendung gehen wird, also wirklich um die Fragestellung, wo und in welchen Anwendungsfällen kann KI wirklich produktiv auch in der Welt sein? wertschöpfend eingesetzt werden.

Und da wird sich dann natürlich auch zeigen, welche Bereiche sehr, sehr viel Potenzial haben, auch im Kontext der aktuellen Reife der Technologie sozusagen. Man kann ganz schwer vorhersehen, welche weiteren Technologiesprünge jetzt kommen werden, die vielleicht noch ganz andere Anwendungsfälle ermöglichen. werden, von denen wir noch gar nicht wissen, die wir uns noch gar nicht vorstellen können. Das ist sicherlich super spannend zu beobachten.

Da passt auch so ein bisschen der Trend Richtung Agentic AI, also KI-Agenten, die in der Lage sind, selbstständig ganze Entscheidungen zu treffen und dann auch umzusetzen. Sicherlich spannend, weil da natürlich dann auch gesehen wird, wo wirklich die Adoption von KI verstärkt wird. stattfinden wird. Ich glaube, dann haben wir alles soweit besprochen und einmal vorgestellt wirklich, was da gemacht wird. Ich finde, das klingt nach einer ganzen Menge.

Und dann bin ich gespannt. Ich glaube, ich hoffe, dass ich es ganz bald mal nach Berlin schaffe und mir das anschauen kann und vielleicht auch darüber berichten kann. Und dann sprechen wir uns vielleicht nochmal wieder, wenn es... die Prüfstandards gibt und wir ein bisschen mehr wissen, wo der Hype so hingegangen ist. Ja, super gerne. Sehr gerne und Sie sind auch herzlich eingeladen. Vielen Dank für das spannende Gespräch.

Das war's für heute. In der kommenden Woche geht es hier im Deep Dive um die Förderung ganz besonderer Innovationen, nämlich um Sprunginnovation. Was genau das ist? Wie künstliche Intelligenz diese Innovation vorantreibt und wie aus einer abgefahrenen Idee mithilfe der Bundesagentur für Sprunginnovation Sprint ein Projekt wird, von dem die Allgemeinheit auch noch profitiert.

Darüber spreche ich in der kommenden Woche mit Janu Kostad. Er ist Challenge Officer bei der Sprint. Es würde mich freuen, wenn ihr dann wieder dabei seid. Bis dahin könnt ihr natürlich mit unserem werktäglichen kompakten Newsüberblick auf dem Laufenden bleiben.

This transcript was generated by Metacast using AI and may contain inaccuracies. Learn more about transcripts.