Ich weiß nicht, kenne ich mich da gar nicht aus. KI kann sich dann eigentlich irgendwann reinhäcken, entwickelt sich weiter, gibt sehr, sehr viele Sicherheitsbedenken, die damit aufkommen. Ja, weil sonst auch wieder Betruch, die einen Tor geöffnet ist. Du kannst es, ich sage es mal wie in Deutschland, vielleicht durch Gesetze machen, aber andere Länder wie China weiß ich nicht, ob damit Gesetzen so viel machbar wäre.
Es ist mir auf jeden Fall wichtig, wenn man KI irgendwie reguliert, dass man einen bestimmten Rahmen schafft und dass man auch anderen Menschen einfach schützt. Da hört man es mal wieder, wieso oft, wenn etwas neu ist und undurchsichtig zu sein scheint, machen sich die Menschen Sorgen. Natürlich kann man da jetzt sagen, haben sie Ängste für eine großen undurchschaubaren, alles kontrollierenden, künstlichen Intelligenz? Naja, ich kann das schon nachvollziehen.
Also was so eine KI im Hintergrund alles treibt, das bekommt man als Nutzer nicht unbedingt mit. Naja, ich würde sagen, ich verstehe auch manches nicht, was da im Vordergrund so läuft. Ja, auch das, aber was man nicht mitbekommt und was man nicht so durchschaut, das erzeugt eben Unsicherheit. Zugegeben und da sagt jetzt niemand, weil sich nicht weiß, macht mich nicht heiß. Das Problem ist ja gerade, dass man nichts weiß, beziehungsweise kaum was durchschaut.
Und wenn man sieht, was generative KI heute schon alles so kann. Ja und dann hast du noch irgendwie mediale Schauergeschichten bis hin zu Prophezeiungen übelster Zukunftsszenarien. Mit einer gehörigen Prise Meinungs- und Panikmache obendrauf ist die Angst dann vor der KI perfekt. Aber ich dachte immer was, informieren soll ja immer helfen. Hab ich auch schon gehört.
Und dann verstehen und gegebenenfalls regulieren, damit eine neue Technologie nicht aus dem Ruder läuft oder sich gar selbständig macht. Und genau das tun wir heute. Also das mit dem Informieren. Denn die EU hat mit dem AI-Act ein Gesetz beschlossen, ein Regelwerk mit dem die Nutzung von künstlicher Intelligenz in Europa sicherer und transparenter werden soll. Und deswegen unser Thema heute AI-Act richtig reguliert. Steuern mit Recht. Der Datef Podcast.
Mit Konstanze Elder und Carsten Fleckenstahl. Na jetzt sag mal, welche KI hast du denn heute schon genutzt? Na ja, das Navi, klar. Weil du nicht weißt, wie du jetzt ins Studio kommst. Aber genau das ist es doch. Also die ganzen Baustellen in der Stadt und dann ist immer eine andere Straße gesperrt. Und das hatte ich gerade gestern, da bin ich irgendwo langgefahren. Und dann war auf einmal die Straße dicht, die war vorgestern noch frei. Also da hilft die KI im Navigationssystem.
Oder als mich überlegen noch was anderes. Ja, Podcasts. Also da bin ich nämlich heute früh auf einen neuen Podcast gestoßen, beziehungsweise gestoßen worden. Der wurde mir nämlich empfohlen. Ball you need is love mit Anzeigler. Wobei diese Empfehlungen, die sind ja eigentlich auch immer total naheliegend. Also in dem Beispiel, ich höre jetzt auch den anderen Podcast von Anzeigler, nämlich Zeigler und Köster. Da braucht es eigentlich gar keine KI-Führen.
Da könnte man ja auch so drauf kommen, dass ich das andere vielleicht auch hören möchte. Na ja gut. Das ist ja ähnlich wie bei YouTube. Je nachdem was du da schaust, bietet es dir ähnliche Clips an. Oder etwas, das in irgendeiner Art Bezug zu dem hat, was du gerade schaust. Also Beispiel, ich schaue jetzt ein Video über Essen und Bewusstsein, mache ich ja ganz gerne. Und dann bekomme ich auch öfters Vorschläge zur Sternestunde Philosophie vom Schweizer Fernsehen.
Aber das ist ja eigentlich, wenn man es mal so betrachtet, auch historisch, schon wieder Oldschool-KI. Und im Grunde ist das sogar doppelt Oldschool. Also zum einen, wenn dir die KI etwas empfiehlt, was du sowieso schon anguckst. Und das andere ist ja, dass künstliche Intelligenz so als Technologie, als solche, ist ja schon sehr alt. Die begleitet, also Alt in Anführungszeichen, die begleitet uns ja schon seit Jahrzehnten.
Ja, aber genau weil die eben schon so lange existiert, hat sich diese Technologie natürlich auch weiterentwickelt und in jüngster Zeit ziemlich rasant. Und nochmal ganz kurz gewissermaßen zum Hitschreiben. Die Definition künstlicher Intelligenz. Das ist die Kompetenz einer Maschine, menschliche, kognitive Fähigkeiten, wie logisches Denken, Lernen, Planen und Kreativität zu imitieren. Das je wird schon ganz lang.
Ja, und wir haben sogar schon ein paar Folgen dazu gemacht, die verlinken wir euch gerne in den Show-Nodes. Und jetzt hör dir mal das hier an. Ich höre. Der Einsatz von künstlicher Intelligenz wird in Zukunft eine immer größere Rolle spielen, sei es im Arbeitsalltag oder privat zu Hause. Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 den AI-Act. Ja, das wirkt doch durchaus echt.
Ja, und jetzt guck mal, als Alexa und Siri und was nicht alles auf den Markt kam, damals da war das ja auch erstmal total beeindruckend oder nehmen die generative KI Chatchi Petit, als die vor anderthalb Jahren veröffentlicht worden ist. Und da sieht man es mal, wir befassen uns eher mit dem Neuen und mit dem Krassen.
Ja, das war ja damals auch erstmal, oder das ist dann ja immer so erstmal ein bisschen spooky, nur jetzt redet die da mit einem oder stellt einen Fragen oder jetzt kann man da was prompten. Dieses Verb kennen wir ja auch erst anderthalb Jahre oder noch nicht mal. Und das versteht man dann vielleicht auch erstmal noch nicht so ganz. Ja, da sieht man mal, dass wir im Alltag schon alles, was wir als total normal empfinden, weil wir es eben jeden Tag nutzen, das nicht mehr als KI definieren.
Das ist ja auch etwas, was Matthias Kettemann sagt, der ist Professor am Institut für Theorie und Zukunft des Rechts an der Universität Innsbruck und er erlebt das ebenfalls regelmäßig in seinen Vorlesungen mit seinen Studierenden. Wie schaut es denn dann aus mit zum Beispiel einer E-Mail-Applikation oder zum Beispiel haben Sie schon in die Hände geschaut und wie Gesicht das geöffnet oder haben Sie schon eine Landkarte benutzen? Und das ist das Spannende nämlich.
Überall dort ist KI drinnen, aber wir merken es gar nicht mehr so sehr, weil es sich gut funktioniert. Ein Informatiker, Freund von mir hat sie mir gesagt, wir nennen nur das KI, was wir nicht so ganz verstehen und was noch nicht klappt. Wenn es klappt, hat es eigene Namen, die passen. Viele nutzen KI und wissen das auch, manche nutzen sie und wissen es nicht und dann gibt es noch die, bei denen künstliche Intelligenz einfach noch nicht im Alltag angekommen ist.
Da habe ich natürlich auch mal wieder eine aktuelle Studie mitgebracht. War ja klar. Ja. Die Studie der Konrad-Adenauer-Stiftung sind besonders ältere Menschen und befragte mit niedrigen Bildungsabschlüsse nicht vertraut mit Anwendungen von KI im Alltag. Ich nehme an, dass die Unterschiede vor allem daher kommen, dass jüngere Menschen, die KI einfach auch beruflich nutzen können. Ja, also zumindest bei denen mit höheren Abschlüssen.
Und die häufigste Nutzung von KI ist die Übersetzung von Texten. 59 Prozent haben der Untersuchung zufolge davon schon Gebrauch gemacht. Und jüngere empfinden Technik oder Digitalisierung und KI nicht als irgendeine Verheißung, aber eben auch nicht als irgendein Schrecken. Am ehesten erhoffen sie sich einfach damit Erleichterungen bei der Arbeit oder mehr Unabhängigkeit im Alter. Also ist eigentlich genau das, was wir gerade gesagt haben, schon quasi Normalität. Genau.
Und um nochmal auf ältere und befragte mit niedrigen Bildungsabschlüssen zurückzukommen, knapp die Hälfte befürchtet, die Technik nicht mehr bedienen zu können. Insgesamt zieht sich so ein bisschen ein roter Faden durch die Einstellungen gegenüber Technik, Digitalisierung und KI und je jünger befragte sind und je höher das formale Bildungsniveau ist, desto positiver sind eben die Einschätzung. Die Link zur Studie stellen wir natürlich auch in die Show Notes.
Aber um jetzt mal nicht allzu sehr den Digital Gap weiter zu vertiefen und auszuhöhlen, es gibt ja auch viele Projekte, um gerade ältere Menschen mit künstlicher Intelligenz in Kontakt zu bringen. Das kann ja auch eine Chance sein, um Möglichkeiten bieten, wie ja da in der Studie auch zum Teil sich herausgestellt hat. Und da sind wir schon mittendrin. Gibt es gute und schlechte KI oder ist es die individuelle Anwendung, die die eigentlich neutrale Technologie schlecht macht?
Das ist ja auch eine der zentralen Fragen gewesen, die zum AI-Act führten. Plus KI entwickelt sich natürlich auch weiter, habe ich ja vorhin schon erzählt. Aber wo schlägt sich denn die KI im rechten Nieder? Gibt es einen Rechtsrahmen? Braucht man überhaupt etwas? Oder braucht man was ergänzendes und die Pläne für den AI-Act, die gehen auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück? Das ist ja schon ein paar Jahre her.
Kann man sich schon mal fragen, warum das so lange gedauert hat? Ja, in dem Fall ist es ein bisschen naheliegend, weil nämlich, haben wir ja auch gerade schon gesagt, 2022 Chat GPT auf den Markt kam, also wieder so ein weiterer großer Schritt in der Entwicklung der KI. Und das hat den ganzen ursprünglichen Zeitplan umgeschmissen, weil man das natürlich integrieren wollte, derartige generative KI bzw. die Anwendung selbiger.
Und um nochmal auf den Ausgangspunkt zurückzukommen, das Ziel des AI-Acts ist ja, die Nutzung von künstlicher Intelligenz in der Europäischen Union sicherer zu machen. Also die Grundrechte und die Werte der Europäischen Union waren und KI-Systeme möglichst transparent, nachvollziehbar und nicht diskriminierend zu gestalten. Außerdem, KI-Systeme sollen ja von Menschen überwacht werden und nicht von anderen Technologien. Es braucht also irgendeine Art von Regelung.
Bei der Frage aber, ob es dafür ein neues Gesetz braucht oder ob die bestehenden Regelungen ausreichen, gehen die Meinungen bis heute weit auseinander. Die Europäische Union begründete den Regelungsbedarf mit den möglichen Risiken von künstlicher Intelligenz. Wir haben uns den AI-Act, weil der nicht ganz unkomplex ist, von zwei Experten einordnen lassen.
Im Gespräch vertritt der österreichische Jurist Matthias Kettemann eine ähnliche Sichtweise wie die EU, weil das bestehende Recht nicht ausreiche. Wir hatten nicht sehr viele Regeln, die sich auf KI-Bild ziehen, weil jenseits dieser nicht allgemeinen wichtigen, aber doch allgemeinen Menschenrechte, Privatsphäre, Datenschutz und so, die auch für KI-Anwendungen wichtig sind, haben wir hier ganz neue Herausforderungen. Das wird der Bereich der Trainingsdaten.
Das ist halt bei der KI echt ein Problem, weil hier geht es um sehr große Einwirkungsmöglichkeiten. Auch Aljosha Burchardt vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin schätzt die Bedeutung von KI ähnlich ein, differenziert aber noch mal hinsichtlich der Notwendigkeit dessen, was reguliert werden sollte.
Natürlich brauchen wir Regulierung, aber auf der anderen Seite bei einer Technologie, die so eine breiten Wirkung hat und so eine Basistechnologie ist, so eine Schlüsseltechnologie ist, zu hoffen, dass man dann eben auch Anwendungen sinnvoll regulieren können wird, das finde ich ist ein großes Vorhaben.
Natürlich wollen wir keinen Social Scoring, wir wollen nicht sagen, wenn du ins Krankenhaus gehen willst, nee, aber die Schulnote deines Kindes war nicht gut genug, du hast dir keine Kreditpunkte als guter Bürger erworben, du kommst nicht ins Krankenhaus, aber dafür braucht es keine KI.
Ja, so was könntest du ja mit jeder anderen Software, das könntest du auch per Hand machen, im Prinzip, aber wir regulieren das mit im AI-Act, weil es natürlich auch mit KI geht und mit KI auch vielleicht leichter geht und vielleicht auch ein bisschen stärker skalieren kann, dann bist du plötzlich gezwungen, das gesamte digitale Leben zu regulieren und das ist natürlich viel.
Man muss ja auch mal sagen, die Bestandteile dieses digitalen Lebens, die kommen ja sowieso nicht vorrangig aus Europa. Ich würde eher sagen, weniger bis gar nicht. Also entweder kommen sie aus den USA oder aus China. Und aus unterschiedlichen Gründen haben die beiden Länder unterschiedliche Herangehensweisen mit Blick auf die Regulierung von KI. Wie Jurist Kettemann erklärt.
Außerdem ist die amerikanische Innenpolitik aktuell sehr stark polarisiert und gute Regeln, soziale Medien kommen da nicht zu Stande und auch zu KI, wird es dort erwartbar recht wenig fixe Regeln geben. Was es gab, ist eine Executive Order vom Präsident Biden, wo er bestimmte Transparenzpflichten auf erlegt und auch ein erdnationales Büro einrichtet, das sie mit KI-Themen beschäftigen sollen. China hingegen gehe eher autoritär mit dem Thema um. Und primär wirtschaftlich orientiert.
Das darf man nicht unterschätzen. Das geniessische Akteuren Interesse daran haben, dass ihre Produkte, ihre KI-Systeme exportiert werden. Und da sind Regeln, wie der KI-Rechtsack, so wichtig, weil er klar festlegt, was in Europa gilt, was die Grenzen sind, welche Rechte einzuhalten sind und wie die digitale Souveränität Europas angesichts komplexer geopolitischer Wandlungsprozesse gesichert werden kann.
Um das zu erreichen, war der Plan der EU mit dem AI-Akt den entwickelten Anforderungen und Pflichten an die Hand zu geben, an denen sie sich dann auch orientieren können oder sollen. Ja, genau, sollen vielleicht sogar. Das ist ein Punkt. Ein anderer war die Entlastung der Unternehmen von administrativen und finanziellen Belastungen, wobei das genau einer der Kritikpunkte ist, dass es eben mit dem AI-Akt zu hohem bürokratischem Zusatzaufwand kommt und Doppelregulierung.
Na dann würde ich mal sagen, schauen wir doch mal auf die Inhalte. Der AI-Akt regelt vor allen Dingen die Anwendung von KI-Systemen, das ist zumindest das Ziel. Und dazu werden KI-Systeme in Risikogruppen einsortiert. Da gibt es vier Risikostufen, niedrig, begrenzt, hoch und inakzeptabel. Und je höher die Risikoklasse, umso strenger fällt die Regulierung aus. Fangen wir mal unten an.
Bestimmte KI-Systeme haben laut AI-Akt nur ein niedriges Manipulationsrisiko und damit gibt es für diese Systeme gar keine rechtlichen Beschränkungen. Dazu zählen z.B. Spamfilter bei E-Mails oder Videospiele. Und dann haben wir das begrenzte Risiko und das wiederum bezieht sich auf Risiken, die durch mangelnde Transparenz entstehen können.
Also wenn du mit dem Chatbot schreibst oder mit KI-Systemen arbeitest, um Bilder, Video, Audio zu erstellen, dann müssen die Anbieter sicherstellen, dass Menschen wissen, dass sie mit KI interagieren. Dann kommen wir mal zum hohen Risiko. KI-Systeme, die in diese Klasse eingestuft werden, die unterliegen ganz strengen Verpflichtungen mit Blick auf Risikobewertung, Qualität, Protokollierung, bevor sie auf den Markt kommen. Und zu diesem System gehören z.B.
Systeme für Bildung und Beschäftigung, wesentliche private und öffentliche Dienstleistungen oder auch Systeme für die kritische Infrastruktur. Und als kritisch in diesem Sinne gelten vor allen Dingen solche Aspekte, die das Leben von Menschen gefährden, ihre Rechte beeinträchtigen oder ihren Lebensweg beeinflussen können. KI-Systeme in diesem Sektor durchlaufen einen Zulassungsprozess.
Und dabei sind Behörden für die Markteberwachungszuständig und auch die Entwickler benötigen ein Überwachungssystem für ihr Produkt. Und dann gibt es eben die vierte Risikostufe, die Systeme als inakzeptabel einstuft. Und worum es dabei geht, das erklären wir in der Faktenbots. Bestimmte KI-Anwendungen fallen in die Risikostufe der inakzeptablen Systeme und sind verboten.
Das ist dann der Fall, wenn sie gegen EU-Werte verstoßen, weil sie Grundrechte verletzen oder als Bedrohung für Menschen gelten. Dazu gehören Systeme, die eine kognitive Verhaltensmanipulation schutzbedürftiger Personen zulassen. Beispiel, sprachgesteuertes Spielzeug, das bei Kindern ein gefährliches Verhalten fördert.
Ebenso verboten sind Systeme, die Menschen auf der Grundlage von Verhalten, sozioeconomischem Status und persönlichen Merkmalen klassifizieren, also sogenannte Social Scoring ermöglichen. Auch die biometrische Identifizierung, Kategorisierung von Personen und biometrische Echtzeit-Fern-Identifizierungssysteme gehören zu KI-Systemen der inakzeptablen Risikostufe. Hierunter fällt zum Beispiel die Gesichtserkennung. Ausnahmen gibt es jedoch für Strafverfolgungszwecke.
So sind in engen Grenzen biometrische Echtzeit-Fern-Identifizierungssysteme zulässig. Auch Systeme zur nachträglichen biometrischen Fern-Identifizierung sind bei der Verfolgung schwerer Straftaten erlaubt. Voraussetzung, die Identifizierung findet mit erheblicher Verzögerung statt und ist gerichtlich genehmigt. Demnach klar verboten wäre bei uns ein solches Social Credit Scoring System, wie es in China verwendet wird.
Das ist ja auch noch zum Beispiel verknüpft mit einem biometrischen Erkennungssystem. Also du gehst bei Rot über die Straße, die Fernüberwachung kriegt das mit und wenn du einen Punktelevel unterschreitest, dann darfst du nicht mehr reisen zum Beispiel. Aber solche Systeme dürfen in Europa, wie gesagt, nicht eingesetzt werden. Und dann hätten wir ja noch die sogenannten ALZWEG-KI-Modelle, die Teil von KI-Systemen werden können. Da ist die Überwachung aller Funktionen generell schwierig.
Daher sieht das Gesetz hier Transparenzpflichten vor. Neben der Selbsteinschätzung gehören dazu die Minimierung von Risiken sowie eben die Meldung schwerwiegend der Vorfälle. Also wenn solche Modelle beispielsweise schwere Unfälle verursachen oder für weitreichende Cyberangriffe missbraucht werden. Oder einfach, ich sage es mal in Anführungszeichen, nur wenn ein solches Modell irgendwelche schädlichen Verzerrungen hervorbringt, die in zahlreichen Anwendungen dann zum Tragen kommen.
Und dann wären ja eben viele Menschen davon betroffen. Alten wir fest, laut AI-Act braucht nun jedes KI-System eine Art Assessment und jedes System muss bewertet werden. Ist es risikoreich, weniger risikoreich, gar nicht risikoreich oder sogar so risikoreich, dass es verboten werden muss? Prof. Matthias Kettemann von der Uni Innsbruck hält diese Einordnung für einen Mehrwert. Die Transparenzheit ist sehr wichtig, insichtlich der Trainingsdaten.
Weil in den Trainingsdaten versteckt sich so viel Diskriminierungspotenzial, weil die Trainingsdaten immer nach hinten schauen. Und gerade die generativen KI-Modelle sind inzwischen solche Fresser von Informationen geworden, dass es extrem wichtig ist zu wissen, was quasi ihre Kinderstube ist. Und dazu hat Kettemann auch ein Beispiel aus der Medizin parat. Wir wollen natürlich die Vorteile nutzen, wenn wir CT-Bilder analysieren durch KI.
Aber es muss sichergestellt werden, dass etwa die Trainingsdaten noch passen, dass zum Beispiel jetzt nicht nur trainiert wurde auf Das Beispiel auf Bildern von Menschen, die viel mit Asbest und Staub zu tun haben. Und dann findet das System bei weniger stark betroffenen Menschen überhaupt nichts. Das muss man einfach anschauen, man muss wissen, wo das herkommt, wie das System trainiert wurde. Manche Sachen sind ja mit KI auch einfacher geworden zu fälschen.
Nimm nur mal das Bild vom Papst im weißen Downenmantel. Ja, erinnere ich mich gut. Und künftig kannst du dann im besten Fall auf den ersten Blick bei Bildern und bei Videos erkennen, ob Sie mithilfe von KI produziert wurden oder nicht. Da steht dann vielleicht so ein kleiner Hinweis dabei. Braucht es also die Kontrollinstanz? Der Rat der EU-Mitgliedstaaten hat den AI-Act Ende Mai verabschiedet. Weiterhin offen ist, wer kontrolliert das?
Und wie geht es jetzt weiter mit der Umsetzung im nationales Recht? Jetzt braucht es Regelungen eben für diese nationale Umsetzung in den einzelnen EU-Staaten. Also auch für Deutschland. Und wie die aussehen könnten, deutet Digital- und Verkehrsminister Volker Wissing von der FDP an. Jetzt ist es ganz wichtig, dass wir bei der Umsetzung der Verordnung innovationsfreundlich bleiben. Deutschland ist führend bei künstlicher Intelligenz in Europa.
Wir müssen jetzt aus unserem Standort etwas machen oder für sorgen, dass wir diese Technologie in eigenen Händen behalten. Schön gesagt. Aber bislang hat die Bundesregierung noch keinen Vorschlag für ein nationales Durchführungsgesetz vorgelegt. Anfang Juni 2024, also jetzt gewissermaßen, soll der AI-Act im Amtsblatt der Europäischen Union veröffentlicht werden und 20 Tage später in Kraft treten, abgestuft, nach verschiedenen Geltungsbereichen.
Und die ersten Verbote greifen bereits nach einem halben Jahr. Deswegen ist es schon etwas dringend, ebenso wie die Frage nach der Zentralen Aufsichtsbehörde. Und die nationale Aufsicht bei Fragen künstlicher Intelligenz ist aufgrund der sektoralen Zuständigkeiten und der föderalen Aufteilung durchaus komplex bei uns. Und wer die KI Governance in Deutschland nun übernehmen soll, ist ebenfalls noch völlig offen. Das könnte zeitlich alles ziemlich eng werden.
Institutionen und Prüfungsorganisationen müssen festgelegt werden. Wer muss wo drauf schauen? Wer bestimmt welches KI-System in welcher Risikoklasse fällt? Und wer segnet eigentlich am Ende das Ganze ab?
Ja, dann nehmen wir als Beispiel die Selbstauskunft einer Firma, die sagt jetzt, bei uns ist alles im grünen Bereich und dann gibt es Sektoren, wo jemand sagt, na ja, dokumentier mir mal, was du da machst und dann bestimme ich, ob das passt oder ob du eventuell in einen Risikobereich fällst, wo dann Sicherheitsmaßnahmen, Dokumentationspflichten und viele andere Dinge greifen, die im AI-Akt definiert sind. Das ist alles noch ziemlich unklar zur Zeit.
Und letztlich braucht es natürlich für so ein Unterfangen auch noch technische Standards, Benchmarks, Prüferfahren. Man kennt das ja vielleicht auch aus der Medizin. Da gibt es ja auch einen Prozess, der vorgibt, wie und wann ein neues Medikament auf den Markt kommt. Und selbst wenn es dann national umgesetzt wird, dann muss es ja halbwegs gleich laufen wie in Frankreich, Polen oder eben auch in Ungarn.
Das wird auf jeden Fall nochmal spannend werden, wenn es wirklich darum geht, sich in Europa abzustimmen. Aliaszaburchardt, der lange Zeit auch Mitglied in der Enquete-Kommission "Künstliche Intelligenz des Deutschen Bundestags" war, findet die Idee, horizontal zu regulieren, schwierig. Die ist natürlich erstmal eine gute Idee, dass man denkt, wunderbar, dann haben wir das alles mit einem Rutsch und Uniform und nicht jeder macht Science und so weiter.
Aber letztlich wird man wahrscheinlich nicht umhinkommen, sektor-spezifisch oder noch kleinteiliger, vielleicht auch anwendungsspezifisch vorzugehen. Also was ein Entscheidungs- und Unterstützungssystem im Medizinischen macht, ist vielleicht was ähnliches, was das Entscheidungs- und Unterstützungssystem im Personalwesen macht. Und muss dann vielleicht gucken, dass man für Systemtypen und vielleicht für gewisse Branchen dann das Ganze runterbricht.
Probleme mit Recht und Regulierung sieht der österreichische Rechtswissenschaftler Kettemann eher weniger. Wir sind jetzt ganz am Anfang der Regulierungsgeschichte der künstlichen Intelligenz, ganz am Anfang. Das ist das erste große Gesetz dieser Art, wenn das bindend ist. Und jetzt müssen wir mal schauen, wie das in der Praxis sich auswirkt und dann können wir eine Review machen und gegebenenfalls nachschaffen.
An Joscha Burchardt gibt es allerdings zu bedenken, dass gerade die Dynamik unserer Gesetzgebung oder eben auch das Fehlen einer solchen Dynamik oder auch das eben nicht unbedingt mithalten kann mit der Entwicklungsschwindigkeit der KI. Wir haben so ein bisschen ein Problem, dass natürlich unser Rechtssystem nicht darauf geeicht ist, so agil zu sein.
Dass man sagt, wir machen eine Rahmengesetzgebung und können dann, wenn das Problem auftritt, sehr schnell wirklich die geeignete Maßnahme uns ausdenken, die dann die geeignete Art von Transparenz, die geeignete Art von Dokumentation für den jeweiligen Zweck, für die jeweilige Kundschaft auch, die damit zu tun hat.
Oder sind es Experten, sind es Entnutzer, sind es vielleicht vulnerabelte Personen, denen man das ganz anders vermitteln muss, dass man eigentlich dann gezielt sagen müsste, für diese eine Sache, die hier schief geht, müssten wir eigentlich den Riegel davor schieben, dass es in Zukunft so und so passiert. Da haben wir jetzt, glaube ich, das Problem. Und dann kommt noch etwas on top. Der AI-Act ist ja vor allem für Anbieter und Betreiber von KI-Systemen relevant.
Der Großteil der praktischen und rechtlichen Probleme beim Einsatz von KI wird ja hier durch gar nicht geregelt. Nee, das muss nach wie vor zwischen den Parteien oder den Beteiligten ausgehandelt werden. Also Unternehmen, Kanzleien müssen interne Vorgaben machen zum korrekten Einsatz von KI-Systemen bei der Arbeit. Denn ausprobieren ist das eine, aber der Umgang mit sensiblen Informationen ist das andere. Und das gehört natürlich unbedingt geregelt.
Auch zum Beispiel die Verwendung von Arbeitsergebnissen, die mit KI entstanden sind. Am besten aber auch Zuständigkeiten, Verantwortlichkeiten und Dokumentationserfordernisse sollte man alles sich mal vornehmen. Ja und die Mitbestimmung ist ja auch noch ein Thema. Und übrigens ein Rechtsgebiet, wo es schon einige Vorgaben gibt. Da könnt ihr gerne auch nochmal in unsere Folge reinhören zum Thema KI in der Arbeitswelt. Da stellen wir euch den Link in die Show-Notes.
Und noch ein wichtiger Punkt. Es braucht natürlich auch verlässliche Verträge, wenn du KI-Lösungen einkaufst. Ja, da sollte man darauf achten, dass es jetzt nicht so veraltete Einkaufsbedingungen für die ganz normale IT sind, sondern dass da wirklich auch schon was von KI-Systemen drinsteht. [Musik] Es gibt also noch einiges, das geklärt werden muss. Aber zumindest gibt es jetzt ein Gesetz und damit einen ersten Schritt in eine möglicherweise gelungene Regulierung.
Die Kritiker, die beklagen aber schon vorab, das haben wir vorhin schon gesagt, überbordende Bürokratie und ein zu viel der Regulierung oder Regulierung an den falschen Stellen. Aber die Gefahr besteht ja mit dem Recht doch immer und kann eigentlich auch stets ein Bremsglat sein für Innovationen. Aber eben auch nur kann, sagt zumindest der Rechtswissenschaftler Matthias Kettemann.
Ich glaube, gut gemachtes Recht stellt sicher, dass eine Innovation oder jene Innovationen, die tendenziellen Menschenrechte eher verletzten, denn Schützen nicht losfliegen dürfen. Kurzfristig kann das innovationsfeindlich wirken, mittel- und langfristig aber, ist das ein wichtiger Stabilisierungsfaktor für gesellschaftlichen Zusammenhalt. Ich würde mir nicht amerikanische Verhältnisse für Europa wünschen, auch wenn es einzelne wenige Firmen gibt, die extrem erfolgreich sind.
Aber die Kosten, die man damit sich gesellschaftlich einfährt, die halte ich für nicht in einem guten Verhältnis stehen zu den Gewinnen. Dass es das eine, das andere ist, die ursprüngliche Intention nicht zu kontaktieren, also mit Regulierung für Innovation, Sicherheit und Akzeptanz der KI zu sorgen, sagt Aljosha Burchardt. Aber am Ende des Tages läuft es dann darauf hinaus, dass Leute dann den Mut verlieren und überreagieren an solchen Stellen.
Das heißt, es ist ja nicht mal notwendigerweise die Frage, nur für was ist das Gesetz gemacht und eben auch, wie wird es dann hinterher gelebt? Und wenn das dann eben zu einem Klima der Angst führt? Dann hat man das Gegenteil von dem erreicht, was man erreichen wollte. [Musik] Jetzt haben wir so viel über KI geredet. Jetzt lassen wir mal die KI reden. Wir haben nämlich mal Chat-JPT gefragt und das Wichtigste des AI-Acts zusammenfassen lassen.
Der AI-Act der Europäischen Union ist eine umfassende Gesetzgebung, die sich mit der Regulierung künstlicher Intelligenz, KI, in der EU befasst. Hier sind die wichtigsten Punkte zusammengefasst. Erstens Anwendungsbereich. Der AI-Act gilt für sämtliche KI-Systeme, die in der EU in Verkehr gebracht oder verwendet werden, unabhängig davon, ob sie in der EU entwickelt wurden oder nicht.
Zweitens verbotene Praktiken. Der AI-Act verbietet bestimmte KI-Anwendungen, die als besonders riskant erachtet werden, wie beispielsweise KI-Systeme zur Manipulation von Verhalten. Drittens Hochrisiko-KI-Systeme. Für KI-Systeme, die als hochriskant eingestuft werden, gelten zusätzliche Anforderungen. Dazu gehören Systeme in Bereichen wie Verkehr, Gesundheit, Bildung und öffentliche Dienste. Viertens Transparenz und Dokumentation.
Entwickler von KI-Systemen müssen umfassende Dokumentationen über ihre Systeme erstellen und sicherstellen, dass diese transparent und nachvollziehbar sind. Fünftens Datenqualität und Datensätze. Es gibt Anforderungen an die Qualität der Daten, die zur Entwicklung von KI-Systemen verwendet werden, sowie Regeln für den Umgang mit Datensätzen. Sechstens Konformitätsbewertung und Zertifizierung.
KI-Systeme müssen einer Konformitätsbewertung unterzogen werden, bevor sie auf dem Markt bereitgestellt werden können. Zertifizierungsstellen werden eingerichtet, um die Einhaltung der Vorschriften zu überprüfen. Siebthens Behördliche Aufsicht und Sanktionen. Es wird eine zentrale Aufsichtsbehörde für künstliche Intelligenz eingerichtet, um die Einhaltung der Vorschriften zu überwachen. Bei Verstößen gegen den AI-Act können empfindliche Geldbußen verhängt werden. Fazit.
Vielleicht wird es ja so wie bei der DSGVO, dass der AI-Act gewissermaßen eine neue Benchmark für KI-Systeme oder deren Regulierung wird. Vielleicht, aber komplett regulieren lässt sich künstliche Intelligenzen nicht, ist auch Rechtswissenschaftler Kettemann sicher. Jedes KI-System wird immer noch einen Moment der Überraschung bei Inhalten bzw. wird ein bisschen black-boxig bleiben, einfach deswegen, weil eben nicht nur für sie kaltischen Gesetzen gefolgt wird.
Ja, KI menschelt halt auch irgendwie und es gibt sie nicht ohne Nebenwirkungen. Man muss sich halt damit befassen und nicht sagen, verstehe ich nicht, will ich mich nicht mit beschäftigen, sondern informieren und in den Diskurs gehen. Und das fände ich ja noch ganz wichtig in die Lehrpläne einbauen, also schon in den Schulen damit anfangen, das auch zu verstehen und anzuwenden. Aber da ist es noch mal ein ganz anderes Thema, vielleicht haben wir ja irgendwann mal Zeit, darüber zu reden.
Vielleicht, aber jetzt erst mal. Neues aus Paragrafenland Ab Herbst 2024 erhalten alle Unternehmen und Freiberufler in Deutschland eine Wirtschaftsidentifikationsnummer. Die Vergabe der jeweiligen Nummer fordert die zuständige Finanzbehörde beim Bundeszentralamt für Steuern an. Aufgrund der technischen und organisatorischen Anforderungen werden die Identifikationsnummern allerdings stufenweise erteilt.
Die Wirtschaftsidentifikationsnummer soll die Finanzbehörden in die Lage versetzen, wirtschaftlich tätige bei der Besteuerung den jeweils handelnden, natürlichen Personen zuzuordnen. Damit sollen Mehrfachmeldungen bei unterschiedlichen Registern künftig der Vergangenheit angehören. Hintergrundinformationen vom Bundeszentralamt für Steuern verlinken wir euch in den Shownot. Schon wieder was Neues.
Ja, bei all dem was uns so täglich ins E-Mail-Postfach reinrutscht oder auf den Schreibtisch flattert. Auf den Schreibtisch flattert, das ist ja schon so ein bisschen Oldschool. Ja, wieso hast du keinen Schreibtisch mehr? Oder schreibt ihr keiner? Ich habe hier eher keinen Schreibtisch mehr. Ich muss mir jeden Tag einen neuen suchen. Ja, dann gehe ich mal da vorbei und lasst da mal was drauffallen. Man muss da mal vorher wissen, welcher das ist, wo ich sitze.
Ich trage dir das dann hinterher. Auf jeden Fall ist so manches dabei in dem E-Mail-Postfach, das ist für euch vielleicht interessant sein könnte, aber nicht zwingend was mit Steuern zu tun hat. Oder mit Recht. Und deswegen hier jetzt mal was ganz Neues und was ganz anderes. Und vor allem kommt das jetzt nicht ganz regelmäßig, also eher unregelmäßig. Immer dann, wenn uns was ins Postfach flattert. Genau, und ist auch nicht immer unbedingt ganz ernst gemeint.
Man könnte auch sagen, das ist jetzt unser neuer Rausschmeißer. Aber den müsst ihr natürlich erst hören und dann ausschalten, bitte. Danke. Und was läge da jetzt als erstes für unsere Premiere näher als das Sommerereignis in diesem Jahr? Mein Urlaub. Ja klar. Und dass du jetzt kein so großes Interesse an Fußball hast, das ist ja auch nicht so ganz neu. Aha, daher weht der Wind. Du willst also über die E-M-Räder.
Klar, nach der Bundesliga, den ganzen internationalen Finals mit deutscher Beteiligung, mit dem DFB-Pokalfinale geht es ja jetzt quasi nahtlos weiter mit dem Fußball. Das ist natürlich cool für alle, die Fußball lieben und ständig gucken. Und alle anderen, um es mit Peter Lustig zu sagen, jetzt abschalten. Nein, war nur Spaß. Denn auch hierbei geht es ja so ein bisschen umrechtliches, also dranbleiben. Und was glaubst du, wie weit kommen wir?
Oder wie weit kommt die deutsche Nationalmannschaft? Keine Ahnung. Oder ein Tipp für den Titel vielleicht? Ja, auch keine Ahnung. Irgendwie fände ich ja cool, wenn es mal die Schotten schaffen würden. Du weißt schon, dass die in der deutschen Gruppe sind? Ja. Ach nee, guck mal an. So, dann hätte ich jetzt aber gerne mal ein Tipp für das Auftaktspiel. Wenn ich das sage, hasse mich alle. Also komm, mach's doch mal. 2 zu 1 für Schottland.
Okay, also ich würde ja mal sagen, Auftaktspiel in Deutschland könnte. Und auch gegen die Schotten ist schwierig, aber ich würde mal sagen, 2-1 für Deutschland. Wird ich jetzt mal tippen. Aber wenn ihr jetzt das Spiel oder natürlich alle anderen Spiele gemeinsam schauen wollt, wenn das Wetter es zulässt auch draußen, so bis Mitternacht, dann geht das nämlich nun auch ganz offiziell, denn der Bundesrat hat jetzt den Weg für das sogenannte Public Viewing frei gemacht.
Übrigens, wusstest du, dass das auf Englisch eigentlich Public Screening heißt? Ja, das ist mir bekannt. Aber wir haben ja immer so ein bisschen unsere eigene Sprache.
Genau. Und das hat der Bundesrat einer Verordnung zugestimmt, die öffentliche Fernsehübertragung der Fußballspiele auch zu späteren Anstoßzeiten möglich macht, also sprich ab 21 Uhr und später, je nachdem, wie es so läuft, egal ob in Parks, in eigens angelegten Fennsons oder auf anderen öffentlichen Plätzen mitfiebern und mitjubeln ist erlaubt und laute Torschreie auch, denn die Verordnung erklärt die Sport
und jetzt wird es doch noch mal sehr juristisch, die Sportanlagen Lärmschutzverordnung, die gilt nämlich normalerweise nur für den Betrieb von Sportplätzen und ähnlichen Anlagen. Die ist jetzt auch anwendbar für die öffentliche Übertragung der EM-Spiele und das wiederum eröffnet dem Behörden die Möglichkeit, Ausnahmen zu erlauben, wenn jetzt bei der Abwägung das Interesse an der öffentlichen Übertragung gegenüber den Lärmschutzgesichtspunkten überwiegt.
Und wir wollen mal hoffen, dass das bedeutet, dass ganz viele laute Torschreie und Torjubel für die deutsche Mannschaft oder vielleicht auch für die Schotten je nachdem, wenn sie nicht gerade gegen die Deutschen spielen, erlaubt sind. Wir verlinken euch die ganzen Regeln dazu auch nochmal in den Show-Notes. Wir reden mit Aljoshar Burchardt vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin.
Über soziotechnische Prozesse, regulatorische Sandkästen und die Fiktion von Kontrolle. Die Vergleiche, die man zum Teil hat, saubermal mit Gentechnik oder mit Atomkraft, ich glaube diese Gefahren bestehen hier jetzt erstmal nicht.
Als Wissenschaftler kann ich nie natürlich nie sagen, es kann sein, du stellst ein Supercomputer an und der sagt, Papi, das will ich nicht ausschließen, dass wir das noch erleben, weil ich denke mal mit der jetzigen Geschwindigkeit und dem, wie wir vorgehen, sehe ich das eigentlich nicht, diesen Moment kommen. [Musik] Das war Steuern mit Recht der Datef Podcast. Wie immer. Abonniert uns, teilt uns, empfehlt uns weiter.
Im Podcast zu eurer Wahl gibt es eine Möglichkeit, wo ihr uns bewerten könnt. Da hätten wir natürlich die volle Sternchenzahl auch bei Apple. Weil wir gerne Gruppensieger werden möchten unter allen Podcasts. Neben den Schotten. Genau, nein. Obwohl, das ist immer gut, wenn man nicht Gruppensieger ist, die Fußballfans unter euch kennen die Regeln. Genau. EM-Toniere und WM-Toniere.
Und wenn ihr uns was sagen wollt oder einfach auch mal euren Fußballtipp uns mitteilen wollt, dann geht das, wir bringen den hier auch dann unter podcast@datef.de. Ihr könnt uns natürlich auch auf virtuelles Band sprechen, auf digitales Band. Das ist völlig unsinnig. Aber wir haben auf jeden Fall eine Telefonnummer und die lautet 0800 0826 782. Und hier verabschieden sich keine KI-Systeme, sondern konstanzeelter. Mein Name ist Karsten Fleckenstein.
Wir wünschen euch eine gute Zeit, bleibt optimistisch und hört wieder rein. [Musik] Steuern mit Recht der Datef Podcast. Sag mal, wie kommunizierst du eigentlich mit der KI? Wie meinst du das jetzt? Wenn du prompt bist, bist du dann höflich oder befehlend oder gar beleidigend. Also meistens sage ich bitte und danke. Das muss ja schon mal nicht schlecht.
Aber das hängt auch so ein bisschen davon ab, wie viel Zeit ich habe und wie ich gelaunt bin und wie eilig das ist und was die vielleicht auch für den Quatsch dann möglicherweise schreibt, die KI. Das ist ganz unterschiedlich. Merkst du was? Das klingt schon nach sehr menschlicher Reaktion gegenüber einer nicht menschlichen Technik. Ich finde es erstaunlich, dass wir, obwohl wir wissen, dass das Technik ist, dennoch menschlich mit der Technik agieren, also emotional.
Und ich finde interessant, dass du das jetzt sagst, weil es nämlich dazu jetzt habe ich nochmal wieder eine Studie. Der TU drehst doch, die haben nämlich rausgefunden, dass falsche Antworten der KI zum Beispiel durchaus aggressives Verhalten auslösen. Das war es nicht wahr? [MUSIK] Ich freu mich.