#126 Herausforderungen der KI-Regulierung: Einblicke in IT-Recht und Datenschutz (nicht nur im Gesundheitswesen) - podcast episode cover

#126 Herausforderungen der KI-Regulierung: Einblicke in IT-Recht und Datenschutz (nicht nur im Gesundheitswesen)

Jan 15, 202526 minSeason 5Ep. 1
--:--
--:--
Listen in podcast apps:

Episode description

Input geben - Networking starten!

Diese Episode bietet einen tiefen Einblick in die Herausforderungen und Möglichkeiten der aktuellen KI-Regulierungen, die Unternehmen vor neue Fragen stellen. Neben allgemeinen Bestimmungen des EU-AI-Acts besprechen wir auch die besondere Situation in der Schweiz und die Notwendigkeit einer verantwortungsvollen Handhabung von sensiblen Daten im Gesundheitssektor, aber auch im Allgemeinen.

• KI-Regulierungen gelten nicht automatisch für Schweizer Unternehmen
• Notwendigkeit der Berücksichtigung von EU-Vorgaben für den internationalen Vertrieb
• Abgrenzung zwischen KI-Produkten und irreführenden Marketingbezeichnungen
• Anforderungen des EU-AI-Acts hinsichtlich verbotener Praktiken und Risikokategorisierung
• Bedeutung der Mitarbeiterschulungen im Gesundheitswesen und bei sensitiven Daten
• Regulierung als Chance zur Innovation und verantwortungsbewussten Handlungsweisen

Regulierung ist nicht nur notwendig, sie bietet auch Chancen für nachhaltiges Wachstum und verantwortungsvolles Handeln in der Unternehmenslandschaft.

Und hier gehts zum erwähnten Fachbuch "Generative KI in der Modernen Medizin": https://www.sophiehundertmark.com/generative-ki-in-der-medizin/

Support the show

Vielen Dank an unsere Starken Podcast-Partner CreaLog Software-Entwicklung und Beratung GmbH und VIER. Und als Medienpartner mit dabei CMM360.

Ihr wollt mehr Networking? Dann kommt in meine WhatsApp Gruppe zu aktuellen Trends und News rund um AI und Chatbots: https://chat.whatsapp.com/BilAa1OLfELKJwuyodKgkX

Weitere Links:

Sophie auf WhatsApp kontaktieren

Sophie per Mail anfragen

Sophies Webseite

Und noch mehr zu AI und Bots könnt ihr hier lesen.

Transcript

Speaker 1

Herzlich willkommen zu meiner ersten Aufnahme in 2025 . Ich hoffe , ihr seid alle gut gestartet , und ich freue mich , dass es mit dem Podcast weitergeht .

Es geht direkt ein bisschen rechtlich weiter , und zwar habe ich Ende letzten Jahres noch mein Buch Generative KI in der modernen Medizin veröffentlicht , und in diesem Zusammenhang habe ich Sven Kohlmeier als sehr interessanten , aber auch unterhaltsamen Anwalt kennengelernt , der eben diese trockenen , langweiligen , aber dennoch wichtigen Themen auf eine sehr gute Art und Weise

entweder aufs Papier ins Buch bringen kann oder auch heute mit mir im Podcast diskutieren wird . Von dem her , sven , ich freue mich enorm , dass du heute dir die Zeit nimmst und die nächsten plus minus 20 Minuten dich mit mir über KI und Regulierungen , datenschutz und ähnliches unterhältst . Bevor wir starten , möchte ich meinen Podcast-Partnern bedanken .

Das ist Vier , die ihr auch bereits aus dem letzten Jahr kennt , und das ist neu auch CreaLog aus Deutschland . Die habe ich ehrlich gesagt erst letzten Sommer kennengelernt .

Dann haben wir uns im November persönlich getroffen und haben eigentlich sofort gemerkt hey , das passt wie die Faust aufs Auge , sie sind neuer Partner , und es wird auch noch eine größere Ankündigung geben , aber ich freue mich jetzt schon sehr , dass ihr dabei seid .

Speaker 2

Und insofern ja , sven , vielleicht kannst du dich ganz kurz vorstellen und den Teilnehmern oder den Zuhörernen ein wunderbar inspirierendes , tolles , digitales , spannendes Jahr . Ich selbst bin Rechtsanwalt und Fachanwalt für IT-Recht hier in Zürich bei Wikipartners und auch noch mit einer Kanzlei in Berlin , was insofern halt spannend ist .

Natürlich dann die Cross-Border-Themen oder auch , wenn es so zum Beispiel um EU-Vertretungen geht , die man gegebenenfalls braucht in verschiedenen Zusammenhängen .

Ich bin seit über 15 Jahren Rechtsanwalt , bin groß geworden im IT-Bereich oder in den 90er-Jahren mit dem Internet , mit allem , was man da so machen dürfte und auch nicht machen dürfte , und habe natürlich dadurch als deutscher Rechtsanwalt auch eine Erfahrung oder viel Erfahrung da im Hinblick so auf EU-Regulierungen , zum Beispiel bei der DSGVO , wie sowas abläuft und wie

es dann einerseits öffentlich diskutiert wird oder angstvoll diskutiert wird und wie dann so die anwaltliche Praxis ist .

Ich bin Mitgründer des Digital Education Institutes , wo wir digitale Kompetenz vermitteln wollen , also so ähnlich , wie auch du , sophie , unterwegs bist und tatsächlich jetzt aktuell beschäftigt sehr stark im Bereich KI und was da rechtlich , wie man es rechtlich umsetzt .

Speaker 1

Okay , dann sehr interessant , und starten wir doch mal gleich Thema KI-Regulierung . Du hast ja jetzt auch schon gesagt , du bist in verschiedenen Ländern unterwegs . Meine Zuhörer sind meist aus Deutschland , schweiz oder Österreich . Die Schweizer denken dann schnell ja , muss ich denn überhaupt diese KI-Regulierung berücksichtigen ?

Das heißt ja erstmal EU , vielleicht kannst du da als erstes ein bisschen Licht ins Dunkel bringen . Müssen Schweizer Unternehmen das berücksichtigen ?

Speaker 2

Ist das für sie interessant , oder können sie sagen , lassen wir komplett außer Acht ? Es kommt darauf an , wo Schweizer Unternehmen tätig werden wollen . Also , die Schweiz ist bekanntermaßen kein Mitglied der EU . Insofern gelten die EU-Regulierungen jetzt nicht unmittelbar in der Schweiz . Da muss man sich eigentlich aus Schweizer Sicht nicht wirklich darum kümmern .

Man bekommt natürlich eine Problematik oder eine Thematik in dem Fall , wenn man dann in den EU-Bereich geht .

Also wenn man jetzt aus der Schweiz heraus zum Beispiel nach Österreich oder Deutschland oder Frankreich oder Italien seine Produkte anbieten möchte und da KI jetzt am Beispiel KI , da zum Beispiel KI dann drin steckt , dann muss man sich leider dann mit der EU-Regulierung auch befassen . Man muss die dann auch entsprechend einhalten .

Insofern ist meine Empfehlung man kann in der Schweiz ganz viel rumexperimentieren , ganz viel rumforschen , weil es bisher keine Regelung gibt . Aber man sollte immer mitbedenken wo will man das Produkt vertreiben , und dann sollte man auch bei der Entwicklung schon mitbedenken wie kriegt man es dann rechtlich auch umgesetzt ?

Speaker 1

Da fallen mir gerade zwei interessante Sachen ein . Würdest du dann vielleicht sagen , dass ein deutsches Unternehmen , wenn es erstmal ein bisschen experimentieren soll , einfach mal in der Schweiz starten sollte ?

Speaker 2

Ja , selbstverständlich , um Werbung für den Wirtschaftsstandort Schweiz zu machen . Es ist tatsächlich so , dass die Schweiz ist halt so eine Insel , insofern so eine Insel der Glückseligen , wenn man es jetzt mal aus regulatorischer Sicht sieht , weil hier sehr viel möglich ist , sehr innovationsfreundlich ist , sehr wenig reguliert ist .

auch so im Bereich Datenschutz zum Beispiel . SWICO hat so die Idee . im Zusammenhang mit Diskussionen über Regulierung von KI in der Schweiz , die auch kommen wird , muss man auch mal sagen , da ist gerade eine Auslegeordnung in Diskussion , die wird wohl diese Woche oder nächste Woche veröffentlicht werden . Also , auch da wird es in der Schweiz Regulierung geben .

Die ist aber immer deutlich zurückhaltender . Insofern finde die Idee nicht so abwegig , aus deutscher Sicht als deutsches Unternehmen hier eine Zweitniederlassung zu haben oder wie auch immer , oder eine Niederlassung und hier zu experimentieren , weil man einfach mehr machen kann und nicht sofort an diese Grenze EU-Regulierung stößt . Spannender , wirklich spannender Punkt von dir .

Speaker 1

Okay , ja toll , die Schleichwerbung für den Wirtschaftsstandort Schweiz , wobei ich muss sagen , ich lebe hier auch ganz gut , also mir gefällt es . Wenn ihr kommen wollt , besucht mich gerne mal . Randnotiz . Jetzt nächste Frage , und zwar sprichst du von KI-Produkten .

Was ist für dich ein KI-Produkt , und wie grenzt du das ab , wenn ich jetzt einfach zum Beispiel ein bisschen Marketing mit KI mache ? Grenzt du das ab zwischen ich biete ein Produkt an , wo wirklich die Kernkompetenz KI drin ist , oder gilt das auch schon , wenn ich einfach zum Beispiel für mein Marketing oder für meine Arbeitsprozesse künstliche Intelligenz einsetze ?

Speaker 2

Aus Schweizer Sicht haben wir da derzeit keine Regelung . was ist KI oder was ist nicht KI ? Und ehrlicherweise , nicht alles , wo KI draufsteht , ist KI drin . Also bei meiner Zahnbürste steht drauf KI mit KI gesteuert . Ich weiß ja nicht , wo dann KI in der Zahnbürste drin sein soll .

Insofern ist nicht alles , wo KI , wo man sagt , mit künstlicher Intelligenz ist , so ein automatisierter Prozess . Wenn man Produkte hat , die zum Beispiel jetzt an Dritt-LLMs angeschlossen sind , da ist tatsächlich dann immer die Frage betreibt man selber so ein LLM , oder nutzt man es bloß ?

Da können so datenschutzrechtliche Fragen bestehen , wenn man da Daten überträgt , je nach Modell , wo man Informationspflichten hat . Aber tatsächlich würde man in jedem Einzelfall schauen , ist es jetzt in der Definition ?

Speaker 1

nehmen wir mal den AI-Act ist es in der Definition jetzt künstliche Intelligenz oder nicht ? Okay , ja , ich glaube , bei deiner Zahnbürste , da waren wahrscheinlich die Marketingabteilungen schneller als die Produktentwickler . Das erlebe ich auch sehr oft . Also , sobald KI draufsteht , wird meistens mehr gekauft , oder wir können auch gleich den Preis verdoppeln .

Gut , aber jetzt hast du gerade das Thema angesprochen , eu AI Act oder auch Definition von KI beziehungsweise wie KI da erklärt wird . Was ist denn da laut dem KI , und warum ist deine Zahnbürste dann eben vielleicht keine KI ?

Speaker 2

Ja , also der AI Act sagt ja , in Artikel 3 gibt es eine sehr schöne Begriffsbestimmung . Also , da kann man sich super daran orientieren , dass ein KI-System ein maschinengestütztes System ist , das mit unterschiedlicher Autonomie betrieben wird und dann so selbst ableitet , also selbst Vorhersagen trifft , die dann aus dem System , von dem System selber erstellt werden .

Nicht alles , was heutzutage digital konzipiert wird , ist in der Lage , selbst Vorhersagen zu treffen oder auch selbstlernend Vorhersagen zu treffen . Auch das ist so ein Abgrenzungsmerkmal .

Ganz oft habe ich Fälle , wo Programmierer denken , sie haben irgendwie ein selbstlernendes System , aber am Ende des Tages ist es eigentlich bloß eine Datenbank , die verschiedene Abfragen macht . Die fällt natürlich dann nicht unter die KI-Systematik .

Also , man wird immer schauen ist es ein System , was autonom tätig ist , was selbstlernend ist und was selbst auch selbstlernend ableiten kann ?

Speaker 1

Okay , ich finde ehrlich gesagt das mit diesem Selbstlernen auch relativ schwierig oder auch komplex . weil genau immer , wo ist der Anfang von Selbstlernen und wo hört es auf ?

weil grundsätzlich geben ja wir Menschen immer eine gewisse Art von Input , und auch wenn ich jetzt sage , du , sven , bist ein selbstlernender Organismus , trotzdem kriegst du ja vielleicht Inputs von mir , von außen , gibt es da irgendwie eine Faustregel , die man sehr einfach anwenden kann , oder muss man sich da wirklich tiefer rechtlich mit beschäftigen oder an dich wenden ?

Speaker 2

Ja , ich glaube , dass man sich in jedem Fall also natürlich wird es bemühen sein , in der Produktentwicklung oder wenn man jetzt KI-Systeme herstellt , schon zu schauen , welchen Regularien unterliegt man ?

Und das ist auch kein Geheimnis , dass wir Anwälte natürlich auch bemüht sind , im Sinne der Klienten , im Sinne der Bandanten zu schauen gibt es eine Möglichkeit , dass man dem nicht unterliegt ?

Und dann gibt es halt in dem AI-Act gibt es eine Definition , dann gibt es eine Begründung zur Definition , und die Begründung sagt halt , dass dieser Prozess eine If-Wenn-Verschnüpfung oder so zieht ja keine Schlussfolgerung , so wie du sagst , da gibst du dem System etwas vor . Sehr gut , eine Möglichkeit hat , auch aus Anwendungsbereichen herauszukommen .

Okay , weil man einfach nicht das automatisierte System hat . In der Sache ist das für mich jetzt , obwohl ich ein hohes technisches Verständnis habe , in der Sache ist das relativ schwierig , weil wir alle nicht wissen , wie funktionieren diese KI-Systeme eigentlich wirklich ? Also , wie ist deren Denkprozess , wie ist deren Arbeitsprozess ?

Also ich habe noch keinen getroffen , der mir sagen konnte , so und so funktioniert das System .

Speaker 1

Ja , da gebe ich dir recht , das ist nicht ganz so einfach , und selbst ich versuche in meinen Vorträgen immer , zumindest das Thema mal ganz kurz anzuschneiden , damit es mindestens so ein gewisses Halbwissen ist , weil , wie du genau gesagt hast , nur wenn wir das haben , können wir daraus auch weitere Konsequenzen ableiten , oder eben auch nicht .

Jetzt gehen wir mal davon aus , wir haben rausgefunden , meine Unternehmen macht ein KI-Produkt , ein Produkt , wo KI enthalten ist . Was muss ich denn dann laut dem EU-AI-Rekt berücksichtigen ?

Speaker 2

dann laut dem EU-AI-Recht berücksichtigen ? Ja , man muss dann schauen , also ab 2 . Februar jetzt anstehend gibt es Regelungen von verbotenen Praxis-AI-Praktiken , also insbesondere so Überwachungsthemen , die man halt nicht mehr anwenden darf in der EU .

Ob es dann am Ende des Tages so kommt , werden wir mal sehen , weil auch in der EU wird ganz viel verboten und ist trotzdem auf dem Markt , aber so eine Systeme sollen nicht mehr möglich sein . Und dann ist eigentlich so der nächste Schritt der 2 . August 2025 . Also 2 . August 2025 , 2 . August 2026 , da beginnt es , dass dann die Regulierung vom AI-Act greift .

26 , da beginnt es , dass dann die Regulierung vom AI-Eck greift . Und dann gibt es verschiedene Risiko , nennt sich risikobasierter Ansatz . Dann gibt es halt muss man schauen , ob und in welcher Kategorie man sein System betreibt .

Ist es ein System ohne hohem Risiko , wie so ein Chatbot zum Beispiel , oder ist es ein System mit etwas höherem Risiko , so ein Chatbot zum Beispiel , oder das ist ein System mit etwas höherem Risiko . Und dann hat man da verschiedene Zertifizierungsanforderungen , die man bei Behörden erfüllen muss , bei Hochrisikosystemen , so Transparenzanforderungen .

Da wird es dann schon komplizierter , aber auch da gilt Aufgabe von uns Juristen ist , das Gesetz auszulegen , und am Ende des Tages wird es nicht anders sein als wieder bei der DSGVO .

Da wird man ganz viel ausprobieren , und dann wird es das ein oder andere Gerichtsverfahren geben , und dann wird es die ein oder andere EU Entscheidung geben , also gerichtliche Entscheidung . Bis man da so Abgrenzungsmodi hat , ist man jetzt ein Hochrisikosystem oder ist man kein Hochrisikosystem . Also wird alles nicht so heiß gegessen , wie es gekocht wird .

Aber natürlich bleibt dann die Aussicht da früher oder später mal mit zu befassen .

Speaker 1

Ja , aber ich finde doch dein ich nenne es mal mit gesunden Menschenverstand auf die Sache blicken , sehr interessant . Deswegen habe ich dich auch eingeladen , weil ich wusste , dass du nicht der bist , der allen nur Angst macht , sondern der das Ganze auch ein bisschen normaler , einfacher berücksichtigt .

Jetzt haben wir ja gesagt okay , die Schweiz ist ein cooles Experimentierland , kommt alle mal her . Umgekehrt . Würdest du nicht vielleicht auch sagen ja , gut , aber so ein Schweizer Unternehmen , was ein bisschen in die Zukunft denkt , sollte vielleicht doch auch Blick auf den EU-AI-Act haben und sich danach richten daran halten ?

Glaubst du , es könnte auch Ähnliches in die Schweiz kommen , oder siehst du das als völlig übertrieben ?

Speaker 2

Ich habe es ja am Anfang gesagt , dass man natürlich als Unternehmen , welches hier in der Schweiz tätig ist , schon schauen muss , wo will man sein Produkt unterbringen . Das macht aber meines Erachtens jeder Unternehmer , der eine Produktentwicklung hat . Der schaut ja , wie sind die Regularien in den verschiedenen Ländern , wo er hingehen möchte .

Und natürlich wird man sich im Zusammenhang damit mit dem AI-Egg befassen müssen , weil halt natürlich jetzt aus Schweizer Sicht der Deutschland natürlich ein Abnehmermarkt ist oder die Europäische Union ein Abnehmermarkt ist . Insofern kommt man da nicht umhin .

Die Schweiz wird selber eigene Regulierung oder Auslegeordnung haben , wo es Vorgaben gibt , was man machen kann , was man nicht machen kann oder darf , Und auch aus Compliance-Gründen muss man mal sagen , Jedes Unternehmen , was in dem Bereich tätig ist , wird sich selber natürlich aus Compliance-Gründen muss man mal sagen , jedes Unternehmen , was in dem Bereich tätig ist , wird

sich selber natürlich aus Compliance-Gründen oder weil es der Reputation hilft , jetzt nicht einfach da losrennen und irgendwie KI machen und so , sondern wird schon mal schauen , wo sind so Grenzen , wo sind vielleicht auch ethische Grenzen , die man einhalten muss , zu sagen , in dem Bereich will man nicht tätig sein .

Speaker 1

Jetzt hast du ja nun bei uns im Gesundheitsbuch mitgeschrieben beziehungsweise im generativen KI für moderne Medizin .

Gibt es im Gesundheitsrecht oder allgemein für Arztpraxen , für Spitäler , für Gesundheitsorganisationen noch irgendwas , wo du sagen würdest okay , da sollte genau diese Branchen bewusst ein Auge drauflegen , da unterscheidet sich etwas , da muss man einmal mehr gucken .

Oder siehst du das einfach als ein normales Unternehmen , was sich eben mit zum Teil sensitiven Daten beschäftigt ?

Speaker 2

Der Gesundheitsbereich also du hast ja dieses wunderbare Buch herausgegeben , no-transcript dass man mit besonders sensitiven Daten umgeht , was sicherlich dann auch eine Herausforderung ist . Also , man möchte nicht , dass deine Gesundheitsdaten irgendwo in den LLM verschwinden . Meine Mutmaßung ist das passiert natürlich , weil Menschen da auch ein .

meines Erachtens sollte man als Unternehmen sowohl im Gesundheitsbereich als auch in allen anderen Bereichen Mitarbeiter schulen und darauf hinweisen wie funktionieren diese Systeme ? wo sind selbstlernende Systeme ? Also ich weiß nicht , wie du das siehst , aber ich möchte nicht , dass in fünf Jahren man einen LLM befragen kann welche Krankheiten hatte der Kohlmeier eigentlich ?

weil irgendwann mal irgendjemand die Daten da eingegeben hat und nicht wusste , dass es selbstlernend ist , oder nicht wusste , dass es zum Training benutzt wird .

Speaker 1

Ja , gebe ich dir absolut recht . Ich glaube , gerade dieses Unwissen . Also ich hatte da mein wie soll man das sagen Erfolgserlebnis Ich habe mir ja im Sommer einen Zahn ausgeschlagen , musste dann zum Zahnarzt , war auch wirklich happy , dass ich innerhalb von einer Stunde einen Termin bekommen hatte .

Deswegen habe ich mich dann auch nicht großartig beschwert War dann aber doch erschrocken , dass sie nämlich einfach meine Versicherungskarte mit dem privaten iPhone abfotografiert haben , um diese Daten von der Versicherungskarte dann bei sich im Computer abzuspeichern . Anschließend wurde mit genau diesem gleichen privaten iPhone mein gesamter Mund fotografiert , aus Dokumentationsgründen .

Natürlich wurde das auch immer wieder weitergeleitet , aber das war auch schon für mich so eine Sache . Ja , okay , haben wir jetzt alle Bilder mal in der Apple Cloud gehabt ? schön , ich glaube ja , genau wie du gerade sagst , dieses Unwissen ist wahnsinnig hoch .

Aber ich sehe es natürlich auch bei Patienten , weil ehrlicherweise das Jahr davor hatte ich ein Knieproblem , war auch wieder beim Arzt . Da ich im Tessin beim italienischen Arzt war , habe ich dann meinen Arztbericht auf italienisch bekommen , habe den ehrlich gesagt auch mal copy-paste in Deep Hill eingegeben .

Also da wirst du jetzt auch Deep Hill und die ganze Welt wissen , dass mein Knie hatte . Aber ich denke , es ist immer noch auch ein Unterschied , ob der Arzt das für mich entscheidet oder ich selber als Mensch .

Speaker 2

Genau , du hast genau das . Also wir arbeiten ja alle mit dem System so , und wir machen natürlich alles richtig als Rechtsanwälte Klammer auf , klammer zu , aber natürlich so , wie du beschreibst .

Das sind halt Themen , und du machst ja auch so Schulungen , so , und wir versuchen das ja auch den Leuten zu sagen guckt euch bitte genau an , was passiert da , habt so ein Grundverständnis von dem , was da passiert . Wenn du einwilligst , kann man mit einem privaten iPhone Fotos machen , so .

Aber du hast das ja angesprochen Am Ende des Tages , diese Fotos werden in der Cloud gespeichert . Auch Apple nutzt ich glaube , ist jetzt noch nicht freigeschaltet , aber nutzt ein KI-System . Apple wertet schon heute diese Fotos aus .

Also du kannst ja dann in der Fotosuche dann irgendwie eingeben du möchtest irgendwie Hunde , suchst dann in deinen Fotos nach Hund oder Katze oder sonst was So . Dahinter steckt natürlich eine Technik , und die Technik wird zukünftig KI-Technik sein .

Und die Technik wird , wenn sie selbstlernend ist , was sie ja sein soll , früher oder später in der Lage sein , verknüpfungen herzustellen und zu wissen die Sophie hatte dann und dann mal beim Zahnarzt und hatte dann und dann mal eine Thematik .

Und du wunderst dich dann irgendwann , warum du in fünf oder zehn Jahren zielgerichtet Informationen bekommst oder Werbung bekommst oder Angebote bekommst , wo du dir sagst , du solltest mal wieder zum Zahnarzt gehen , weil dein Zahn unten 1b nach zehn Jahren mal wieder untersuchen bedarf .

Speaker 1

Das hast du sehr gut beschrieben . Mein Zahn 1b . Ich hoffe , es kommt nicht dazu , aber gut , nein . Aber ich glaube , was ich immer sage , vielmals gerade auch , wenn ich mit Ärzten spreche , die so noch gar keine Ahnung haben oder auch mal so ein bisschen einfach nur wissen wollen , was so ein System kann .

Ich sage schon hey Leute , wenn ihr es einfach mal auf eine einfache Art und Weise ausprobieren wollt , dann gebt doch meinetwegen gerade mal einen anonymisierten Bericht , wie auch immer im Chat-GPT ein und lasst euch den zusammenfassen , umschreiben , wie auch immer übersetzen , einfach um mal vielleicht ein erstes , ganz kurzes Gefühl zu bekommen hey , was macht das ?

Kann so ein System mir helfen ? Kann mir so ein System helfen , meine Arztberichte zu übersetzen ?

Wenn ich dann gemerkt habe , ja , chatgpt hat jetzt zwei anonymisierte Briefe gut übersetzt , dann ist für mich der Moment , wo der Arzt sofort sagen musswickle etwas Eigenes , wie auch immer , gba , swiss GPT , peak Privacy , es gibt auch in Deutschland Alternativen , es gibt Spezielle , die sich besonders auf Gesundheit vorbereitet haben und die man dann eben nutzt .

Und ich glaube , vor allen Dingen , sobald man dann zu seinem Team geht und sagt schaut mal , wir nutzen jetzt KI für die Übersetzung unserer Berichte , muss man unbedingt eine sichere Lösung anwenden und gleichzeitig aber auch genau wie du gerade gesagt hast , diese Aufklärung schaffen . Da ist ja noch so viel Blindheit zum Teil .

Ja , gut , dass du das angesprochen hast .

Speaker 2

Ja , es gibt ja heutzutage Möglichkeiten . Also bei JetGPT kann man halt auch , da gibt es Möglichkeiten , dass die Daten nicht zu Trainingszwecken verwendet werden sollen . Das ist jedenfalls so zu behaupten , wissen wir ja nicht . Auch Microsoft zum Beispiel bietet so Lösungen an . Auch bei Diebel bietet eine Lösung an .

Wenn man da halt eine Pro-Version hat , dann sollen die Daten nicht zum Training verwendet werden . Das muss man halt nur wissen und muss jemanden haben , der es dir am Ende des Tages auch sagt , sodass ein Arzt jetzt ein Arzt hat total viel Ahnung , und die sind total toll .

Aber ich verstehe auch , dass der sich nicht mit den tiefen Dingen von IT beschäftigen möchte , weil der Menschen hilft und rettet . Aber dann gibt es ja jemanden wie dich oder mich , wo man hingehen kann und sagen kann komm , erklär uns das mal und sag uns mal , wie können wir es sicher machen , oder wie können wir sowas ?

du hast auch so Swiss-Lösungen angesprochen . Welche Lösung gibt es da eigentlich auf dem Markt , um es vernünftig zu betreiben und einfach diesen blinden bin ich ja bei dir so diesen blinden Fleck wegzubekommen ? Also auch alle keine Raketenwissenschaft am Ende des Tages .

Speaker 1

Ja , vielen Dank . Ich habe noch eine letzte Frage , und zwar hast du noch das Thema Medizinprodukt angesprochen . Das hat jetzt nicht direkt was mit KI zu tun , aber ich habe immer mal wieder die Diskussion wann ist es ein Medizinprodukt , wann nicht ? was ist ein Medizinprodukt ?

Kannst du das noch ganz kurz einfach erklären , oder gibt es da irgendwie auch wieder da so eine Faustregel ?

Speaker 2

Ja , für Medizinprodukte gibt es eine Definition , was Medizinprodukte sind .

Speaker 1

Du überfällst mich jetzt insofern , weil ich dir die Definition nicht spontan sagen kann , aber die steht wahrscheinlich in dem wunderbaren Buch .

Speaker 2

Was du angesprochen hast , Das war jetzt die ungeplante Steinkörbe . Vielen Dank , Hast du super gelöst das Problem Zum zweiten Mal , oder Nicht ?

Speaker 1

nur für die Schweizer , sondern auch für dein Buch , ja , gedelivert .

Speaker 2

Ich glaube , du hast den falschen Job . Du solltest das Marketing wechseln . Also , da gibt es Definitionen , was ein Medizinprodukt ist , und da gibt es auch Definitionen im Hinblick auf die auf Software getriebene Medizinprodukte oder Software betriebene Medizinprodukte . Auch das ist in dem Buch meines Erachtens dargestellt .

Insofern ja , kauft das Buch oder leiht es euch aus .

Speaker 1

Vielen Dank . Es gibt es mittlerweile übrigens sogar als E -Book , und damit wäre ich eigentlich schon gegen Ende meiner Podcast-Folge . Bevor ich dir das allerletzte Wort gebe , möchte ich mich natürlich erstmal bei dir bedanken , sowohl für deine Autorenschaft in unserem Buch , aber auch heute für die Zeit im Podcast .

Ich möchte mich auch nochmal bei meinen Partnern bedanken CMM360 , fia und CreaLog . Und ja , wie angekündigt hast du das letzte Wort .

Speaker 2

Was möchtest du den Zuhörern noch gerne mitgeben ? Was müssen sie unbedingt beachten , wissen oder vielleicht auch gar nicht beachten ? Da bin ich gespannt . Regulierung Und drittens , was ich besonders wichtig halte , was auch jetzt AI Act vorgeschrieben ist seit 2 . Februar Schulungen zu machen und sich damit zu befassen . Was ist KI ?

wie funktioniert KI , wie sind die rechtlichen Anforderungen ? Und zwar nicht nur , weil es gesetzlich vorgeschrieben ist , sondern weil es auch aus Reputationsgründen meines Erachtens notwendig und geboten ist .

Speaker 1

Okay , also dann Vielen Dank , liebe Zuhörer . Genießt den Tag , und bis zur nächsten Folge .

Speaker 2

Dankeschön , merci .

Transcript source: Provided by creator in RSS feed: download file