#154 AI Kontrollverlust - Wo muss die rote Linie gezogen werden? - podcast episode cover

#154 AI Kontrollverlust - Wo muss die rote Linie gezogen werden?

Mar 05, 202650 min
--:--
--:--
Download Metacast podcast app
Listen to this episode in Metacast mobile app
Don't just listen to podcasts. Learn from them with transcripts, summaries, and chapters for every episode. Skim, search, and bookmark insights. Learn more

Episode description

Höher, Schneller, Weiter! Doch wo soll das enden?

In dieser Folge sprechen wir darüber, warum die aktuellen Entwicklungen immer mehr Kritiker hervorrufen und welche Ereignisse das Ganze noch verstärkt haben.


🔗 Unser Tipp für deinen eigenen Server:

Wir nutzen selbst die vServer von STRATO – perfekt für bspw. deine eigene CI/CD-Pipeline.

Zum Angebot: ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://acn.strato.de/aff_c?offer_id=1&aff_id=1307&url_id=15&source=vserver_podcast⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠

(Werbung)


Dir hat die Folge gefallen?

Unterstütze uns gerne mit einer kleinen Spende:

⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://streamlabs.com/thecodingbuddies/tip⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠

Jeder Beitrag hilft, unseren Content weiter auszubauen – danke dir!


🧠 Du suchst eine IDE, die keine Wünsche offen lässt?

Hol dir jetzt deine Jahreslizenz für jede JetBrains IDE und spare 20% mit dem Code: "CODINGBUDDIESxJB".

⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.jetbrains.com/de-de/products/⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠


🌐 Alle Links auf einen Blick:

🔗 ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠www.links.codingbuddies.de⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠


📬 Du hast Feedback?

Dann schreib uns gern an:

✉️ ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠podcast@codingbuddies.de

Transcript

Ki Agenten Sie werden immer komplexer und immer mehr Menschen können sie einfach so verwenden. Die Frage ist, wo müssen wir bei Ai eine rote Linie ziehen? Coding Buddies Dein Podcast rund um Softwareentwicklung und aktueller Tech News herzlich Willkommen.

Hallöchen, Hallöchen und Willkommen zur neuen Folge des Coding Bodys Podcasts. Schön, dass du wieder eingeschaltet hast, deine Gastgeber, wie soll's auch anders sein, meine Wenigkeit, der Tino und an meiner Seite der fantastische Fabi Fabi Grüße dich was geht ab, Hey Tino, was geht ab, was geht down habe ich gelernt was kann. Denn auch mal her, ich wusste, dass es kommt. Ich wusste es. Ja, haben wir jetzt gelernt im Twitch Livestream. Ja, also was geht ab, was geht

down? Ja, das ist Old School, aber scheinbar kann man immer noch sagen, ja oder vielleicht kommt es wieder, ja man hat ja manchmal es kommt alles wieder, weißt du deswegen, ich sag ja auch die die Mode ja von von unseren Eltern, die ist ja glaub ich, die ist ja fast schon wieder out glaub ich ja also es kommt alles wieder genauso wie dieser Spruch. Ja. Apropos Mode und so alte Sachen. Ich find es auch erstaunlich, dass so diese ganze, ich sag mal diese Skater Mode von früher

auch wieder voll im Trend ist. Also baggy pants und sowas. Ja stimmt, stimmt, das war so n Ding früher bei uns wollte man unbedingt haben, so als Kit. Ja und jetzt ist es einfach wieder ist es also hätte man die Klamotten noch wärst du wieder voll am Start. Wird vielleicht n bisschen zu alt aussehen. So reingequetscht.

Aber eine Sache muss ich sagen, also ja, baggy pants OK, aber manche haben es halt auch übertrieben, also manche hatten ihre Hose ja wirklich den Gürtel um die Knie geschnallt, so gefühlt und also klar, da war ich raus. Also nee, die ganze Boxershorts musst du nicht unbedingt rauskriegen. Ja, das ist n bisschen zu krass. Aber weißt du, der Vorteil ist ja auch eigentlich, man kann ja gar nicht rauswachsen, weil die waren ja so riesig die Klamotten

jetzt einfach. Könntest du also sie sind einfach nur n Stück weniger riesig, wären sie jetzt quasi im Vergleich zu früher das. Stimmt, kannst du immer noch n Zelt draus bauen, aber bisschen weniger. Riesig so kleine nette Side Story. Ich war nämlich auf einer 90er Party ist schon ne Weile wieder her, aber jetzt wo ich gerade an. An die Klamotten denke. Und dann mussten natürlich alle wieder diesen Look rausholen und ich natürlich auch.

Und dann hab ich mir auf Vintage glaub ich ja vintage so ne alte Baggy Pants bestellt und dann hatte ich mal wieder so ne richtige South Paul von früher es das ist schon geil, das ist schon geil und manche denn so n alten eastpack Rucksack von früher weißt du das war das geil das war ne. Coole Party, wenn alle dann wieder so aussehen wie damals. Ich hab dich seitdem aber noch nie mit der Hose gesehen. Nee, ich hab es ja auch nur da angehabt.

Also wenn du möchtest, kann ich es auch gerne mal. Dann renn ich draußen so rum, das ist so, ist in Ordnung für dich mach ich das. Ist doch jetzt wieder am Start. Hast du doch. Gesagt, Ja, müssen wir auch wieder Skateboards holen. Ah, ich hab 1, hol dich raus, alles klar, OK gut, dann lass schnell die Folge machen und dann treffen wir uns sehr. Gut.

Aber wir haben heute n ganz cooles Thema und das hat dreht sich nicht um die Vergangenheit, sondern eher um die Gegenwart bis Zukunft. Und zwar geht es heute mal wieder. Geiler Übergang, oder?

Deswegen geht es heute mal wieder n bisschen um das globale Thema AI. Ja, manche sagen jetzt vielleicht so, na schon wieder AI überall AI, ich kann es nicht mehr hören können wir verstehen, geht uns teilweise auch so, aber heute wirklich n spannendes Thema, weil heute ist es auch n bisschen so ne ethische Frage dahinter und da hab ich richtig Bock mit dir drüber zu quatschen fabi. Ja, definitiv. Es ist ja also man. Es nervt manchmal dieses Thema, weil es halt so omnipräsent ist.

Aber auf der anderen Seite kann man es halt auch einfach nicht wegdrücken. Also bei mir ist es auch persönlich so, dass ich öfter mal mir denke, so, ah, schon wieder dieses Thema, aber gleichzeitig denk ich mir auch so, ich muss es irgendwie, also irgendwie muss man ja auch da ich sag mal to date sein find ich und es geht so n bisschen darum ja, dass man sich ja jetzt irgendwie fragen kann.

Was passiert eigentlich, wenn so KI Systeme so selbst Entscheidungen treffen, weil so mittlerweile ja durch so Agenten kommt das ja jetzt schon irgendwo mehr oder weniger, dass sowas ich sag mal auftreten kann. Ja. Oder Auftritt. Und die Frage ist aber, es ist ja jetzt nicht mega die.

Ich sag mal das das neue Thema so ne es ist jetzt nicht so jetzt auf einmal denkt man Oh warte mal Agenten können eigene Entscheidung treffen, es ist nicht neu aber die Frage ist warum ist es so brisant und wenn das sozusagen der Fall ist ne muss man sich da vielleicht überlegen gibt es irgendwie ne ne Linie oder so ne rote Linie die ne KI nicht überschreiten darf und das können wir einfach mal so n bisschen ja heute

beleuchten mal gucken. Im kleinen Talk auch machen, unsere Meinung dazu geben und so weiter ja. Ist halt wirklich ein spannendes Thema, weil die letzten Monate oder mittlerweile auch schon Jahre standen ja voll im Zeichen des Fortschritts und da fließen Gelder, das kann man sich nicht vorstellen und immer weiter, höher, schneller und Fortschritt, Fortschritt, Fortschritt, die Modelle kommen halt einfach nur so quartalsweise raus von sämtlichen Anbietern und immer besser.

Und spannend ist, wenn man sich das Ganze anschaut. Wo ist da jetzt der Punkt, das Ganze auch kontrolliert zu gestalten? Ne, weil es wird heute auch viel um Kontrollverlust gehen, um das schon mal vorweg zu nehmen so, weil die Frage ist natürlich oder eine Kernfrage dabei ist, wenn ich so viel Tempo aufnehme, komm ich irgendwann ins Stolpern

oder ist das ein kontrolliertes? Ein kontrollierter Fortschritt, ne. Also ich beschleunige so hart diese Entwicklung, kann ich das noch kontrollieren oder stolper ich irgendwann und warum das momentan so brisant ist, ist ja eigentlich nur es ist so n bisschen mediengetrieben ne, aber ein Kernpunkt ist auch, dass das Ganze natürlich immer zugänglicher wird ne so Agents ja hatten wir ja auch Boah das ist ja jetzt auch schon. N halbes Jahr mindestens her

würde ich sagen. Ich glaub letztes Jahr so im Juni, Juli war ja die Microsoft Build und da hat ja github auch viel über die Agents, also den Copilot Agent sozusagen berichtet und vorgestellt und da ging es ja auch schon um eigene Entscheidung, ne dass Features übernommen werden, implementiert werden, dann wird n Pull request gestellt und da hast du ja auch keine. Direkte Kontrolle sozusagen wie was codet er jetzt, der arbeitet ja schon im Hintergrund.

Ne, das ist ja auch schon so n erster Step, jetzt sind wir aber an dem Punkt wo es beispielsweise Open Source Implementierung gibt und man lokal so Agents einfach laufen lassen kann, kommen wir noch auf n. Sehr prominentes Beispiel später denk ich mal was halt in aller

Munde ist momentan. Und das Spannende ist, dass du jetzt einfach beobachten kannst, dass diese Entwicklung immer zügiger wird und gleichzeitig jetzt aber auch immer mehr kritische Stimmen aufkommen, bis hinzu, und daraus ist ja auch das Thema so n bisschen entsprungen, dass du das

mitgebracht hast. Das ist ja, sag ich mal, jetzt auch Gipfeltreffen, nenn ich es mal, ist immer so n toller Begriff. Gibt von Leuten, die dem ganzen sehr sehr kritisch gegenüberstehen, und das sind jetzt nicht Laien, sondern sag ich mal auch irgendwo Experten auf ihr Fachgebiet. Ja, also das sind jetzt, das ist jetzt nicht Tante Emma von nebenan, die sagt, NÖ, also hier, Computer, Internet und so, das ist nicht meins, nein, es

geht darum, dass Leute, die auch teilweise an den Entwicklungen mitgemacht haben und das getrieben haben, jetzt sagen Leute, wir müssen auf die Bremse treten, und das ist ja eigentlich der spannende Punkt dabei, ne, ja. Grüße gehen erstmal raus an Tante Emma. Ja, lustig, nee, aber genau das ist nämlich der Punkt und da war es nämlich, glaub ich jetzt. Vor Kurzem gab es den gab es so n Gipfel auch so NAI Gipfel wie du es schon genannt hast.

Der Gipfel ist immer ist mal sehr wichtig ganz oben. Ist ganz oben, ja. Der stattgefunden hat in Neu Delhi. Und da ging es halt genau um diese Gefahren, die entstehen können, wenn Agenten solche KI Agenten halt eben autonom irgendwie arbeiten können. Ne, also von alleine irgendwie Entscheidungen treffen können und ich fand das super interessant, weil da ging es los, dass der Moderator in die Runde gefragt hat und gesagt hat, wer denn also mal, dass Leute Handzeichen geben sollten,

die vor Ort waren. Wer glaubt, dass es ne mindestens 10 prozentige Chance gibt, dass die Menschheit die Kontrolle über die KI verlieren kann, ja, und da haben eigentlich einfach fast fast jeder da hat die Hand gehoben, ne und das find ich irgendwie. Also es ist schon krass ne und es ist ja immer so, man muss das mal n bisschen abwägen, ne weil auf der einen Seite denkt man sich so ja komm entspann dich mal, mach mal nicht so n Hehl draus ja und übertreib jetzt

nicht. Und auf der anderen Seite ist es halt aber auch trotzdem so, dass man sagt, ja, es ist aber irgendwo ne gewisse, Ich sag mal ne gewisse Möglichkeit und die sollte man einfach in Betracht ziehen. Ja, also klar kann man sich hinstellen und sagen es ist echt n bisschen übertrieben und es sind ja mindestens 10%, ist ja aber trotzdem sagen wir mal einer von 10 ja, wenn du das so n Personen siehst oder mehr ja so von der Chance her also. Ja, jetzt einfach hier das. Ausschalten super.

Ja ja ja klar. Also jeder 10. Verliert die Kontrolle so ich find es halt spannend das also es ist n spannendes Gedankenspiel weil würde hättest du die Hand gehoben frag ich dich mal so ich glaub. Schon. Also ich bin ehrlich, ich glaube schon, ja. Ja, ich, ich nehm mich auch. Ist natürlich n bisschen 10% sag ich mal.

Also der Moderator hat das natürlich geschickt gemacht, ne und das Framing ist halt gut, weil ich mein dieses Gipfeltreffen hat dieses Thema als Kern ne sowas zu kontrollieren und ist natürlich n guter Einstieg einfach mal direkt. Den Leuten aufzuzeigen, dass viele Angst davor nicht Angst davor aber denken, dass es gar

nicht so unwahrscheinlich ist. Und gleichzeitig wählt er natürlich n sehr cleveren Prozentsatz, der irgendwie noch viel klingt, aber gleichzeitig im Kopfweh auch suggeriert, so, na ja, komm also, es ist nicht wirklich wahrscheinlich, aber das so wahrscheinlich ist es schon. Ja, also das kann schon sein, hätte er jetzt gesagt, 50% oder so, weißt du also das wesentlich höher angesetzt wär natürlich die Reaktion ganz anders gewesen.

Aber das ist auch das Erste, was es bei mir ausgelöst hat. 10%, das kann sein, ja, na klar, es ist ja auch viel Medienwirksamer am Ende ne, wenn wirklich die Leute dir die Hand heben, das stimmt schon, ich find es was ich halt spannend finde ist, dass es solche Gipfel wie ich ja auch schon meinte, es ist ja halt kein neues Thema ne und es ist ja auch nicht so, dass man sich so denkt, so ja Boah krass, jetzt könnte es passieren, so, man hat sich damit glaub ich schon immer wieder

auseinandergesetzt, auch gerade als so LLMS rauskamen, ne, gab es auch so. Gipfeltreffen, die dann irgendwie so hießen wie AI Safety oder so ne.

Witzigerweise ja, wurde aber relativ schnell das Ganze auch mal so zu einer AI zu einem AI Action Gipfel umgewandelt, ne so n naming n bisschen verändert kommt natürlich auch n bisschen geiler rüber wenn man das dann also wenn man ich sag mal die Interesse oder das Interesse hat das auch so mehr oder weniger also zu vermarkten ja. Dann willst du ja jetzt nicht großartig auf die Gefahren eingehen, sondern du willst

sagen, wie geil das ist. Ne so, da kann man natürlich dann auch immer gucken, wo legt man jetzt den Fokus drauf und trotzdem kommt man halt irgendwann dann wieder drauf zurück auf diese Safety Nummer, einfach aus dem Grund, weil du es jetzt auch schon mal Anfang der Folge so n bisschen angeschnitten hattest, weil es so n Auslöser gab. Ja und der Auslöser war halt eben n relativ populäres System, was jetzt so auch in den Medien war Openclaw ne.

Und das war so n bisschen so auch für diesen, für diesen, für diese Frage im Gipfel der Auslöser dafür, dass das Mal so angesprochen wurde, dass es vielleicht auch wieder mehr thematisiert wird, ne, aber damit wir jetzt auch wirklich jeden abholen, kannst du mal so bisschen erzählen, was openclaw eigentlich ist. Ja, kann ich machen.

Also erstmal vorweg, ich hab es selbst nicht verwendet aus gutem Grund, ich denke da werden wir auch drauf kommen, also erstmal kurz die Warnung, also wenn du Liebe zuhören, Liebe zuhören, Bock hast Open Cloud zu verwenden, dann mach es bitte mit bedacht, wir werden es auch glaub ich belegen warum man das mit Bedacht machen sollte was ist es genau? Also Open Cloud unterscheidet sich insofern von Chatbots, dass es halt wirklich. NAI Agent ist der erstens Open

Source ist. Das heißt, du kannst ihn halt einfach verwenden. Ja, also es ist kein Payment Modell so zwangsläufig dahinter, sondern du kannst es halt einfach ausprobieren und das ist halt schon mal der erste Schritt, er ist sehr sehr zugänglich und ich hab das nur so am Rande anfangs mitbekommen, also in dem Moment wo das quasi so aufkam ist das ja völlig durch die Decke gegangen.

Ja also. Unfassbar, wie die Reaktion war und im Endeffekt ist es ja glaub ich von einer Person entwickelt worden, gleichzeitig nicht vollendet. Also es ist sozusagen ne Art MVP, der schon ganz gut läuft und vieles zeigt was möglich ist. Aber mit dem klaren Statement, dass der Code dahinter. Zum großen Teil Vipe Gecoded ist, was ich gelesen hatte.

Ja, also nage mich nicht drauf fest, aber das hab ich dazu gelesen und da dachte ich mir schon wow krass, also erstmal krass, dass der Entwickler es ist ja open Source, er sagt Pass auf, das ist der Stand, es ist nicht fertig, ich leg nicht meine Hand dafür ins Feuer, ich hab wirklich viel gevipe coded und ich glaub da waren auch so Aussagen drin wieso mindestens die Hälfte des Codes hab ich nicht wirklich durchgeguckt weil das funktioniert halt, das ist halt so n richtiges.

Experiment gewesen würd ich es mal fast nennen ne zu sagen ich weibcode das durch und will sowas mal bauen. Ja so und das ist halt voll durch die Decke gegangen und warum? Es ist halt also open Claw der Agent dahinter ne kann halt sag ich mal sehr autonom arbeiten und hier wirklich Arbeit abnehmen und hat wirklich.

Krasse Anbindung an Systeme ja, also hinzu, er kann deine Mails bearbeiten, beantworten, er kann Termine für dich festlegen, er kann dir Benachrichtigung schicken für Termine, er kann, er hat halt Zugriff auf deine Dateien, beispielsweise bis hinzu Messenger wie Telegram oder whatsapp, was ich halt sehr bedenklich finde. Ja, du musst. Also du musst Opencloud den Zugriff schon aktiv geben.

Na ja klar, also bei bei bei den Messengern zum Beispiel, ja, bei whatsapp beispielsweise, und das find ich halt krass, dass manche Leute das machen, das funktioniert, also es hat keine native Anbindung, so wie ich das verstanden hab, deswegen musst du quasi komplett freigeben, auch deine ganzen Chats und alles ne das heißt er kann zwar den Nachrichten beantworten für dich, aber du weißt nicht wann wie wo was zumindest in der Version was ich mir angeguckt hatte, ja wer weiß wie jetzt der

Stand ist. Aber er hat halt einfach komplett den Zugriff und liest alle Chats die du da drin hast. Und kann auch. Und da. Frage ich mich, für wen ist das wirklich OK? Jetzt kann man sagen, ja gut, das ist ja mein Agent und hier und da und wo, was soll er denn schon damit machen? Ja aber jetzt stell dir mal vor keine Ahnung, du hast da. Ich muss mir jetzt irgendwas ausdenken.

Firmeninterne Chats ja, mit Kollegen oder oder vielleicht auch wirklich richtig sensible Daten in Chats, dass du sagst ja keine Ahnung, irgendwas in der Firma und der Haut das einfach raus so ja beantworteten Chats so nach dem Motto Ja Tino kann da leider nicht, weil der hat da in der Firma das und das Treffen ist richtig geheim, weil da ging es da und da drum, so weißt du nur mal so ist jetzt so n bisschen. Humorvoll dargestellt aber dass diese Gefahr ist ja dann da.

Weißt du, wie ich das meine? Ey, mir wird es ja schon reichen, wenn du irgendwann keine Ahnung weißt du dich, sagen wir mal du hast n Tag wo du dich wo du wirklich mal dich entspannst ne und einfach das Handy weglegst und irgendwie gar nicht so verwendest. Ne und dann nach dem Tag merkst du, dass du auf der einen Seite 2 neue beste Freunde hast und übrigens dich mit deinen Eltern übelst verstritten hast. Ja, schon ausreichend und der denkt so.

OK, warte mal, warte mal. Was ist denn hier passiert? Weil ne Opeclaw kann ja dann in dem Fall der Agent auch autonom antworten, wie du ja meintest. Ja und dann auch so Sachen wie er entscheidet selbst was er für gewisse Task braucht an Fähigkeiten und es gibt sozusagen Plugins und auch Marketplace dafür, dass er, und das fand ich auch richtig krass, zum Beispiel also. Noch mal ganz kurz dazu.

Du kannst vieles konfigurieren und blockieren, ja, aber es geht ja darum, wie er initial auch funktioniert und viele ihn verwenden, was ich so bedenklich finde ne klar kannst du auch Sachen wie da sehr. Restriktiv behandeln am Ende ne, aber grundsätzlich ist er in der Lage in den Scheiß Marketplace zu gucken und zu sagen, Ey, das Plugin klingt richtig gut für meinen Task, das installier ich einfach mal.

Also hat es natürlich auch nur n paar Tage gedauert bis richtig viele Plugins mit Schadsoftware in Marketplace gelandet sind, ohne Validierung, weil es halt alles unter dem Deckmantel Open

Source am Ende ist. Ja, und da haben wir jetzt die Sicherheitslücken. Ja, man kann sagen, Na ja, aber nur ich verwende ihn doch so, ist doch OK, er weiß das alles OK, aber auch nur ich arbeite ja mit ihm, andere haben ja keinen Zugriff so und jetzt installiert er sich aber n Plugin und andere haben auf einmal Zugriff und können die Daten auslesen et cetera und da wird es halt meiner Meinung nach übelst gefährlich, ja. Es ist ja auch irgendwo n

Service ne und der ist ja auch irgendwo gehostet und die. Ich hab steck jetzt nicht hundertprozentig im Detail drin, aber wenn du n Service hast der gehostet ist, sind irgendwo deine sind irgendwo Daten und wenn du zugriffsdaten zu bestimmten Messengern Systemen hinterlegst damit der Agent das benutzen kann, dann ist es natürlich auch nicht weit hergeholt, dass man eventuell bei einer ich sag mal bei einem gehackten Server auch irgendwie an bestimmte Daten rankommt und

nicht an wenig. Unbedingt ne. Und wir wissen alle, wieso n ich ich nenn es mal wie der Mensch ist. Ne der Mensch denkt sich och Mensch ist ja ganz nett ja da hilft mir so n Ding so und dann denkt man sich so OK es funktioniert ja ganz gut ja funktioniert ne Woche gut funktioniert n Monat gut und dann sagt man OK gib ihm mal richtig so ja und dann.

Hast du da was weiß ich für Daten drin, dann passieren da Dinge. Also das ist ja so n hohes Maß an Autonomität oder wie man das nennen mag, dass du vielleicht auf der einen Seite sehr bequem bist und auf der anderen Seite aber ja, und jetzt sind wir bei dem Punkt die Kontrolle halt verlieren kannst. Du weißt nicht mehr genau was da passiert, ja du weißt nicht mehr genau was da los ist. Also um das noch mal zu sagen, Kontrollverlust der hier gemeint

ist, der ist. Es geht hier nicht darum, dass wir sagen, es gibt jetzt hier direkt so n Science Fiction, Terminator ne. Darum geht es jetzt nicht, sondern es geht wirklich darum, dass der Mensch einfach irgendwann nicht mehr nach nicht mehr vollständig versteht oder nachvollziehen kann, was ein Agent tut und warum so. Und wenn dann Dinge passieren, wo du vielleicht erstmal zurückverfolgen musst, Ewigkeiten, warum hat er das

jetzt gemacht? Ich versteh das gar nicht, wieso hab ich jetzt auf einmal 9 Elfer in der Auffahrt stehen und bin Hochverschaltet. Ne, also das muss man dann erstmal herausfinden. Ganz erlaubt gesagt, es ist halt also ich find es halt auch die Vorstellung, dass er zum Beispiel auch wirklich so Mails beantwortet, Termine legt und alles. Ich hoffe du kriegst das gar nicht mit, wenn ihr jetzt zum Beispiel 2 Agents vom also.

Du und ein Geschäftspartner beispielsweise mal jetzt fiktiv ne und die machen da hin und her die Agents. Ja ne hier ne der Preis ne ja gut ne weißt du und klären das unter sich und du weißt gar nicht mehr was da abgeht. Übrigens wir haben jetzt Firma XY als Geschäftspartner verloren, es droht vielleicht eine Klage aber kein Problem ich. Kümmere mich drum sind das meist die Deals zwischen Vidia und zum Beispiel Open Eye. Gab mal wieder n. Milliardendeal ja, also die

wurden ausgehandelt von den. Tinchern kannst du nicht nur

hinstellen. Und sagen, ja, ja, war echt toll, ja. Wenn du klärst, wo die Kohle herkommt, alles gut und das ist halt wirklich genau das ist der Kontrollverlust. Das ist jetzt nicht mal wirklich, dass man irgendwie vom Leben ausgesperrt wird, es gibt ja auch wirklich Szenarien, die manche sich vorstellen, da sind wir ja gar nicht, ne. Dass du jetzt irgendwie komplett kontrolliert wirst oder so. Aber es geht einfach schon im ersten Schritt und da stehen wir so ein bisschen davor, darum zu

sagen, habe ich noch wirklich eine Kontrolle darüber, was im Hintergrund passiert, oder sehe ich nur noch Auswirkungen, also so Input, Output, aber die Verarbeitung ist halt für mich nicht mehr verständlich, was da passiert, warum kommen diese Ergebnisse wie sie kommen, ja. Klar hast du das beim bei so einem Chatbot wie wir, wie ich ja anfangs meinte, was ja wirklich auch schon viele verwenden, Chat GPT zum Beispiel. Klar weißt du ja auch nicht was

unter der Haube passiert, aber das ist so. Ich geb dir was und ich bekomm was und da ist nichts mehr irgendwie was aus dem Ruder laufen kann. In dem Moment weißt du wie ich das mein. Es ist nicht so, dass Churchill PT nebenbei sagt, ja warte, antworte ich dir gleich, aber interessanter Chatverlauf hier, was ist denn da los? Weißt du, das ist es.

Halt nicht, aber an dem Punkt stehen wir jetzt ja vielleicht bis hinzu, und das ist jetzt schon n bisschen weiter gesponnen, dass du sagst, so, na ja, ich hätt gern das und das mach das mal für mich, nee, tut mir leid, das kann ich nicht machen, wieso nicht? Na aber ich denke das ist nicht gut für dich, wenn ich jetzt diesen Termin mache, ja. Zu deinem Wohl werde ich das jetzt nicht tun, oder? Zu deinem Wohl habe ich übrigens jetzt mit Person XY die

Freundschaft gekündigt, wieso? Na ich hab die Chats analysiert und da sind viele Beleidigungen drin na ja, aber das ist immer so n bisschen spaßeshalber zwischen uns na da da da. Na Tim, der tut dir nicht gut, ich, ich muss dir ja noch was erzählen. Also ja, das mit uns ey, er hat gesagt wir dürfen nicht mehr miteinander reden. Das ist übrigens die letzte Podcast Folge. Danach dürfen wir uns nicht mehr hören, aber ich stell mir das so n bisschen. Also ich find das ja auf jeden.

Fall ist n interessantes Gedankenspiel. Weil also so wie man ja zum Beispiel damals irgendwie so n wieso n Smartphone aufkam. Ja und man wo ich mir zum Beispiel auch noch dachte, so, ja ja klar, Smartphone OK, funktioniert doch erstmal noch so. Also man kommt ja wahrscheinlich irgendwann in diesen Modus, dass du halt vielleicht kein Smartphone mehr unbedingt hast. Also vielleicht schon noch, aber dass der essentielle Part, den du hast, einfach persönlicher Agent ist.

Ne, also wenn. Es mag ja noch nicht so weit sein, aber ich kann mir schon durchaus vorstellen, einfach aus dem Grund, was ich meinte, so n Mensch ist ja irgendwie faul, der denkt sich ja so, je mehr mir abgenommen wird, desto besser ist es ja, ist ja eigentlich ganz ganz lässig, bis man halt irgendwann an den Punkt kommt, wo man sich so denkt.

So Gott, ich kann ja, ich hab ja völlig die Kontrolle verloren, so ne wie du meintest so ne, dann darfst du das und das nicht mehr so oder das wäre vielleicht nicht so gut. Aber ich stell also so kann ich mir aber vorstellen, ne, dass du dann, dass du nur noch irgendwie so deinen Agenten hast, mit dem du am besten nur noch immer so kurz so sprichst und sagst so, ja hier mach mal bitte das und das.

Ja das und das mach mal bitte dies und jenes und das und das Termin für das bla bla bla und dann vielleicht auch gar nicht mehr an so viel Anweisung geben musst, weil er das ja irgendwann einfach gelernt hat. Ne ich glaube dieser dieses Open Claw, dieser Open Claw Agent, der erstellt ja auch so ne Soul Datei ja von einem die analysiert wie du bist. Wer du bist, was du, was du für ne Persönlichkeit hast.

Na ja, also die ja, ja genau, also die Soul Datei ist quasi seine Seele und über seinen Anwender legt er auch eine an. Genau also es gibt halt quasi so 2 Files die ihn definieren und dich beschreiben sozusagen. Ja genau, aber im Endeffekt soll es ja schon wahrscheinlich so sein, dass diese, also dass er so agiert wie du, weil sonst macht es ja irgendwie nicht so viel Sinn. Wenn zum Beispiel.

Ja, du sagst ihm genau, du sagst ihm ja das, das macht man ja bei Chat GPT zum Beispiel auch, dass du sagst und bitte.

Also wie oft liest man irgendwelche Prompts wie ja du musst ihm sagen, verhalte dich wie ein Marketingexperte oder und so weiter ne, da sind ja so diese Prompts, die Geistern ja auch durch Social Media einfach überall umher so ne und natürlich funktioniert das insofern, dass du ihm sag ich mal ne Seele gibst und das ist dann wie du meinst ja nichts anderes zu sagen, sei bitte so und so oder?

Wenn er was macht, ja oder wenn er was macht, dass du sagst, nee, aber antworte bitte so und so oder wenn ich dich sowas frage, dann antworte bitte in dem und dem Format, oder weißt du also, dass du ihn so n bisschen längst und formst und sowas quasi hinterlegt, der sich dann sozusagen um darauf wieder zuzugreifen zu können und gleichzeitig, und das ist für mich halt so, neu an der Stelle, dass er das Halt für dich auch macht, ne, dass er quasi wieso n Tagebuch über dich führt, klingt

n bisschen witzig, aber im Endeffekt ist es nichts anderes so nach dem Motto, Oh heute hat er aber n schlechten Tag gehabt, der Fabi. Ich hab ihm was gegeben, der war völlig angepisst. Das war nicht richtig. Oh mein Gott, nie wieder erwähne nie wieder diesen Punkt. So weißt du aber, das ist ja, finde ich, ja genau der Punkt.

Weil also diese Datei über einen wird ja angelegt, damit eben das Modell weiß wie man ist und vielleicht sich auch selber so verhalten kann, also gerade wenn wenn du jetzt zum Beispiel irgendwelche Chats hast und er also der Agent schreibt die Chats für dich oder antwortet für dich, dann wäre es ja schon, ich sag mal zumindest aus meiner Sicht, wenn er das Macht, wäre

es schon schön. Wenn er es so macht, wie dass es auch nach mir klingt, weil sonst ja, denkt man ja, ich würd es, kommt halt drauf, kommt halt drauf an bei so so schreiben, ja versteh ich, dann soll es natürlich in deinem Namen sein, bei anderen Aktivitäten nimmt der ja schon ne eigene Rolle ein, dann sozusagen ne wie ich ja gerade meinte mit sowas wie sei ein Marketingexperte ja, dass wenn du selbst einer wärst, bräuchtest du ihn nicht fragen, so mal überspitzt gesagt weißt

du aber. Ich sag mal im großen und ganzen ne. Selbst wenn du also ne wo es wo es hingehen kann, also es ist es sind ja es sind ja meistens, es sind ja es startet so ne, es sind diese Kleinigkeiten mit denen es losgeht ne und wir wissen ja es kann sich noch verändern und es wird sich sicherlich auch verändern, aber ich finde es ist immer so n guter Anhaltspunkt wo kann die Reise hingehen? Es muss nicht unbedingt sein, dass sie da hingeht, aber wo kann die Reise hingehen?

Und gerade bei solchen Dingen glaub ich, dass es auch ne gewisse Richtung gibt, in die das Ganze geht. Einfach aus der Erfahrung heraus ne und ich würd mittlerweile nie sagen, das glaub ich nicht weil ganz ehrlich, also sind wir mal wirklich legen wir mal die Hand aufs Herz ich weiß nicht wie es bei dir ist. Was hast du denn zum Beispiel 3 Jahre bevor es JGPT gab gedacht wie sich die ganze Sache entwickelt das ist würdest du hättest.

Du gedacht, dass das, wie es heute ist, so wäre oder nicht? Ja, natürlich nicht, also wie gesagt, das ist so schnelllebig die. Die Entwicklung ist so rasant, ja, dass man kaum hinterherkommt, sich Sachen vorzustellen, wie sie werden könnten.

Das, finde ich, kann man ruhig mal so sagen, ja, also vor einem Jahr dachte man noch, na ja, das auf keinen Fall und jetzt denkt man sich so, ja OK, krass, aber das auf keinen Fall und so geht es ja gefühlt seit 23 Jahren ja genau, also das ist halt so rasant vorwärts schreitet und das ist halt auch irgendwie das gefährliche und zur Frage wie ich das heutzutage sehe, na ja, zu 10% hat man ja vorhin geklärt, ne?

Ja. Ich find es von 0% in der letzten Zeit auf 10. Ja mal gucken wo wo wir in 3 Monaten stehen. Ja gut, gut sollten sollten wir mal dann noch mal drauf zurückkommen, dann in 3 Monaten. Aber ich find halt so. Also was ich interessant finde ist, dass es halt die einen gibt, es gibt ja immer mehrere Lager ne und nehmen wir mal so 2 ganz krasse Lager ne die einen sagen Boah Kontrollverlust und die anderen sagen chill uns kann

nichts passieren. Ich find es halt interessant, dass da wo die einen sagen, ey, das ist jetzt irgendwie ein Schockmoment, der Open Claw, krass was da abgeht.

Das ist auf jeden Fall schon eigentlich schon der Start von einem Kontrollverlust, den wir hier erleben, gibt es halt auch andere ne so das ein oder andere Unternehmen, dass das ganze halt wie ich meinte ne die andere Seite, die es nicht ganz so kritisch sieht, ne kann man sich jetzt fragen warum wie kann es sein, dass so ein Unternehmen sich denkt EY ist doch gar nicht

so schlimm? Na ja, ich find es also erstmal sinnbildlich schon ziemlich krass, dass dieses Gipfeltreffen da in Neu Delhi im Prinzip nicht nur 1 war, sondern 2, die so gefühlt parallel nebeneinander stattgefunden haben. Einmal die Kritiker und einmal die absoluten Befürworter, die es immer weiter treiben wollen und das zeigt halt schon genau das, was du meinst. Du hast 2 Lager und. Die bilden natürlich ihre Bubbles und pushen das ne.

Und da wo liegt jetzt die Wahrheit und bekanntlich ja immer in der Mitte. Also ich glaube, dass der Fortschritt gute Seiten mit sich bringt und die Kritik angebracht ist. Ja, und du hast jetzt aber 2 Gipfeltreffen, wo einmal die totalen Kritiker sind und auf der anderen Seite die, die sich keine Platte machen und einfach nur immer höher, schneller, weiter wollen. Ja und das? Ich find beide bringen so ihre

Argumente mit sich. Das ist halt das Spannende dabei, ne und definitiv, aber du hast halt einen Punkt. Also ich find da ist halt da, schwingt halt auch viel Politik mit, reden wir ja nicht so viel drüber, ist ja auch nicht so Thema unseres Podcasts, aber an der Stelle muss man es ja auch mal erwähnen, dass natürlich dieser Wettbewerb auch sehr politisch getrieben ist. An manchen Stellen ne, dass zum

Beispiel die aktuelle. US Regierung sich hinstellt und sagt, na ja, nee, wir wollen da keine Regulierung und Limitierung, weil wir wollen diesen weltweiten Wettbewerb nicht verlieren und wir haben hier starke US Unternehmen die das richtig pushen und deswegen werden wir da jetzt keine Steine entwickeln. Ja und dann immer so dieses.

Ja, dieser Klassiker, so wir können gegenüber China nicht verlieren, weil China hat natürlich auch ihre Firmen, die krasse Produkte da oder Weiterentwicklungen auf den

Markt bringen. Ne ja richtig, jetzt ist die Frage, wer soll jetzt die Rolle einnehmen und sagen Hey Stopp mal Leute ja Wettbewerb hin oder her, jeder will Erster sein OK aber wir müssen ja auch mal n bisschen dran denken, wie können wir das Ganze noch kontrolliert gestalten weil sonst gucken wir am Ende alle in die Röhre ne egal wer erster ist. Also es gibt ja zum Beispiel Forschung. Wie? Spannend, ja.

Gibt ja zum Beispiel so Forschungseinrichtungen und halt eben regierungsunabhängige Einrichtungen. Ne die halt auch sagen Ey Leute, es wäre wirklich schön. Ja gerade bei diesem, bei diesem Ausblick, den wir hier mit Open Claw zum Beispiel sehen, dass man bis Ende des Jahres sich irgendwie auf ne rote Linie einigt, wo man sagt KI darf diese Linie nicht überschreiten, ja, also zum Beispiel sowas wie ich denk mir jetzt was aus, ne KI soll keine. Oder darf keine hochsensiblen Daten haben.

Mal als Beispiel ne oder man muss bestimmte Dinge immer freigeben. Ich weiß es nicht, aber irgendwie, dass man sagt Ey Leute, also das ne, also es ist jetzt nur Beispiel die ich mir gerade ausgedacht hab, nicht die irgendwo gefordert werden aber ich find es halt interessant, dass es halt einfach diese Leute gibt und ich manchmal trau. Also ich trau so Forschungseinrichtungen die unabhängig sind, schon würd ich sagen in einem Gewissen im gewissen Rahmen. Und das finde ich dann halt

krass. Ne und was ich interessant finde ist, dass ich glaub auch auf dieser Neu Delhi Konferenz war dann auch jemand der meinte ja aber wir sollten das ganze jetzt nicht so krass als superwaffe sehen, ne, weil da wurde dann irgendwie gesagt so wenn du irgendwie sagst ey, wenn du AI zu krass vorantreibst, dann hast du irgendwann den Star Wars Todesstern ja. Und wenn du das als Todesstern Betitelst, dann will jeder diesen Todesstern haben.

Wie zum Beispiel war so Vergleich mit Atombombe ne so? Ja Atombombe ist super superkrass und alle so OK, die ist Superkrass die brauchen wir baut alle diese Bomben so ne und ich versteh das ja, dass man vielleicht sagt so OK ja mach es nicht zu diesem Todesstern ja metaphorisch, aber wenn du das nicht tust, dann verharmlost du es total.

Ja, und da muss man dann halt, finde ich, auch wieder n bisschen aufpassen, gerade wo zum Beispiel auch Personen aus dem Silicon Valley, die halt eben in dieser Technologie arbeiten und diese Technologie vorantreiben, aber halt Angestellte sind, da gibt es auch Menschen, die sagen, die würden es lieber gerne, diese ganze Entwicklung langsamer machen, die also langsamer beziehungsweise vorsichtiger an diese ganze Sache rangehen, aber wenn, wenn sie das machen

würden, ja dann haben die auch selber gesagt, dann würden die gefeuert werden, weil es quasi heißt so ey. Gib mal Gas, wir müssen hier sozusagen dieses Rennen, was du meintest, um die bessere KI müssen wir gewinnen. Ja ja, also erstmal krass, dass sie ne Star Wars Metapher da bringen oder Analogie, das find ich schon mal cool, sehr sympathisch aber ja also die Parallele ist krass mit zur

Atombombe das zu ziehen. Aber ich kann in gewisser Weise verstehen, dass sich Leute hinstellen und sagen, ja, dem Oppenheimer hat man auch nicht gesagt, du mach mal nicht.

Das ist ziemlich krass, was wir hier vorhaben, sondern der technologische Fortschritt in dem Moment und der Wettbewerb auf der Welt stand im Vordergrund und man wollte der Erste sein, und diese Parallele kann man ziehen, ist halt ne krasse parallele, ne, also da möchte halt niemand drüber nachdenken, versteh ich, ist halt auch heftig, aber es hat

halt gewisse. Wie soll ich sagen, mehr Parallelen einfach ne und das zeigt aber auch, dass sie auf dieser Konferenz natürlich sich die Leute versammeln, die das so sehen, sehr drastisch und sagen Leute, letzte Ausfahrt, jetzt müssen wir das machen, am besten bis Ende des Jahres, weil sie wissen natürlich auch, wie schnell das voranschreitet, deswegen die Deadlines, ja. Ich fand es ja auch krass, dass einer sogar gesagt hat, ja, wenn wir das nicht machen, ist das

das Ende der Menschheit. So so ne Aussagen wurden da ja auch berichtet, ja, dass das und das sind keine Leute. Die wie gesagt bei Tante Emma eben an Einkaufen noch mal schöne Grüße, sondern zum Beispiel gab es da ja auch ich. Ich hab die Namen leider nicht am Start, falls es da Bedarf gibt, können wir es gerne nachliefern, aber zum Beispiel somit die ersten Bildgeneratoren AI basiert quasi entwickelt haben ja und dann irgendwelche COS waren in Firmen und jetzt

gesagt haben. Du, ich muss jetzt auf die andere Seite und ich muss das Ganze verhindern, dass das Unreguliert bleibt. Von solchen Leuten reden wir ja an der Stelle, die technisch wissen, was da abgeht und das find ich halt spannend an der Stelle ne. Was ich witzig finde, Tino noch mal ganz kurz, ich hab ja auch AI mal gefragt, ja was AI dazu sagt zu dem Thema und ich hab gefragt ob also wohlbemerkt chipity.

Und hab gefragt, was sozusagen der Version 5.2 sagt, ob die Menschheit die Kontrolle verliert. Ja, mich hat das mal interessiert. Ja, was sagt denn EY selber dazu? Ne und die Antwort war fand ich ganz interessant. Ja Menschheit kann es schaffen, kein Problem, weil es ist von

Menschen gemacht. Dieses Thema haben wir unter Kontrolle. Hardware, Algorithmen, Infrastrukturen, alles unter unserer Kontrolle, das heißt dadurch, dass wir es erschaffen haben, haben wir auch die Kontrolle oder die Möglichkeit der Kontrolle darüber, es gibt aber Risiken, ja, wie zum Beispiel ja, und die Risiken sind ganz interessant, wenn man jetzt, wenn KI immer autonomer wird, könnten Risiko sein, zu schnelle Entwicklung der KI

könnten Risiko sein. Ne schwache globale Kommunikation könnte auch n Risiko sein. Heißt also im Fazit Ja, die Menschen kann es kontrollieren, wenn wir kollektiv frühzeitig entschlossen handeln, ja und sagen, dass wir uns, also dass wir, dass das ne Einigung gibt, ne, also dass man wirklich sagt, wir achten darauf, dass die Sicherheitsmechanismen Schritt halten bei diesen. KI Modellen und dass der wirtschaftliche Druck halt nicht zu groß wird im Verhältnis zu einer globalen Abstimmung.

Ja und? Ja gut, das sind ja im Prinzip genau die Punkte oder die wir angesprochen haben und die auch die Konferenz im Prinzip ankreidet und bedenklich findet. Heißt netto recherche. Ich finde nette recherche, was ich halt lustig finde ist halt dieser Punkt, dass es das also was kleiner Side Note Cha Chip, die hat immer wir gesagt. Mhm. Ja, die die, die ist dabei unter. Uns. Sie ist bei wir der Menschheit dabei interessant.

Es gibt dir ein Gefühl von Sicherheit, auf jeden Fall so, aber das interessante dabei finde ich immer so nach dem Motto Ja geht falsche Sicherheit, ja. Aber das interessante dabei find ich immer, dass es heißt, so, ja, wir können das schaffen, ja, aber und das wichtige ist, dass man sozusagen es schafft, sich global abzustimmen, und da denk ich mir, so kann ja jeder mal selber überlegen, wie gut das momentan so auf der Welt funktioniert.

Ja, ja, das halt. Das bleibt, ist und bleibt n Kernproblem. Einigung zu finden da, und das nicht nur, wie n Wettbewerb zu sehen, aber da es unfassbar wirtschaftlich ist zur Zeit viele ja auch von so einer AI Bubble sprechen. Ja. Wird halt immer weiter gerannt und immer noch mal der erste sein und die Cash Cow melken sag ich mal. Und das kann halt noch richtig böse auf die Füße fallen. Vielleicht auch so ne Art. Ja was heißt reset nicht aber.

Wirklich noch mal n Rückschritt geben zu sagen, nee, so können wir es nicht machen. Und jetzt noch mal kontrolliert, also hoffentlich ne besser als immer weiter und gar keine Kontrolle mehr drüber zu haben und ich glaube das kann halt auch so n bisschen das Fazit sein am Ende ja wer hat jetzt recht von beiden Seiten beide irgendwie und das ist immer so ne Antwort die sehr unbefriedigend ist. Aber es ist so ist der Fortschritt gut, ja kann er uns

helfen in gewissen Punkten? Auf jeden Fall ist es.

Gerechtfertigt, so enthusiastisch zu sein dabei ja, es ist ne geile Sache, es ist ne Neuheit und kann auch so n neues Tech Zeitalter einleiten gehe ich mit bin ich nicht mal anti ja dass ich das Gefühl hab er ist alles Quatsch bringt nichts beim Coden haben wir auch schon viel drüber gesprochen kommt viel Müll raus, kann dir aber an gewissen Punkten schon sehr gut helfen so und das innerhalb von paar Monaten gefühlt Entwicklung. Ist es schon zu dem Punkt

gekommen, dass man sagt, Ey, es kann mir helfen und noch n paar Monate weiter, kann es dir wahrscheinlich noch besser helfen und ersetzen ist dann wieder so n Thema. Nee glaube ich nicht und dann gehst du auch wieder, dann kommt man halt schon auf die andere Seite zu sagen, ja wer kontrolliert das denn am Ende noch, ja.

Und es gibt ja auch Berichte von großen Unternehmen, die viele rausgeschmissen haben, gesagt haben, wir gehen Ey i driven ran an die Sache und am Ende haben Sie gesagt, das war der größte Fehler, den wir gemacht haben, so n paar Monate später, weil alles die Qualität abgenommen hat und alles gibt es ja auch Berichte, ja braucht man nur mal googeln und das zeigt halt, dass irgendwie beide Lager recht haben und man sich irgendwie in der Mitte treffen muss und das ist so finde ich auch die

Kernbotschaft dahinter. Es muss Austausch geben, es muss globalen Austausch geben und es muss kontrolliert sein. Ja, also damit mein ich nicht Leute ausgrenzen, also ausgrenzen im Sinne von ihr dürft es nicht verwenden und ihr dürft es verwenden, sondern auch so n gewisses Monitoring, ja dass es gewisse Vorgaben gibt, wie das Ganze zu entwickeln ist, welche Anforderungen eingehalten werden müssen, ja und openclaw

ist n gutes Beispiel für. Total zugänglich und wirklich mit Sicherheitslücken bestückt sozusagen. Ja, ich finde, wir sagen ja immer, man sollte nicht auf Tests verzichten und ich finde, gerade dabei sollte man bestimmte Sicherheitsmechanismen einbauen, die so als Art ne Rückhalt, wieso Tests halt auch dienen und die auf gar keinen Fall weglassen, ne, also dass man irgendwie halt eben sich wie du meintest, sich auf bestimmte Dinge auch einigt und sagt.

Was kann man denn tun, damit es eben nicht irgendwie aus dem Ruder läuft? Ne und wie gesagt, es heißt ja nicht, dass das jetzt bis Ende des Jahres passiert, wenn man da sich nicht drauf einigt, es gibt ja auch wirklich noch Probleme, die KI hat die noch ungelöst sind, ne, was vielleicht auch in Ordnung ist. Ja alle mal ganz entspannt bleiben, es muss nicht alles morgen fertig sein, ja.

Ich finde man, man kann sich auch n bisschen Zeit lassen bei manchen Dingen ja einfach mal auch Dinge genießen und nicht immer nur durchrushen. Ja weißt du. Ist so. Ist so. Einfach auch mal bei einem Spaziergang sich auf ne Bank setzen und sich einfach mal angucken wie schön alles ist. Ja, ich find das muss man auch mal machen im metaphorischen Sinne, auch in der Softwareentwicklung. Ja Mhm, gönnt euch doch mal wieder ne richtig schöne Funktion die ihr schreibt und nicht weit.

Schön schön gesagt, schön gesagt. Ja, ich find halt was man so abschließend noch sagen kann, ne, das klingt immer alles sehr aufgeblasen im Sinne von vielleicht dramatischer dargestellt als es eigentlich ist. Und wenn man auch so Artikel zu dem Bereich liest, klingen die immer schon. Wieso der Weltuntergang oder auf der anderen Seite wie die absolute Revolution und morgen muss niemand mehr arbeiten und alle werden in absoluten Reichtum leben.

Du findest ja alles dazu, was man an der Stelle sagen muss und da hatten wir auch n ganz coolen Beitrag gesehen und der ist auch so n bisschen Augen öffnend, man darf nicht vergessen, dass man als Softwareentwickler oder Entwicklerin. Oder als interessierte Person dafür natürlich voll in der Bubble drinsteckt. In der AI Bubble, wie ich

glaube. Wir sind so die ersten mit gewesen, die dieses Ausmaß festgestellt haben, die Entwicklung, die einfach vorne dabei sind in Sachen sich mit dem Thema zu beschäftigen und es wirkt alles so allgegenwärtig und so kurz vor wichtigen Entscheidungen. Weißt du, wie ich das meine? Weil zum Beispiel angenommen ja, nehmen wir doch nur das Beispiel, Liebe Zuhörerin, lieber Zuhörer, du bist jetzt mein Beispiel. Du hörst den Coding Buddies Podcast und findest das cool?

Dann vielen Dank dafür und hörst halt öfter was über AI und bist natürlich dadurch auch Teil dieser Bubble. Wir sind Teil der Bubble, weil wir es zum Coden nutzen, weil wir uns natürlich auch viel mit dem Thema auch für n Podcast mit Beschäftigen und heißt für uns ist es allgegenwärtig, aber jetzt auf diesen Beitrag gekommen.

Da wurden Zahlen genannt, dass im Prinzip gerade mal ungefähr 10% der Weltbevölkerung sich überhaupt mal mit so kostenlosen Chat Modellen wie Chat GPT beschäftigt haben. Ja, dass weniger oder ungefähr 3% überhaupt sagen, ich bezahle Geld für den erweiterten Service dahinter, für bessere Modelle und alles. Ja. So also wir sind so Early, ja. Viel, viel Early geht es nicht,

das ist schön. Das Denglisch aber weißt du, also reden wir jetzt davon, die Menschheit steht vorm Abgrund, wie die einen sagen, oder ab morgen ist alles komplett anders, wenn wir doch eigentlich bei dieser, sag ich mal Adaption gerade sind. Ja, richtig, definitiv. Also das ist ja, das ist NNN guter Punkt und das muss man sich auch vor Augen halten, dass. Ich glaube, du kannst irgendwie zu einem zu einem Menschen in deinem Umkreis gehen, der vielleicht nicht so in dieser

Bubble drin steckt. Ja, aber zum Beispiel halt Freund, Familie ist und sagt, Kennst du eigentlich Openclaw?

Hab ich gemacht, da hieß es, nee, keine Ahnung was ist das ne also das ist ja mal so n so n kleines Beispiel davon, weil wir sagen Boah krass haben wir auf jeden Fall mitgekriegt, gar kein, gar kein Thema natürlich was du hast davon nicht gehört, was ist mit dir los ne aber andere denken sich so keine Ahnung hab ich nur nee weiß nicht was ist das und wenn du dann erzählst was es ist ist so. Alter, das ist ja.

Krass, weißt du? Also klar, man kann ja jetzt sagen, dass viele Unternehmen natürlich so Chatbots einsetzen für ihre Websites und alles, und da hat man natürlich Berührungspunkte, was wir natürlich an der Stelle meinen, ist dieses Aktive selbst verwenden sozusagen zu sagen, ich möchte das jetzt verwenden, von mir aus ne und ich krieg das ja auch im Umfeld mit, was nicht so Tech getrieben ist. Ja klar wird JGPT verwendet, auch nicht von jedem regelmäßig,

aber die ist. Es etabliert sich, sag ich mal. Aber wir sind halt einfach an einem Punkt, wo es noch locker kontrollierbar ist mit guten Regulatorien. So weißt du wie ich das mach. Ja. Also das ist n. Der Zug ist nicht abgefahren, der ist noch lange nicht abgefahren und ich find es gut, dass man jetzt anfängt schon was heißt schon ja hätt man auch n bisschen früher wär es OK gewesen.

Aber dass man sagt, wir müssen uns, wir müssen uns mit diesem Thema beschäftigen und es ist n guter Zeitpunkt, immer noch, sich damit zu beschäftigen und das noch in gute Bahn zu lenken. Ich glaube also, ab morgen ist nicht Terminator 1 und 2 angesagt, weißt du? Richtig also dann erst nächstes Jahr, oder? Nee, auf jeden Fall. Nächste Jahr dann auf jeden Fall nee. Aber ich stell jetzt einfach noch mal ne Frage in Raum, die sich ja jeder mal kurz beantworten kann.

Einfach mal ne Frage, die kann man mit nach Hause nehmen, ja. Wenn AI irgendwann mal komplett übernimmt, übertreibt jetzt, wie nehmen dann und das ist ne Frage, die hab ich mir auch gestellt, wie nehmen dann Staaten die Steuern ein und das nehm ich jetzt lass ich es einfach mal so stehen ja kann ja jeder mal drüber nachdenken und dann nenn uns die Antwort auf diese Frage genau nee aber wir können da gerne mal auf Discord drüber diskutieren weil und da kommen wir nämlich dahin wenn du

Bock hast. Noch n bisschen intensiver über das Thema zu quatschen, dann komm auf jeden Fall auf unseren Discord. Der Link ist in den Shownotes und uns wird es auch mega interessieren, dass du generell zu diesem Thema sagst, wie siehst du die Entwicklung von KI Agenten, Fluch oder Segen und wie geht für dich das ganze weiter? Also das wird uns mega interessieren, das ist auf jeden Fall mega spannend und ansonsten würde ich einfach mal sagen, wenn dir der Podcast gefällt.

Den wir hier machen. Dann empfiehl uns gerne weiter. Bewerte diesen Podcast auch sehr sehr gerne, falls du es noch

nicht gemacht hast. Ansonsten vielen vielen Dank dafür und wenn Du sagst ey die beiden das ist es, da kann ich noch n bisschen mehr unterstützen, dann gibt es auch n kleinen Spendenlink unten in den Shownotes guck da gerne mal rein und ja ich würd sagen Tino vielen Dank fürs Gespräch, hat Spaß gemacht sehr brisantes Thema ich könnt glaub ich noch n ganzen Tag mit dir darüber quatschen.

Ja, ist wirklich spannend. Und in diesem Sinne würde ich einfach mal sagen, wir hören uns in der nächsten Folge wieder deine Coding Buddies. Gemeinsam besser. Und jetzt? Schnappt ihr das Geld vor weiter? Wir haben. Noch besser zu tun.

Transcript source: Provided by creator in RSS feed: download file
For the best experience, listen in Metacast app for iOS or Android