Moin Leute zu Folge 95 von einfach komplex heute. Wie sagt man taufrisch aus dem Podcast Ofen? Wir sind tatsächlich ein bisschen spät dran, deswegen gibt es die Folge später, aber dafür umso aktuelleres Thema. Wir wollen nochmal über Machine Learning sprechen, maschinelles Lernen auf Deutsch, was die Technologie hinter dem eigentlich ist, was heute nur noch KI oder künstliche Intelligenz genannt wird, dem ganzen Mal ein bisschen auf den Grund gehen, was steckt dahinter?
Welche Arten von maschinellem Lernen gibt es eigentlich? Und vielleicht auch die Geschichte angucken? Noch mal ganz kurz, ja, es ist ja kein Geschichtspodcast, sondern Technik Podcast. Und dann hat Burkhard natürlich coole Beispiele dabei für diese Arten des maschinellen Lernens passt das, soweit Burkhard und Moin erstmal. Ja Moin Gerrit, ja ich denke schon, wir gucken mal.
Ich hab Gerrit heute schon gesagt, in der Vorbereitung frag mich einfach ich das Thema ist einfach so gigantisch und wir wollen gar nicht so lange darüber reden. Also es gibt natürlich Leute, die haben da zurecht viele
Bücher geschrieben. Die Mathematik geht bis zum Sankt nimmerleins Tag und so weiter also für die Einordnung wir wir, wir wollen mal gucken, dass wir das einfach so n bisschen gliedern und so weiter so n bisschen heia Level ja und es ist ne doppelurlaubsfolge muss man sagen Ja Gerrit ist weder Gerrit noch ich sind in Hamburg oder irgendwo in der Nähe von Hamburg mal gucken ja aber ich denke das passt ja wir kriegen das hin, Leute. Gut, also ich bin bereit
geredet, es geht los, so aber. Wir wollen ja keine Sommerpause
machen oder so, oder? Oder Herbstpause ist in dem Fall, deswegen ziehen wir es einfach durch und ja, maschinelles Lernen, also ich hatte ja gesagt, die Einordnung ist erste und ich hab geguckt und ich fand dieses Bild total spannend, der matroschka, Puppen, die äußerste matroschka Puppe die wir alle sehen ist KI Maschinen irgendwie intelligent zu machen, mit Maschinen kommunizieren zu können wie es mit Menschen der Fall ist und so das ist das was wir gerade alle
sehen und irgendwie. Uns darunter vorstellen und da drunter die Puppe, die also etwas kleiner ist, aber gar
nicht für uns sichtbar. Das ist eigentlich der Weg, wie das funktioniert, und das kann man sich vorstellen als maschinelles Lernen letzten Endes ne was dahinter steckt hinter der KI, also so ein Teilbereich dessen und du kennst mich ab, Burkhard ne wenn ich kurz erzähle, wenn man noch weiter reinguckt, also die, die die dritte Puppe quasi sich anschaut, die 2 obersten wegnimmt, dann haben wir im Kern das Deep Learning und das Deep Learning, ist also wieder ein
Teilbereich des Machine Learnings.
Und bezieht sich auf insbesondere neuronale Netze beziehungsweise die sehr vielen Schichten in diesen neuronalen Netzen. Ja, da steht einfach das Tip für, also das hat mir sehr geholfen in der Einordnung, also worum es überhaupt geht, also es ist letzten Endes die Technik hinter dem, was wir KI. Ja, ich will vielleicht noch mal sagen, KI, wie wir sie heute kennen, basiert ja genau auf einer Technik des Machine Learnings nämlich oder einer Methode des des Machine Learnings, nämlich den
neuronalen Netzen. Ja, das das ist ja auch nur eine von vielen, ne, es gibt. Es gibt ja viele andere. Ja, das Problem ist noch viel fundamentaler, ja des des Machine Learnings. Ja, was ist denn nämlich Machine Learning, das nur mal ganz kurz auf der Tonspur
auseinanderzunehmen? Ja, wir haben ja das explizite Programmieren, wo ich dann sage, wenn das passiert, dann mache dieses und so weiter ja, also vorhergesagte Logiken und so weiter das ist dann überhaupt nichts mit Learning, das ist dann einfach Machine Programming und das heißt Machine Learning heißt im Prinzip, dass ich Programme habe, die.
Auf Daten reagieren ne. Also wenn ich wenn ich wenn ich irgendwie mit was mit Machine Learning habe, dann hab ich immer nen datenproblem ne ich hab ich hab irgendwelche Daten und ich will irgendwas mit diesen Daten machen ne irgendwas muss ich lernen ne irgendwie was weiß ich wieviel werden wir vielleicht später noch machen ich hab zum Beispiel irgendwelche Häuser und dann hab ich irgendwie Parameter ja Grundfläche was weiß ich Lage und so weiter und sofort dann
will ich das irgendwie optimieren und so weiter also ich hab also Daten und irgendwie was muss aus den Daten analysiert werden, das ist halt irgendwie Machine Learning und. Eine Methode, um, um aus den Daten irgendwie Sinn zu bringen und sind zu stiften, sind halt die neuronalen Netze.
Es gibt aber auch andere, ja, also genau, aber es hat sich halt herausgestellt, dass die extrem kompetent sind, ja und im Prinzip bisschen das nachbilden, was ja auch in der Natur passiert, in unserem Gehirn, das ist ja nicht weit weg, ja, man versucht es ja nachzubilden, wahrscheinlich nicht ganz dumm die Idee, weil wir funktionieren ja auch ganz gut, unser Gehirn, ne also hat sich auch zu einer Spezies entwickelt, wir Menschen selber, die in der Lage sind sehr stark zu lernen, ja zum
Beispiel. Sieht man ja ne Natur Werkzeuge zu nutzen und so weiter und sofort ja, also scheint gut also. In dem Bild der in dem in dem Bild der matroschka Puppen ist das jetzt die, die auch die dritte Schicht, das ist sowas wie das Deep Learning, das sind die neuronalen Netze letzten Endes ne OKI du wolltest noch ne normale Scherpuppe. Auspacken? Ja, gut, ja. Nö, wollte ich nicht.
Ich wollte es nur einordnen, weil wir ja so angefangen haben mit dem Bild und das ist letzten Endes die dritte, ne, also es ist ein ein Teilbereich des maschinellen Lernens, sind die neuronalen Netze und die sagst du sind heute. Dafür verantwortlich, dass wir diese großen Durchbrüche haben, insbesondere was generative KI angeht.
Ja, ganz genau. Also dann gucken wir uns mal ganz kurz Geschichte an. Da hab ich natürlich auch wieder so n bisschen rum recherchiert, natürlich auch wieder KI benutzt, also erstaunlicherweise, das war mir nicht klar, kann man ganz schön weit zurückgehen in der Geschichte, also eigentlich bis zu den Anfängen von Computern, um die ersten Forschungsergebnisse oder die ersten Überlegungen zu maschinellem Lernen eigentlich zu finden, das war in den 1900 50er Jahren schon.
War dir das klar, dass das zu der Zeit schon ein Thema war, mit dem sich Menschen beschäftigt haben? Ja, ich hatte mal. Ich hatte mal so von es gibt von Heise so Kurse und ich hatte auch mal so n Machine Learning Kurs mir gebucht tatsächlich von Heise und die hatten auch angefangen mit so einer Historie und da war ich auch ziemlich stark verwundert wie wie weit das zurückging, aber es war schon immer natürlich für die Menschen.
Entspannendes Problem? Ja, das ist ja der heilige Gral, irgendwie aus in den Maschinen quasi selber das Lernen beizubringen, ja irgendwie und aus Daten, das ist ja, das sind ja auch die meisten Probleme, ja das das sehen wir ja da, KI ist ja der Einschlag, weil es halt irgendwie alle echte Probleme löst, die wir so haben. Ja, also war schon immer immer ne Idee und Wissenschaftler haben sich schon immer damit befasst, ja. Na ja, schon immer.
Also der Erste war wohl der Arthur Samuel in 1952, der den Begriff irgendwie geprägt hat, Machine Learning. Und er hat n Programm entwickeln wollen was das Spiel Dame besonders gut spielt. Damit fängt es an und es gab dann wohl Phil Ophorie und so weiter und irgendwie in den Siebzigern und achtzigern 90er Jahren, also des 20.
Jahrhunderts. Logischerweise hat man dann festgestellt, ah, so einfach ist es jetzt doch nicht, weil insbesondere Rechenleistung fehlte und die Algorithmen eben noch nicht ausgereift genug waren und dann gab es so ne Art KI Winter in dieser Zeit, so wird das bezeichnet. Und erst 2012 kam, wenn man so will, der große Big Bang.
Es ging wieder richtig los vom Thema KI, weil 3 Themen insbesondere zusammen kamen, einmal sind es also die Unmengen an Daten aus dem Internet, also das ist ja letzten Endes die Grundlage für alles, was heute da ist an an generativer KI, insbesondere Internet wird einfach eingesaugt und daraus gelernt, plötzlich waren die die Chips zur Verfügung ja Thema Nvidia und zwar die die GPUS, insbesondere die.
Aus der Gaming Industrie kamen und die Algorithmen hatten sich verbessert und hier ist das Thema Deep Learning oder neuronale Netze dann das Entscheidende. Ja und dann ging das wohl relativ zügig, wie wir jetzt merken, von 2012 bis heute weiter, bis wir jetzt alle mit CGPT und Co. Arbeiten. Ja, das ist krass, wenn man das auf der Zeitleiste aufzeichnet. Da gab es ja wirklich n Big Bang.
Ja, es explodierte dann ja, ich glaube aber was nicht genau an diesen Sachen da kam, das kam halt dann alles zusammen. Ja, wir hatten Daten, wir hatten die Möglichkeit die Daten zu berechnen mit den Algorithmen, die Algorithmen waren halt auch schon lange. Durch die Wissenschaftlerhänder gegangen und gut optimiert. Ja, es passiert natürlich, aber heute andauernd ja immer noch irgendwas. Ja, also ich glaube wir sind gerade so am Anfang von dem das
so richtig abgeht. Ja ich glaub da passiert noch ne ganze Menge in den nächsten Jahren auch. Sich jetzt zu denken, dass wir dass jetzt alles passiert ist, das wär natürlich denkbar falsch, ja. Ja. Jetzt wird ja auch gesehen, was da an an Returns quasi eingespielt werden kann. Also die Leute sind bereit für KI basierte Software zum Beispiel. Geld auszugeben ja, und nicht nur die Leute, sondern sondern die Firmen. Und dann geht es ja alles richtig los, quasi ich.
Hab fast das Gefühl, jetzt haben wir. Jetzt haben wir n Überschwung, so dass wir, dass wir jetzt gerade mehr Lösungen haben, als dass wir die Probleme schon irgendwie gefunden haben. Alle, die wir damit cool lösen können, ne also es ist es schwingt gerade fast in die andere Richtung, ne, aber genau da wird noch viel kommen.
Ja es kommt ja auch viel, wir sehen es ja in unseren mit mitverdienern sag ich immer die ganzen Start Ups und so weiter es gibt ja sehr viele die da die irgendwie ne neue Idee haben wie jetzt KI eingesetzt werden kann ne und? Sinn bringt ja. Kennst du den Hype Cycle, den Gardner Hype Cycle? Ja, den kenn ich natürlich ja.
Ja, es fühlt sich so an, als wären wir gerade ganz oben auf dem Hype so ne und dann wird es noch mal durch so n kleines Tal gehen, aber wer weiß, ja ja ja. Jetzt kommt ja auch gerade in in linkedin und so weiter überall. Ich krieg andere auch die Nachrichten, ja platzt jetzt die KI blase und so weiter ja ist es überhaupt ne Blase oder wie auch was? Ja wir werden sehen. Ja genau, wir werden sehen. Darüber müssen sich andere Podcasts und und Menschen
Gedanken machen. Ne, das machen wir jetzt. Genau, wir kommen jetzt mal zur Technik, da füllen wir uns zu Hause, zumindest fühlst du dich da zu Hause und lass uns doch mal die die Arten des Maschinenlernens durchgehen, ne, also es gibt das überwachte lernen, also superwise Learning, das un superwise Learning und das also das Unüberwachte lernen, wenn man das übersetzen möchte und das re enforcement
learning das bestärkende lernen. Ich würd sagen jetzt gehen wir die mal durch und erklär mal was steckt da jeweils hinter ja genau also. Es gibt diese 3 Methoden aber die auch so die 3 Anwendungsfälle und so weiter sind auch komplett unterschiedlich. Ja also die die muss man wirklich auseinander dividieren und es ist auch es sind nicht 3 Methoden um das gleiche Problem zu lösen, sondern es sind 3 Methoden die auch 3 verschiedene Problemaspekte behandeln. Ja und?
Also muss verschiedene. Muss ich erstmal darüber im Klaren sein, was ist eigentlich mein Problem und dann kann ich überlegen, welche Methode nutze ich dafür. Ganz genau, oder? Ja, richtig, also irgendwas willst du lösen und dann musst du gucken, was ist.
Was ist das ne zum Beispiel, du hast jetzt gesagt Dame Spiel oder irgendsowas ja Schachspiel also wenn du jetzt so n wenn du n wenn du jetzt n robotischen Schachspieler haben willst oder irgendsowas ja dann sind wir ganz schnell beim Re enforcement learning, ja weil da da hast du ganz oft das Problem, ist halt durch Trial and error ja weil du weißt jetzt immer Schachspiel ist das krasse Ding ja du machst halt zum Beispiel viele Züge,
opferst Bauern und so weiter und stellst erst ganz am Ende fest. OK das war aber trotzdem insgesamt sinnvoll.
Ich hab dich dann doch noch schachmatt gesetzt und so weiter ja, das ist halt von der ganzen denke und so weitergibst du natürlich immer Belohnungen. Ja hast du guten Zug gemacht und dann wieder gibt es auch wieder Bestrafung weil weil du irgendwas verloren hast und so weiter aber es ist dann doch noch komplex, weil das quasi alles auch noch über einen Zeitstrahl aufgespart werden muss und du kannst ja auch kleine Bestrafung quasi akzeptieren, sag ich mal um dann
trotzdem das Spiel zu gewinnen. Ja, je nach Komplexität des Spiels bei Schach ist es zum Beispiel so, ja das ist ne ganz
eigene. Ganz, ganz eigene Art der Algorithmiken, die dahinter stehen und so weiter dieses Re Enforcement Learning ja also zum also Spiele spiele Sachen zum Beispiel und auch in der Industrie gibt es so n Klassiker Roboter ne die die irgendwie was picken sollen oder irgendsowas ne die haben ja relativ viele Achsen am Arm und so weiter und wenn die irgendwas bestimmtes machen sollen die werden tatsächlich manchmal von Menschen geführt um um um die
Sachen richtig zu machen und da wird quasi das ähnliches Konzept ja also greift daneben und dann korrigierst du ihn in dem Moment und so weiter ja das. Ganz eigene Klasse von von Machine Learning Kategorien, ne. OK, also dann lass uns doch mal mit dem kurz anfangen mit dem Reforcement Learning.
Also ich find das find das mit den Spielen total cool, da gab es ja auch den Moment wo plötzlich ne KI oder oder ne Maschine letzten Endes den Schach Obermeister besiegt hatte und dann gab es noch mal n paar Jahre später dann gab es quasi das Thema wo die KI diesen Go Spieler also go ist ja noch mal
dieses also. Viel kompliziertere Spiele anscheinend als Fach. Ich kenne es nicht, aber was man auch lernen kann und wo dann auch immer der Computer gesagt hat okay ich bin jetzt also wer hat den einfach gewonnen und es gibt noch ein anderes Beispiel, es gibt ne KI die hat Super Mario durchgespielt, so schnell wie noch nie ein Mensch zuvor und dann haben wir gesagt okay krass, also wenn die das können die Maschinen ja, also dann ist aber bald vorbei mit der
Menschheit, ja dann übernehmen die wirklich wie bei der Matrix oder so. Aber stellt sich raus, die können halt einfach nur gut Schach spielen oder gut Go spielen oder gut Super Mario die jeweilige KI, aber sonst halt auch einfach nichts und warum, das ist halt das wo ich dachte krass, das ist es eigentlich das Dream Force Blearning die haben halt das sind halt computergesteuerte, die können halt beliebig viele Partien wenn man so möchte parallel spielen,
das heißt die haben jegliche Möglichkeit dieses Spiel zu spielen, einmal durchgespielt vielleicht sogar. Mehrfach, so ist es im Prinzip auch, ja. Genau, und dadurch wären die einfach total gut und das hat n Mensch gar nicht die Möglichkeit in seinem Leben so oft diese Partien zu spielen. Ja, das ist richtig, genau. Ja, ja, es es funktioniert also wirklich ganz anders.
Also man hat also so technisch hat man halt so 5 beim Greenforcement lernt man immer so 5 kernkonzepte ja, du hast halt irgendwie den Agenten, so sagt man halt, das ist quasi das das das Machine Learning Modell ja und dann hast du halt die Umgebung. Also die, die die Welt, in der
der Agent Halt gesetzt wird. Ja, das ist also quasi das Schachbrett oder das Labyrinth oder dein dein dein go Spiel oder wie auch immer, ja ist, ist quasi die Umgebung und dann hast du halt n Zustand als als dritten, als drittes Kampfkonzept der Zustand ist halt quasi der jetzige Zustand des Schachbretts, also quasi die Position aller Spielfiguren im im Moment x. Ja und dann hast du die Aktion also und das ist quasi eine Liste der möglichen Aktionen.
Gegeben einem Zustand, ja, kann sich das Ganze. Ja, das hat natürlich ganz viel mit den Regeln zu tun von dem Spiel was du da optimierst und so.
Ja und dann hast du doch als fünftes Konzept die Belohnung als einziges Feedback, dass der Agent quasi erhält das Modell ja, also es passiert ja immer gegeben, einem Zustand wird, der wird der Agent eine Aktion auslösen und die war entweder gut oder schlecht und du gibst im Prinzip n ziemlich einfaches Feedback. Ja, also plus 1 für cool -1 für das war Mist. Oder, oder, oder irgendwie 0, wenn wenn irgendwas dazwischen war, so ja, also Ziel quasi so
von so einem Training ist halt in in dem Reinforcement Learn nicht einen Wert vorherzusagen, wie das halt irgendwie bei den ganzen anderen KI Modellen und so weiter ist ja wie wie irgendwie n hauspreis oder sowas bei einer Regression oder irgendwie ne oder wie das nächste Wort bei einem großen Sprachmodell ja das ist ja quasi ne ne Vorhersage was macht jetzt als nächstes Sinn? Ja das ist nicht die Idee sondern. Die Idee ist quasi ne optimale
Strategie zu lernen. Ja man sagt auch Policy im englischen ja wie ich jetzt quasi so nen Spiel so n Schachspiel quasi lerne ja weil halt die Strategie hab ich ganz am Anfang gesagt, die kann das ist n bisschen komplexer weil ich muss halt andauernd quasi die Zeit mitnehmen, es kann es kann halt ne gute Strategie sein am Anfang zum Beispiel viele Figuren zu verlieren und zum Schluss die richtigen zu behalten und dich dann doch noch mal zu setzen.
Wir wissen ja selber wie komplex Schachspielen ist. Zum Beispiel Ja. Da wollte ich kurz einhaken.
Ja, weil. Das klang jetzt so in deiner Beschreibung, als wär jetzt nach jedem, um beim Schach zu bleiben, nach jedem Zug ne Stunde Feedback vorhanden, 10 oder oder -1. Manchmal gerade beim Schach weiß ich das ja noch nicht, wie du gerade sagst, war das jetzt gut, das weiß ich vielleicht erst 5 Wochen später oder vielleicht weiß ich es sogar erst am Ende des Spiels, wo ich meinen Gegner Schach mattgestellt habe, das heißt ich kann das auch im
Nachgang noch erfahren, also ich kann erst mehrere Züge durchführen oder diese werden als ein Zug betrachtet im im Sinne der der Technik oder Mathematik und am Ende gibt es n Feedback war das gut oder schlecht?
Richtig, das stimmt. Gerrit, und deswegen sind auch diese, du hast ja auch was gesagt, ganz am Anfang ist natürlich auch wahr, die die Dinger werden halt gut, wenn sie halt milliardenfach irgendwie das Spiel gemacht haben, ja, aber es ist trotzdem so, nach jedem, nach jeder Aktion, nach jedem Zug gibt es irgendwie ne Bewertung, ja die selbst diese Bewertung kann dann aber auch, muss quasi auch gewichtet werden ja kann gut oder schlecht sein ja wenn du zum Beispiel n Zug
machst der irgendwie einfach nur nach vorne zieht und keinen gegnerischen Spielfigur schlägt, ja dann ist die hat die vielleicht irgendwie so nen neutralen wert sag ich mal als Bewertung ja. Und wenn du n Gegner schlägst, dann gibt es vielleicht plus 1. Ja während du n Gegner Matt
setzt. Dann gibt es halt irgendwie noch mal plus 100 oder irgendwie ja als Belohnung weißt du und und was passiert technisch ist, dass wenn da so n Ding anfängt ist es natürlich maximal blöd, das wird halt nicht gut Schach spielen ja so wie wenn du jemals sagst hier ist n Schachspieler so hier sind die Regeln, so darfst du ziehen, so mach mal ja der wird halt verlieren ja gegen den guten Schachspieler ja und so verliert halt quasi auch die künstliche der künstliche Intelligenz
Schachspieler sag ich mal ja. Aber was jetzt passiert ist quasi diese Belohnung oder Bestrafung, die werden gespeichert, und zwar nicht nur einmal für diesen Zug, sondern die ganze Historie, das ganze Spiel wird quasi festgehalten und du hast ja ne Kombinatorik, also Zustand mögliche Aktion ja und quasi jede mögliche Aktion gegeben, einem möglichen Zustand, das wird quasi ne Matrix. Ja du hast dann irgendwie die Zustände als Zeilen und die und die die möglichen Aktionen als Spalten.
Und da ist am Anfang alles leer. Ja, aber wenn du das jetzt quasi tausendmal durchgehst, dann kannst du quasi diese Belohnung und die Bestrafung und so weiter aufbauen als Matrix über alle Züge, über alle Aktionen von gegeben allen Zuständen, das wird halt n fettes Teil. Ja und da stehen dann aber quasi deine ganzen Gewichte drin und so weiter und dann kannst du quasi rückwärts gucken und das passiert dann auch, wenn das dann cleverer wird, dann kann das, dann guckt es quasi schon
in dieser, in dieser großen Tabelle, ja die nennt man Q Table glaub ich bin jetzt auch nicht der Experte, ja. Guckt man quasi, wenn ich das und das mache, wie würde denn dann das vielleicht später aussehen können und so weiter ja ist ne ganz andere Art von von Gedanken.
Ja und wo kommt da KI ins Spiel? Wir wollen das jetzt da hier nicht technisch zu tief machen, aber das Problem ist wenn ich jetzt so ganz komplexe Probleme hab, dann kannst du dir vorstellen Gerrit diese Matrize an Kombinatorik und an an Gewicht und so weiter die wird halt auch schon sehr sehr komplex ja und alleine dann quasi für den nächsten für die nächste Aktion zu entscheiden, was tue ich denn jetzt hier
gegeben dieser gigantischen. Historie quasi an an Möglichkeiten die ich da hab ist dann auch schon schwierig und da wird dann quasi dann noch mal ne KI drauf gesetzt. Das macht dann quasi wieder n neuronales Netz, das optimiert dann quasi die das bewegen quasi in dieser in dieser gespeicherten Tabelle, wo quasi die ganzen Bestrafungen und so weiter da drin drin stehen. Ja Bestrafung und Belohnung ja für den für was ist dann die nächste Aktion die Beste?
Ja so ganz grob gesprochen ja bisschen vereinfacht oder wir müssen n bisschen aufpassen, aber es ist unglaublich schwierig Machine Learning. Ist halt. Am Ende ist es halt viel Mathematik und es gibt auch viel Algorithmik da und viele Möglichkeiten. Man kann es, man kann es nur so n bisschen anteasern sag ich mal wie es ungefähr funktioniert, ja.
Das OK denk ich dann der Teaser, den hab ich schon verstanden, das war schon ziemlich cool und ja man kann eigentlich sagen man kann es immer da nutzen wo wo es echt viele Wege gibt die so zum Ziel führen. Unfassbar viele Kombinationen sind da ja möglich, also vom Schach beim Go beim Super Mario Ne wenn man sich das vorstellt, die Kombinationen sind da drücken von. Knopf folgen letzten Endes auf dem Controller kann man genauso betrachten oder du hast das
Roboterbeispiel gebracht. Roboter greift in ne Kiste mit Bällen oder steht sich so n Jahrmarktroboter vor wo man n Euro reinschmeißt oder 2 und dann will man sich so n kleines Kuscheltier da rausziehen, das könnte man ja auch einer KI überlassen, einfach perfekt. Quasi Reinzufahren und zu greifen. Und um immer sicher n Kuscheltier Rauszugeben rauszunehmen ne richtig.
Genau. Und aber da haben wir genauso wie beim Spiel ne, das ist ja quasi auch über die Zeit ne, ich muss ja ich, ich mach ja nicht nur eine Aktion, sondern ich mache ganz viele Aktionen, ne ich beweg den Arm dahin, ich zeig ihm genau über so n Kuscheltier, dann setz ich ihn runter, mach das Ding zu und so weiter das muss ich ja quasi alles lernen, ne? Wobei dich hisst jetzt Schwein, fällt mir gerade ein. Ist halt n bisschen Eiern, aber die Kuscheltiere liegen ja nicht immer gleich.
Das ist ja nicht wieso n Eierkarton die alle genau nebeneinander sitzen mit dem gleichen Abstand oder sowas, sondern die liegen ja wild da drinne. Ja, das ist das. Genau ja. Aber das ist auch das. Ist ja wie beim Schachspiel. Ne du, das ist ja auch nicht immer gleich wie dein Gegner
aufzieht. Ja das das das ist quasi die Analogie. Ja also und klar hast du da n Sensor, der Roboter alleine wird es nicht können ja du musst ihm schon auch ne Kamera hinmachen wo der irgendwie sieht was wie liegen die Kuscheltiere quasi ja an der Stelle ja genau. Ja, aber ich glaube sogar, das wäre schon n krasser Fall. Aber was ich immer so gesehen hab, was die Roboter können, die die haben schon eigentlich n festen.
Also wenn dieses Picking quasi passiert da dann haben die schon n festen Platz wo da irgendwie das Werkstück oder was auch immer was die picken sollen da schon an der Stelle drauf ist. Ja jetzt wird das Problem auch zu hochdimensional muss auch. Ja, aber eben nicht millimetergenau. Da sind wir ja wieder, sondern irgendwie verteilt. Ganz genau, ganz genau, ganz genau. Ja, das stimmt. OK, cool, also perfekt real forcement Learning verstanden ist n bisschen zuckerrot und
Peitsche Prinzip genau. Ki kriegt einen offen Latz, wenn es falsch war oder kriegt halt lecker Belohnungen, wenn es gut war. Ein kurzer Hinweis in eigener Sache. Kennst du das auch, dass von neuer Software zur Digitalisierung der Produktion
zurückgeschreckt wird? Ihr seid gefangen zwischen starrer, veralteter Standardsoftware und endlosen Individualentwicklungsprojekten unsere Mission bei Heisenware ist es, das zu beenden mit unserem App Baukasten geben wir dir die Möglichkeit, maßgeschneiderte Software für den Shopfloor schnell und ohne Code zu erstellen.
Denk an Maschinendatenerfassung moderne Visualisierungen für die Produktionsleiter oder eine mobile App zur Buchung von Zeiten direkt am Arbeitsplatz und das beste, du kannst deine Lösung ganz einfach ohne it Aufwand selbst betreiben. Kurz gesagt, günstiger als eine externe Entwicklung unendlich passender als Software von der Stange. Weitere Infos und eine kostenlose 30 Tage Testphase findest du auf heisenware.com einfach minus komplex.
Als Träumhörer bieten wir dir im Anschluss 20% Rabatt auf alle Pakete im ersten Jahr und jetzt viel Spaß mit der weiteren Folge. Ja, und dann können wir ja mal gucken. Ich denke, dass das, was man sonst noch so so kennt, ist das Superwised Learning, das haben wir dann halt auch schnell verstanden, was da los ist.
Da ist die Idee, dass ich ne Vorhersage treffen möchte, ja das Ziel ist ist ne Vorhersage zu treffen, ja und da gibt es ja das ganz klassische Beispiel, zum Beispiel sortiere halt Katzen und Hunde, ja. Und wenn ich dann also lerne, quasi, was ist ne Katze und was ist n Hund in einem Bild? Ja und wenn ich dann ne neue n neues Bild hab von einer von einer Katze oder einem Hund trifft halt ne Vorhersage ist das jetzt halt ne Katze oder ist das n Hund?
Ja mit diesem einfachen Ding also das ist n Klassifizierungsproblem in der in der Machine Learning Lingo ja und das erschlägt schon wieder auch n riesen Katalog von von Dingern ja Klassifizierung ist halt einfach Key ja und Klassifizierung wenn ich Klassifizierung über Katze und Hund weiter hinaus denke und quasi. Alles Klassifiziere, was wir so kennen. Also wie funktioniert der Mensch? Ja, ich klassifiziere ja nicht nur, also ich weiß natürlich,
was eine Katze und Hund ist. Ich weiß aber auch, was ein Regenwurm ist. Ein Blatt am Baum, was für ein Käfer, welches Gesicht gehört zu Gerrit und so weiter und sofort ja und ich klassifiziere sogar segmentiere sogar von dem was ich sehe, ah das ist eine Wand, das ist ein Haus, das ist ein Gesicht, das ist eine Brille, ich habe ja 1000, abstraktionslevels und so weiter aber insgesamt ist dieses ein riesiges Klassifizierungsding ja, das ist ein klassischer Fall
für einen. Für nen Superwise Learning. Die Daten sind quasi quasi die Bilder, ja oder 3 d Daten oder wie auch immer ja die ich da reinstecke und gegeben diesen Daten kann man zum Beispiel sagen OKKI lernen doch erstmal,
was siehst du überhaupt? Ja und dann kann man ja sagen, OK ich sehe hier n Bild ich sehe hier ne Lampe an der Wand ja ich sehe den Gerrit da sitzen nämlich zum Beispiel ne also das kann man erreichen indem man dein Superwise Learning macht, das heißt die Daten. Daten, die einfach mal da sind, die werden Gelabelt, das ist wichtig.
Ja, da steht halt dran, das was hier dieser Kopf, ja das ist halt n Kopf, ja und das das eckige, das ist halt n Bild, ja und so weiter ja und dann versuch ich quasi n Modell zu bauen das auch am Anfang dumm ist. Also mal so ganz platt gesprochen auf die Tonspur, ja wie funktioniert das? Ich hab ein Modell in dem Falle neuronales Modell ja hab ich meine ganzen Neuronen. Die haben irgendwelche verteilten Gewichte, die also es ist quasi in dem Gehirn, was noch nicht funktioniert, völlig
dämlich. Ja, und dem sage ich hier hast du die Daten, was denkst denn du was das ist? Ja und es wird dann irgendein Quatsch sagen, ja und ich weiß, aber ich weiß eigentlich was es ist. Ja ich hab die wahre Antwort auch da, ja und wenn ich nicht die Wahrheit hab und ne Vorhersage von dem Modell, dann kann ich n Fehler messen das das das das entscheidende Ding ja und den Fehler kann man skandalisieren ja.
Und jetzt kann ich, wenn ich n Fehler messen kann, zwischen der Vorhersage des Modells und dem tatsächlichen Label, dann kann ich versuchen diesen Fehler zu minimieren.
Ja, und das ist das, was man trainieren nennt, ich Minimiere diesen Fehler milliardenfach ja, indem ich einfach immer wieder immer wieder die Daten dem Modell zeige, immer wieder quasi diesen Fehler verbessere und das tut, das tut man sehr mathematisch, weil man den Fehler in allen Features messen kann, macht man quasi ne ne ne ne partielle Differenzierung, man misst quasi. Kennst du noch aus der Matte,
Gerrit? Man kann ja, man kann ja ne erste Ableitung bilden, ne von der von der ja das ist also und am Ende des Tages, also wir machen das mal so auf der Tonspur, ja, aber am Ende des Tages hab ich hab ich ne fehlerfunktion und ich bilde halt die erste Ableitung ja dann seh ich quasi wenn ich weit weg bin, dann hab ich halt ne krasse Steigung ja also ich die Ableitung zeigt mir an wie wie wie krass mein Fehler gradient ist ja Mhm.
Und das tue ich halt für alle, für alle, für alle Parameter,
die ich halt optimiere. Und das ist im im Fall von KI Hochdimensional, die wir haben das immer gelernt in der Schule mit 2 Dimensionen haben sie ne Parabel, haben wir mal ne Ableitung ne Analysis, ich weiß nicht wer das hat er jetzt auch gedacht, natürlich ja so Klassiker ne 222 Dimensionen x und Y und so, da kriegen wir es noch hingeschissen so im Gehirn ne und die und die echte Welt sieht ja so aus, dass die dass diese Parameter halt die Features im Prinzip sind, ja
dass sie uns noch einmal verstanden haben. Und was sind Features, um das auch noch mal zu sagen? Wenn wir jetzt mal bei dem Bild bleiben, ne erzähl ich das mal kurz. Was ist denn denn Bild?
Ja n Bild besteht ja aus, also wenn wir jetzt hier n normales quadratisches Bild haben, dann hab ich ja Zeilen und in jeder Zeile sind halt pixelwerte drin, das Wort Pixel hat man ja auch schon mal gehört und wenn es jetzt nur n Graustufen wert ist, dann ist ja in jeder Pixelstelle irgendwie sowas wie zwischen 0 und 254 ist halt n wert drin ja Graustufen ne und wenn ich Farben hab, dann ist halt noch in jedem Pixel der RGB wert drin ne also wieviel rot, wieviel grün und wieviel blau ja.
So und jedes einzelne Pixel ist quasi jetzt n Feature. Ja und tatsächlich wird es so gemacht.
Im Machine Learning ist das ganze Bild wird einfach sowieso ne Spirale durchgenommen und quasi linearisiert in einen großen Vektor wie man sagt tatsächlich mathematisch einen Vektor. Ja da werden dann quasi diese ganzen Dinger nacheinander drangehängt und dann hab ich einen Vektor im n dimensionalen Raum der der Raum ist jetzt nicht mehr 3 d oder 2 d sondern der ist halt so viel d wie ich Pixel im Bild hab ja. Das heißt hab ich n fettes
großes Bild 4 k oder irgendsowas, dann hab ich n ganz schön hochdimensionalen Raum. Ja weil das der weil der Raum halt so viel Dimension hat wie ich Pixel hab in dem Ding ja und wenn das dann noch RGB ist und dann noch mal 3 ja was ich jetzt machen will ist ich hab dieses Bild und da drin ist irgendwelche Features ja in diesem Bild will ich erkennen da
ist ne Lampe jetzt mal. Jetzt rechne ich quasi Gewichte aus von meinem Modell ist jetzt n bisschen abstrakt ja und und diese Gewichte die kann ich quasi. Die multiplizieren quasi meinen Eingangsvektor. Ja, und dann und dann guck ich, dass ich das Vorhersage, was ich
tatsächlich als Label hab. Ja und das man kann sich vorstellen, das wird dann halt, wir haben halt relativ viele Vektoren, weil ich sehr viele Daten hab, ja weil meine Daten sind ja die Bilder, ich hab ja Millionen von Daten, hast du gesagt, das Internet ist halt wichtig, ich Label halt schon mal ganz viele, zum Beispiel wenn ich ihr kennt das manchmal muss man ja so. Wie heißt denn das bei so Captures? Was wollte drauf drauf hinaus? Du hast nämlich noch nicht verraten, woher kommt denn
eigentlich die Wahrheit? Ja, da können wir gleich mal drüber sprechen, also zum Beispiel von so captures ja.
Ja genau, also man. Also es gibt natürlich die Firmen selber, die jetzt KI Modelle trainieren, die haben ganz viele Angestellte, die die Wahrheit produzieren, ja die die labeln halt selber, ja, die gucken sich halt mit ihrem Gehirn an, was weiß ich, was zum Beispiel alles n Auto ja in an allen möglichen Szenarios wird verdeckt und nicht verdeckt und was weiß ich ja gibt ja viele Autos ja.
Und das wird halt gelabelt. Ich brauch halt sehr gute Daten, ne so und dann und dann brauch ich halt diese ganzen Daten, das werden sehr viele sein und die müssen halt durch so n durch so ne durch so ne superwise Learning durch und jedes Mal versuch ich halt quasi diese Fehler hier n bisschen zu optimieren. Ja wir haben ne Folge gemacht aber wir es mal ganz genau beschrieben haben ne.
Der Stelle passt es, vielleicht würd ich echt schwer empfehlen so ne aktuelle Doku von von arte glaub ich, die heißt irgendwie Madagaskar oder so. Die Helfer der KI, weil es gibt wie diese Firmen die du gerade erwähnt hast. Ja die gibt es, also es gibt. Unsereins, ja, wie wir irgendwie im Internet klicken und manchmal so sagen müssen.
Klicke alle Motorräder an oder klicke auf die Bilder, wo n Bus drauf ist oder so und da also so helfen wir auch tatsächlich KI zu oder Daten zu Label klicke auf alles was n Hydrant ist gibt es auch häufig so Klassiker, aber inzwischen ist das halt ne Industrie ne da werden Menschen kickworker Uber will das jetzt zum Beispiel auch machen, Uber hat jetzt angekündigt, dass die Mitarbeiter die für Uber Essen ausfahren oder halt Leute rum
chauffieren. In den Phasen, wo sie keine Fahrten machen, die ja zum Beispiel Daten labeln könnten oder sowas. Ja oder es gibt auch Firmen, wie gesagt, die haben ganz viele tausende 10000 Angestellte, oft in in ja Billiglohnländern letzten Endes im afrikanischen Kontinent zum Beispiel, wo dann Menschen n Ganztag da sitzen und Sachen labeln, und da gibt es auch so krasse Fälle wie, ja, die müssen dann zum Beispiel 3 Wochen lang am Stück
Schnittwunden in Leichen labeln. Ja, soweit kann es gehen, das wird halt in dieser Doku dargestellt, ja damit auch ne Schnittwunde in einer. Ne, ein Messer einstichwunde in einer Leiche gehebelt werden kann, das muss man sich vorstellen. Na gucken wir sich 3 Wochen diese Bilder an, also krasses Beispiel, aber darum geht es in dieser Doku, kann man sich kann ich sehr empfehlen.
Ja, genau, weil. Und es macht total viel Sinn, weil halt tatsächlich also unsere Maschinenalgorithmen sind halt in der Lage zu lernen ne und so, ich nehm das echt als Beispiel, ich hab selber Kinder die die lernen ja quasi von den Eltern. Ja ich bin halt quasi der Labeler für meine Kinder, ich sag denen halt, guck mal da, das ist halt irgendwie ne Elster oder irgendwie ja.
Und das ist halt irgendwie n Buntspecht oder oder was weiß ich ja und die Kinder gucken sich ja da an und speichern sich ab. Ah, das war wohl ne Elster und das war halt n Buntspecht ja und je nachdem wie ich als wie ich als Eltern quasi so drauf bin und was ich denen so erzähle, wenn halt der wenn halt die Elster gar kein Elster war, sondern irgendwie ne Amsel, ja dann speichern die Kinder das trotzdem als Elster ab ja also wenn wenn du quasi Scheiße
labelst oder gar nicht labelst oder schlecht labelst, dann kannst du halt auch nicht gescheit lernen ne, deswegen ist das so wichtig. Dass wir, und das Macht eigentlich auch ganz, ganz viel Sinn, das ist ja, das ist ja die Logik selber, ja, wenn dein, wenn dein wenn dann zum Beispiel dein Kind irgendwie sich später zurechtfinden soll und und und viele Sachen richtig machen soll, dann muss es halt gut gelabelte Daten vorgesetzt bekommen haben.
Ja, das machen dann die Eltern am Anfang und später macht das dann hoffentlich die Schule und so weiter ja, wo ja immer wieder gesagt wird, das und das ist so und so, ja, das ist das Richtige, das ist das falsche, ja, so funktioniert das lernen ja an sich ja, und, und das ist halt quasi das. Das ist halt quasi das Ding was halt da drunter liegt.
Bei unseren KI Modellen. Ja und das ist halt auch das Problem, dass wenn du schlecht labelst oder sagen wir mal systematisch schlecht labelst das ist ja das was wir immer da haben, wir ja das Problem mit ja wenn wenn weil das Internet zum Beispiel wenn du es einfach ungefiltert nimmst auch bias hat ja also das Internet ist ja eigentlich auch nichts anderes als die ja die gesellschaftlichen Meinungen sag ich mal reingeblasen ungefiltert ja mehr oder weniger ungefiltert
ja. Und alles, was da an Rassismus steckt oder oder an was weiß ich ja an an Schlechtigkeiten, die wird halt quasi, wenn wenn das als als gutes Label genommen wird, halt mit trainiert. Ja und dann wird dein Modell halt quasi genau das wiedergeben. Ja das ist das Problem, ja, insofern genau ist das wahrscheinlich ne coole Doku, ich guck mir die auch mal an, finde es spannend, ja und es ist echt Arbeit hochqualitative Trainingssets zu bauen an denen die Modellen.
Gut trainiert werden können. Ja, wobei, das darf man jetzt nicht verbinden. Ne, ist jetzt nicht so zwingend, dass die Menschen, die fürs Labeln bezahlt werden, klar, die bringen natürlich auch ihren Bias da mit rein, aber da geht es eher drum glaub ich drum um das, was schon im Internet
vorhanden ist. Ne, also alles was an Texten da ist und so weiter und sofort dort sind unsere ganzen Biases, also unsere Anschauungen der Welt, die die vielleicht oder höchstwahrscheinlich korrekt sind mit untergebracht, woraus ja auch gelernt wird ne aus den Sachen die schon da sind im Internet. Ja, ja klar, also die diese. Also wenn wenn du so n großes Sprachmodell zum Beispiel
trainierst. Das fängt ja erstmal an, also da also dieses per Hand gelabelte im Detail richtige was du dann sagst zum Beispiel Schnittwunden und so weiter und sofort, ja, das nennt man das Feintuning von Modell ne aber aber die Grobzusammenstellung. Erstmal die ganze Grammatik, dass das die Sprachen verstehen kann und so weiter das wird das
das passiert. Also da sind jetzt nicht Leute dahinter und sagen, wie das so ist, dann nimmt man einfach quasi die Daten aus dem Internet mehr oder weniger. Genau, und da kommen die Biases rein. Jetzt zum Großteil. Kommen da schon die Biases rein? Ganz genau. Weil es ja wieder nur vorhersagt, also gerade bei Generativer KI Base kommt Wort kommt nach dem nächsten und dann basiert es eben auf diesen Daten, ne? Ja. OK, ja noch was zum Superwise Learning.
Ja, ich, ich, ich will vielleicht noch mal eine Sache sagen oder wiederholen. Und was ich immer schwierig fand, in meinem Kopf, vielleicht bringt das auch noch mal kurz auf die Tonspur. Also wenn, wenn wir jetzt superwise Learning machen, dann dann gehen wir kurz noch mal die Schritte durch. Also wir haben erstmal. Du wolltest ja, du wolltest ja auch n Beispiel machen, irgendwas mit Häusern, Häusern und so n Haus. Ja, muss ich gar nicht unbedingt, aber ich, ich mach es
noch mal. Also wir haben, wir haben die Daten zum Beispiel, dann machen wir das Beispiel noch mal, gerade von Häusern ja, indem wir 3 Features uns angucken, ja und gegeben von 3 Features wollen wir den Preis.
Lernen ja von dem Haus. Das wäre zum Beispiel so n Minimalbeispiel, das man verstehen kann ja so und das Modell was wir dann brauchen wir das als zweites Mal n Modell was wir lernen wollen ne das ist dann quasi das würde dann quasi sagen wenn wir jetzt 3 wir 3 Features lernen wollen, dann brauche ich also n Modell was 3 Gewichte trainiert ja die Gewichte für jedes Feature ja b 1, b 2 und b 3 als Gewicht ja.
Und diese Gewichte, die würden quasi das Feature multiplizieren, was ich gerade sehe.
Ja und dann und was immer so ist, dann brauch ich noch sowas wie n bias ja, also wenn ich zum Beispiel jetzt n Preis hab, wenn ich zum Beispiel sage meine Features jetzt muss ich mal kurz gucken, was könnten denn meine Features sein, zum Beispiel Fläche, Zimmer und Alter vom Haus, ja sind die Features und gegeben diesen 3 Features will ich quasi vorher sagen was wird der Preis sein ja und dann brauch ich so n bias ja und der Bias den kann man, das hab ich auch früher nicht so verstanden
während die. Gewichte quasi multiplizieren. Ja, ich könnt zum Beispiel sagen, Fläche hab ich irgendwie 40 Quadratmeter ja und dann hab ich das Gewicht 1. Dann geht das mit 40 halt quasi ein in die Rechnung ja einmal 40 ja Zimmer 3 Zimmer und das Gewicht wär 0,1 ja würd ich sagen 0,1 * 3 würde das Gewicht mit 0,3 eingehen ja also die 40, also die Gewichte werden immer multipliziert, ja mit dem jeweiligen Feature und dann wird zusammen.
Wenn ich das gemacht hab, werden alle Gewichtungen addiert. Ja dann kommt da irgendwie ne Zahl raus. Ja sagen wir mal da kommt irgendwie 280 raus oder irgendsowas ja das wäre dann der Preis ja so 280 für n Haus ist. Natürlich wissen wir alle Kilometer weit weg von dem was n hauswert ist normalerweise ja 280€ jedenfalls nicht. Ja da hängst du eigentlich noch mal 3 Nullen dran normalerweise oder irgendsowas ja und hier kommt der Bias ins Spiel, vielleicht noch mal kurz erklären.
Der Bias ist quasi die gesamte, also der wird quasi noch mal addiert. Zum Schluss so n bisschen wie die der Offset von dem ganzen Modell. Ja, die Gewichte, die sollen quasi so n bisschen, dann sollen quasi die die einzelnen Features tunen. Ja und der Bias bringt das Modell insgesamt auf so ne Grundlinie, die dann richtig wird für die Gesamtaussage ja, also ist quasi der Y achsenabschnitt werden wir mal reparabel bleiben ja also. So die Standardparabel geht halt
durch, schneidet halt durch. 0 ja, aber 0 ist quasi nicht der Wert des Hauses, sondern irgendwie der ist grundsätzlich schon mal bei 100000 ja, das heißt ich würde quasi plus zum zum Schluss mach ich diese Rechnung Gewicht mal feature mal Gewicht plus feature, mal gewicht plus feature, mal Gewicht 3 verschiedene Features ja ausrechnen und dann plus b bias ja und dann setz ich mal 100000 hin ja weil so der Bias ist mal so Grundmäßig kostet das immer 100000€ so n Haus ja.
Und der Bias ist nichts anderes als auch n Gewicht, was auch mittrainiert wird. Ja, aber es hat halt n krassen anderen Einfluss, weil es quasi die Gesamtaussage skaliert.
Ja so, dann hab ich also da hab ich die Daten und dann das Modell, das Modell ist quasi im neuronalen Netzwerk, sind dann da hab ich dann nicht nur 3 Gewichte wie jetzt in meinem Haus Fläche, Zimmer und Alter sondern ich hab das ist das was man Parameter nennt, ich hab halt Milliarden ne die ich irgendwie verteile die auch gar nicht so zugeordnet sind jetzt wie ich das jetzt gemacht hab die werden dann einfach trainiert. Deswegen wird es auch so.
Deswegen ist es so aufwendig, das zu machen. Ja, und dann fang ich eigentlich immer an mit einer Vorhersage, ich lass jetzt das Modell ne Vorhersage machen, am Anfang hab ich quasi meine Gesicht Gesichte, ja meine Gewichte randomisiert initiiert, ja die haben irgendwelche Werte völlig egal. Ja und dann kommt auch irgendein Bums raus ja also zum Beispiel 198€ oder irgendwas ja so und jetzt kommt die, das hab ich auch gesagt, jetzt kommt der Fehlercheck die loss Funktion ne.
Ich muss quasi. Ich rechne jetzt quasi aus. Wie groß ist der Fehler zwischen meiner, zwischen meinem Label? Das Label ist für dieses Haus, das weiß ich quasi, das ist jetzt gelabelt worden für dieses flächezimmer Alter kenn ich den Preis 198000 zum Beispiel, ja, also ist der Fehler 198000 - 198€, die ich da jetzt auch dir das Modell gesagt hat ja also n gigantischer Fehler und jetzt optimier ich das ist der Motor ja im Schritt im Schritt 5 optimier ich jetzt diesen
Fehler, jetzt gucke ich. Wie muss sich jedes einzelne Gewicht verändern, um den Fehler zu verringern, den Gesamtfehler, um näher an die an das Label zu kommen, an die an die an die richtige Aussage? Ja, und das passiert, und das ist auch noch mal entscheidend, ich fasse jeden einzelnes Gewicht an und ändere die alle auf einen Schlag, das ist wichtig, ja, und es wird nur ein bisschen besser werden, ich komme, ich komme nicht in einem Sprit.
Zu dem richtigen Aussage, das ist der iterative Prozess, das ist das, was man lernen quasi nennt.
Ja und wie ich dazu komme, also in in welche Richtung ich quasi die Gewichte verändern muss jeweils, das ist auch wieder, das ist das Optimierungsproblem, was gelöst wird, ja, das ist das Wichtigste, was ich einmal sagen wollte, weil das hatte ich immer oft nicht geschnallt, ist alleine, also das ist ja n hochdimensionales optimierungsproblem ja an der stelle, ich hab also quasi n Gewichte im Prinzip, und wie muss ich jetzt jedes Gewicht verändern?
Damit meine mit meinen Fehler, den ich messen kann, ne mein Fehler zwischen der Vorhersage und dem Wahrheit, dass der etwas kleiner wird. Ja, das ist an sich krasse Wissenschaftler und da gibt es verschiedene Algorithmen dieses Optimierungsproblem zu lösen. Ja und in der KI heute in den neuronalen Netzen ist es gar nicht so. N wilder Algorithmus ist der nennt sich Adam.
Ja, das ist im Prinzip ne n bisschen cleverer Gradient Descent Algorithmus, also gradient Design heißt wir berechnen tatsächlich die Steigung aus, wir differenzieren das ja. Und dann? Dann gibt es auch noch so Sachen wie Schwung, man kann sich es vorstellen, es gibt geht nicht einfach immer nur stur dahin, sondern es gibt so n paar extra Dinger.
Ja wenn ich n bisschen Schwung hab, man merkt sich quasi wie mit wieviel Schwung bin ich in welche Richtung gegangen, dann läuft das so n bisschen nach und so weiter ja aber es ist es gar nicht so wild. Ja das schicke ist ich kann das ganz gut optimieren, weil ich quasi ne Ableitung bilden kann, das passiert in neuronalen Wätzen ich hab manchmal andere Probleme wo das Optimierungsproblem schon hart ist. Ja wo wo das halt einfach nicht.
Wo ich nicht ne ne ne ne partielle Ableitung bilden kann, weil die Funktion die darunter liegt nicht ableitbar ist. Es gibt unstetige, wenn ich so diskrete Werte hab ich zum Beispiel mein wenn mein mein Optimierungsproblem ist.
Ich schieß auch mit dem Bogen auf ne Scheibe und es gibt halt Scorings fürs Bull Eye gibt es halt irgendwie 20 für die für das hinten Quadrat gibt es irgendwie mal 3 Punkte oder irgendsowas ja dann dann kann ich sogar wenn ich n bisschen aus dem Bull Eye rausschieße oder wenn ich im Bull Eye bin und schieß nur n Millimeter daneben hab ich immer noch 2020 20 und dann schieß ich da raus hab ich auf einmal 0 oder irgendsowas ja das ist das ist mathematisch keine glatte
Funktion. Ja das kann ich ja nicht einfach ableiten, da kommt da nur Scheiße bei raus, da muss ich anders optimieren, da gibt es andere Optimierungsalgorithmen ja so das wie simplex Simulated and Neeling genetic Algorithmus und so weiter und sofort ja das ist der Optimierer der da drin steckt ist quasi wie der Motor an sich schon krasse Wissenschaftler so aber wenn ich den hab dann dann kommt der Schritt 6 und der ist eigentlich einfach nur die Wiederholung ist
die Schleife ja jetzt. Hab ich quasi die Gewichte n bisschen optimiert und jetzt geh ich wieder zu Schritt 3 zurück und Schritt 3 zurück. War die Vorhersage jetzt jetzt geb ich quasi mit diesen neuen Gewichten wieder Daten rein und
gucke was los ist. Ja und dann muss ich das natürlich tun, für jeden einzelnes Datum ja, also für jedes einzelne Bild von den Milliarden die es im Internet gibt ja so. Und jetzt kann man sich vorstellen, warum wir da kuda Grafikkarten brauchen und so weiter aber so funktioniert es. Grund der Rechenleistung soll ich noch mal sagen ja, Rechenleistung ja genau. Ja, krass, soll ich das auch noch nicht gesehen.
Es klang am Anfang, es ging so einfach los mit diesen diesen 3 Sachen, die so optimiert werden müssen. Klingt ja gar nicht so kompliziert, aber ist ein. Richtig also, wenn es diese 3 Dinger sind, dann ist es einfach ein, da kann man es wirklich, wirklich cool vorstellen. Du hast ne Excel Tabelle ja und hast du in jeder in jeder Reihe hast du quasi deine verschiedenen Häuser und oben in den in den Zeilen steckt halt quasi Fläche Zimmer.
Alter und dahinter der Preis, das ist quasi, das ist die Wahrheit. Ja, und jetzt lässt du das quasi lernen, ne, das geht schon, ne bist du relativ schnell fertig, ja. Und dann hast du das aber irgendwann trainiert und du hast ja gesagt, das Ziel, das in den Vorhersagen zu treffen, dann hast du es irgendwann trainiert und den Fehler minimiert und dann kommst du mit irgendwelchen Anzahl zimmern, Quadratmetern und Alter und du hast dann ne
exakte Preisvorhersage. Das ist dann das fertige Modell, was du nutzen kannst. Ja, ganz. Genau dann kannst du es nämlich auf einmal auf fremde Daten ne anwenden und kannst gucken was los ist.
Und es gibt, das sag ich, vielleicht auch noch mal auf der Turnspur es gibt immer das Problem, dass man das, das hängt von vielen Sachen dann wieviel Parameter hast du so weiter, aber es es gibt quasi wenn du das Modell zu hart trainierst auf zu wenig Daten die zu viele die Hochparametrisiert wurden, dann lernt es auswendig, kann sich auch vorstellen so n bisschen ne wenn du einfach diese Schleife ganz oft machst und dann fängt fängt es an auswendig zu lernen, ne und dann
funktioniert es auch wieder nicht gut wenn du quasi nen ganz fremdes Datenstück da rein machst. Deswegen gibt es diese, die sogenannte Cross Validation nennt man das. Du kannst quasi sagen wir mal, du hast jetzt irgendwie, ich mach mal das Beispiel einfach, du hast 100 von diesen Häusern jetzt aufgeschrieben, du hast 100 Einträge deiner Excel Tabelle.
Ja und jetzt willst du quasi das gut lernen, ja dann machst du kannst du so sowas machen wie ne ten Fold cross validation, das heißt du gibst quasi nicht die 100 Daten dem Modell mit dem Label, dass sie das lernt, sondern du gibst immer nur 90% der Daten 10% gibst du dir auf, ja und du machst am Anfang
quasi. Am Anfang machst du über 10 fold machst du dir quasi 10 Pötte, wo jeweils andere 10% nicht zu der Trainingsmenge gehören, ja, sondern das wird dann ne überprüfungsmenge ja dann trainierst du quasi nur mit 90 von den 100 und die anderen 10, die nimmst du dafür zu sagen. OK und jetzt gib mir mal ne Vorhersage ja, aber selbst für das kennst du quasi auch schon die, die das eigentliche Label ja und du kannst dir wieder ne Fehlerfunktion rechnen und damit
kannst du quasi rausbekommen. Wie stark das Ding auswendig gelernt hat? Oder bist du schon übertrainiert oder nicht? Ja, weil du quasi dann auch noch guckst. Du Optimierst quasi wie gut ist jetzt die Voraussage für was eigentlich unbekannt ist. Was du aber wieder messen kannst. Ja, weil du einfach das einfach so heimlich weg tust. Ja, das nennt man Cross Validation extrem wichtiger Punkt, vor allen Dingen so in der Wissenschaft.
Ich komme ein bisschen aus der Wissenschaft und aus den Sprachenmodellen musst du immer aufpassen, dass du nicht irgendwie auswendig lernst, sondern dass du, dass das wirklich. Dass die Features, die du da angeblich extrahiert hast, ja, wie dich zum Beispiel n Protein in ne Membran reinsetzt, vorwärts oder rückwärts oder irgend so was hab ich alles schon mal gemacht.
Ja das das wird schnell auswendig gelernt, weil du typischerweise zu wenig Daten hast für zu viel, zu viele Freiheitsgrade, ja und dann lernst du das auswendig und du bringst dort auch nichts. Ja und dann kannst du diese Cross Readitations nutzen. Gut ich. Weiß keine, ich hab keine weiteren Fragen dazu und dann würd ich sagen haben wir das Superwise Learning mal. Ganz gut betrachtet und dann abgehandelt und ne immer alles.
Also wir können natürlich nicht am allerletzten Stand der Forschung hier sein, das was so sag sag ich mal in den Research Laboren der Welt passiert, da arbeiten ja gerade schwer überbezahlte Wissenschaftler auf der ganzen Welt dran, irgendwie so n so n Typ der jetzt für Meter Gang ist hat irgendwie n milliardenvertrag für 34 Jahre oder so was unterschrieben, das ist schon Wahnsinn was das passiert. Ja, aber ich find das doch ganz cool.
Ja, ich mein Fußballer kriegen ja auch Millionen oder Milliardenverträge. Milliarden noch nicht die Karriere gerade tatsächlich besser als als Profifußballer, ja. Vielleicht. Cristiano Ronaldo kommt dran, aber das war es ja ja, aber es ist doch auch mal ganz nett. Ja, normalerweise ist immer umgekehrt, die, die sind sehr schlau und kriegen überhaupt.
Kein Geld, ja, und das krasse ist die Transfer, also die Transfersummen, ja also die die designing Boni und und und wie die da von A nach B verkauft werden, das ist doch genauso verrückt oder fast noch verrückter als das was im Fußball passiert, ja. Ja, ist doch cool. Man könnte einfach gut, dass wir so n bisschen so einer Bubbles Time entgegenkommen. Ja das irgendwann mal Plub macht, dann ist die Blase erst mal kaputt.
Schauen wir mal. Gut, ja, das ist keine Anlageempfehlung. Müssen wir dazu vielleicht sagen, lass uns noch über das Unsipulized Learning sprechen. Ja, das find ich eigentlich total spannend und das ist mir so auf den ersten Blick eigentlich noch gar nicht klar, wie das wie das funktionieren kann.
Die Beispiele die ich hier habe ist zum Beispiel Clustering, also wie Kunden zum Beispiel, die in einem Onlineshop unterwegs sind, aber vielleicht so n Großer wie Zalando oder Botti oder was auch immer Amazon sich verhalten oder Anomalieerkennung fand ich auch total spannend, also wie quasi erkannt wird, dass jemand zum Beispiel deinen Paypal Account benutzt in einer Art und Weise wie er normalerweise nicht benutzt wird und du daraufhin automatisch ne Warnung bekommst.
Das bekomm ich ab und zu mal oder was? Na ja schon n bisschen länger her, Paypal macht das glaub ich zum Beispiel, dass die sagen, OK, hier ist grad irgendwie n auffälliger zweiten in deinem Account bist wirklich du das? Ja und dann frag ich einfach mal nach, was übrigens jetzt auch schon wieder von irgendwie anderen für Spam benutzt wird oder für Phishing Versuche glaub ich so Tool als wenn Sie paypal und dich warnen ja aber das ist ja glaub ich fake.
Aber gut, das ist n anderes Thema, aber auf jeden Fall sowas. Also wie wie funktioniert das? Ja also ich hab chaotische Daten letzten Endes genau irgendwo da drinne sind Muster und Strukturen und die will ich wahrscheinlich erkennen. Ja, ja, genau ich. Ich formuliere n bisschen mathematischer als was du sagst. Ja bitte, wenn du, wenn du chaotische Daten hast und irgendwo da drin sind Muster und Strukturen, ja ich dann sagt der Mathematiker OK du hast höhere Dimensionen als die Daten
tatsächlich irgendwie abliefern. Ja du hast Artifiziell die die die Dimension zu hoch getrieben, ja. Weil wahrscheinlich kannst du irgendwie je nachdem ja kannst du irgendwie ne ganze Menge davon weglassen und die Wahrheit, die Muster da drinne sind halt eigentlich viel niedriger Dimensional als die Daten da sind.
Jetzt kannst du rauschen und das andere Gedöns ist nicht so wichtig ja aber den Punkt den ich machen will ist im Prinzip ist Unsupervised Learning und du hast die beiden Beispiele gemacht, es ist halt einfach ne ganz andere Anwendungsfall du kannst jetzt nicht hier sagen ich mach jetzt LLMS mit Unsupervised Learning hat es funktioniert einfach von der von der von der ganzen Logik her nicht von der Sprache her nicht, ja. Du willst halt quasi selbständig
irgendwelche Features erkennen, die in einer Horde chaotischer Daten drin sind. Ja, da gibt es auch wieder ne ganze Schar von Algorithmen, die man da drauf anwenden kann. Im Prinzip suchst du raus, was sind die höchsten Varianten innerhalb meines Datensets und was sind auch die höchsten Co Varianten, das heißt welche Features und die hab ich jetzt noch nicht gesagt, quasi die muss ich quasi selber finden.
Ja ich ich pack da halt quasi auch im Prinzip was ich mache ist trotzdem so chaotische Daten und ich packe quasi die ganzen Datenpunkte. Wieder in den Vektor rein?
Ja, das muss man vielleicht einmal verstanden haben, so seh ich da immer die Welt. Ja, für mich ist das für mich ist n Vektor, das kann man sich in Zweidimensionen feststellen, ne in Vektor ist ja quasi sind ja ist ja nen Zahlenstring ja stellen wir 0 und 1 drin zum Beispiel dann zeigt er halt quasi im Zweidimensionalen irgendwo hin ja n Vektor hat ja quasi n Anfang und so ne Spitze ja im Dreidimensionalen, dann kann ich quasi den schon in so einer wenn ich den an der Kugel
festmache, dann kann er ja quasi auf auf der ganzen Einheitskugel irgendwo hinzeigen ja. So, und und die die Inhalte des Vektors, die bestimmen ja seine Richtung, wo er irgendwie
hinguckt. Ja, und die Inhalte des Vektors sind halt die Features. Ja, wenn ich jetzt chaotische Daten hab, dann wenn ich chaotische Bilddaten hab, dann nennen das halt quasi wären das halt vektoren, wie gesagt im Bilddimensionsraum, aber die zeigen ja trotzdem irgendwo hin ne und was ich jetzt machen will, ich guck mir in diesem Ende mit so einem Vektorraum quasi was für Wolken bilden sich da so ja welche gehören irgendwie wohl zusammen, ja und
welche nicht und auch wenn ich die dann quasi Gewichte, ja. Das ist relativ komplex, das ganze getönt so, ja, aber das ist halt dieses Clustering. Die Daten werden quasi geclustert und strukturiert und das da gibt es auch nicht nur eine Ansicht, ich projiziere quasi wichtige Eigenschaften und die lerne ich quasi vom Projekt, weil man kann quasi lernen.
OK, wenn ich diesen an dieser einen Stelle zum Beispiel an der Stelle 15 oder irgendsowas, ja, da da, da scheint irgendwas zusammenzuhängen bei bestimmten von diesen Vektoren, ja wenn ich, wenn ich das irgendwie nach oben drehe, dann bewegen die sich alle gleichmäßig irgendwo hin. Ja, so grob kann man es sich vorstellen, ja.
Wenn ich irgendwas gleich weiß ich mit, dann ist das ne Co Varianz zum Beispiel ja und wenn es nen starken Einfluss hat auf die auf die auf die neue Krümmung von diesem Vektor, dann ist es auch n starkes Feature. Ja, ich entdecke quasi starke Features die stark miteinander korrelieren und so weiter und dann splitte ich quasi die Dimension und sage OK, das sind die wichtigen und jetzt meine Dimensionsreduzierung da gibt es auch ganz viele Algorithm PCA ja Principle Component Analyst ist,
das heißt Principle, also was sind die prinzipiellen Komponenten, was sind die? Krassen Features ja, und dann kann ich das runter projizieren in niedriger dimensionalen Raum.
Oft wird es sogar tatsächlich in 3 d oder 2 d runter projiziert und dann kann ich mir nämlich das kennst du gerät, dann kann ich mir als Mensch das vorstellen und das angucken und sehe zum Beispiel aus einer Horde von Bildern, ah guck mal, die haben diesen dieses Feature ja die Clustern so und so, ja und dann kann ich ja auch mehrere Projektionen machen, ich kann, ich muss ja nicht ne wenn ich jetzt viele Features da drin hab, dann mach ich halt viele Ansichten von der von dem
gleichen Problem, aber ich cluster mir das quasi verschiedene Dinger. Also das ist alles das Thema Unsupervised Learning. Ja, es hat damit zu tun, wie kann ich allein gegeben den Daten mit mathematischen Modellen rausfinden, was sind hier relevante Features die die irgendwelche Zusammenhänge zeigen.
Ja ich würd es mal ich man muss es fast so grob irgendwie hin formulieren, ja weil so oder so ähnlich funktioniert es ja, dann gibt es halt lineare Methoden, nichtlineare und so weiter die Mathematik. Geht da wieder Case und die die.
Und die Anomalie erkennst du dann deshalb, weil du halt deine Klasse hast und so, und das ist du kannst, also du hast ganz viele Datensätze, die die passen dann zu den anderen irgendwie und dann plötzlich hast du einen, der passt nicht mehr zu den anderen und das ist auffällig das da, da lohnt es
sich dann reinzugucken quasi. Ja, das da hab ich zum Beispiel dann den Tod. Tatsächlich hab ich darüber promoviert oder sowas, ich hab also anderen, das kannst du nämlich cool, das kann man sich auch wieder mit diesem Vektorraum vorstellen. Ja ich hab zum Beispiel, ich hatte ganz viele Bilder ja in in meiner Promotion, das war n. 2.
Das waren halt quasi Durchprojektionen von von Molekülen. Ist aber auch egal, total verrauscht, ja und ich musste quasi von einer Millionen kleiner Bilder, die so viel Briefmarken waren, auf denen wir fast nichts sehen konnten, weil es nur rauschen war, musste ich quasi die Zusammensummieren um das Signal im Rauschen zu verstärken, die aber zusammengehören.
Ja was ich gemacht hab ist genau das, ich hab quasi jedes Bild in den Vektor genommen, ja und dann hab ich erstmal in diesem Vektorraum, da hab ich noch n bisschen Krams und so weiter gemacht, aber im Prinzip kannst du dann du kannst ja auch im Hochdimensionalen. Raum Abstände berechnen, das ist ja Algebra. Ja, du kannst also ganz klar, man kann sich es vorstellen, ist der Abstand zwischen 2 Vektoren im 2 d Raum ne zwischen den Spitzen ne, das funktioniert
aber im internationalen Raum genauso, das heißt man kann sich so vorstellen wenn du ich ich sehe das immer sowieso blumensträuße ja also jedes einzelne Datensatz ist quasi so n so n Stängel von der Blume ja und n paar Blumen die die die hängen irgendwie zusammen so ja und jetzt hast du auf einmal ne Blume die die guckt in ne ganz andere Richtung ja das ist der Outleiher das ist dann ne Anomalie detection ja.
Und wenn du erst mal weißt, welche Blumen, wenn du die Geclustert hast, die Blumen, die Zusammenhängen, die haben irgendwie was zusammen zu tun und der eine guckt weg, ja dann hat er halt ne große Varianz. Ja in diesem Datensatz ja die Varianz zwischen den Dingen, das ist die ganze Statistik, ja wenn du was irgendwie zusammenhängen kannst in den Minen ausrechnen statt ne ne Varianz und so weiter und so das wird auch gemacht ja sind halt einfach statistische Kenngrößen im
andimensionalen Raum. Ja und dann kannst du auch outlire Detections machen, ne. Audiokommentar Burkhard gestikuliert wild mit den Händen rum und versucht, Blut daraus zu Zeugen, wo eine, wo eine Stange wegknickt, könnt ihr nicht sehen, aber dadurch ist mir das jetzt auch n bisschen klarer geworden, was er gerade erzählt hat und den Abstand dazwischen. Ja genau. Genau. Also so, so kann man sich es grob vorstellen.
Genau, und das Outlayer ist genau das sind dann einfach, ja man hat halt Features entdeckt und innerhalb dieser Features Sets fallen halt n Paar raus die halt ganz anders sind an der Stelle ja und dann kann man so was alles machen, ja. Am Ende ist viel Mathe viel, viel Optimierungsalgorithmik, aber das geht schon. Ne, klingt ganz so, wollen wir dann an Supervised Learning auch beenden.
Ja cool, danke gibt es. Gibt es noch irgendeinen anderen, ne andere Art von Waschenellem lernen lernen oder so? Die werde ich hier noch erwähnen. Sollten die ich jetzt gar nicht auf dem Zettel hatte oder was du benutzt. Ich glaub die ich glaub die Kategorisierung ist schon richtig. Ne Supervised an Supervised und
wie Enforcement 1 oben drauf. So, dann haben die halt ihre Algorithmen, die hatten wir ja angedeutet beim Supervised dann wie es funktioniert und dann haben wir immer das innere Liegende dann matruschka, wenn ich die Puppe noch mal nehmen darf, dann haben wir ein innerliegenderes Problem, das ist n optimierungsproblem, wo wir halt quasi die Gewichte, oder man sagt Parameter das Analogiewort optimieren müssen, sodass halt ne, das ist quasi das eindimensionale Problem, die
Gewichte müssen halt so optimiert werden, dass zusammen neu die neue Gewichtsverteilung den Fehler zu meiner Aussage etwas minimiert. Da haben wir es glaub ich eigentlich alles. Ja von der Grobkategorisierung und quasi innerhalb dieser Kategorisierung gibt es dann halt den ganzen Blumenstrauß an algorithmiken methodiken, Modellen, mit denen ich das irgendwie machen kann.
Ne stellt sich heraus, dass halt das Modell der neuronalen Netze mit dem Optimierer Adam, also dem quasi dem partiellen differenzieren auf Vektoren und Tensoren und so weiter, dass dass das sowohl berechenbar wird und auch die besten Ergebnisse liefert, da das ist das was ne so moderne KI ist, ja. Sehr vereinfacht gesagt, ja, ja. Ja, ist ja auch ein Podcast.
Ne ich seh keinen, keine Wissenschaftsvorlesung cool, dann lass uns nicht noch länger ziehen als muss ja ich glaub das war gut so bisschen die Geschichte, bisschen die Einordnung und mal grob die die Algorithmen angesprochen oder die Arten des maschinellen Lernens.
Ich hoffe ihr konntet ein bisschen was mitnehmen, wie gesagt, ich kann noch mal, ich werde diese Dokus da bei Arte empfehlen, die haben mehrere coole Dokus zu KI und ansonsten hören wir uns in 2 Wochen oder Burkhard würdest du noch irgendwas? Sagen. Nö, lass mal, lass mal gut sein. Ne, ist alles gut. Ja ich ich finde immer die Optimierer so spannend, da könnt ich jetzt noch n bisschen was erzählen, aber ich denke es ist genug ja also man passt schon ne.
Vielleicht machen wir irgendwann noch mal ne andere Podcast Folge oder wenn ihr zufällig einen KI Wissenschaftler deutschsprachig kennt, der Bock hat mal mit zu diskutieren in unserem Podcast, dann macht gerne Intro perfekt. Dankeschön euch fürs Zuhören bis in 2 Wochen und haltet ihr euch steif tschau tschau.
Bis denne tschüsschen. Einfach komplex wird produziert und präsentiert von Heisenware. Heisenware ist deine Low Code Plattform zur Erstellung und zum Betrieb interaktiver Apps rund um den Shopfloor. Starte noch heute dein Free Trial unterheisenware.com einfach komplex.