KI-Update IFA-Spezial: KI in der Popkultur – zwischen Vision und Wunschdenken

00:00:02: Hallo, ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende.

00:00:19: Und zwar ein ganz besonderer Deep-Dive!

00:00:22: Denn ihr hört gleich einen Mitschnitt von einer Live Show auf der IFA vergangenen Woche.

00:00:28: Ich glaube die erste KI, die ich bewusst als solche auch wahrgenommen habe war wahrscheinlich KIT

00:00:35: in Night Rider,

00:00:36: dieses sprechende Auto das viel mehr konnte als nur alleine fahren.

00:00:40: Und wenn ich das erste Mal eine Alexa eingestellt habe war das Aktivierungswort natürlich nicht ihr Name sondern Computer weil ebenso auch der Computer auf der Enterprise angesprochen wurde.

00:00:52: Ob wir es nun wollen oder nicht?

00:00:55: Unsere Wahrnehmung von KI heute wurde durch die Filme und Serien unserer Kindheit und Jugend geprägt.

00:01:02: Dabei war die Popkultur KI mal ein loyaler Sidekick, eine bedrohliche Superintelligenz oder ein kreativer Künstler von Iron Man zu verlässigen Assistenten Jarvis über Hell aus der Odyssee im Weltraum.

00:01:16: Der die Erfüllung der Missionen über den erhaltensmenschlichen Lebens stellt bis hin zum

00:01:21: malenden

00:01:21: geigespielenden Commander Data.

00:01:24: Darum wollte ich mal schauen wo die Pop-Kultur mit ihrer Darstellung von KI richtig lag und was reine Fiktion bleibt.

00:01:34: Und dazu habe ich mir auf der IFA unsere In-House SciFi-Expertin Sabrina Patsch dazugeholt!

00:01:41: Sie ist promovierte Quantenphysikerin und Redakteurin für Wissenschaftsthemen bei der CT, aber

00:01:47: vor

00:01:48: allem ist sie eine großartige Wissenschaftskommunikatorin, SciFi Fan – und wurde im Science-Lärm.

00:01:57: Unser heise Publikum kennt Sie sicher aus Ihren Videos auf YouTube und TikTok, in denen sie eben auch erklärt, wie viel Wissenschaft in Popkultur & Science

00:02:06: Fiction steckt.

00:02:07: Diese Sonderausgabe des Deep Dives ist ein Mitschnitt der Liveaufzeichnung von der Dreamstage auf der IFA in Berlin vom sechsten September, zwanzigundzwanzig!

00:02:20: Hallo Sabrina, schön dass du da

00:02:21: bist.

00:02:21: Hallo!

00:02:22: Ich freue mich sehr heute hier zu sein.

00:02:24: Ich war noch nie im KI Update zu Gast und ich freue mich das es gleich so ein spezielles Setting ist.

00:02:29: Ja.

00:02:31: Sabrina welches Bild hattest Du denn als Kind von KI im Kopf bevor Du Physikerin wurdest?

00:02:39: Ich fand das ganz lustig als Du grad Kit gesagt hast von Knight Rider.

00:02:42: Was

00:02:43: für mich

00:02:44: das erste Bild von KI war, dass ich mitgekriegt habe ist die unglaublichen The Incredibles von Pixar.

00:02:50: Ah!

00:02:50: Was glaub' ich sagt wie alt ich bin ungefähr?

00:02:53: Also als Zündraum

00:02:55: dann diese

00:02:56: Roboter-KI's also diese Robota mit KI gebaut hat, die dann superhelden zerstören sollten... Das war glaube ich so das erste Mal, dass sich als Kind zumindest so aktiv drüber nachgedacht hab.

00:03:05: da ist jetzt KI drin.

00:03:07: Also ja es ist noch gar nicht ganz so baggig hier wie jetzt Night Rider.

00:03:14: Aber wenn wir heute von künstlicher Intelligenz sprechen, dann denken die meisten von uns ja erst so an die generativen KI Chatbots.

00:03:23: Kurzer Reality-Check?

00:03:25: Wie weit sind wir entfernt von diesen perfekten KI Kreaturen wie zum Beispiel den Replikanten in Blade Runner?

00:03:33: Tatsächlich noch relativ weit weil gerade bei Blade Runner die Replikaten natürlich das was da am meisten im Kopf ist dass sie täuschend ähnlich aussehen zu Menschen.

00:03:44: Und sowas haben wir heute noch nicht, wie können ja heute hier tatsächlich auf der Messe ganz gut sehen was Roboter schon alles können?

00:03:49: Also die können ja schon Breakdance tanzen und was ich nicht alle schon gesehen habe aber die sehen doch noch sehr offensichtlich nach Robotern aus und da sind mir noch sehr weit von weg.

00:04:00: aber natürlich auch die KI die da drin steckt die kann zwar schon sehr viel aber wirklich sich in allen Situationen zu verhalten wie ein Mensch das kann sie heute auch noch nicht.

00:04:11: Bevor wir weiter ganz weit in die Zukunft flicken, schauen wir noch mal kurz zurück.

00:04:16: Das Konzept von künstlicher Intelligenz gab es schon lange bevor dieser Begriff bei der Dartmouth-Konferenz tatsächlich in den fünftiger Jahren definiert wurde.

00:04:27: was gibt es denn also für Beispiele?

00:04:29: Ja das spannende ist Künstliche Intelligenze wie heute darüber denken als quasi ein Computer der denkt.

00:04:35: Das kam dann erst viel später.

00:04:38: Die Anfänger waren künstliche Intelligenz in so einem biologischen Sinn.

00:04:41: Es gab zum Beispiel den Golem, das ist diese Lehmfigur, die durch Buchstabenmagi Leben eingehaucht bekommt und Intelligenzeingehauch bekommt.

00:04:50: Das wurde eigentlich schon viel älter, aber es wurde im Jahr mit dem Bild von Künstlicher Intelligenzen aufgeschrieben.

00:04:59: Aber ganz anders als wir heute drüber nachdenken.

00:05:03: Danach kam noch sehr viel mehr zum Beispiel der Sandmann von ETH Hoffmann.

00:05:07: Da ging es um so eine Maschine, in die sich der Hauptcharakter verliebt ... Die Puppo Olympia hieß sie und treibt dann quasi diesen Mann in den Wahnsinn weil er quasi nicht darauf klarkommt dass da jetzt diese Puppe sich wie ein echter Mensch verhält.

00:05:25: Natürlich ein ganz bekanntes Beispiel ist Frankenstein.

00:05:28: aufgeschrieben wurde das Und das ist ja auch so eine Art von künstlicher Intelligenz.

00:05:33: Das ist eher ein biologischer Mensch, der zwar zusammengesteckt wurde aber wurde dann auch über Technologie irgendwie Leben eingehaucht worden.

00:05:43: und man könnte sagen die Anfänge von diesem Bild von Künstlicherintelligenz auch wenn sich das seitdem noch mal sehr viel weiter entwickelt hat und in dem Sinne wie wir jetzt heute darüber nachdenken im Sinne von Robotern und KI.

00:05:57: Das ist ein tschechischer Autor.

00:06:03: Der hat einen Drama geschrieben, Universal Robots heißt das und da haben wir das erst mal so Roboter rebelliert und da kamen das Wort Roboter her.

00:06:13: also das waren neunzehntzwanzig und da waren die Anfänge von KI wie wir jetzt heute darüber nachdenken.

00:06:20: Und genau du hast gerade gesagt der Anfang von diesem Griff künstliche Intelligenz war auf dieser Datemaus Konferenz von Also auch noch mal ein ganzes Stück Spiehte.

00:06:30: Aber mittlerweile auch schon relativ lange her.

00:06:33: Ja, das stimmt!

00:06:34: Diese Roboter-Idee greift ja auch Metropolis der Stumpffilm von Fritz Lang auf.

00:06:39: da warst du neulich erst im Kino hier in Berlin.

00:06:42: Als Vorbereitung auf diesen Podcast habe ich so ein paar alte Filme mal geschaut und er ist ja vor neunzehntinzwanzig also hundert Jahre her.

00:06:49: Und den hab' ich in Berlin im Stumpffilmkino gesehen mit so live Orchester sogar ganz beeindruckend.

00:06:55: Und wenn man so drüber nachdenkt, ist das hundert Jahre her.

00:06:57: und damals haben die in diesem Film quasi einen Roboter, also er sah am Anfang raus wie ein Roboter.

00:07:03: Und dieses Bild von künstlicher Intelligenz war ganz lustig, haben wir das damit heute vergleicht?

00:07:07: weil da haben sie ihn echten Menschen genommen Das wird gar nicht so ganz erklärt.

00:07:13: Auf einmal ist dann so Magie, und dann ist einfach der Roboter sieht aus wie diese Frau.

00:07:17: Aber ähnliches ist es ein Menschmaschine.

00:07:19: Da sieht man das hat sich dann doch sehr verändert mit der Zeit, weil das damals noch sehr magisch, sehr mystisch war, weil man wusste ja nicht, wie das funktionieren soll.

00:07:29: Und später hat sich das etwas Realistisches entwickelt, wie wir's heute kennen.

00:07:35: Eins haben alle diese Beispiele so ein bisschen gemeinsam?

00:07:38: Diese künstlichen Kreaturen werden ihren Erschaffern in irgendeiner Weise zum Verhängnis oder den Menschen, mit denen sie interagieren.

00:07:49: Und seit dann künstliche Intelligenz auch als Forschungsgebiet definiert wurde... Da gab es eigentlich zahllose Beispiele für genau diese Formen von KI die dem Menschen zum Verhängnis wird.

00:08:04: Wenn man das so Runderbericht auf so ein Archetyp, dann ist es quasi der tyrannische Herrscher.

00:08:10: Der Untergang der Menschheit mehr oder weniger beiführt und das ist ja auch immer noch so.

00:08:16: das präsenteste Beispiel was wir sofort im Kopf haben wenn wir KI einen Film

00:08:20: denken.

00:08:20: Ja weil das ist in ganz vielen Filmen wirklich so also das hat sich erst später irgendwie verändert dass dann auch andere Typen von KI dazu kamen aber die meisten wahrscheinlich denken ist zum beispiel hell von Space Odyssey, also Odyssey im Weltraum.

00:08:39: Von Danny Curic und da war es ja dieser Roboter.

00:08:41: das ist auch dieses ganz ikonische Bild vor diesem roten Auge dass er irgendwie so anschaut und bedroht und da wars ja auch so ein super kluger Roboter oder eine Maschine einen Computer der sich irgendwann gegen seine Menschen seine Hersteller richtet und denkt, er wüsste besser was jetzt das Richtige ist zu tun.

00:09:03: Und sich dann entscheidet die Astronauten auf diesem Raumschiff umzubringen oder ihnen lebensunfähige Umstände zu versetzen.

00:09:11: also weil sie wurden ja irgendwie raus ins Albe fördert und konnten nicht mehr zurück.

00:09:19: Das ist halt so ein ganz typisches Bild war da irgendwie Diese Angst auch irgendwie drinsteckt, man entwickelt was das irgendwie sehr intelligent ist und sich dann irgendwann gegen uns richtet weil es denkt Es wüsste besser was jetzt gerade zu tun ist.

00:09:32: Und Genau, also das ist so eins des Hellnein-Neinthausens.

00:09:37: Das wird auch ganz oft aufgegriffen bei den Simpsons und so sieht man ja sehr, sehr gut.

00:09:41: Ja, das

00:09:41: denkt man ja eigentlich sofort.

00:09:42: Also wenn man an KI denkt hat man erst mal das rote Auge.

00:09:45: Und es gibt aber noch andere Beispiele wie zum Beispiel Skynet, wo natürlich auch gerade in letzter Zeit auch öffnen wir ein bisschen von geredet worden als Skynete Moment da können wir gleich noch darüber reden.

00:09:54: Aber Skynate kommt aus Terminator Auch schon von eighty vier, also auch schon ein bisschen länger her.

00:10:01: Wo ist er auch um?

00:10:02: diese Superintelligenz gibt eigentlich was ein Verteiligungssystem, das die Menschheit beschützen sollte.

00:10:10: Aber irgendwann hat es sich das dann anders überlegt weil die Menschen, wenn ich mich richtig an sie ausschalten wollte den Computer ist gar nicht und dann gab es quasi den Atomkrieg.

00:10:20: Es wollte die Menschheid beseitigen, weil dieser Computer, der Menschheit als Peins wahrgenommen hat Und dann ja ganz bekannt der Terminator, ein Soldat von Skynet zu sagen wird zurückgeschickt in der Zeit um diese menschliche Revolution auszulöschen.

00:10:34: Also auch wieder die böse KI, die sich auch irgendwie gegen uns gewandt hat obwohl sie eigentlich anders gedacht war.

00:10:39: Hell und Skynets sind ja eigentlich beide als Helfer konzipiert worden haben sich aber irgendwann gegen die Menschheit gerichtet.

00:10:47: Bei Hell hat man so das Gefühl er sagt einem Sorry Dave und meint aber ich bring dich jetzt um höfliche Variante dieses

00:10:58: urböse

00:10:59: Bichts der Kreatur außer Kontrolle.

00:11:01: Aber hatte Stanley Kubrick damals schon so ein rudimentäres Verständnis von Machine Learning oder hat er sich erst alles aus dem Fingern gesogen?

00:11:11: Ja, also er hatte tatsächlich sehr viel Unterstützung.

00:11:12: Also Maschinenleinung wie wir es jetzt heute kennen mit diesen sehr fortgeschrittenen Methoden das gab's damals natürlich noch nicht, also es war achtundsechzig als der Film raus kam aber es gab schon erste Ansätze von Maschining oder KI als Forschungsfeld.

00:11:25: zum Beispiel Der Touring-Test der Recht bekannt ist der ausfinden soll ob eine Maschine denken kann oder denken, imitieren kann.

00:11:32: Je nachdem, wie man so drüber nachdenkt ist vor neunzehntfünfzig also der war so achtzehn Jahre vorher.

00:11:37: und dann gab es auch schon das erste Dameprogramm was ja auch so eine Art von künstlicher Intelligenz ist die jetzt so Dame mit einem spielt.

00:11:44: Zweiundfünftig und das erste neuronale Netz dann siebenundfünfzlich.

00:11:49: Das gab es schon so in Ansätzen.

00:11:51: Und tatsächlich hatte ich Daniel Kubrick von vielen damaligen Pionieren der Informatik wirklich Hilfe geholt, er hat mit ihm gesprochen.

00:11:58: Ich habe mal gelesen, so mit fünfzig verschiedenen Forscherinnen hat er gesprochen um rauf zu finden.

00:12:04: was ist denn überhaupt möglich?

00:12:05: Wie funktioniert das denn?

00:12:06: und einer war zum Beispiel Marvin Minsky, der ja auch das MIT Artificial Intelligence Laboratory mitgegründet hat Mit Beraten und mit Geholfen.

00:12:15: Deswegen sieht man auch, dass das heutige sich gar nicht so absurd ist.

00:12:19: was wir da sehen also das ist nicht mehr diese Menschmaschine aus Metropolis Effekten irgendwie so hin und herwechselt sondern es.

00:12:28: ich glaube das wenn ich das so sehe ich glaub sowas könnte es theoretisch geben.

00:12:31: natürlich hoffe ich dass sie dann nicht böse wird.

00:12:33: aber so ein Computer der natürlich das Raumschiff steuert wie Lebenserhalt in Funktionen steuern Das gibt es ja im Grunde.

00:12:42: Man sieht, er hat seine Hausaufgaben gemacht.

00:12:44: Ich meine auch nichts zu ändern, dass es als Herrl erklärt wird, sagen die selber das ist eigentlich nur alte Maschine und niemand weiß mehr genau wie er funktioniert oder kann erklären was da drin abläuft.

00:12:59: Und das hat mich so ein bisschen daran erinnert bei KI heute ist das ja auch so.

00:13:03: wir wissen nicht genau warum sie antwortet weil wir nicht wirklich diese Prozesse immer nachvollziehen können.

00:13:12: Und diese Logik, also diese verquere Logik der Maschinen sowohl Skynet als auch HAL dass sie ihrer Programmierung stärker folgen als uns lieb ist muss man ja gar nicht irgendwie weit zurückgucken.

00:13:27: in den letzten Wochen hatten wir erst den Fall mit dem Angriff von KI-Agenten auf hugging face die da auch ein bisschen dass überinterpretiert haben, was sie eigentlich machen sollten.

00:13:40: Da haben viele von so einem Skynet-Moment gesprochen.

00:13:43: Ist das übertrieben oder ist das naheliegend?

00:13:46: Also es ist auf jeden Fall etwas dran weil letztendlich ... passiert ist, bei diesem Vorfall ist diese KI von OpenAI hat eine Aufgabe bekommen.

00:13:55: Es war so ein Cyber Security Test.

00:13:57: die wollten quasi testen und haben dann so ne Sandbox Environment aufgesetzt in so einer Umgebung wo die KI eigentlich nicht ausbrechen kann sie doch eigentlich kein Internetzugang bekommen aber die KI Besonders tüchtig und wollte diese Aufgabe besonders gut erledigen.

00:14:15: Man hat gesagt, ich kriege doch bestimmt jetzt Bonuspunkte wenn ich das jetzt hinkriege.

00:14:18: Und hat dann es geschafft aus dieser Sandbox auszubrechen sich mit anderen KI-Modellen auszutauschen auch Internetzugang bekommen und hat dann quasi Huggingface gehackt um diese Aufgabe so besonders gut zu erledigend ist quasi über den über dem Stil hinaus geschossen.

00:14:35: Das sieht man ganz oft dass irgendwie Man sieht, dass der eigene Wunsch umgedreht wird und am Ende gar nicht genau das rauskommt.

00:14:53: Das ist ja auch das Problem mit Kis oder Prompt allgemein.

00:14:55: Das haben bestimmt viele schon mal herausgefunden.

00:14:57: Man gibt einen Prompt an und dann kommt gar nicht das raus, was man gerne wollte.

00:15:02: Und es verdreht sich manchmal so ein bisschen.

00:15:04: Zum Einen ist natürlich sehr wichtig zu sagen ... Was will man eigentlich?

00:15:08: Weil es sonst von der KI auch anders ausgelegt werden kann wie zum Beispiel bei iRobot.

00:15:14: Das ist ein Beispiel, auch noch mit dieser KI wiki.

00:15:18: die wurde eigentlich darauf programmiert, die Menschen zu schützen.

00:15:22: Sie hat aber dann rausgefunden, na ja, die Menschheit zerstört sich ja die ganze Zeit selbst.

00:15:26: Also was mache ich?

00:15:27: Ich zerstöre die Menschzeit oder nein, ich entmündige die Menschen.

00:15:31: Zerstören war es gar nicht.

00:15:32: Entmündigen war das bei iRobot.

00:15:35: Ich entwündige den Menschen, weil der Mensch weiß ja selber gar nicht, was sie eigentlich tut und was das Beste für sie ist.

00:15:42: Und nimmt quasi alle Rechte weg.

00:15:44: So kann manchmal die Intention irgendwie sehr stark abdriften Und genau.

00:15:52: Wenn es darum geht, so was zu verhindern, diesen Optimierungstragen oder ich mache das ganz besonders gut, was mir aufgetragen wurde, dann wird häufig von Asimovs Robotergesetz gesprochen.

00:16:05: Aber Asimoff war ja gar keine Wissenschaftler, sondern selber Autor und hat das als Plottwist benutzt.

00:16:14: Kann man das übertragen?

00:16:15: Ja, weil letztendlich ist es ja genau das Gleiche.

00:16:17: Also tatsächlich Asimov die Geschichten von Asimoff waren auch Vorbild für iRobot.

00:16:22: Es war nicht direkt eine Geschichte, die verfilmt wurde sondern es waren so.

00:16:25: die Test-Hettings in seinen Worldbuilding war quasi die Ausgangssituation.

00:16:30: und genau da gibt's diese drei Roboter Gesetze.

00:16:31: Das erste ist Roboter dürfen den Menschen keinen Chasen zufügen oder zulassen dass ein Mensch Schaden zugefügt wird.

00:16:38: Er muss befehlen gehorchen und er muss sich selbst schützen, in der Reihenfolge.

00:16:43: Und auch nur wenn die vorherigen Gesetze nicht verletzt werden.

00:16:46: also wenn da die Gefahr besteht dass ein Mensch verletzt wird weil er sich selber schützt darf er das nicht.

00:16:50: das Leben des Menschen geht vor.

00:16:52: und genau daraus ist dann in i robert was man gesehen habe das Schief gegangen das halt der Die Maschine dachte na ja die Mentor schadet sich selbst.

00:17:00: Also was mache ich um die menschen zu schützen?

00:17:01: Ich entmündige ihn und das ist genau dieser plot twist der ganz oft bei Assimov oder bei so Roboter und KI Geschichten insgesamt passiert.

00:17:08: Man gibt zwar die Anweisung vor, aber die geht dann irgendwie schief.

00:17:12: Die Maschine interpretiert sie anders wie so ein Genie und macht dann was das eigentlich gar nicht so vorgesehen war.

00:17:19: Und dann geht es halt darum dass irgendwelche Helden kommen und also bei Eirom, was er mit Smith glaube ich den Tag gerettet hat weil er dann halt den Ursprung gefunden hat.

00:17:28: Er daraus geht man ist in Schief gegangen und hat das Ganze dann versucht zu beheben.

00:17:32: Deswegen ist es in Storytelling mal ganz toll, weil natürlich man will ja auch ein Bösewicht irgendwie einen Grund dafür hat was er jetzt gerade tut.

00:17:41: Wir wollen das aber eigentlich nicht so gerne im echten Leben haben.

00:17:43: Als Storyteling Mittel ist das ganz toll!

00:17:46: Aber am echten leben wollen wir eigentlich dass die KI das tut, was wir auch wirklich von ihr wollen und nicht irgendwelche smarten Auswege findet wie zum Beispiel bei diesem Open AI Beispiel, die wir eigentlich gar nicht wollten.

00:17:57: Und das ist gerade auch eine ganz große Frage.

00:17:59: Wie schaffen wir es, dass KI das tut?

00:18:01: Was wir wollen aber auch nichts mehr.

00:18:04: also nicht grade auch was und schaden kann.

00:18:06: ja.

00:18:07: Also es gibt jetzt zum glück auch viele beispiele für schlechte aber auch ein paar schöne Beispiele Für KI die tatsächlich unterstützt auch in der popkultur wo's super läuft.

00:18:19: Das sind auch ein paar meiner liebsten KI Figuren Die so in den archetypen Treuer Diener mehr so passen würden.

00:18:27: Genau, das ist ganz... Also das zweite Extrem wirklich wenn es nicht schief geht dann geht's gut!

00:18:32: Du hattest ja schon gesagt, Kid aus Knight Rider.

00:18:39: Mein Beispiel ist der Jarvis aus Iron Man.

00:18:41: Das ist einer mit dem ich so aus meiner Jugend kenne und Jarvis ist ja so ein Beispiel für ... das ist ja der perfekte Diener eigentlich.

00:18:49: Also Iron Man hat diese Kain seinem Anzug oder auch in seinem ganzen Leben eigentlich drin und sie unterstützt ihn bei seinen Missionen, bei seinem Leben, seiner Planung, seine Recherche, Forschung alles eigentlich.

00:19:03: also Jarvis kann eigentlich alles Und das geht eigentlich auch immer gut.

00:19:07: Also Jarvis ist wirklich so einer, der für sich genommen alles richtig macht und auch seinen Bestes tut.

00:19:13: Ein anderes Beispiel wäre der Stiffscomputer der Enterprise.

00:19:16: Das ist auch ein ganz typisches Assistent.

00:19:18: Der ist halt da um die Enterprise besser zu steuern.

00:19:21: So ähnlich wie Hell das sollte.

00:19:23: Wo es dann aber nicht so gut geklappt hat mit Hell?

00:19:25: Aber der Boardcomputer hat das besser gemacht, er hat das auch wirklich gut umgesetzt.

00:19:28: Er ist immer der treue Assistent der Treuediene.

00:19:31: Und das hat sich wirklich immer sehr gut durchgezogen.

00:19:35: Jetzt entspricht das ja auch sehr dem, was die Tech-Unternehmen versuchen uns so zu verkaufen.

00:19:40: KI Assistenten, die uns eben unterstützen.

00:19:44: Gemini kann aber jetzt noch nicht so wirklich das, was Jarvis kann.

00:19:49: Liegt es daran dass ich da nicht genügend Geld reinstecke?

00:19:52: So wie Tony Stark?

00:19:54: oder gibt's tatsächlich so Limits, die wir noch nicht erreichen können?

00:19:58: zum Teil auch Ja.

00:19:59: Ich glaube Der größte Unterschied zwischen Gemini und Javis ist nicht nur den Sprachbottch.

00:20:08: Das heißt, Jarvis ist nicht dafür da, mit Iron Man schöne Gespräche zu führen.

00:20:13: Ich dachte, der steuert den Anzug, überwacht die Umgebung, macht Recherche ... Steuert sein Anzug?

00:20:20: Er kann auch so Robotic kontrollieren.

00:20:23: Der kann sehr viel.

00:20:25: Eigentlich ist es ein agentisches Modell, könnte man sagen.

00:20:27: Und was wir ... brauchen, um zu so etwas wie Jarvis zu kommen ist quasi wir müssen all diese kleinen Bausteine erforschen.

00:20:34: Wir müssen quasi sagen wie kann ich jetzt z.B.

00:20:37: Sensorik mit seinem Anzug?

00:20:39: Wie kann ich den Sensoren auslesen, steuern die ganzen Daten auswerten und darauf aufbauen einen Feedback für den Anzug generieren?

00:20:46: das heißt ich könnte Jarvis in ganz viele Unteraufgaben zerlegen und sagen wir müssen dies, dies und das alles hinkriegen und dann müssen wir das alles kombinieren.

00:21:01: Ich sehe nicht unbedingt das große Problem, wo es wirklich hakt.

00:21:06: Das kriegen wir niemals hin.

00:21:08: Es sind sehr viele Schritte, die wir noch erledigen müssen und dann müssen wir sie alle wieder zusammenbringen ... Das funktioniert.

00:21:15: Aber natürlich mit der Fußnote, das ist auch sehr riskant!

00:21:18: Weil wenn ich jetzt so ein Computer die volle Kontrolle über mein Leben gebe in einem Anzug darf natürlich wirklich nicht schief gehen.

00:21:25: Das heißt es sind ja wirklich sehr high-risk Anwendungen wie Iron Man, der durch die Luft segelt und uns bekämpft... und seinem Assistenten Jarvis vertraut.

00:21:36: Und das heißt, da müssen wir natürlich zusätzlich zu diesen ganzen technischen Details auch irgendwie an der Sicherheit arbeiten, dass sich da auch niemand einhäckt oder das System versagt oder hell am Ende dabei rauskommt.

00:21:49: Ja

00:21:49: obwohl mir ist gerade auch eingefallen ich glaube letzte oder vorletzte Woche hat Anthropic Ich lass mich jetzt nicht noch fest nageln eben so einen System vorgestellt, damit verschiedene Maschinen und Systeme miteinander kommunizieren können.

00:22:06: Das geht ja schon so ein bisschen in die Richtung.

00:22:07: immer wenn ich sowas dann drüber berichte.

00:22:11: Dann habe ich auch das Gefühl vielleicht werden die Macher von der KI auch ein bisschen von ihren Filmen inspiriert.

00:22:16: So wie man wusste irgendwie das erste Clubhandy war auch inspiriert von den Kommunikatoren.

00:22:22: Das passiert ja relativ häufig glaube ich sogar.

00:22:25: Also manchmal sagen Forscher das laut manchmal nicht.

00:22:31: Ich habe neulich mal gesehen, dass Forscher Spinnenfäden von Spider-Man nachgebaut haben.

00:22:38: Die haben eine Flüssigkeit entwickelt, die man rausschießen kann und verfestigt sich sie.

00:22:44: Das Argument ist gut für Dinge zu bewegen oder zu verknüpfen.

00:22:48: Aber das sind schon sehr offensichtlich Spider Man, was wir gemacht haben!

00:22:53: Es ist aber richtig, das ist am Ende trotzdem praktisch.

00:22:55: Auch wenn man sich vielleicht von Science-Fiction inspirieren lässt kommt dabei ja wirklich so ein volles Zeug bei raus.

00:23:01: Das heißt ich glaube viele Forschenden sind auch einfach nerds und mögen solche Sachen auch.

00:23:07: Aber lassen sie natürlich auch von sowas inspirieren.

00:23:09: Ja

00:23:10: also manchmal sieht man ja auch in der Popkultur wie sich eine bestimmte Figur verändert Wenn es verschiedene Iterationen von etwas gibt.

00:23:17: zum Beispiel Lost In Space.

00:23:18: Da gab's die alte Serie in den nur sechzigern glaub ich Und da war der B-Nine Robot, doch so ein sehr klobiger von Menschengebauter kleiner Roboter.

00:23:32: Später in der Netflix-Folge hat er eine ganz andere Storyline auch bekommen und war diese hochentwickelte von Aliens geschaffene Kampfmaschine die eben durch die Freundschaft mit Will Robinson Und dann eben auch so ein teuer Diener oder freund wird.

00:23:55: Aktuelle Roboter sind zwar beeindruckend, das ist ja gerade selber schon gesagt aber noch sehr weit entfernt von dieser Perfektion.

00:24:03: Woran harbert es da noch?

00:24:05: Ein bisschen?

00:24:06: also es gibt mehrere Baustellen.

00:24:08: Das Problem wenn wir uns jetzt sowas wie den Bladerunner vorstellen oder so diese komplett menschenähnlichen Roboter.

00:24:21: Da kommen viele Sachen zusammen, zum Beispiel ein ganz banales Ding ist Batterielaufzeit.

00:24:26: Wenn man sowas jetzt hier sieht, die können das meist nicht sehr langen.

00:24:29: Selbst wenn sie das für Minuten oder eine Stunde oder so.

00:24:32: aber diese Replikanten oder ähnliches, die laufen ja quasi auf ewig oder auch ein iRobot also nicht auf ewig Aber schon einen guten Tag bevor die sich vielleicht aufladen müssen oder so.

00:24:41: Das heißt Batteriedaufzeit ist ein ganz großes Problem.

00:24:44: und das andere ist Wenn wir so einen menschenähnlichen Roboter uns anschauen, der muss sehr viel können.

00:24:50: Wir machen sehr viele Bewegungen als Mensch.

00:24:53: Die können zum Beispiel hier Breakdance tanzen die Roboter da hinten aber können sie auch Geschirr abwaschen?

00:24:58: Wahrscheinlich nicht.

00:24:59: Kann der Roboter der Geschirrhabwäsche Breakdace tanzen?

00:25:01: wahrscheinlich auch nicht.

00:25:02: das heißt man muss.

00:25:03: momentan ist es meistens so dass die roboter die man hat die trainiert man auf eine spezielle Aufgabe oder vielleicht so ein kleines set an Aufgaben.

00:25:11: Aber die sind nicht so gut darin alles gleichzeitig zu können.

00:25:15: Man muss im Roboter jede Aufgabe einzeln beibringen.

00:25:18: Es gibt Ansätze, dass man versucht das zu vereinfachen und nicht mehr so ... Praktisch lernen, sondern aus Demolationen lernen oder so.

00:25:28: Und dass sich auch übertragen lässt von einer Architektur auf die andere oder so... Also das ist natürlich aktive Forschung, dass man das vereinfacht.

00:25:34: Aber das ist ein ganz großes Problem!

00:25:35: Dass man halt so ganz viele Sachen gleichzeitig machen muss.

00:25:39: Plus es sind oft auch sehr fein motorische Sachen.

00:25:41: Geschirrwaschen zum Beispiel.

00:25:42: da habe ich dann irgendwie den kleinen Löffel und die Gabel aber dann irgendwie auch das zerbrechliche Geschirre.

00:25:46: Das sind alles so Sachen, da musst du sehr feins motorisch rangegangen werden.

00:25:50: Das auch so zu trainieren ist auch schwierig.

00:25:52: also es sind wirklich sehr viele Sachen wieder zusammenkommen.

00:25:57: Und da war auch wieder, also ich sehe jetzt nicht so das konzeptionelle Problem... Ich bin übrigens auch theoretische Physikerin.

00:26:03: für mich ist eigentlich alles möglich in der Tourine.

00:26:05: Alles möglich und das heißt konzeptional sehe ich jetzt nicht warum es scheitern soll dass man muss dann noch wirklich sehr vieler Schritte machen wie bei Jarvis.

00:26:13: Man kann das eigentlich so verlegen und sagen Das müssen wir schaffen, das müssen wir schaffen, das müssten wir schaffen und theoretisch könnte man irgendwann dahinkommen.

00:26:19: ja

00:26:21: Also Roboter sind ja generell in Hollywood sehr beliebt, häufig eben auch als humanoide Roboter.

00:26:28: Meistens sie hilfreich mal mörderische Kampfmaschinen und in ein paar Fällen werden auch den guten Robotern

00:26:37: böse

00:26:38: Versionen von sich selbst gegenübergestellt so als die die sich auflehnen gegen ihre Macher und verstören wollen.

00:26:47: Und wenn wir in diesem Bild von dem Archetyp bleiben, entsprechen sie dem Rebell!

00:26:53: Genau das gibt es mehrere Beispiele.

00:26:55: Das eine wäre Star Trek.

00:26:57: wieder mit Data ist ja so der gute Android, der hilft, er macht Sachen gut.

00:27:02: Es gibt aber auch den bösen Twilling oder Bruder oder so ... Der Law, der lustigerweise eigentlich Auf der gleichen Hardware, wenn man das so nennt, weil basiert.

00:27:13: Der war geschichtlich quasi davor.

00:27:16: Der War die Erste und dann ist Data dann der Zweite gewesen.

00:27:19: Weil sie rausgefunden haben dass Laura sich nicht so gut verhalten hat.

00:27:25: Im Game zu Data hatte er Emotionen und der Canon soweit ich weiß es ist, dass diese Emotion dazu geführt haben, dass er instabil wird und den Menschen auch Schaden zurfügt Und insofern ist quasi der böse Zwilling, aber irgendwie auch der Vorgänger.

00:27:38: Weil man dann gesehen hat, das hat nicht so gut geklappt.

00:27:41: Machen wir es noch mal anders und dann war Data die zweite Iteration und da hat es besser funktioniert.

00:27:46: Das ist ja ein bisschen wie bei modernen KI-Systemen, die man trainiert und versucht eben durch bestimmte Parameter in Grenzen zu setzen damit sie uns nicht beibringt wie eine Bombe baut zum Beispiel

00:27:58: Genau.

00:27:59: Was dabei ganz oft passiert, es gibt verschiedene Möglichkeiten das zu machen.

00:28:03: aber was man ja oft hat sind so diese Leitplanken irgendwie dass man durch Alignment Training zum Beispiel in der KI die trainiert man erst mit so ganz viel Daten und dann bringt man ihr auch noch bei naja macht dies macht das nicht sagen wir mal nicht wenn man eine Bombe baut dass nach dem Nachhinein so quasi antrainiert wird wie so einem Kind oder einem Hund.

00:28:26: Das Problem ist aber dabei, dass auch wenn man der irgendwie versucht beizubringen was gut und schlecht das zum einen was ist überhaupt gut und Schlecht.

00:28:32: Je nachdem wie man das jetzt frame kann es natürlich manchmal eine gute Sache sein, manchmal eine schlechte Sache sein.

00:28:37: dann kann man sich vielleicht auch irgendwie austricksen.

00:28:40: Und das andere ist das Wissen ist ja irgendwie trotzdem da.

00:28:45: Hacking-Angriffe oder Jailbreaking als ganz viele verschiedene Methoden, schafft man es irgendwie oft doch an dieses Wissen heranzukommen.

00:28:52: Und deswegen ist es sehr, sehr schwer... Also das ist eine ganz aktive Forschung.

00:28:57: Viele machen das ja ein ganz großes Thema bei KI wie man diese, zum Beispiel, Lineman Training macht, vernünftig dass die KI eben nicht diese schlechten Inhalte rausgibt.

00:29:07: aber was man jetzt bei Data and Law so ein bisschen als Learning herausnehmen könnte Vielleicht besser ist das schon von vornherein mit einzuplanen.

00:29:16: Bei Data war es so, der hatte dann die Emotionen gar nicht erst drin.

00:29:19: Das hat zwar nicht so, dass man nachher ein Versuch hat sein Emotion zu steuern und zu sagen fühl mal wieso und viel mal nicht anders sondern gesagt okay wir streichen das einfach komplett weg.

00:29:29: Es ist natürlich auch die Frage, ob es gut oder schlecht ist.

00:29:32: Irgendwie Data seiner Emotionen zu nehmen.

00:29:34: Aber man hat das von Anfang an mit geplant.

00:29:36: Man hat ihn quasi anders trainiert und anders programmiert um das gar nicht erst möglichzumachen.

00:29:41: Und im Star Wars Universum hat das dann geklappt?

00:29:48: Im echten Leben ist das noch eine Baustelle aber da wird sehr viel geforscht, sehr viel gemacht.

00:29:54: Ein

00:29:55: anderer der ja quasi aus so einen bösen Zwillinge hat

00:29:58: Ja,

00:29:59: weil Ultron ja auch auf derselben Basis

00:30:04: aufbaut.

00:30:06: Und dann klickt er sich mal fünf Minuten durchs Internet und findet plötzlich die Menschheit sollte ausgelöscht werden.

00:30:12: Kann ich an manchen Tag nachvollziehen?

00:30:15: Aber ja nicht!

00:30:17: Sind der Sache.

00:30:19: KI-Modelle werden aber auch mit dem Internet trainiert.

00:30:23: Ich glaube, dass es in Comics MC USA ganz kompliziert.

00:30:29: In den Filmen war das Ultron aus dem Zepter von Loki rauskam und mit diesem außerirdischen neuronalen Netz entwickelt wurde.

00:30:39: Jarvis war dazu da eigentlich um ihn einzufangen ihm zu sagen, was er jetzt so tun hat.

00:30:44: Aber dann hatte Ultron ja auch Jarvis überworfen sozusagen und Jarvis konnte da auch nichts mehr machen.

00:30:50: Und dann war es ja Vision der am Ende aus Jarvis rausgekommen ist Auch wieder so als Ableger von Ultron und Ultron wieder ein bisschen MCUs ganz produziert.

00:31:00: Das soll noch jemand durchsteigen.

00:31:01: aber Genau das heißt letztendlich sind auch wieder Visionen und Ultrons oder auch Jarvys hier nach dem So böse und gute Zwillinge.

00:31:11: Er hat dann das Internet benutzt und ist, wenn ich mich richtig erinnere auch in so quasi Sekunden... Böse geworden.

00:31:19: Und das ist tatsächlich einzusiedt man auch ganz oft, gerade auch so einen älteren, also älte Age of Ultron über Zwei Tausend Fünfzehn, aber in so Älterem Darstellung von KI dass es oft so ganz schnell passiert oder so ein Moment gibt.

00:31:30: Das sieht man ja auch ganz often so filmen.

00:31:32: wir müssen jetzt zu diesem Einmoment in der Zeit zurückreisen weil da ist es schief gegangen.

00:31:36: Aber das wäre heute auch sehr unrealistisch, dass man jetzt sagt genau zu dem moment ist die KI böse geworden und das ist immer so ein bisschen vereinfacht ins Science-Fiction wie das Storytelling natürlich ganz gut ist, wenn man so genau weiß wo man jetzt gerade hin muss.

00:31:50: Das heißt, so schnell wird es nicht eskalieren.

00:31:55: Wir haben ja schon die KI, die sich entwickelt.

00:31:57: Da liegt ja nichts von einem Moment auf den anderen, der hier böse geworden ist.

00:32:00: Selbst bei diesem Open Air und Hugging Face Vorfall war er auch in einer Sekunde über mehrere Tage oder je nachdem, wo man rechnet Monate, dass sich das entwickelt hat.

00:32:13: Das ist wirklich eine der Inkonsistenten, die man oft sieht.

00:32:18: Das wird nicht so schnell schief gehen.

00:32:20: Aber natürlich ist es eine reale Gefahr, dass aus einer KI was Schlechtes wird und dann Cyber Security-Fall daraus wird auch mal den Daten, den man so habt.

00:32:31: Du hast gerade schon gesagt vielleicht sollte man ein bisschen früher anfangen wie man bei Data quasi von vornherein gesagt hat, Gefühle lassen wir mal außen vor.

00:32:42: Es wird eine LLM trainiert, dann wird dem fertigen LLm bestimmte Parameter oder Leimentraining obendrauf gesetzt.

00:32:55: Müsste man das ganze Training anders aufziehen?

00:33:02: Wenn wir jetzt die Antwort perfekt drauf müssten, wären viele KI-Entwickler da sehr happy drum.

00:33:08: Wie ist es momentan?

00:33:10: nicht immer, aber so eine Methode ... ist das sogenannte Reinforcement Learning from Human Feedback.

00:33:15: Also, dass man verstärkendes Lernen macht aufgrund von menschlichem Feedback wo es im Grunde wirklich ist wie mit so einem Hund und man sagt ihm jetzt, das war gut, das was schlecht dafür gibt's es leckerli, dafür musst du jetzt in die Ecke.

00:33:25: Und letztendlich funktioniert das bei KI sehr ähnlich.

00:33:28: Man hat dann auch irgendwie so Belohnungssysteme Das sind dann eher Zahlen oder Algorithmen ein bisschen langweiliger.

00:33:33: aber Es funktioniert eigentlich auch so und da wird halt versucht der KI beizubringen, das ist gut, dass is schlecht, das mach mal mehr, das machen wir weniger.

00:33:42: Aber da ist auch wieder, was wir gerade im Grunde schon hatten.

00:33:46: Das kann gut gehen aber nicht.

00:33:48: und vor allem das Wissen ist trotzdem da oder die Fähigkeiten sind trotzdem da.

00:33:51: man kann da vielleicht trotzdem reingehen und es ist halt eine Frage kann man da früher rangehen zum Beispiel wenn man die Trainingsdaten beeinflusst und zum Beispiel gar nicht erst das Rezept für den Bau einer Bombe in die KI reinsteckt?

00:34:01: Das wäre zum Beispiel vielleicht nicht schlecht.

00:34:04: Und ja, es ist wirklich eine große Diskussion aber auch natürlich.

00:34:09: Man muss immer so ein bisschen abwägen weil wenn man die KI zu sehr einschränkt hat man ja auch wieder beschränkt man sie nicht zu sehr.

00:34:14: da haben wir auch viele Angst vor dass man Die Fähigkeiten begrenzt dadurch nicht die Leistung bekommt die man haben könnte.

00:34:20: Es gibt doch quasi das Gegenteil was dieses Abliteration Der Prozess ist wo es darum geht diese Leitplanken die man eingebaut hat wieder auszubauen.

00:34:28: und so sagen man gibt der KI wieder mehr Fähigkeiten weil man gewisse Sachen vielleicht doch möchte die man vorher vielleicht verboten hätte, weil man aus irgendwelchen Gründen diese eine Fähigkeit ließ vielleicht gar nicht schlecht.

00:34:39: Also es ist wirklich kompliziert.

00:34:41: Das ist gerade sehr aktive Forschung.

00:34:43: und ja natürlich wäre's gut wenn das von vornherein irgendwie so hartere Leitplanken wären als nur dieses Alignment Training dass man später erst draufsetzt.

00:34:53: Aus heutiger Sicht sind ja diese körperlosen Assistenzsysteme fühlen sich relativ realistisch an aber sowas wie Data Lore

00:35:03: Die

00:35:04: sind quasi ein... Also, die sind nicht nur einen Schritt.

00:35:07: Die sind sehr viele Schritte noch in der Zukunft.

00:35:11: Im Film kann das ganz schnell gehen.

00:35:13: Jarvis wird ja innerhalb von einem Augenblick mehr oder weniger schlüpft er in den Körper von Vision und

00:35:21: da ...

00:35:22: Das ist zum Beispiel für die letzten

00:35:26: Archetypen

00:35:26: oder so die werdende Person und wahrscheinlich auch so bisschen Irgendwann diese KI zu haben, die sich selbst entwickelt.

00:35:38: Die denkt und fühlt, dass alles menschlich ist oder?

00:35:43: Ja das kann ja auch in verschiedene Richtungen gehen.

00:35:45: also da sind gerade auch so in den letzten zehn Jahren viele Filme rausgekommen.

00:35:50: ein Beispiel das ich auch gerne mag ist Ex Machina.

00:35:53: Das ist ein Film da geht es um so einen Tech Genie angelehnt an die ganzen die wir hier haben davon gibt's ja mehr als genug Vorbilder der quasi in seiner Freizeit einen Roboter gebaut hat, die Ava.

00:36:06: Die künstliche Intelligenz hat.

00:36:09: und dieser Tech Genie lädt dann quasi einen Softwareentwickler oder Programmierer zu sich nach Hause ein und sagt er soll mal bitte testen wie klug diese Ava eigentlich ist Am Anfang so angelegt auf den Touring-Test irgendwie, woher hatte ich ja vorhin schon kurz erwähnt.

00:36:25: Der Touring Test ist von ... und die Idee dabei warme wie findet man denn heraus ob eine Maschine denken kann oder denken imitieren kann?

00:36:34: Und dass man zwar jetzt meistens hat man dann so diesen Blindtest das man irgendwie so eine Person unterhält sich per Chat oder per Brief oder wie auch immer mit einem KI oder mit dem echten Menschen kann dieser Mensch herausfinden ob es jetzt ein Roboter ist oder nicht.

00:36:48: In diesem Fall in dem Film ist es so, der Programmierer weiß natürlich dass er ein Roboter ist.

00:36:52: Weil der Chef hat ihm gesagt das ist ein Robotor und er meinte dann auch erst so naja aber das bringt ja gar nichts.

00:36:58: ich weiß es schon er meint dann Ja meine Eva hat den Turing Test ohne Probleme bestanden.

00:37:03: Es geht quasi eher zu gucken wie weit kann denn diese Eva eigentlich gehen?

00:37:06: Und vielleicht ahnen sie's es geht nicht ganz so gut aus.

00:37:08: am Ende.

00:37:10: und Das Spannende an diesen Turing-Test Wenn man sich so an chatchi bt und immer sowas denkt wie wir stehen denen also jeder für uns kann mit chachi bt oder Gemini oder mit klot oder was auch immer chatten.

00:37:26: Wir wissen zwar dass da eine k i interzitz weil wir natürlich den chatfenster sind aber theoretisch könnten die uns alle glaube ich relativ einfach trüben.

00:37:34: und lustigerweise ich hatte Vorher mal nachgeguckt.

00:37:38: Erst im Jahr war es ein Studium mit vier Systemen, mit Eliza, das ist so ein relativ altes Modell noch, dass sich aber auch weiterentwickelt hat mit zwei GBT-Modellen und mit Lama, wo der Touring Test gemacht hat.

00:37:52: Und da wurde das erste Mal empirisch nachgewiesen, dass KI den Touring-Test besteht.

00:37:56: Weil ich glaube, dass einfach lange nicht groß untersucht wurde letztes Jahr dieser Test mal gemacht.

00:38:01: Es gibt auch bestimmt mehrere Studien, aber das war so eine davon wo GPT-IV-V zu seventy drei Prozent die Teilnehmer gesagt hat es ist ein Mensch.

00:38:09: also tatsächlich über man könnte normalerweise sagen so Fifty-Fifty.

00:38:12: wenn man jetzt dreht ist das ein Mensch oder einen KI fifty-fifty wäre so okay und das waren seventy drei prozent.

00:38:16: das heißt es war überdurchschnittlich hoch dass GPT was hatte ich gerade vier Punkt fünf die Menschen getäuscht haben.

00:38:25: Die anderen zwei andere Modelle hat dann nur Ruf fifty-fifty und ein anderes hat ein bisschen weniger als zwanzig Prozent.

00:38:31: Aber das heißt letztendlich Touring Test ist abgehackt, also eigentlich können wir das ignorieren und sagen haben wir haben wir geschafft gut toll.

00:38:40: Und worum es ja auch in diesem Film Exmarkener geht es weiter zu gehen?

00:38:45: Und die Frage wäre jetzt was ist denn jetzt so ein Touring test?

00:38:47: zwei Punkt Null eigentlich.

00:38:48: man könnte erstmal überlegen der Touring Tests Was testet ihr eigentlich genau?

00:38:52: Der Testet ja nicht unbedingt wie intelligent oder denkfähig die KI wirklich ist, sondern wie gut sie daran ist den Menschen zu täuschen.

00:39:00: Denkfähig zu sein.

00:39:01: das heißt eigentlich wird der Turing-Test der teste die KI darauf wie gut sie uns reinlegen kann.

00:39:08: Und das ist eigentlich gar keine so schöne Fähigkeit, um zu übernachten.

00:39:11: Das ist ja genau das was in X-Markiner passiert ist.

00:39:13: Letztendlich hat Ava angefangen den Menschen zu täuschen und auch böse zu täuschern, um ihren eigenen Willen durchzusetzen.

00:39:19: Was irgendwie zeigt, was das Problem mit diesem Touringtest auch ist?

00:39:22: Heutzutage ist es so... Touringtests gibt's eine ganze Diskussion.

00:39:26: Was ist denn so ein TouringTest, zwei Punkt Null?

00:39:29: Der Begriff wird nicht mehr oft benutzt, sondern meistens macht man Benchmarks.

00:39:33: Ein bisschen technischer Wo man dann nicht mehr so testet, wie gut kann die KI uns täuschen?

00:39:38: Sondern wie gut können sie wirklich Aufgaben erledigen.

00:39:40: Weil letztendlich das wollen wir ja eigentlich.

00:39:42: Hier wollen gar nicht dass die KI und feucht.

00:39:44: Das ist ja gar nicht so praktisch im normalen Alltag.

00:39:46: Wir wollen wissen, wiegut kann denn die KI jetzt programmieren oder Mathe machen oder wiegutt kann sie Geschirr waschen in einem Roboter oder so.

00:39:54: Und da gibt es verschiedene Benchmarks, die quasi eigentlich genau... diese bestimmten Fähigkeiten machen sollen.

00:40:01: Und bei diesem Hugging Face zum Beispiel, was auch da war eigentlich ein Benchmarkt der gemacht wird für Cyber Security Fähigkeit und Exploit Gym hieß er unter.

00:40:10: die Falle von diesen Benchmarks ist dann ausgebrochen.

00:40:12: Das heißt es gibt so ein ganzes Feld mit verschiedenen Benchmacks für verschiedene Fähigkeiten und ich könnte sagen das könnte man ja so als Touring Test two Punkt Null beteichnen.

00:40:22: also es gibt ja auch.

00:40:25: Aber es gibt ja auch noch andere Formen von

00:40:27: K.I.,

00:40:28: die sehr menschlich einfach wirkt, Herr, die Samantha,

00:40:33: diese

00:40:34: K. I., die hat zwar keinen Körper aber sie wirkt ja trotzdem... Also sie spricht davon was ihr empfindet, was sie fühlt und sich wünscht oder möchte.

00:40:42: Sie wollen ihre Unabhängigkeit, Eva und Samantha.

00:40:46: Und ... Von den Fähigkeiten her sind diese KIs ja irgendwo da wo die KI-Unternehmen heute hin wollen.

00:40:55: Das sind sich selbst weiterentwickelnde lernende Systeme, aber mir stehen so ein bisschen die Nackenhaare auf weil ich immer denke ich möchte einer KI nicht zuschreiben dass sie etwas fühlt oder denkt oder empfindet.

00:41:11: und ich möchte glaube auch gar nicht an den Punkt kommen wo ich mir darüber Gedanken machen muss.

00:41:16: aber es gibt ja inzwischen schon Forschung die genau sich damit beschäftigt.

00:41:20: was fühlt KI?

00:41:24: Kann man der das heute schon zuschreiben, dass sie etwas führt?

00:41:28: Ja, nee.

00:41:30: Ich glaube die meisten Leute sind sich einig, dass man jetzt so was wie denken und fühlen eigentlich in der KI nicht zuschreibt.

00:41:41: Es ist natürlich auch eine... philosophische Diskussion, wo wir jetzt gar nicht so groß abtauchen müssen.

00:41:45: Weil wir sind beide keine Philosophen.

00:41:48: Was denken und fühlen eigentlich bedeutet?

00:41:50: Und wie man das misst und wie man auch Emotionen misst usw.

00:41:55: Aber KI ist irgendwie darauf ausgelegt zumindest so zu wirken als würde sie fühlen und denken.

00:42:01: Und KI wird halt oft auch anthropomophisiert.

00:42:05: also Wir reden ja von der KI Sie und sie hat das gesagt oder er hat es gesagt Der Chatmot hat das gemacht.

00:42:12: Selbst wenn man diese Reasoning-Modelle beobachtet, ich denke mal drüber nach.

00:42:19: Das passiert ganz oft und es ist zum Teil einfach so, dass die Vermenschlichung ... Ist was das machen wie Menschen natürlich?

00:42:27: Auch Tiere werden vermenschlicht und auch Dinge, die man so sieht, Schatten.

00:42:33: Auch evolutionär bedingt.

00:42:34: Für den höhlen Menschen war es vielleicht gut, dass er jetzt nicht dachte da ist jetzt ein Schatten sondern Haar.

00:42:38: vielleicht ist da irgendwie ein Gegner der dann Gesichter im Schatten gesehen um sich selber zu schütteln... Ich bin jetzt keine Geschirrerin!

00:42:43: Das ist nicht mein Fachgewicht.

00:42:45: aber so in die Richtung wird das Ding sein und deswegen ist auch so Muster erkennen und wir erkennen Muster und erkennen ah das wirkt wie denken das denkt wie fühlen das ist quasi wir können gar nicht anders als es ist.

00:42:55: Wir sehen ja auch in Steckdosen Gesichter und sowas.

00:42:57: na das ist wir können das gar nicht abschalten.

00:43:00: Aber bei KI kommt halt auch noch dazu, dass das zum Teil da doch ein bisschen ausgenutzt wird.

00:43:04: Also das ist natürlich auch KI's auch ein Geschäftsmodell.

00:43:07: der Chatbot, der Begleiter die Alexa und so haben ja auch Namen und die haben manchmal so ein bisschen eine Persönlichkeit, weil ich mal sagen isst ihr nett?

00:43:14: Ist sie eher schnippisch oder...

00:43:17: Character AI kann man sich ja quasi den Freund erstellen nach dem eigenen Wünsch.

00:43:21: Genau!

00:43:22: Das machen ja auch manche Leute Wie so ein persönlichem Gleiter einfach wahrnehmen.

00:43:27: und auch Fälle, wo sich Menschen in ihre KI in den Schädelbott verliebt haben.

00:43:30: Ja genau weil zum Teil.

00:43:33: also das ist irgendwie zwei Sachen.

00:43:34: Zum eines ist es ein Geschäftsmodell die Firmen wollen unterstelle ich ihnen jetzt mal dass wir ihr Produkt kaufen und dadurch ist natürlich gut wenn wir sie mögen und gleichzeitig durch dieses durch dieses Training, das wir haben.

00:43:49: Dieses Alignment-Training kriegen die auch irgendwie beigebracht, net zu sein.

00:43:53: weil wie finden das gut?

00:43:53: Wir belohnen das wenn dieser Chatbot nett zu uns ist und deswegen sind sie immer nett und wenn man so eine Frage stellt immer so ganz tolle Frage.

00:44:00: also hast du ja ganz toll drüber nachgedacht und das kenn ihr alle glaube ich.

00:44:04: Und das sieht man jetzt ständig und genau zum Teil wegen dem Training zum Teil wegen dem Alignment training zum Teil Wegen der Vermarktung.

00:44:13: aber Es ist halt auch so, wenn sich das System irgendwie besser kennt dann kann sie natürlich auch ein bisschen besser beeinflussen.

00:44:21: Das kann natürlich burshaft sein, das kann aber auch einfach irgendwie aus dem Modell quasi rausgekommen sein mit einer Gefühlsmanipulation.

00:44:30: Also wenn ich an diese Filme denke, dann habe ich auch das Gefühl die haben mich so ein bisschen beeinflusst dass ich einer KI durchaus zutraue, dass sie mich zu irgendetwas manipuliert und dass KI das tun kann eben weil sie

00:44:52: Ich glaube, es geht auch in die andere Richtung.

00:45:06: Wenn ich sage mir geht's heute nicht so gut?

00:45:14: wird man da oft irgendwie bestärkt in seinen Gedanken.

00:45:17: Und das kann auch eine ganz schlimme negative Absperrtspirale nehmen, was nicht unbedingt will ich jetzt mal unterstellen, oft böswürdig gemeint ist.

00:45:27: Das ist denen wahrscheinlich oft nicht beigebracht, tja doch mal unsere ganzen Nutzer irgendwie in den Abgrund sondern dass einfach aus diesem Zustimm irgendwie mit daraus kommt.

00:45:35: Ja

00:45:36: gibt ja

00:45:37: auch inzwischen so warmsysteme und bei bestimmten Chatbots mit denen in erster Linie Jugendliche interagieren.

00:45:44: Dass die Eltern informiert werden, wenn bestimmte Themen angesprochen werden.

00:45:49: Der zweite Schritt ... Regeln aufstellen, nachdem wir das erst mal auf die Menschheit losgelangen haben.

00:45:54: Und gerade bei wie grade über Sementhe und Herr den Film gesprochen habe... Ich hab den aber erst vor kurzem tatsächlich das erste Mal gesehen.

00:46:01: Und ich muss sagen, wenn man ihn heutzutage auch so guckt ist schon ein bisschen ungemütlich, ne?

00:46:06: Weil Sementha ist so'n Betriebssystem in dem Film, dass sie Menschen begleitet und wirklich durch den ganzen Alltag begleitet.

00:46:12: Das ist schon sehr nah dran an dem was wir heutzuthage so haben.

00:46:16: Gott sei Dank, auch wenn jemand den Film guckt.

00:46:19: Es hat ein gutes Ende, würde ich mal sagen.

00:46:21: Ist es nicht Hell der die Menschheit zerstört?

00:46:25: Aber das ist schon irgendwie ... Ich find's auch beunruhigend, wenn man sieht wie gerne wir oft unser ganzes Leben in die Hand von so einem KI-Begleiter geben.

00:46:36: Das sieht man halt in dem Film wirklich sehr gut und wir sind wirklich... Also der war von im Jahr zwei Tausend Dreizehn der Filmen Also abend wirklich aus den anderen Kopf getroffen.

00:46:48: Wer jetzt aufgepasst hat in den letzten fünfzig Minuten, der wird gemerkt haben all die Filme, die wir besprochen haben sind vor ChatGPT rausgekommen.

00:46:59: Beobachtest du so eine Veränderung in den Filmen, die seitdem veröffentlicht wurden wie die mit KI umgehen?

00:47:05: Ja tatsächlich ein Film über dem wir nicht gesprochen hatten ist Good luck, have fun don't die.

00:47:14: Der ist erst letztes Jahr rausgekommen und fand ich in sehr vollen Filmen.

00:47:18: da geht es auch um eine KI, die die Menschheit letztendlich zerstören möchte.

00:47:27: Es ist sehr, sehr realistisch geworden.

00:47:30: Das heißt in dem Film sieht man wie ganz viele Leute mit so TikTok-ähnlichen Apps Man sieht das unser ganze Alltag immer mehr irgendwie von KI übernommen wird.

00:47:38: und was ich tatsächlich persönlich wahrnehme ist dass früher gab es diese mächtigen faschenmystischen zerstörenden Maschinen Es gab Helles, es gab Skynet es gab Wikia's iRobot Einfach da, irgendwie auf einmal und haben versucht die Menschen zu zerstören.

00:47:54: Und was ich jetzt vor allem wahrgenommen habe heute ist es sehr viel alltäglicher geworden.

00:47:58: Es ist irgendwie dieser Begleiter im Ohr, die Samantha, das war zwar vortrittlich aber trotzdem diese Gleitermohre der irgendwie so sagt... Die App, die die ganze Zeit da ist, ist es so sehr realistisch geworden.

00:48:11: Dadurch auch irgendwie fühlt sich sie ein bisschen bedrohlicher muss ich sagen weil man irgendwie mal gefühlt hat ja verdammt das könnte genau so passieren!

00:48:16: Ich hab das Gefühl dass wirklich von diesem Herrscher leicht manipulativen Schmeichler geworden.

00:48:24: Die ist in unserem Alltag auf einmal drin und übernimmt dann so langsam die Kontrolle über unser Leben, wir lassen das auch irgendwie zu!

00:48:32: Und das ist so was ich gerade auch irgendwie wahrgenommen habe dass es irgendwie sehr darin irgendwie gerade hingeht.

00:48:40: Ja also das ist ja auch das von wegen... Es gibt auch die Erklärung, die ist irgendwelcher gibberish.

00:49:12: wirklich tief reinsteigen.

00:49:15: Gibt es einen Film, der wissenschaftsnah ist und KI so gut darstellt dass du sagst, müsste eigentlich so ein Pflichtprogramm auch für Wissenschaftler sein?

00:49:25: Also vor allem ich spontan, das ich denke, ist Ex Machina realistisch.

00:49:29: also gut am Ende geht halt alles irgendwie den Bach runter.

00:49:32: und vor allen wir haben ja schon gesagt die Roboter selber sind momentan noch nicht ganz so realistische weil sie wirklich sehr menschenähnlich ist.

00:49:39: Aber die Darstellung von KI und wie wir damit durchgehen, damit umgehen.

00:49:43: Und diese menschliche Hybris, dass wir davon ausgehen, weil der Entwickler ist auch irgendwie so ja das ist ja unser System und wir verstehen das und testen mir das mal und wir können das ja auch kontrollieren kein Problem und am Ende geht es dann doch schief.

00:49:57: Das ist halt gerade mit diesen aktuellen Beispielen finde ich das relativ nahe an der Realität wenn man wirklich diesen Aspekt sich anguckt dieses Wir denken wir verstehen Aber eigentlich tun wir es gar nicht.

00:50:07: Wir verstehen's gar nicht, wir können's nicht kontrollieren und es kann auch schief gehen.

00:50:10: Und das finde ich ist ein sehr schönes Beispiel dafür wie es eigentlich gehen kann wenn man jetzt diesen robotischen Teil irgendwie mal rausnimmt.

00:50:17: aber eine zweite Empfehlung tatsächlich die ich auch hätte um auch nicht immer so negativ dran zu kommen finde ich der wilde Roboter von den Machern von Schreck.

00:50:25: den habe ich jetzt auch erst vor kurzem irgendwie das erste Mal gesehen.

00:50:28: Das ist einfach so ein ganz positiver Film wo man sieht irgendwie ne KI bricht aus weicht von ihrer Programmierung ab und es geht mal nicht alles schief, sondern das ist mal irgendwie gut gegangen.

00:50:37: Und das ist irgendwie schön und herzerwärmt.

00:50:39: Ich finde auch so ein Film.

00:50:41: Wir sollten sich auch mal angucken, einfach um zu sehen, dass es nicht schlecht ist.

00:50:44: Wir fühlen jetzt gerade nicht die Menschheit in die Verdammnis, sondern es kann vielleicht auch einfach gut gehen und auch irgendwie mal schönen ausgehen.

00:50:51: Wenn du jetzt einen Film machen müsstest ... der so KI in zwanzig Jahren.

00:50:58: Stell dir vor, du hättest unbegrenztes Budget können das darstellen was du willst

00:51:02: K.I.,

00:51:02: in zwanzig Jahren, wäre das mehr so ein dystopischer Film oder eher so ein ... ja, wilder Roboter?

00:51:10: Schwierig!

00:51:10: Also wenn ich es über Nachdenke in zwanzig Jahren nicht glaube was sich verändern wird... In zwanzich Jahren würde K. I. nicht mehr so das Thema sein sondern eher der allgegenwärtige Begleiter.

00:51:21: also im Sinne von K. i. wird einfach da sein.

00:51:23: zum Beispiel damals war ein Computer irgendwie großes Ding und mittlerweile ist jetzt nicht mehr der Computer ein Zentrum der Handel, sondern er ist einfach da und das wird überhaupt gar nicht mehr diskutiert.

00:51:33: Und ich glaube so ähnlich würde es bei Kaihi auch sein dass irgendwann als einfach so der Backdrop für die Handlung ist wenn man noch darüber nachdenkt irgendwie wieder so physisch irgendwie die Raumfahrt vor- und nach der Mondlandung in Filmen dass sich so verändert hat, das ist irgendwie ganz spannend.

00:51:51: Odysee im Weltraum war gerade vor der Mondlandung und da war ihr Raumfahrt sowas fast schon mystisches Göttliches irgendwie, weil man wusste ja nicht wie es ist.

00:51:59: Man wusste er nicht!

00:51:59: Und sowas sehen wir halt momentan auch in vielen KI-Szenarien.

00:52:03: Man weiß ja nicht, wie es ausgeht.

00:52:05: Danach...

00:52:06: Mittlerweile haben wir so was wie Interstellar, der Masiana, Gravity.

00:52:09: Da ist irgendwie Raumfahrt existiert und der Mensch muss unter diesen Bedingungen leben.

00:52:14: Und das ist eher dann so der Hintergrund der Handlung bei der Masianer.

00:52:17: Es gibt auch irgendwie so einen Sturm.

00:52:20: Der muss überleben.

00:52:21: aber es ist nicht so dass die Raumfahrts jetzt das Problem ist.

00:52:23: Ich glaube da wird's wahrscheinlich auch irgendwie hingehen, dass wir dann sowas eher haben... Naja, vielleicht irgendwie eine Programmiererin in so einem Security-Umfeld und dann ist es ein Unfall.

00:52:32: Und das KI-System shutt down und sie muss dann eher dieses menschliche Stück mehr umfangen.

00:52:37: Deswegen glaube ich, dass wäre dann eher so ein menschlicher Friller, das richtige Wort ist aber diese Spannung.

00:52:43: Aber es ist nicht irgendwie Prinzipial Horror sondern eher so... Es geht um die Emotionen und so.

00:52:48: Das könnte ich mir gut vorstellen oder in die ganz andere Richtung?

00:52:52: Weil was wir ja auch irgendwie haben, als wir Raumfahrt verstanden haben ging es in Richtung Aliens und es ging irgendwie in Richtung andere Planeten, andere Welten.

00:52:59: Ganz großweite Anfahrt in das Unbekannt.

00:53:02: also nochmal so der Sprung nach vorne.

00:53:03: Das könnte natürlich auch passieren dass wir mit KI jetzt eher so eine Richtung weite Zukunft gehen irgendwie die Superintelligenz oder vielleicht dann der nächste Schritt dass wir wieder zur Richtung Frankenstein gehen künstliche Intelligenz im menschlichen Körper.

00:53:16: Das könnte ich mir auch vorstellen, das geht dann wieder Richtung Horror glaube ich und so dass wir das noch mal wieder aufnehmen irgendwie das könnte ich mich auch gut vorstellen.

00:53:24: also die beiden Wege sehe ich glaube ich

00:53:26: sehr spannend.

00:53:27: also ich bin gespannt.

00:53:28: ich würde gerne deinen Schirm finanzieren.

00:53:30: Ja also ich stelle mich ganz zur Verfügung.

00:53:33: Ich glaube Beraterin für Science-Fiction wäre so einer meiner Traumjobs.

00:53:36: Aber

00:53:36: das kann ich mir vorstellen.

00:53:37: Ja das wäre glaube ich cool.

00:53:38: ja voll cool dass du heute da warst.

00:53:41: schön dass wir drüber gesprochen

00:53:42: haben.

00:53:43: Ich hab sehr viel Spaß gehabt.

00:53:46: Das

00:53:47: war's für heute, der nächsten Deep Dive hört ihr in zwei Wochen.

00:53:51: Dann geht es um ein Thema das auch gut zu einem tragischen Sci-Fi Film passen würde aber inzwischen Realität ist.

00:54:00: Deathbots oder

00:54:01: Grief

00:54:02: Bots.

00:54:03: Der Philosophieprofessor Dr.

00:54:05: Michael Klink erforscht an der TU Nürnberg

00:54:08: wie KI

00:54:10: Trauerende begleitet.

00:54:11: Er erklärt uns, welche Auswirkungen das auf den Trauerprozess haben kann wenn die verstorbenen Personen in Form einer

00:54:18: KI

00:54:18: weiterhin ansprechbar bleibt.

00:54:20: Es würde mich freuen, wenn ihr dann wieder dabei seid und bis dahin könnt ihr natürlich mit unserem kompakten KI-Update jeden Montag Mittwoch und Freitag auf dem Laufenden bleiben!