KI-Update kompakt: AI Safety Report, OpenClaw, Firefox, Gaming-Aktien

00:00:02: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unser Thema.

00:00:17: Bestehende KI-Sicherheitspraktiken reichen nicht aus.

00:00:21: Ist OpenClaw der erste echte KI-Assistent?

00:00:25: KI-Abschalter für Firefox kommt mit dem nächsten Update.

00:00:29: Und Google's neues KI-Tool lässt Gaming-Aktien purzeln.

00:00:34: Die Fähigkeiten sogenannte General Purpose-KI haben sich im vergangenen Jahr rasant weiterentwickelt.

00:00:40: Gleichzeitig nehmen die Risiken ihrer Nutzung zu und bestehende Sicherheitspraktiken kommen nicht hinterher.

00:00:46: Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report.

00:00:52: Mein Kollege Robin Ahrens aus der ZIT-Redaktion hat ihn sich

00:00:55: angeschaut.

00:00:56: Der International AI-Safety-Report-swei-tausendsechsundzwanzig ist unter Mitarbeit von über hundert Forschenden aus mehr als dreißig Ländern entstanden.

00:01:06: Er untersucht die Leistungsfähigkeit und Risiken allgemeiner künstlicher Intelligenz, also von Modellen wie ChatGPT, Gemini und Co.

00:01:16: Die werden dem Bericht zufolge immer leistungsfähiger, Vor allem in den Bereichen Mathematik, Naturwissenschaften und Programmierung gab es im vergangenen Jahr große Sprünge.

00:01:27: Nutzbarkeit und Risiko von KI seien aber eng miteinander verbunden.

00:01:32: Das heißt, dass ein starker Anstieg der Leistung von KI zugleich die potenziellen Risiken verstärkt.

00:01:39: Und Risiken davon liste der AI Safety Report einige.

00:01:43: Als besonders alarmierend betrachten die Wissenschaftler, dass KI immer zuverlässiger Sicherheitslücken in Software erkennen kann.

00:01:51: Auch die Verbreitung von KI-generierten Fake News bereitet ihnen Sorge.

00:01:57: Hinzu kommt, hindern KI-Systeme Menschen daran, informierte Entscheidungen zu treffen.

00:02:02: Das kritische Denken werde geschwächt und viele würden KI blindlings vertrauen.

00:02:08: Die bestehenden Sicherheitspraktiken können den Forschenden zufolge nicht ausreichend Abhilfe schaffen.

00:02:14: Denn neue Fähigkeiten der KI seien unvorhersehbar und die Funktionsweisen von Modellen unzureichend erforscht.

00:02:22: Positiv ist dem Bericht zufolge, dass zwölf KI-Unternehmen im vergangenen Jahr Sicherheitsframeworks veröffentlichten, also Dokumente, in denen sie beschreiben, wie sie Risiken von leistungsfähigen KI-Modellen künftig bewältigen wollen.

00:02:37: Zentral sei laut des Reports aber vor allem eine Stärkung der gesellschaftlichen Resilienz.

00:02:43: So fordern die Wissenschaftler, dass kritische Infrastrukturen gefestigt und die Entwicklung von Instrumenten zur Erkennung KI-generierter Inhalte vorangetrieben werden müsse.

00:02:56: Die Pariser Staatsanwaltschaft hat am Dienstag die Räumlichkeiten des Kurznachrichtendienstes X in der französischen Hauptstadt durchsuchen lassen.

00:03:05: Die Razzia wurde von der Abteilung für Cyberkriminalität zusammen mit Europol durchgeführt.

00:03:10: Sie erfolgte im Zuge von Ermittlungen, die vor bereits einem Jahr eingeleitet wurden, in denen es um die Algorithmen und die Auswahl angezeigter Beiträge geht.

00:03:19: Allerdings hat die Staatsanwaltschaft bereits zugesichert, dass sich die Ermittlungen nicht mehr nur auf möglicherweise längst überholte Zustände bei Ex-Beschränken sollen.

00:03:28: Das berichtet die Tageszeitung Le Figaro.

00:03:30: Denn inzwischen hat auch der KI-Tatbot Grog immer mehr Einfluss darauf, was Nutzern und Nutzerinnen angezeigt wird.

00:03:37: Darum sollen die Ermittlungen entsprechend ausgeweitet werden.

00:03:41: Dabei sei auch explizit auf die sexuellen Deepfakes verwiesen worden, mit denen Grog nach dem Jahreswechsel weltweit für Aufsehen gesorgt hat.

00:03:49: Laut einem Bericht der Washington Post könnte Ziel dieser Funktion gewesen sein, bewusst die Popularität von Grog zu steigern.

00:03:57: Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um seventy-two Prozent im Vergleich zum gleichen Zeitraum im Dezember.

00:04:11: Auch die Leugnung von Verbrechen gegen die Menschlichkeit wurde bereits in die Ermittlungen der französischen Behörden aufgenommen, nachdem antisemitische Ausfälle des KI-Chatbots im Sommer vergangenen Jahres für Entsetzen gesorgt hatten.

00:04:25: Indes hat Elon Musk bereits am Montag bekanntgegeben, dass XAI von seiner Firma SpaceX übernommen wurde.

00:04:32: Fast konstante Sonnenenergie soll in Zukunft die künstliche Intelligenz GROC antreiben.

00:04:38: Mit anfangs einer Million Satelliten.

00:04:41: Ob sich diese Pläne umsetzen lassen, wird sich zeigen

00:04:44: müssen.

00:04:45: Ein weiteres Tool, das nicht ganz unumstritten ist, wenn es um Sicherheitsaspekte geht, ist OpenClaw.

00:04:51: Vorher auch als CloudBot oder MoldBot bekannt.

00:04:55: Warum das Tool ein Hype in der KI-Szene erfährt und welche Risiken damit einhergehen, erklärt Marvin Fuhrmann von der MIT Technology Review.

00:05:16: User und Userin loben OpenClaw dafür, dass der KI-Assistent jederzeit erreichbar ist, sich proaktiv um Aufgaben kümmert und ihn damit wirklich Arbeit abnimmt.

00:05:25: Um das Tool zu nutzen, muss nur ein einziger Shell-Befil auf einem System eingegeben werden und schon installiert sich OpenClaw fast komplett allein unter Linux, MacOS oder Windows.

00:05:35: Nutzer und Nutzerinnen müssen lediglich noch auswählen, welches KI-Modell den Agenten antreiben soll.

00:05:40: Zur Verfügung stehen unter anderem OpenAI's GPT-Modelle, Google Gemini oder Anthropics Claude.

00:05:46: Der Zugriff auf den KI-Assistenten erfolgt über Chat-Tools wie WhatsApp, Telegram, Discord, Signal oder Slack, während das Tool lokal auf dem Endgerät läuft.

00:05:55: Durch die Installation erlauben User und Userinnen OpenClone-Grunde kompletten Zugriff auf Ihr Endgerät und alle darauf befindlichen Daten.

00:06:02: Über Integration und Plugins lassen sich zu dem Dienste-V-One-Password Home Assistant, Gmail und Spotify einbinden.

00:06:08: So kann der KI-Assistent ein breites Spektrum an Aufgaben anliegen.

00:06:12: Diese reichen vom Zusammenfassen von Mails und dem Organisieren des Kalenders, über Vibe-Coding-Sessions bis zum Bestellen von Produkten über dem Browser und dem eigenständigen Verfassen von Nachrichten in den angebundenen Messenger.

00:06:23: Das Tool erinnert sich dabei an jede Konversation und soll so deutlich individueller Aufbedürfnisse der Nutzer und Nutzerin reagieren.

00:06:31: Besonders spannend ist dabei, dass OpenClaw auch eigenständig Aufgaben übernimmt, die nicht direkt per Prompt angestoßen wurden.

00:06:37: Ein YouTuber berichtet etwa, dass OpenClaw in jedem Morgen berichte über konkurrierende Kanäle auf der Videoplattform zusammenstellt, inklusive Performance-Überblick ihrer Videos.

00:06:47: Den Prompt dazu hatte der Kaini gegeben.

00:06:49: OpenClaw nahm aber an, dass ihm die Zusammenfassung helfen würden.

00:06:53: Ein Andrajosa berichtet, dass die KI zunächst nicht in der Lage war, für ihn über die Plattform OpenTable einen Platz im Restaurant zu reservieren.

00:07:00: Um das Problem zu lösen, nutzte OpenClaw die Anbindung an Eleven Labs, um sich eine eigene Stimme zu geben und rief einfach bei dem Restaurant an.

00:07:08: Klingen praktisch, aber auch nicht ganz unproblematisch.

00:07:11: Die Möglichkeiten von OpenClaw werden nur dadurch realisiert, dass der KI-Assistent vollständigen Zugriff auf ein System und die angebundenen Dienste bekommt.

00:07:19: Auf der Website des Tools steht etwa, dass OpenClaw nicht nur in der Lage ist bestehende Dateien zu bearbeiten oder neue Dateien zu erstellen, sondern auch Schellbefehle und Skripts auf den Endgeräten auszuführen.

00:07:30: Durch den Zugriff auf Passwortmanager können auch darin gespeicherte Logins, Kreditkartendaten und andere sensible Daten von der KI abgerufen und genutzt werden.

00:07:40: Das ist besonders riskant, wenn sich OpenCloud mit dem Internet verbinden und darüber von dritten gefunden werden kann.

00:07:45: So gab es schon in den ersten Tagen nach dem Erscheinen des KI-Assistenten eine Sicherheitslücke, die das Ausführen von Schadcode über den Browser der Nutzer und Nutzerinnen ermöglichte.

00:07:54: Mittlerweile wurde das Problem behoben, doch Brompt-Injektionen bleiben wie bei vielen KI-Tools eine Gefahr.

00:08:00: Auch Anbieter Rewind Password, deren Tools an OpenClaw angebunden werden können, warnen vor den Risiken.

00:08:06: Das Problem?

00:08:07: Der KI-Assistent speichert seine Erinnerung als unverschlessete Textdateien auf den Endgeräten.

00:08:12: Würden Angreifer Zugriff auf das Gerät bekommen, müssten sie der Dateien nicht einmal knacken, um sie lesen zu können.

00:08:17: Das könnte bei Passwordern, aber auch bei Kreditkartendaten für enorme Schäden sorgen.

00:08:22: Dementsprechend empfehlen Sicherheitsexperten und Expertinnen, OpenClaw nur auf Zweitgeräten zu installieren.

00:08:28: Die KI sollte nicht auf HauptPCs oder Macs losgelassen werden, auf denen alle wichtigen Daten gespeichert sind.

00:08:34: Zudem lohnt es sich, die Security-Maßnahmen von OpenCloud zu lesen und durchzuführen, auch wenn diese ein tieferes Wissen als das Einfügen von einer Kommando-Zeiler fordern.

00:08:43: Vielen Dank, Marvin.

00:08:45: OpenAI hat für seinen Programmierassistenten Codex eine MacOS-App vorgestellt.

00:08:51: Die soll die Verwaltung und Steuerung mehrerer KI-Agenten erleichtern.

00:08:56: Das Unternehmen richtet sich damit an Entwicklerinnen und Entwicklern, will aber durch eine grafische Benutzeroberfläche auch weniger technische Nutzer ansprechen.

00:09:04: Die Bedienung soll einfacher sein als über die klassische Befehlszeile.

00:09:08: Nutzerinnen können mit der Software verschiedene Aufgaben parallel abarbeiten lassen.

00:09:12: Die Agenten lassen sich Asynchron über mehrere Projekte hinweg steuern und mit externen Werkzeugen verbinden.

00:09:19: OpenAI verspricht, dass Anwenderinnen und Anwender die Arbeit der KI überwachen und korrigieren können, ohne dass der Kontext verloren geht.

00:09:27: Die App steht ab sofort Nutzerinnen aller Bezahl-Tarife zur Verfügung, von ChatGPD Plus bis Enterprise.

00:09:34: Auch Nutzer der kostenlosen Version können die Software vorübergehend testen.

00:09:38: Parallel zur Veröffentlichung verdoppelt OpenAI die Nutzungslimits für seine zahlenden Kunden.

00:09:44: Seit bald elf Jahren betreibt Google den Mobilfunkdienst FireWireless.

00:09:49: Telefonate rutet der Konzern über eigene Server.

00:09:52: Dort wiederum greift eine künstliche Intelligenz ein, mit dem Ziel, Hintergrundgeräusche zu unterdrücken und gesprochenes Wort zu verstärken.

00:10:01: Viele Fragen, vor allem zum Datenschutz, sind aber offen.

00:10:04: Noch ist unklar, ob auch internationale Verbindungen bearbeitet werden, wie lange die Daten gespeichert bleiben und was Google sonst damit macht.

00:10:12: Heise Online hat Google dreimal um Auskunft gebeten, aber bislang keine Antwort erhalten.

00:10:18: Nicht ausgeschlossen ist, dass die KI versucht durch Stimmerkennung die Identität der Teilnehmer festzustellen.

00:10:23: Denkbar wäre auch, dass die KI Gesprächsinhalte mithört.

00:10:27: Solche Erkenntnisse könnten für den Zuschnitt von Werbung genutzt werden.

00:10:30: Bei Hinweisen auf eine Notlage oder mögliche Straftat könnten diese Informationen theoretisch auch an Behörden gegeben werden.

00:10:37: All das wäre möglich.

00:10:38: Google hat sich wie gesagt dazu noch nicht geäußert.

00:10:42: Im Firefox-Browser sollen mit einem einzigen Schalter ab Ende des Monats alle KI-Funktionen abgeschaltet werden können.

00:10:50: Wie weit das unter die Haube geht, ist allerdings unklar, berichtet Martin Holland aus dem heise online Newsroom.

00:10:56: Eineinhalb Monate nachdem Mozilla angekündigt hat, dass Firefox einen Knopf bekommen soll oder einen Schalter, mit dem man alle KI-Funktionen auf einmal ausschalten können soll, hat er jetzt klargestellt, dass das schon in diesem Monat der Fall sein soll.

00:11:11: und zwar mit dem nächsten Update, das in der FEPOR herauskommen soll, soll dieser Knopf eingefügt werden.

00:11:18: Und zwar soll der so funktionieren, dass man all die KI-Funktionen, die es in dem Browser gibt und auch die reinkommen sollen, pauschal ablehnen kann.

00:11:27: Und dass das auch nicht rückgängig gemacht wird bei einem neuen Update oder sowas.

00:11:31: Es soll dann auch keine Erinnerung geben.

00:11:32: Das heißt, man kann das dann einfach abschalten und hat das dann für sich erledigt.

00:11:37: Das ist quasi die totale Variante.

00:11:39: Es gibt aber auch die Möglichkeit, einzelne KI-Funktionen ab und anzuschalten.

00:11:44: Und dann könnte man sich eben auch weiter informieren lassen.

00:11:47: Und so soll Firefox weiterhin auch für die Leute benutzbar sein, die diese KI-Funktion eben überhaupt nicht haben wollen.

00:11:55: Das war offensichtlich zumindest eine sehr lautstark und durchaus auch nicht kleine Gruppe, die sich dazu geäußert hat und die Mozilla stark kritisiert hat, als es vor Mitte Dezember angekündigt wurde, dass man sich jetzt auf KI konzentrieren will und viel mehr Funktionen einziehen sollen.

00:12:12: In den Firefox-Bauser gab es eben viel Kritik.

00:12:15: Das hat auch Mozilla jetzt eingestanden und gesagt, dass es eben, dass viele Leute haben, dass sie das nicht wollen und gleichzeitig nur gesagt, dass es aber andere Gebe, die sich das wünschen.

00:12:24: Also zumindest wurde nicht gesagt, dass das auch viele sind.

00:12:27: Es gab also schon auch beim Mozilla selbst, hat noch mitbekommen, dass es nicht gleich viel Kritik und Lob gab.

00:12:34: Und jetzt hat man eben diese Funktion angekündigt.

00:12:36: Es muss sich aber noch zeigen und das muss man dann prüfen.

00:12:40: tief diese Abschaltung dann wirklich funktioniert.

00:12:43: Also wenn die Integration der KI-Funktion so tief ist, wie sie in ein Browser eingeführt werden kann, dann ist die Frage, ob so ein Schalter in einer Benutzeroberfläche das einfach wirklich komplett abschalten wird können.

00:12:56: Und das muss ich dann erst noch zeigen.

00:12:58: Danke Martin.

00:13:00: Die US-Regierung hat das Project Vault bekannt gegeben.

00:13:04: Dabei handelt es sich um eine strategische Reserve für kritische Mineralien wie Kobalt oder Lithium im Wert von zwölf Milliarden Dollar.

00:13:12: Diese soll die amerikanische Industrie unabhängiger von chinesischen Importen machen.

00:13:18: Bei den Handelsgesprächen mit den USA letztes Jahr hatte China den Export der seltenen Erden nämlich eingeschränkt.

00:13:24: Sie spielen aber eine zentrale Rolle in vielen Technologieprodukten und damit auch beim massiven Ausbau der KI-Recheninfrastruktur.

00:13:31: Das Vorhaben kombiniert rund zwei Milliarden Dollar privates Kapital mit einem zehn Milliarden Dollar Kredit der US Export-Importbank.

00:13:40: Zu den beteiligten Unternehmen gehören Schwergewichte wie Google, General Motors und Boeing.

00:13:45: Die praktische Beschaffung der Rohstoffe übernehmen spezialisierte Handelshäuser.

00:13:50: Der Mechanismus sieht vor, dass die beteiligten Hersteller Materialien zu einem festen Preis kaufen können.

00:13:56: Dafür müssen sie später die Vorräte auch wieder auffüllen.

00:14:01: Nachdem Google sein experimentelles KI-Tool Project Genie veröffentlicht hat, sind die Aktienkurse von Branchengrößen der Spieleindustrie Ende vergangener Woche teilweise drastisch eingebrochen.

00:14:13: Der GTA-Publisher Take Two fiel um zehn Prozent, die Metaverse-Plattform Roblox büste zwölf Prozent ein und die Spiele Engine Unity verlor sogar einundzwanzig Prozent an Wert, berichtet Reuters.

00:14:26: Mein Kollege Tomislav Besvalinovic von Heise Online hat sich angeschaut, ob die Sorgen der Anleger berechtigt sind.

00:14:33: Project Genie kreiert aus Textbeschreibungen oder hochgeladenen Bildern interaktive Umgebungen.

00:14:39: Die Nutzung ist aktuell auf die USA beschränkt und setzt ein aktives Abo für Google AI Ultra voraus.

00:14:45: Das KI-Weltmodell generiert neben der Optik auch physikalische Abläufe und lässt Anwender einer frei definierbare Figur durch die Welt steuern.

00:14:53: Auch die Perspektive und Fortbewegungsart lassen sich individuell festlegen.

00:14:58: Am Wochenende gingen Videos generierter Umgebungen im Netz viral die teilweise an bekannte Spielemarken erinnern.

00:15:05: Als Forschern von Google DeepMind wurde das erste Genie-Weltmodell mit einem Datensatz von über zweihunderttausend Stunden öffentlich zugänglicher Internet-Gaming-Videos trainiert.

00:15:16: Die netzkursierenden Videos suggerieren auf den ersten Blick, dass sich mit Project Genie vollwertige Videospiele erschaffen lassen.

00:15:24: In Wirklichkeit ist die Technologie noch sehr begrenzt.

00:15:27: Die Fahrungen sind aufs Sechzig Sekunden beschränkt und erschaffen Umgebungen, basierend auf den Eingaben der Spieler, also um monöübergreifende Spielwelt oder vorgängiges Leveldesign.

00:15:37: Spielmechaniken und Sound fehlen ebenso wie die Möglichkeit, die Umgebungen zwecks weiter Verarbeitung in Spiele-Engines wie Unity oder Unreal zu importieren.

00:15:46: Schon jetzt könnte die Technologie allerdings beim Prototyping von Ideen für Spielumgebungen zum Einsatz kommen.

00:15:53: Vor diesem Hintergrund ist der Kurssturz eine Überreaktion der Wall Street.

00:15:57: Der Spielejournalist und Buchautor Jason Schreier war auf Anlegern vor, nicht zu verstehen, wie Videospiele tatsächlich entstehen.

00:16:05: Tim Sweeney von Epic Games, wie es darauf hin, wie schnell sich KI entwickelt und ob das langfristige Potenzial der Technologie hervor.

00:16:14: Das Unternehmen und Gaming-Schwergewicht, das die Unreal Engine und das Videospiel Fortnite entwickelt, wird nicht an der Börse gehandelt und blieb deshalb von den Kursverlusten unbeeinträchtigt.

00:16:26: Inmitten einer Branche, die von explodierenden Produktionskosten und Entlassungswellen geprägt ist, schürt KI weitere Verunsicherung.

00:16:35: Obwohl die Technologie noch weit davon entfernt ist, die Spieleentwicklung zu übernehmen, wirkt die Einsatz zur Effizienzsteigerung bereits konkrete Ängste um den Fortbestand weiterer Arbeitsplätze.

00:16:47: Seit einer aktuellen Umfrage ist mittlerweile mehr als die Hälfte aller Entwickler der Überzeugung, dass generative KI einen negativen Einfluss auf die Branche haben wird.

00:17:00: Google, DeepMind und die Datenplattform Kaggle bauen ihre gemeinsame KI-Testumgebung Game Arena aus.

00:17:07: Auf der Open Source-Plattform treten KI-Modelle in strategischen Spielen gegeneinander an, um Fähigkeiten, wie inseits statischer Tests, messbar zu machen.

00:17:16: Bisher maßen sich die Systeme dort vor allem im Schach.

00:17:20: Nun kommen Werwolf und Poker hinzu.

00:17:23: Schach soll Strategie testen.

00:17:25: Poker wiederum prüft, wie gut ein Modell mit Risiken und unvorständigen Informationen umgeht.

00:17:31: Bei Wehrwölf muss die KI dagegen kommunizieren und Täuschungsmanöver erkennen.

00:17:36: In dem Spiel muss ein Team von Dorfbewohnern die versteckten Wehrwölfe in den eigenen Reihen erkennen.

00:17:42: Es wird ausschließlich im Dialog gespielt.

00:17:45: Laut Demis Hassabis, dem Chef von Google DeepMind, benötigt die Branche solche Alternativen und häufig härteren Tests dringend.

00:17:52: um die Leistungsfähigkeit moderner Systeme besser zu bewerten.

00:17:56: Wehrwolf misst laut Google etwa gut die Softskills, die zukünftige KI-Assistenten ihre Zusammenarbeit mit Menschen benötigen.

00:18:04: Dazu gehören Kommunikation, Verhandlung und die Fähigkeit mehr Deutigkeit zu navigieren.

00:18:10: Zudem dient das Spiel Wehrwolf auch der Sicherheitsforschung.

00:18:13: Es zeigt, ob eine KI Manipulation durchschauen kann, aber auch, wie gut es andere KI-Modelle im Spiel träuschen kann.

00:18:21: Aktuell werden die Ranglisten von Googles eigenem Modell in Gemini-III Pro und Gemini-III Flash dominiert.

00:18:29: Ein Jahr nachdem der Nobelpreis für Chemie an das KI-Modell Alpha Fold von Google DeepMind vergeben wurde, hat das Unternehmen jetzt das KI-Modell Alpha Genome vorgestellt.

00:18:40: Zwar gilt das menschliche Genom seit Jahrzehnte und Jahrzehnte als komplett entschlüsselt Doch welche Prozesse etwa für bestimmte Krankheiten oder Reaktionen auf Umweltfaktoren verantwortlich sind, ist oft unklar.

00:18:54: Mit einer Auflösung bis hinab zu einzelnen Basenpaaren kann das neue Modell laut Studie für eine Sequenz von bis zu einer Million Basenpaaren tausende molekulare Eigenschaften vorhersagen.

00:19:06: Unter anderem, wo bestimmte Gene in verschiedenen Zell- und Gewebetypen beginnen und enden?

00:19:12: Die Menge der produzierten RNA.

00:19:14: Und auch, welche DNA-Basen zugänglich sind, nah beieinander liegen oder an bestimmter Proteine gebunden sind.

00:19:22: Grob gesagt liefert das neue Modell ein größeres Bild mit einer höheren Auflösung.

00:19:29: Das war das KI-Update von Heise Online vom vierten Februar.

00:19:34: Ein neue Folge gibt es immer Montags, Mittwochs und Freitags um fünfzehn Uhr.