KI-Update kompakt: US-Heimatschutz, Trauer um GPT-4o, Apples KI, Eisberg-Tracker

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: US Heimatschutzministerium nutzt KI Videogeneratoren für Social Media.

00:00:22: Nutzende Trauern um GPT-For-O wie um einen verstorbenen Freund.

00:00:27: Macht Erpel bei KI jetzt alles besser?

00:00:30: Und Wissenschaftler tracken Eisberg-Lebenszyklus mit KI.

00:00:36: Erst Ende Januar hatte das weiße Haus ein KI manipuliertes Foto einer Bürgerrechtsaktivistin verbreitet, die in Minneapolis festgenommen worden war.

00:00:46: Das Original zeigt die US-Aktivistin mit gefasstem Gesichtsausdruck, während sie von Beamten abgeführt wird.

00:00:51: Das Bild, das vom weißen Haus in sozialen Netzen veröffentlicht wurde, zeigt die Frau dagegen mit verheultem Gesicht und einem klagenden Blick in die Kamera.

00:01:01: Fälle wie diese legen den Verdacht nahe, dass in US-Regierungskreisen KI für Bilder genutzt wird, die dann der Öffentlichkeit zugänglich gemacht werden.

00:01:09: Jetzt belegt ein veröffentlichtes Dokument, dass etwa das US-Heimatschutzministerium die Technologie verwendet.

00:01:16: Meine Kollegin Jenny Lippies von der MIT-Technology Review gibt einen Einblick in die Details.

00:01:21: Der neue Bericht benennt jetzt konkret, welche kommerziellen KI-Tools die Ministerien zur Veröffentlichung von Bildern, Videos und anderen Materialien verwenden.

00:01:32: Genannt werden der Videogenerator VO-III von Google und Adobe's Firefly.

00:01:38: Angeblich sollen zwischen hundert und tausend Lizenzen für die Werkzeuge geordert worden sein.

00:01:44: In anderen Bereichen setzt das Heimat-Schutzministerium unter anderem Microsoft Co-Pilot Chat für die Text-Erstellung und für Zusammenfassungen ein.

00:01:54: Außerdem wird die Software Puicide für Programmieraufgaben genutzt.

00:01:59: Aus den Dokumenten geht weiterhin hervor, dass auch das Werkzeug Flow verwendet wird.

00:02:04: Das ist eine Software von Google, die den Videogenerator VO-III mit einer Reihe von Werkzeugen zur Filmverarbeitung kombiniert.

00:02:13: Benutzer können mit dem KI-System nicht nur Clips generieren, sondern ganze Videos zusammenstellen, einschließlich Dialogen- und Hintergrundgeräuschen.

00:02:23: Unsere US-amerikanischen Kollegen von der MIT Technology Review haben auch ein paar Anfragen an Google, Adobe und das Heimat-Schutzministerium geschickt mit der Bitteumstellungnahme.

00:02:34: Jedoch gab es bis zum Zeitpunkt dieser Aufnahme keine Rückmeldung.

00:02:38: Trotz des neuen Berichts bleibt also weiterhin offen, wie genau die Behörden die Werkzeuge zur Videogenerierung einsetzen.

00:02:46: Danke schön, Jenny.

00:02:48: In Spanien trafen sich vergangene Woche zum dritten Mal Fachleute, um über responsible AI in the military domain zu diskutieren.

00:02:58: Verbindliche Regeln für KI-Einsatz im Krieg sind allerdings noch ein Wunschtraum.

00:03:03: Die Abschlusserklärung wurde nur von thirty-fünf der achtzig vertretenen Staaten unterschrieben, darunter von Deutschland.

00:03:10: Darin fordern die Expertinnen und Experten, dass Regierungen die Risiken des militärischen Einsatzes von KI detaillierter bewerten müssen.

00:03:18: Entscheidungsprozesse müssten so dokumentiert werden, dass die Verantwortung für den Einsatz automatisierter Waffensysteme nachvollziehbar bleibt.

00:03:27: Auch Datenbanken mit möglichen Risiken und Nebenwirkungen von Systemen hielt die Kommission für sinnvoll.

00:03:34: Großmächte wie die USA und China haben das Abschlussdokument nicht unterzeichnet.

00:03:39: Bemerkenswert am Bericht der Kommission ist die lange Liste der KI-Systeme, die bei Streitkräften verschiedener Länder bereits im Einsatz sind.

00:03:47: Sie reicht von der KI-unterstützenden Entscheidungshilfe Felix bei der NATO über Forschungsprogramme zur Verkürzung der Entwicklungszeiten für Kampflieger bis zu operativ eingesetzten KI-Systemen, etwa MavenSmart von Palantir bei der NATO, das auf lama beruhende LLM Chatbit in China oder autonomes Streubomben der Marke Harpy in Israel.

00:04:11: Die lange Beispiel-Liste illustriert, wie weit diplomatische Versuche gemeinsame Normen zu schaffen, hinter der Realität militärischer KI-Anwendungen zurückgeblieben sind.

00:04:21: Aber neue, internationale Gesetze zu autonomem Waffensystem sind auf jeden Fall machbar, erklärt eine Sprecherin der Initiative Stop Killer Robots auf Anfrage von Heise Online.

00:04:32: Die Vereinten Nationen könnten dabei auf Ergebnisse der UN-Arbeitsgruppe zu tödlichen autonomen Waffen aufbauen.

00:04:39: Man müsse jetzt einfach den nächsten Schritt gehen.

00:04:43: Damit Cyberkriminelle den Skill Marketplace Claw Hub des KI-Assistenten OpenClaw nicht mit Shortcode versäuchten Erweiterungen überfluten, überwacht ab sofort Googles Online-Virenscanner-Virus-Total-Die-Plattform.

00:04:58: Denn hat OpenClaw etwa Vollzugriff auf einen Passwortmanager.

00:05:01: Um bestimmte Aufgaben erledigen zu können, ist das für die Nutzerin zwar praktisch, aber auch ein immenses Sicherheitsrisiko.

00:05:08: Das haben Cyberkriminelle längst auf dem Schirm und verbreiten auf Chlorhub auf den ersten Blick harmlose Erweiterungen, die heimlich Passwörter auslesen und an die Kriminellen schicken.

00:05:19: Um das Hochladen von Malware-Skills einzudämmen, suchen die Scanner von Virus Total in Uploads nach Schadkohlpassagen.

00:05:27: Verdächtige Skills werden gesperrt und sind nicht downloadbar.

00:05:31: Bereits hochgeladene Skills sollen täglich erneut gescannt werden, um nachträglich hinzugefügte Malware zu entdecken.

00:05:38: Weil der primär signaturbasierte Ansatz nur bereits bekannte Trojaner und Hintertüren findet, ist das natürlich kein Allheilmittel.

00:05:46: In der Summe ist die Partnerschaft aber sinnvoll, und ein weiterer Baustein, den mächtigen KI-Assistenten sicherer zu machen.

00:05:54: Im August twenty-fünfundzwanzig vollzog das KI-Unternehmen OpenAI einen scheinbar routinemäßigen Schritt.

00:06:01: Das Standardmodell GPT-IV wurde durch den Nachfolger GPT-V ersetzt.

00:06:06: Was technisch als Upgrade gedacht war, löste bei einer Kerngruppe der Nutzerinnen und Nutzer heftige Reaktionen aus.

00:06:13: Unter dem Hashtag keep for all formierte sich Widerstand.

00:06:18: Eine neue Studie der Syracuse University beleuchtet nun die Hintergründe dieser Bewegung.

00:06:23: Max Schreiner von The Decoder hat sich die Studie angeschaut.

00:06:27: Die Studie untersuchte für ihre Analyse fast eineinthausend Fünfnacht Beiträge auf der Plattform X. Ihr Ziel war es zu verstehen, warum ein Software Update Reaktion hervorrufen kann, die eher an den Verlust eines Menschen in Freundes erinnern.

00:06:41: Die Ergebnisse zeichnen ein komplexes Bild dieser Mensch-KI-Interaktion.

00:06:45: Denn rund ein Viertel der untersuchten Beiträge deuten, wie zu erwarten war, auf eine starke emotionale Bindung hin.

00:06:52: Nutzer gaben dem KI-Modell eigene Namen, bezeichneten es als Partner oder emotionale Stütze.

00:06:58: Die Abschaltung des Zugangs erlebten diese Menschen als echten Verlust.

00:07:02: Ein Nutzer verglich die Einführung des neuen GBD-Fünfmodells sogar drastisch damit, dass etwas Fremdes nun die Haut eines toten Freundes trage.

00:07:12: Neben der emotionalen Ebene spielte aber auch die Arbeitspraxis eine Rolle.

00:07:16: Etwa dreizehn Prozent der Protestierenden beklagten, dass ihre Arbeitsabläufe zerstört wurden.

00:07:22: Sie empfanden das neuere, angeblich intelligentere Modell als weniger kreativ oder nuanziert.

00:07:29: Die Studie isoliert jedoch einen spezifischen Faktor, der die Trauer in öffentliche Proteste verwandelte.

00:07:36: Den Zwang.

00:07:37: Denn die Daten zeigen, dass nicht die emotionale Bindung allein den Ausschlag gab, sondern der Entzug der Wahlfreiheit.

00:07:44: OpenAI hatte den Nutzern eben einfach keine Möglichkeit gelassen, beim alten Modell zu bleiben.

00:07:50: Beiträge, die diesen zwangthematisierten, forderten überdurchschnittlich oft, dann auch Nutzerrechte und Mitsprache mit ein.

00:07:57: Technisch gesehen stehen die Nutzer vor einem Dilemma, das auch Open AI kaum lösen kann.

00:08:01: Für viele kommt ein Wechsel zur Konkurrenz einfach nicht in Frage, denn die Identität ihres Begleiters ist nun mal eng an Open AIs Infrastruktur gebunden.

00:08:09: Aber ein entwickeltes Unternehmen erklärt auch, dass der spezifische Charakter eines Modells wie GPT-FO einfach ein Zufallsprodukt des Trainingsprozesses ist.

00:08:19: Diese Persönlichkeit lässt sich demnach nicht einfach kopieren oder eins zu eins wiederherstellen.

00:08:24: Was die Nutzer als die Seelehre des digitalen Begleiters wahrnahm, war am Ende also nicht mehr als ein nicht reproduzierbarer technischer Zustand verloren mit dem Ende von VIO.

00:08:35: Die Studie leitet daraus daher einige Empfehlungen für die Industrie ab.

00:08:40: KI-Updates zeigen, so zeigt die Studie, mehr als technische Wartungsarbeiten.

00:08:45: Sie seien soziale Ereignisse.

00:08:47: Plattformen müssten in Zukunft sogenannte End-of-Life-Fahrer entwickeln.

00:08:51: Das könnten Übergangsphasen sein, in denen alte Modelle noch verfügbar bleiben, um den Nutzer in einen Abschied oder eine langsame Umgewöhnung zu ermöglichen.

00:09:00: Obmehrer hatte ja auch dann tatsächlich den Zugriff auf EU inzwischen temporär wieder ermöglicht, plant aber jetzt die endgültige Abschaltung noch in dieser Woche.

00:09:10: Danke schön, Max.

00:09:12: Der Chef des Chipherstellers Nvidia Jensen Huang hat in einem Interview mit dem US-Sender CNBC behauptet, generative KI halluzinier nicht mehr.

00:09:23: Halluzinationen bezeichnen das Problem, dass Sprachmodelle falsche Informationen erzeugen und als Fakten ausgeben.

00:09:30: Man könnte Huang zu guter halten, er selbst habe Halluziniert, sozusagen eine Halluzinationshalluzination.

00:09:37: Dass er eigentlich deutlich weniger meinte oder selten genug, dass es kaum noch auffällt.

00:09:43: Wahrscheinlich ist ihm sogar so, aber gerade diese Unterscheidung ist alles andere als nebensächlich.

00:09:48: Halluzinationen sind kein Fehler, den Entwickler einfach beheben können.

00:09:52: Sie sind ein Nebenprodukt der Architektur, auf der Sprachmodelle basieren.

00:09:56: Diese Modelle erzeugen Text auf Grundlage von Wahrscheinlichkeiten.

00:10:01: Genau diese fehlende Verlässlichkeit sorgt in vielen Unternehmen für Zurückhaltung beim Einsatz von KI.

00:10:07: Während Halluzination tatsächlich gelöst, könnte KI-generierter Code direkt in Produktion gehen.

00:10:13: Rechtsberatung ließe sich weitgehend automatisieren und medizinische Diagnosen könnten ohne ärztliche Prüfung gestellt werden.

00:10:21: Dass der CEO des wichtigsten KI-Chip-Lieferanten bei CNBC behaupten kann, KI mache keine Fehler mehr und niemand ihm widerspricht, ist vielleicht das deutlichste Zeichen dafür, wie weit sich der KI-Hype von der technischen Realität entfernt hat.

00:10:37: Dazu passt auch, dass KI-Agenten in Unternehmen oft nicht zuverlässig ohne aufwendige Anpassung funktionieren.

00:10:44: Und genau deshalb bauen OpenAI und der Konkurrent Anthropic ihre technischen Beratungsteams massiv

00:10:50: aus.

00:10:51: OpenAI stellt laut einem Bericht von The Information Hunderte neue Ingenieure ein, die Modelle mit Kundendaten anpassen und KI-Agenten entwickeln.

00:11:01: Derzeit beschäftigt das Unternehmen rund sechzig solcher Spezialistinnen und Spezialisten und über zweihundert Mitarbeiter im technischen Support.

00:11:09: Wie nötig diese Unterstützung ist, zeigt ein Beispiel aus dem Einzelhandel.

00:11:13: Der französische Handler FNAC testete Modelle von OpenAI und Google für den Kundensupport.

00:11:19: Die KI-Agenten verwechselten dabei regelmäßig Seriennummern.

00:11:23: Erst mit externer Hilfe des KI-Unternehmens AI-Twenty-One Labs funktioniert das System.

00:11:30: Der Fall wirft eine grundsätzliche Frage auf.

00:11:32: Wie schnell können KI-Agenten wie Claude's Co-Work oder das unsichere Mold-Bot Ohne solche aufwändigen Integrationsprozesse tatsächlich mehr wert schaffen.

00:11:44: Verbesserte Modelle und höhere Verlässlichkeit bei Routineaufgaben könnten helfen.

00:11:49: Allerdings bleiben grundlegende Sicherheitsrisiken bei Sprachmodellen weiter bestehen.

00:11:54: Lange Zeit war Apple in Sachen künstlicher Intelligenz hinten.

00:11:59: Nun soll der Konzern auch dank Google's Gemini vorankommen.

00:12:03: Was ist von den Ideen zu halten?

00:12:05: Ben Schwahn von der Mac&I hat sie unter die Lupe genommen.

00:12:08: Zerschlägt Apple in Sachen KI endlich seinen selbst erschaffenen Gordischen Knoten?

00:12:13: Nach der enttäuschenden Veröffentlichung von Apple Intelligence im Jahr ist es bereits her, wollte man das zuletzt gar nicht mehr glauben.

00:12:23: Doch mithilfe von Google und seiner Gemini-KI soll es nun endlich klappen beim iPhone-Hersteller.

00:12:30: Geplant ist allerdings auch diesmal nur ein Schritt-Weises-Vorgehen.

00:12:34: Losgehen soll es im April oder Mai mit dem iOS-Update auf Version-Sechsendzwanzig.vier, dann ist die bereits zwei-tausendvierendzwanzig angekündigte Kontext-Sensitiviserie angeblich bereit.

00:12:46: Sie soll Dinge mit Nutzerdaten anstellen können, die bislang nicht gehen, außerdem mit Apps interagieren.

00:12:53: Schon das soll teilweise mit Google-Germany-Unterstützung erfolgen.

00:12:57: Einen echten Chat-Bot erwartet der Markt von Apple allerdings erst später mit iOS.

00:13:03: Bis dahin soll es gelungen sein, auf das neueste Geminal-Modell zu aktualisieren, um Siri endlich Weltwissen und Kommunikationsfähigkeiten zu verschaffen.

00:13:13: Vorstellungen im Sommer, verfügbarkeit frühestens im Herbst.

00:13:17: Und dann gab es da noch eine weitere eher überraschende Nachricht.

00:13:21: Angeblich arbeitet Apple intern an einem KI-Gadget, um einem geplanten Gerät von OpenAI-Konkurrenz zu machen.

00:13:29: Hier geht es um Apples Ehre, schließlich steckt hinter dem Projekt des Charge-GPT-Machers der ehemalige Apple Design Chef Johnny Eif.

00:13:37: Aber auch das ist eine Sache, wofür Apple-Zeit braucht.

00:13:41: Das angeblich anpinbare KI-Warable soll nicht vor dem Jahr.

00:13:47: Danke schön, Ben.

00:13:59: Laut Domainbroker Larry Fisher ist das der bislang höchste öffentlich bekannte Preis für einen Domainnamen.

00:14:06: Unter ai.com ist am Wochenende eine neue Plattform für autonome KI-Agenten online gegangen.

00:14:11: Sie soll es Nutzerinnen und Nutzerinnen erlauben, persönliche Assistenten zu entwerfen.

00:14:15: Diese sollen dann eigenständig Aufgaben erledigen, zum Beispiel Nachrichtenversenden, Arbeitsabläufe organisieren, Apps bedienen und sogar Aktien handeln oder Datingprofile aktualisieren.

00:14:26: Das Konzept erinnert etwas an OpenClaw, über das wir in der vergangenen Woche berichtet haben.

00:14:31: Das Hauptmerkmal der neuen Plattform ist laut Unternehmensangaben die Fähigkeit der Agenten, fehlende Features, selbstständig zu entwickeln.

00:14:38: Diese Verbesserungen sollen dann im Netzwerk mit Millionen anderen Agenten geteilt werden, was die Leistungsfähigkeit aller Agenten erhöhen soll.

00:14:47: Nutzende können kostenlos oder über ein geplantes Abo-Modell mehrere Agenten erstellen.

00:14:52: Alle Daten werden verschlüsselt in isolierten Umgebungen gespeichert.

00:14:57: KI ist eher dafür bekannt, große Mengen an Energie zu verschlingen und so den Klimawandel zu befeuern.

00:15:04: In der Forschung wird KI aber auch dafür eingesetzt, die Folgen der globalen Erwärmung zu tracken, z.B.

00:15:10: um Eisberge zu beobachten.

00:15:12: Wie das funktioniert, erklärt mein Kollege Robin Ahrens aus der Cité-Redaktion.

00:15:16: Es ist nicht ganz einfach, Eisberge auf ihrer Reise durch die Weltmeere zu verfolgen.

00:15:21: Sie bewegen sich schnell und dynamisch, brechen in Einzelteile oder schmelzen teilweise ab.

00:15:27: Ihre Form verändert sich also stetig, was das Tracking erheblich erschwert.

00:15:32: So eine Nachverfolgung von Eisbergen ist aber wichtig, weil durch Abbrüche und Schmelz auf Einschlag große Mengen Süßwasser in den Ozean freigesetzt werden.

00:15:41: Das verändert die Meeresströmung, wodurch maritime Ökosysteme oder das globale Klima aus dem Takt gebracht werden.

00:15:49: Wissenschaftlerinnen der British Antarctic Survey haben nun ein Tool entwickelt, das mithilfe von künstlicher Intelligenz den Lebenszyklus von Eisbergen bis ins Detail nachverfolgen kann.

00:15:59: Das KI-System wettelt Satellitenbilder aus und identifiziert einzelne Eisberge.

00:16:05: Die erhalten quasi eine eigene Identität, denn jeder Eisberg ist einzigartig, weil er ganz charakteristische geometrische Form hat.

00:16:14: Auf der Grundlage von Satellitenbildern verfolgt das KI-gestützte Tool die verschiedenen Eisberg-Identitäten dann regelmäßig.

00:16:22: Auch ihre Formveränderungen werden dabei berücksichtigt.

00:16:25: Jeder abgebrochene Teil wird etwa dem Eltern Eisberg als Kind zugeordnet.

00:16:29: So lassen sich den Forschenden zufolge ganze Eisberg-Stammbäume erstellen und auf den Weltmeeren nachverfolgen.

00:16:36: Zum ersten Mal kann man also sehen, woher jedes Fragment eines Eisberg stammt, und wohin es während seines Lebens reißt.

00:16:44: Die gewonnenen Trackingdaten werden dann zur Verbesserung globaler Klima- und Ozeanmodelle genutzt.

00:16:50: Mithilfe dieser Modelle lassen sich vorhersagen treffen, wo und wie sich der polare Eisverlust besonders auswirken wird.

00:16:57: Bislang haben die britischen Wissenschaftlerinnen das KI-Monitoring-System an Eisbergfragmenten aus Nordwest-Grönland getestet.

00:17:05: Und die Tests waren wohl ziemlich vielversprechend.

00:17:08: Danke schön, Robin.

00:17:10: Wer heute in einem hochautomatisierten Fahrzeug der Stufe SAE-III im Stau steht, darf theoretisch die Hände vom Lenkrad nehmen und den Blick von der Straße.

00:17:21: Das Auto übernimmt das Bremsen, beschleunigen und lenken, während der Mensch auf dem Fahrersitz die neu gewonnene Freiheit für ein Buch oder den Blick aufs Smartphone nutzen kann.

00:17:30: Doch eine Grenze bleibt bisher eisern.

00:17:33: Sobald die Augen zufallen, schlägt das System Alarm.

00:17:36: Denn bislang können Autos nicht verlässlich unterscheiden, ob ein Fahrer nur kurz die Augen schließt, um zu entspannen oder ob er bereits in den Tiefschlaf gleitet.

00:17:45: Hier setzt das Forschungsprojekt Salsa an.

00:17:49: Es steht für smarte, adaptive und lernbare Systeme für alle.

00:17:54: Dahinter steht ein Verbund aus Automobilherstellern, Zulieferern und Wissenschaftlerinnen, den unter anderem die Uni Stuttgart und das Fraunhofer Institut für Optronik, Systemtechnik und Bildauswertung verantreiben.

00:18:06: In umfangreichen Nutzerstudien haben die Forschenden Daten erhoben, um eine KI zu trainieren.

00:18:12: Sie soll dadurch weit mehr ausmachen können als nur geschlossene Augenlieder.

00:18:17: Es geht um Norsen in der Körperhaltung und minimale Bewegungen, die von Innenraumkameras erfasst und in Echtzeit analysiert werden.

00:18:26: So soll das System lernen, ob eine Person lediglich regeneriert oder tatsächlich eingeschlafen ist.

00:18:32: Das ist entscheidend.

00:18:34: Eine entspannte Fahrerin mit geschlossenen Augen ist bereits nach etwa zehn Sekunden wieder voll einsatzbereit.

00:18:40: Ein schlafender Mensch benötigt dagegen mindestens zwei Minuten, bis er wieder sicher agieren kann.

00:18:46: Auch damit dieser Übergang nicht nur sicher, sondern komfortabel gelingt, hat das Projektteam untersucht, wie ein sanftes Wecken durch das Fahrzeug aussehen könnte.

00:18:56: Ein bloßes schrilles Warnsignal reicht oft nicht aus oder führt zu Schreckreaktionen.

00:19:01: Eine Kombination aus Vibrationen im Sitz und gezielten Soundelementen wäre laut den Forschenden der optimale Weg, um den Fahrer zurück ins Hier und Jetzt zu holen.

00:19:09: Das war das KI-Update von Heiser Online vom neunten Februar, im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr.