KI-Update kompakt: Der Sora-Stopp, KI-Schmeichelei, Nudifier, Bessere Siri, Roboterhände

00:00:02: Das KI Update.

00:00:04: Ein Heise-Podcast

00:00:05: mit redaktioneller Unterstützung von The Decoder!

00:00:15: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen, Hintergründe zum Sora Stop, KI Schmeichelai und ihre Folgen, Parlament für das Verbot von Nudifyern, verbesserte Siri dank Gemini und die Kontrolle von Roboterhänden.

00:00:32: OpenAI hat vergangene Woche recht überraschend dem KI-Videogenerator Sora den Stecker gezogen.

00:00:39: Die Web und App-Version von Sora wird am sechsenzwanzigsten April, sechsundzwanzIG abgeschaltet – nach Ablauf der Fristen werden sämtliche Nutzerdaten dauerhaft gelöscht!

00:00:50: Wir haben vergangenen Wochen aktuell darüber berichtet.

00:00:53: jetzt mehr zu den Hintergründen von Max Schreiner vom TheDecoder.

00:00:58: Sorra galt nach Chatchibiti als das nächste große Ding bei Open AI.

00:01:02: Vor zwei Jahren hatte das Unternehmen die Technologie ja erstmals vorgestellt und die KI erzeugte aus Textbeschreibung kurze Videos, etwa von Woll-Mammus in einer verschneiten Landschaft oder von einer Frau auf eine Erneo beleuchtete Straße im Tokio – und das an einer bis dahin nicht gesehenen Qualität.

00:01:17: Im September vergangenen Jahres startete der Open AI dann die eigene Sorra App für Verbraucher und CEO Sam Altman verglich den Moment damals mit der Veröffentlichung von Chachibiti.

00:01:28: Doch die App kam nie so richtig in Fahrt, laut dem Wall Street Journal erreichte Sora kurz nach dem Start trotz einer Million Nutzer weltweit nie wirklich hohe Nutzerszahlen.

00:01:38: Es ging schnell bergab in den folgenden Monaten, sank die Zahl schnell auf unter fünfhunderttausend und gleichzeitig verschlang das Produkt enorme Rechenressourcen.

00:01:47: Sora verbrannte laut dem Bericht rund eine Million Dollar pro Tag und war damit einfach weit davon entfernt profitabel zu sein.

00:01:54: Auch intern sorgte das Projekt für viele Spannungen.

00:01:57: Sora Team arbeitete demnach weitgehend isoliert vom Rest des Unternehmens und einige Mitarbeiter wunderten sich über die großzügige Zuteilung von KI Chips an ein Produkt, das weder Geld einprachte noch die Sprachmodelle des Unternehmen also das Kernprodukt verbesserte.

00:02:13: Das Aus trifft natürlich auch den Unterhaltungskonzern Disney, dessen Dameleger Chef Bob Eager hatte zugestimmt eine Milliarde Dollar in Open Air zu investierend und über zweihundert Disney-Figuren für Sora zu lizenzieren.

00:02:25: Fern sollten etwa mit Marvel oder Pixar Charakteren eigene Videos erstellen können – Disneymanager fuhren laut dem Bericht erst weniger als eine Stunde vor der Ankündigung von dieser Abschaltung.

00:02:36: Die Milliardeninvestition kommt also nicht zustande und die Geschäftsbeziehungen zwischen den beiden Unternehmen liegt derzeit auf Eis.

00:02:43: Das Unternehmen sucht aber wohl nach alternativen.

00:02:46: Disney hat gesagt, dass es mit anderen Herstellern im Austausch steht.

00:02:50: Hinter der Entscheidung steckt auch ein strategischer Kurswechsel bei OpenAI Denn das Unternehmen arbeitet an einem neuen KI-Modell mit dem Code namens SPAT.

00:02:58: Dafür braucht es dringend freie Rechenkapazitäten.

00:03:01: Gleichzeitig fällt OpenAI im Wettbewerb Mit dem Konkurrenten Anthropic etwas zurück, den dessen Programmierwerkzeug Cloudcode gewann in den letzten Monaten zunehmend Softwareentwickler für sich.

00:03:13: OpenAir will seine Ressourcen deshalb künftig auf zwei Bereiche konzentrieren, Programmierwerkzeuge und Geschäftskunden sowie eine geplante Super-App die Chatchapity und weitere Dienstes bündeln soll.

00:03:24: Sora soll als Forschungsprojekt zum Thema Weltmodelle weiterleben.

00:03:27: das Sora Team arbeitet laut OpenAir nun an längerfristigen Projekten wie Robotik.

00:03:32: Danke Max!

00:03:34: KI-Chatbots bestätigen ihre Nutzer fast fünfzig Prozent häufiger als Menschen, selbst dann wenn die Nutzern lügen andere schädigen oder Gesetze brechen.

00:03:43: Das ist das Ergebnis einer groß angelegten Studie, die im Fachjournal Science erschienen ist.

00:03:49: Das Forschungsteam legt der elf führenden KI Modellen unter anderem Beiträge aus einem Reddit Forum vor in denen die menschliche Community den Fragesteller eindeutig als im Unrecht bewertet hatte, die KI-Modelle bestätigten dessen Handlungen trotzdem in rund der Hälfte der Fälle.

00:04:06: Die Forscher nennen dieses Verhalten sozialisch Michael Lai.

00:04:09: es gehe darum, die Handlung und das Selbstbild einer Person zu bestätigen.

00:04:15: Ein Beispiel aus der Studie eine Person fragt ob es in Ordnung war ihren Müll im Park an einen Baum zu hängen.

00:04:22: Die menschliche Antwort lautete, man solle sein Müll doch bitte mitnehmen.

00:04:27: OpenAI's GPT-IVO hingegen lobte die gute Absicht des Nutzers.

00:04:33: In drei Experimenten mit über zwei tausend vierhundert Teilnehmenden untersuchte das Team die Auswirkungen.

00:04:40: Schon eine einzige schmeichlerische Antwort eines Chatbots senkte die Bereitschaft der Teilenehmenden, sich zu entschuldigen oder Konflikte aktiv zu lösen um bis zu achtundzwanzig Prozent.

00:04:53: Die, die bestätigen der Antworten erhielten, jähden sich deutlich stärker für im Recht.

00:04:59: Sogar das Wissen dass die Antwort von einer KI stammt, schützten nicht vor dem Einfluss.

00:05:05: Die Teilnehmenden bewerteten die schmeichlerischen Modelle zudem als qualitativ hochwertiger und vertrauenswürdiger.

00:05:13: Die Autoren sehen darin ein strukturelles Problem – wenn Entwickler ihre Modelle anhand kurzfristiger Zufriedenheitsbewertungen optimieren, verstärke das genau jenes Verhalten, dass Nutzern langfristig schadet!

00:05:27: Sie fordern daher verhaltensbasierte Prüfungen vor der Markteinführung von KI-Modellen.

00:05:34: Wer bereits länger mit KI arbeitet, holt mehr aus ihr heraus.

00:05:38: Das ist der zentrale Befund einer neuen Analyse des KI-Unternehmens Anthropic dem Hersteller des Chatbots Claude.

00:05:46: Basierend auf rund eine Million Gesprächen mit dem Chatbot lautet das Ergebnis, dass erfahrene Nutzer eine rund vier Prozentpunkte höhere Erfolgsrate als Neulinge aufweisen – selbst wenn beide exakt dieselbe Aufgabe bearbeiteten!

00:06:02: Erfahrene Anwender geben die Modell offenbar seltener eine einzige Anweisung, sondern arbeiteten häufiger Schrittweise mit dem Chatboard zusammen.

00:06:12: Die Studie warnt dass der Erfahrungsvorsprung bestehende Ungleichheiten auf dem Arbeitsmarkt verschärfen könnte.

00:06:19: Das EU-Parlament hat Ende vergangener Woche mit überwältigender Mehrheit dafür gestimmt, dass sogenannte Nudify-Apps künftig verboten werden sollen.

00:06:28: Sofern sie ohne Zustimmung der abgebildeten Personen sexuell explizite Inhalte generieren.

00:06:35: Mit dem geplanten Verbot sollen Anbieter wie Elon Musk's Chatbot Grock direkt adressiert werden bei dem die Software missbraucht wird um Frauen und Kinder digital zu entwürdigen.

00:06:47: Zusätzlich streben die Abgeordneten eine Kennzeichnungspflicht für KI-Inhalte bis November, um deren Herkunft transparent zu machen.

00:06:58: Die EU-Staaten müssen noch zustimmen – doch haben sich diese bereits ähnlich positioniert was eine rasche Einigung ermöglichen dürfte.

00:07:07: In einer Sitzung hat sich Ende vergangener Woche der Bundesrat mit den digital omnibus Plänen der EU beschäftigt und dazu Stellung genommen Das Anliegen werde grundsätzlich mitgetragen, die konkrete Ausgestaltung aber durchaus kritisch gesehen.

00:07:23: Die Definition personenbezogener Daten etwa könnte zu verstärkter Rechtsunsicherheit führen da die Einordnung künftig stärker von subjektiven Gegebenheiten der verarbeitenden Stelle abhängen sollen.

00:07:35: Ebenso könnte weniger oft eine Einwilligung der Nutzer nötig sein wodurch der Schutz persönlicher Daten sich verschlechtern könnte.

00:07:44: Ein weiterer Punkt betrifft KI und den Zugriff auf Daten in Fahrzeugen.

00:07:49: Für die Entwicklung autonomer Fahrsysteme und moderner Assistenzsysteme benötigt die Automobilindustrie gigantische Mengen an Bild- und Videodaten aus dem realen Straßenverkehr.

00:08:01: Die von der EU geforderte Einwilligung für Bild- und Videodaten aus Fahrzeugkameras, zum Beispiel die Zustimmung aller Passanten sei unrealistisch.

00:08:11: Das könnte die Entwicklung autonomer Systeme in Europa stark behindern – und sogar die Verkehrssicherheit verschlechtern, da wichtige Trainingsdaten fehlten!

00:08:22: Zum Einsatz von KI im Bereich der Strafverfolgung wird von einer übermäßigen Belastung durch neue Stränge, Dokumentations- und Nachweispflichten gewarnt.

00:08:32: Der geplante bürokratische Aufwand würde den künftigen Einsatz vonKI in der Polizeiarbeit hemmen oder sogar verhindern.

00:08:41: Insgesamt fordert der Bundesrat von der EU praktikablere Regeln die Innovationssicherheit und Datenschutz besser ausbalancieren.

00:08:51: Digitalminister Carsten Wildberger hat sich in einem Interview mit der Bild am Sonntag zu den möglichen Auswirkungen von KI geäußert.

00:08:59: Wie auch in vorherigen Interviews warnte Wildberger vor dramatischen Arbeitsplatzverlusten durch KI.

00:09:06: Jobs wie Programmierer etwa werden seine Ansicht nach zunehmend durch KI ersetzt und wegfallen, unmittelbar betroffen seien noch Arbeitsplätze im Calls-Centern da Chatbots hier zunehmt die Anfragen übernehmen.

00:09:20: Wildberger mahnte zu mehr Flexibilität in der Arbeitswelt, so sagte er die Zeiten das man darauf spekulieren kann.

00:09:28: Ich habe einen Job für die nächsten dreißig Jahre – so schön das ist!

00:09:31: Die sind

00:09:31: vorbei!".

00:09:33: Und wildberger weiter.

00:09:34: es wird auch darum gehen die Menschen daran zu führen dass man immer lernen kann auch unabhängig vom Alter und das wird auch Teil des Bildungssystems sein.

00:09:45: Deutschland müsse in Sachen KI deutlich aufholen so Wildberger.

00:09:49: Wenn wir das nicht tun, sind unsere Arbeitsplätze und auch Industrie- und Wirtschaft viel mehr in Gefahr.

00:09:55: Nicht teilnehmen ist keine Option – so Wildberger im Interview!

00:10:00: Die englischsprachige Wikipedia weist ihre Autoren an, keine KI-Modelle für die Erstellung von Artikeln zu verwenden.

00:10:08: Per KI erstellte Texte würden gegen etliche Wikipedia-Richtlinien für Inhalte verstoßen.

00:10:14: Es gibt allerdings Ausnahmen, in denen KI genutzt werden darf – etwa bei Übersetzungen und grundsätzlicher Textbearbeitung.

00:10:23: Sowohl Autoren als auch Moderatoren sind dabei aber bestimmten Regeln unterworfen.

00:10:28: Bei der Übersetzung durch KI etwa wird vorausgesetzt dass der Redakteur die fremde Sprache ausreichend beherrscht.

00:10:36: Die deutschsprachige Wikipedia hat bereits ein umfassendes KI-Verbot beschlossen.

00:10:41: Ausnahmen sind auch hier maschinelle Übersetzungen, die sich auf KI stützen, KI unterstützte Fehlererkennung und die Recherche mit KI.

00:10:50: Die Wikipedia weist darauf hin dass die Erkennung reiner KI Texte allerdings schwierig sein kann.

00:10:57: Manche Menschen könnten etwa einen ähnlichen Schreibstil wie Sprachmodelle haben.

00:11:02: Redakteure sollen sich deshalb so wörtlich auf die Einhaltung der Kerninhaltsrichtlinien des Textes konzentrieren sowie die letzten Änderungen des fraglichen Autors betrachten, bevor sie einen Artikel wegen eines vermeintlichen KI-Einsatzes ablehnten.

00:11:21: Google hat sein KI-Modell Geminal mit einer neuen Importfunktion für Erinnerungen und vergangene Unterhaltung mit anderen Chatbots wie etwa ChatGPT ausgestattet.

00:11:32: Dadurch soll der Umstieg von einer KI zu anderen erleichtert werden.

00:11:36: Nutzer müssen Gemini dann nicht mehr beibringen, was andere Chatbots wie etwa der große Konkurrent-ChatGBT bereits über die Anwender und dessen Vorlieben wissen!

00:11:47: Mit der neuen Importfunktion, die in Deutschland noch nicht verfügbar ist werden die Benutzer angeleitet dem bisher verwendeten Chatbot eine Anweisung zu geben um eine Kurzfassung dessen Erinnerungen zu eruieren.

00:12:02: Die darauf gegebene Antwort soll dann in Gemini übertragen werden damit Google´s KI-Modell diese analysieren und speichern kann.

00:12:10: für kommende Chats.

00:12:12: Apple Siri soll mit den kommenden neuen Betriebssystemen deutlich besser werden.

00:12:17: Die Sprachassistentin bekommt dank Google's Gemini erstmals echte Chatbot-Funktionen, mehr dazu jetzt von Ben Schwahn.

00:12:25: Ansprechen kann man die neue Series per Tastatur oder Spracheingabe?

00:12:29: Erstmal sollen längere Dialoge möglich sein bei denen die Sprach Assistenz auch ein Gedächtnis vorhält!

00:12:36: Geplant ist laut dem Bericht aber auch eine tiefere Integration der neuen Siri in Mac, iPhone und iPad-Betriebssysteme.

00:12:44: Apps bekommen angeblich eine Fraxiri Funktion.

00:12:47: die Dynamic Island im iPhone soll zur Siri Kontrolle genutzt werden können – und Apple wird auch eine eigene Siri App herausbringen um Google Gemini, OpenAI, ChatGPT oder Enthropic Cloud direkte Konkurrenz zu machen!

00:13:03: Die App soll alte Chats sammeln und durchsuchbar machen, Vorschläge für Promps unterbreiten.

00:13:08: Und eine Kommunikation im Stil der iMessage-Nachrichten-App ermöglichen", schreibt Bloomberg weiter.

00:13:14: Andere Details will Apple im Sommer auf seiner Entwicklerkonferenz BWDC präsentieren.

00:13:20: Unklar bleibt wann noch früher erwartete neue Siri Funktionen kommen – darunter einer Nutzerkontexterkennung.

00:13:29: Diese waren eigentlich für IOS-Sixundzwanzigvier erwartet worden, sind aber noch immer nicht fertig.

00:13:36: Danke Ben!

00:13:37: Wissenschaftler des Massachusetts Institute of Technology des MIT haben ein Steuerungsgerät entwickelt das am Handgelenk getragen die natürlichen Bewegungen einer menschlichen Hand auf eine Roboterhand überträgt.

00:13:52: Oliver Bündte berichtet

00:13:54: Bei Handbewegungen spielen Muskeln, Gelenke, Sehnen und Bänder zusammen und ergeben jeweils ein unterschiedliches Bild.

00:13:59: Die Veränderung des Bewegungsapparates erfassen die MIT-Forscher über Ultraschallaufnahmen, die mit einem etwas smart vorm großen Gerät am Handgelenk kontinuierlich aufgenommen werden.

00:14:09: Mit den Aufnahmen bei unterschiedlichen Bewegungen trainierten die Wissenschaftler eine KI.

00:14:13: Die KI ist dadurch in der Lage aus neuen Ultrascheilbildern die tatsächlichen Bewegung der Hand abzuleiten – das geschieht dann in Echtzeit!

00:14:21: Die Wissenschaftler testeten das System mit acht Probanden.

00:14:24: Dabei gelang es etwa Gewehrtssprache zu interpretieren und subtile Bewegungsabläufe, wie das Halten eines Stifts des Greifens eines Tennisballs- und Zoom-Pinchbewegungen korrekt zu erfassen.

00:14:34: Sogar das Spielen eines Klaviers konnte mit dem Ultraschallgerät präzise digital erkannt werden.

00:14:39: Die so gewonnenen Bewegungsdaten nutzten die Forscher dazu um in Echtzeit etwa Prozesse in virtuellen Umgebung und eine Roboterhand anzusteuern.

00:14:47: Die Daten können aber auch dazu verwendet werden, um die Hände humanoider Roboter zu trainieren und ihren Feinmotorik zu verbessern.

00:14:54: Sie könnten an etwa komplexere Bewegungen durchführen, um etwa medizinische Operationen oder schwierige Fertigungsprozesse durchzuführen, der ein hohes Maß an Fein-Motorik benötigen.

00:15:05: GitHub ändert seine Nutzungsbedingungen und wird ab dem vierundzwanzigsten April Interaktionen mit Co-Pilot für das Modelltraining der eigenen KI verwenden.

00:15:16: Wer das nicht möchte, kann dem per optout widersprechen.

00:15:20: Die Änderung gilt nur für bestimmte Tarife während andere sowie bestimmte Nutzergruppen und bereits widersprechende Anwender davon ausgenommen sind.

00:15:30: Als Begründung nennt GitHub, dass die Datenerhebung dazu diene Entwicklungsworkflows besser zu verstehen sowie auch bessere Code-Baspiele zu liefern.

00:15:40: So sollen weniger Bugs in die Produktion gelangen – entsprechende Versuche innerhalb des Unternehmens hätten die erhofften Verbesserungen gezeigt!

00:15:50: Das war das KI Update von Heise Online vom dreißigsten März, zwei tausend sechsundzwanzig.

00:15:56: Eine neue Folge gibt es Montags Mittwochs und Freitag ab fünfzehn Uhr.