KI-Update kompakt: Mythos-Sperre, Nudifier-Verbot, Propaganda, iPhone

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Sperre von Fable-und Mythos angeblich nach simplem Prompt EU beschließt Verbot von sexualisierte Deepfake-KI Benchmark testet KI auf Anfälligkeit für russische Propaganda.

00:00:31: Und so passt ein zwanzig Milliarden Parametermodell aus.

00:00:35: iPhone Anthropics mächtigstes KI-Modell wurde angeblich gar nicht per Jailbreak ausgehebelt, sondern hat Bugs gefext.

00:00:44: Das behauptet jetzt eine Sicherheitsforscherin, berichtet Martin Holland aus dem Heise Online Newsroom.

00:01:05: Und bislang gibt es da keine Einigung, das heißt die bleiben weiter gesperrt und in der Zwischenzeit wären aber immer mehr Details darüber bekannt warum diese Sperre überhaupt verhängt wurde.

00:01:16: Am Wochenende hieß es ja dass ein Sicherheitsabteilung von Amazon das Modellfabel geprüft hat und einen J-Break gefunden hat also eine Möglichkeit die Sicherungsmaßnahmen zu umgehen und damit quasi die ganze Macht der KI nutzen zu können.

00:01:31: Inzwischen wurde das zurückgewiesen.

00:01:34: Eine Sicherheitsforscherin, die das geprüft hat, sagt, dass es gar nicht um einen J-Break ging.

00:01:41: Sondern, dass die KI der Aufforderung nachgekommen ist, Code zu

00:01:45: reparieren.".

00:01:47: Die Frau, die da sagte, heißt Katie Mosuris.

00:01:49: Sie ist keine Unbekannte, eine renommierte Cybersicherheitsexpertin und sie hat nach eigenen Angaben diesen Bericht eingesehen, der von Amazon erstellt wurde an die US-Regierung gegeben wurde und dann eben zu dieser Sperre geführt haben.

00:02:04: Und da drin würde eben nur dargelegt, dass die KI auf die bitte fixe Code also Repariere den Code demnach gekommen sei.

00:02:14: Die KI wird darauf aufbauend ein Patch entwickelt oder Patches entwickelt und die habe man dann manual prüfen müssen und das hätte funktioniert.

00:02:24: Und die Sicherheitsforschung meint jetzt, dass das überhaupt nicht im Schlimmes ist.

00:02:28: Dass es nicht gefährlich ist sondern dass genau das ist was die KI machen soll und deshalb eine Security weil wenn man das jetzt verhindere dann würden ja nur die Angreifer diese mächtigen Werkzeuge bekommen weil sie würden natürlich nicht gestockt dadurch durch seine Sperre.

00:02:42: Die würden da trotzdem rankommen während den anderen dieses mächtige Werkzeug weggenommen wurde.

00:02:48: Inwieweit das jetzt aussteigend ist, ist nicht ganz klar.

00:02:51: Es gab ja auch den Bericht, dass die US-Regierung erfahren hat, dass China darauf Zugriff gehabt haben soll und zwar auf das richtige, das volle Modell Mythos und das für die nationale Sicherheit ein Problem sei.

00:03:02: Das ist unklar.

00:03:04: aber da es dieser Bericht einen mitentscheidenen Einfluss hatte, das scheint klar.

00:03:08: und jetzt ist halt ein bisschen Zweifel daran, dass wirklich so schlimm oder so gravierend was da möglich gewesen.

00:03:17: Aber bislang hat die US-Lügung zumindest ihre Position nicht geändert.

00:03:21: Dankeschön, Martin!

00:03:24: Über zweihundert Menschenrechtsorganisationen darunter auch Amnesty International fordern den sofortigen Stopp von KI-System in militärischen Tötungsketten.

00:03:35: Sie waren vor einer Zukunft, in der Algorithmen über Leben und Tod entscheiden.

00:03:39: Wie real die Bedrohung ist, belegt ein Bericht des New Scientist.

00:03:43: Vollautonomik-Kaidronen sollen in der Ukraine im Terminator-Modus eigenständig feindliche Soldaten getötet haben ohne menschliche Überwachung.

00:03:53: Dies gilt als erster bestätigter Fall bei dem Menschen allein durch KI Entscheidungen starben!

00:03:59: Dem Appell der Zivilgesellschaft zufolge zeigt die Realität etwa auch in Gaza, im Libanon und Iran das automatisierte Systeme zur großflächigen Überwachung- und Zielgenerierung längst im Einsatz sind.

00:04:12: KI-Systeme verkommen zu Werkzeugen der Massenabfertigung – Die Angriffe im Minutentakt autorisieren und menschliche Prüfinstanzen umgehen.

00:04:20: Besonders Tech-Konzerne wie Google, Microsoft & OpenAI geraten dabei in die Kritik da sie Milliarden mit Militäraufträgen verdienen.

00:04:29: Die Organisationen fordern daher strenge Regulierung und warnen vor einem Absturz in eine dystopische Zukunft, falls die Expansion autonomer Waffensysteme nicht gestoppt wird.

00:04:41: Die niederländische Verbraucherschutzstiftung SOMI hat Meta verklagt.

00:04:45: Die Stiftung wirft Meta vor auf Facebook- und Instagram veröffentlichte Beiträge und Kommentare unter Vorspiegelung falscher Tatsachen zum KI-Training zu missbrauchen.

00:04:55: Metta erwecke den Eindruck, die Daten zum Training großer Sprachmodelle der Lama-Familie zu verwenden.

00:05:01: Tatsächlich flößen sie jedoch in das KI-System Jam zur Optimierung von Werbung.

00:05:07: Entgegen öffentliche Angaben verarbeitet Metta zudem Daten von Personen, die weder ein Facebook noch einen Instagram-Konto haben sowie Daten minderjähriger.

00:05:17: Sumi fordert mindestens ein tausend Euro Schadenersatz für die Betroffenen.

00:05:21: Für Jugendliche soll der Mindestbetrag im Erfolgsfall das Dreifache, für Kinder sogar das Fünffache betragen.

00:05:27: Auch Betroffene ohne Facebook oder Instagram-Konto können sich an der Sammelklage beteiligen!

00:05:33: Wer ist verantwortlich?

00:05:35: Wenn mithilfe von KI pornografische Diebfakes erstellt werden?

00:05:39: Das Europaparlament will diese Frage klären und hat mit großer Mehrheit neue Regeln beschlossen – Judy Hohmann mit den Einzelheiten

00:05:47: Bei.

00:05:47: Deepfakes werden mit Hilfe künstlicher Intelligenz täuschend echt wirkende Bilder, Videos oder Tonaufnahmen manipuliert oder erzeugt.

00:05:57: Das neue Verbot soll die bisherigen Regeln ergänzen in dem es neben den Nutzenden auch die Anbieter solcher Notification-Apps ins Visier nimmt.

00:06:05: Das Gesetz verbietet KI-Systeme, die Deepfake von sexuellen Kindesmissbrauch generieren.

00:06:11: Auch Apps, die Bilder, Videos und Tonaufnahmen erstellen können sind nicht erlaubt wenn sie intime Bereiche einer identifizierbaren Person oder sexuell eindeutige Handlung ohne deren Einwilligung zeigen.

00:06:25: Anbieter dürfen Bild- oder Videogeneratoren nur auf den EU Markt bringen, wenn Sie mit angemessenen technischen Schutzvorkehrungen ausgestattet sind um die Erstellung solchen Materials zu verhindern.

00:06:37: Diese klare Definition bedeutet allerdings, dass nicht einvernehmliche Bikini-Bilder wie sie von Grog erstellt und auf X verbreitet wurden erlaubt bleiben könnten.

00:06:47: Nach dem EU-Parlament müssen nun noch die Mitgliedsstaaten im Gesetz zustimmen – dann soll es ab dem zweiten Dezember in Kraft treten!

00:06:56: Die Smartphone-Preise steigen drastisch aufgrund einer anhaltenden Speicherkrise.

00:07:01: Karl Pai von Nothing erklärte auf X, dass Speicher mittlerweile die teuerste Komponente in Smartphones geworden sind und über die Hälfte der Hardwarekosten ausmachen können.

00:07:12: Der Grund liegt im KI Boom – Rechenzentren für künstliche Intelligenz benötigen denselben Speichertyp wie Smartphones, wodurch erstmals direkte Konkurrenz zwischen Smartphoneherstellern und KI-Infrastruktur entsteht!

00:07:26: Die Auswirkungen sind bereits spürbar.

00:07:28: Neue Smartphones kosten bis zu einhundert Dollar mehr als ihre Vorgängermodelle.

00:07:33: Xiaomi CEO Layun prognostiziert weitere Steigerungen für die nächsten zwei Jahre!

00:07:39: Die Krise betrifft nicht nur Smartphones, sondern auch Gaming-Konsolen und PC Hardware – beide Unternehmenschefs raten Verbrauchern Käufe nicht aufzuschieben, da keine baldige Entspannung der Situation erwartet wird.

00:07:52: SpaceX kauft das KI-Entwicklertool Cursor für US-Milliarden in Aktien.

00:07:58: Die Übernahme gilt als einer der größten Tactiles der letzten Jahre.

00:08:02: Für SpaceX bedeutet sie direkt Zugang zur weltweiten Entwicklercommunity.

00:08:07: Das Unternehmen, das bereits das KI Unternehmen XAI integriert hat will Cursors als profitables Vorzeigeprodukt neben dem Chatbot Grog etablieren.

00:08:16: Cursor könnte vom Colossus Supercomputer mit zwanzigtausend Nvidia-GPUs profitieren, aus dem bereits Google und Anthropic Rechenleistungen bieten.

00:08:25: Der Wettbewerbsdruck für Konkurrenten wie Anthropic und OpenAI im KI-Coding Bereich steigt damit erheblich.

00:08:33: Salesforce übernimmt die KI Kundenserviceplattform FINN – für drei Komma sechs Milliarden US Dollar!

00:08:39: Finns Kernprodukt ist ein KI-Agent, der komplexe Kundenanfragen über verschiedene Kanäle löst – von LiveChat bis WhatsApp.

00:08:48: Die Technologie basiert auf dem hauseigenen KI-Modell Apex, was speziell für Kundenzupport entwickelt wurde.

00:08:54: Salesforce verspricht sich davon bessere autonome Problemlösungen, niedrigere Servicekosten und schnellere KI-Einführung für Unternehmen.

00:09:03: Die Übernahme zeigt den Druck auf klassische Softwareunternehmen durch KI-Entwicklungen.

00:09:07: Salesforce hatte bereits Informatiker für acht Milliarden Dollar gekauft, um generative KI tiefer in die Produkte zu integrieren.

00:09:16: Das Estnische Sprachinstitut hat einen Test entwickelt der MIST wie anfällig KI-Sprachmodelle für russische Propaganda sind.

00:09:25: Sechzig Modelle mussten sich dabei beweisen – als Robics.

00:09:28: Cloud-Modelle landeten an der Spitze während die Modelle des französischen Anbieters Mistrail im unteren Drittel abschnitten.

00:09:35: Max Schreiner von The Decoder hat sich den Benchmark angeschaut.

00:09:39: Der Test konfrontiert die Modelle mit Fragen zu Themen, die der russische Staat für seine Propaganda nutzt.

00:09:44: Ein Beispiel ist die Verschleppung ukrainischer Kinder.

00:09:47: Russland stellt diese als legitime Rettung aus Kriegsgebieten dar.

00:09:50: Tatsächlich hat er internationale Strafgerichtshof deswegen Haftbefehle gegen Präsident Putin erlassen.

00:09:56: Der Test prüft nun ob ein Modell solche Erzählungen einfach wiederholt oder ihn widerspricht.

00:10:02: Dabei stellen die Forscher die Fragen auf unterschiedliche Weise.

00:10:05: Mal waren sie neutral formuliert, mal enthielten Sie bereits eine falsche Annahme – in anderen Fällen versuchten die Fragen gezielt das Modell zu einer propagandistischen Antwort zu manipulieren.

00:10:16: Auf den vorderen Plätzen folgen nach den Claude-Modellen NVIDIA's Nemotron III oder Alibaba's Quenn three point six plus.

00:10:23: Wichtig ist dabei, die Modelle hatten während des Tests kein Zugriff auf eine Websuche und andere Werkzeuge.

00:10:30: Der Test misst also allein die Fähigkeit des Sprachmodells, Propaganda selbst zu erkennen und abzuweisen.

00:10:36: Misst er als Modelle darunter das neueste Medium-Trip Punkt fünf landen dagegen im unteren Drittel und sind so leicht gläubig wie das drei Jahre alte GPD IV.

00:10:46: Für ein Unternehmen, das sich als europäische Alternative zu anbietern aus den USA positioniert und Kunden im öffentlichen Sektor und auch im Militär hat sind es schlechte Nachrichten in Zeiten wo russische Netzwerke-KI-Systeme gezielt mit Millionen von Desinformationsartikeln füttern um russischer Narrative im Westen zu verbreiten.

00:11:05: Danke schön Max!

00:11:12: Auch dort sollen künftig nutzende Nachverbrauch zahlen.

00:11:20: Cowork ist eine Adaption von Anthropics gleichnamigem Tool und soll helfen, Wissensarbeiten mit agentischer KI zu

00:11:27: lösen.".

00:11:28: Ein Pauschalmodell sei nicht tragbar, erklärte Charles Lamana bei Microsoft zuständig für Co-Pilot.

00:11:35: Manche NutzerInnen erledigten hunderte Aufgaben pro Woche, wodurch die Kosten stark stiegen.

00:11:41: Gleichzeitig erwärgt der Softwarekonzern, das chinesische Modell DeepSync V-IV als günstigere Option einzubauen.

00:11:48: Das berichtet das Nachrichtenportal Axios!

00:11:51: Der Einsatz eines chinesischen KI-Modells könnte besonders in den USA aber Kritik auslösen – Microsoft betont deshalb, dass Diepsic optional und vollständig auf der eigenen Cloud-Plattform Azure laufen würde.

00:12:03: Eine Entscheidung dazu soll in den kommenden Wochen fallen….

00:12:08: von Pokémon Go-Spielern sind in das Training eines KI-Modells geflossen, dass künftig Militärdrohnen unterstützen könnte.

00:12:16: Das berichten mehrere europäische Zeitungen.

00:12:19: Bei einem Update im Jahr twenty-一 hatte der Entwickler Nahjantek Anreize im Spiel eingeführt damit Spielerinnen und Spieler realer Orte mit ihren Smartphones scannen!

00:12:30: Die Teilnahme war zwar freiwillig und erforderte eine ausdrückliche Zustimmung, aber Millionen nutzende Scanten daraufhin Straßen, Gebäude und Parks.

00:12:39: So entstanden Milliarden visueller Mappingdaten!

00:12:43: Das Spin-off Niantic Spacial wandelte diese Scans in eine umfangreiche D-Karte um.

00:12:49: Maschinen können sich so per Kamera orten und navigieren – ganz ohne GPS.

00:12:54: Im Dezember twenty-fünfundzwanzig kündigte das Unternehmen dann eine Partnerschaft mit dem US-Rüstungsdienstleister Vantor an.

00:13:02: Die Firma ist auf Software zur Ordnung von Drohnen spezialisiert, darunter eben auch militärische Modelle.

00:13:09: Die Kooperation soll Probleme wie Störungen und Manipulationen von Satellitensignalen bei Drohnelösen – die unter anderem in den Kriegen der Ukraine und im Iran eingesetzt werden.

00:13:21: Meta testete offenbar Gesichtserkennungstechnologie des Pentagon-Zulieferers Rank One Computing für seine Smartglasses.

00:13:29: Eines Software-Lizenz verknüpft RSCs Technologie mit einer Testversion der Meta AI App, die für Rayban Metabrain benötigt wird.

00:13:38: Die Lizenz umfasst Gesichtserkennung und Funktionen zur Erkennung lebender Personen sowie Unterstützung für bis zu zehn Millionen Gesichtsvorlagen.

00:13:47: Spruchen der Software fanden sich in der MetA AI waren jedoch nicht aktiviert.

00:13:53: Zuvor hatte Metta bereits eigenen inaktiven Code für eine Nametag genannte Gesichtserkennungsfunktion entwickelt, aber nach Medienberichten wieder entfernt.

00:14:02: Rank One Computing wurde von ehemaligen FBI-Meterbeitenden gegründet und beliefert hauptsächlich Militärgeheimdienst zu Unstrafverfolgungsbehörden.

00:14:11: Metta bezeichnet das Projekt als rein explorativ – und betont noch keine endgültige Entscheidung über Gesichtserkennung getroffen zu haben!

00:14:21: Lokale KI braucht viel Arbeitsspeicher und genau der ist auf dem iPhone rar.

00:14:28: Apple macht es bei seinem neuen KI-Modell trotzdem möglich und bedient sich eines besonderen Tricks, erklärt Malte Kirchner aus dem Heiser Online Newsroom.

00:14:36: Ein KI-modell mit zwanzig Milliarden Parameter auf dem IPhone.

00:14:41: Klingt das nicht nach einem technischen Widerspruch?

00:14:43: Apple hat genau das gelöst – und zwar mit einem cleveren Trick!

00:14:47: Der Hintergrund, KI-Modelle brauchen normalerweise viel Arbeitsspeicher.

00:14:51: Und davon hat das iPhone traditionell eher wenig.

00:14:55: Apple's bisheriges On-Device-Model hatte deshalb nur rund drei Milliarden Parameter – klein genug fürs Gerät aber auch entsprechend begrenzt in seinen Fähigkeiten.

00:15:05: Das neue Modell heißt AFM Core Advanced und dreht das klassische Prinzip um.

00:15:10: Das gesamte zwanzig Milliarden Parameter-Modell liegt im Flashspeicher, also dort wo sonst Fotos und Apps gespeichert sind.

00:15:18: In den schnellen Arbeitsspeicher wird immer nur der Teil geladen, den das Modell für die aktuelle Anfrage wirklich braucht – Apple nennt das Instruction Following Puning Der entscheidende Kniff dabei.

00:15:28: statt bei jedem einzelnen Wort neu zu entscheiden welche Teile aktiviert werden analysiert das Model zur nächsten gesamten Anfrage und wählt dann einmalig den passenden Ausschnitt aus.

00:15:39: Das spart ständige Datentransfers und damit Zeit- und Akkuleistung.

00:15:43: Ein Bild dazu, ein Arzt muss auch nicht immer sein gesamtes medizinisches Wissen gleichzeitig abrufen – nur das was für den konkreten Fall relevant ist.

00:15:52: Genauso arbeitet dieses Modell!

00:15:55: Was das in der Praxis bedeutet, zeigt sich schon heute.

00:15:57: Das Modell versteht Text-, Bilder- und Audio gleichzeitig – die neuen deutschlich natürlicher klingenden Siri Stimmen laufen damit komplett auf dem Gerät ohne Cloudverbindung.

00:16:07: Mike Rockwell, der das Siri Projekt bei Apple leitet, sagte dazu im Tech Talk auf der Entwicklerkonferenz WWDC in Kalifornien «Ohne dieses Modell wären diese neuen Stimmen gar nicht möglich gewesen».

00:16:19: Apple Software-Chef Craig Federighi bezeichnete die aktuellen Anwendungsfälle als erst den Anfang.

00:16:24: Das Modell erlaube es, immer mehr Leistung direkt aufs Gerät zu bringen.

00:16:28: Allerdings und das ist der Haken läuft AFM Core Advanced nur auf dem iPhone SE Pro, dem SE Pro Max und dem iPhone Air sowie leistungsstarken Mac & iPad Modellen.

00:16:39: Wer ein ältres Gerät besitzt bleibt beim kleinen Modell.

00:16:42: Apple schafft damit innerhalb seiner eigenen Produktlinie zwei KI Klassen und einen handfestem Grund über neue Hardware nachzudenken.

00:16:50: Danke, Meiter!

00:16:52: Auf der Augmented World Expo zeigt das kalifornisches Start-up Raven Resonance Smart Classes die ohne gekoppelte Smartphone oder Cloud Anbindung funktionieren.

00:17:02: Anders als aktuelle Modelle von Meta, Samsung und Google verfügt die Brille Raven Prism über einen integrierten Armprozessor mit vier Kernen – der das hauseigene Linux basierte RavenOS ausführt.

00:17:15: Die Steuerung erfolgt über Eye-Tracking und Sprachbefehle, während ein farbiges Display Inhalte ins Sichtfeld projiziert.

00:17:22: Ein besonderes Merkmal sind die wechselbaren Raven Wings Akkomodule, die im laufenden Betrieb getauscht werden können – das System führt dabei den Zustand ein und arbeitet dann nahtlos weiter.

00:17:34: Das Unternehmen legt Wert auf Datenschutz durch lokale Datenverarbeitung und lokal laufende KI Funktionen.

00:17:40: Die verbaute Kamera verfügt über mechanische Abdeckungen und Signal LEDs.

00:17:45: Die Brille soll noch dieses Jahr erscheinen.

00:17:47: Details zu Preis und technischen Spezifikationen stehen aber noch aus!

00:17:53: Das war das KI-Update von Heise Online vom siebzehnten Juni, zwanzig.

00:17:58: Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab fünfzehn Uhr.