KI-Update kompakt: Mozilla Firefox, Pentagon vs. Anthropic, Meta, Passwörter

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:18: Kontrolle über KI und ein anderes Web sind laut Mozilla möglich.

00:00:23: Pentagon stellt Anthropic einen Ultimatum.

00:00:26: Meta investiert Milliarden in AMD GPUs und mit ChatGPT erstellte Passwörter sind nicht sicher!

00:00:34: Mozilla hat für Firefox einen KI-Kontrollknopf eingeführt.

00:00:39: Damit kann ein Nutzer oder eine Nutzerin sämtliche KI-Funktionen auf einmal ausschalten.

00:00:45: Dem voraus ging Protest der Nutzenden, die sind offenbar ausgesprochen skeptisch wenn es um den Browser Datenschutz und KI geht.

00:00:53: Meine Kollegin Eva Maria Weiß von Heiser Online hat mit dem neuen Head of Firefox gesprochen.

00:01:03: das sei ein großer Unterschied zu anderen Browser-Anbietern.

00:01:07: Nutzer können entscheiden, ob sie gar keine KI nutzen wollen oder beispielsweise KI für Übersetzungen zulassen dafür aber keine KI Zusammenfassung von Inhalten zulassen.

00:01:20: Zudem sagt der Head of Firefox ist es ein Vorteil dass Mozilla keine eigenen LLMs entwickelt und entsprechend auch nicht die eigene KI im Browser bevorzugen muss.

00:01:32: Mozilla arbeitet vor allem mit Open Source Modellen zu.

00:01:36: Bei anderen Browsern können man eben nur die Modelle nutzen, die die Anbieter selbst entwickeln und diese Einschränkung hält Warmer für problematisch.

00:01:46: Eva du hast mit Ajit Warmer auch darüber gesprochen wie Browser in Zukunft überhaupt genutzt werden?

00:01:53: Ja genau, denn schauen wir uns an woran OpenAI-Apple-Metern koarbeiten.

00:01:58: Es geht um Hardware und es geht darum dass wir komputerkünftig ganz anders nutzen werden – es geht um Sprache und Sprachengaben eine neue Bedienoberfläche.

00:02:10: Chatbots schicken sich ja quasi an Browser ablösen zu wollen!

00:02:15: Und Agit sagt dazu, Browser und das offene Web haben erst ermöglichtes Inhalte frei verfügbar sind ohne die KI-Modelle ja gar nicht existieren könnten.

00:02:27: Das sind etwa die Trainingsdaten, es wäre also fatal wenn diese Grundlage jetzt verschwinden würde.

00:02:34: auch KI braucht eben genau diese Inhalte und Browser sind immer eine offene Art gewesen wie man ein Unternehmen oder jemanden oder etwas erreichen kann.

00:02:46: Als problematisch erachtet er deshalb auch die Frage nach der Monetarisierung von Inhalten, also auch nach der Bezahlung von Inhalten, die genutzt werden für das Training.

00:02:58: Ajit Warmer erinnert da an Google.

00:03:00: früher vor etwa zwanzig Jahren hatte Fox noch versucht, Google zu verklagen und die Nutzung der Inhalte um drumherum Werbung anzuzeigen zu verbieten.

00:03:12: Aber Google war auch damals schon zu mächtig.

00:03:15: Die eigenen Inhalte aus Google zu entfernen, hätte zu viel Traffic gekostet.

00:03:21: Vor diesem Problem stehen ja jetzt eben ganz viele Inhaltersteller.

00:03:26: Doch Agit hält es für möglich das wird dieses Mal vielleicht einen anderen Weg einschlagen und nicht alles frei hergeben!

00:03:34: Er warnt auch davor, dass die Entwicklung von KI-Modellen sehr, sehr teuer ist.

00:03:40: So teuer, das es sich im Grunde nur die großen Unternehmen wie eben Google oder Metal leisten können!

00:03:46: Das sind aber Unternehmen, die ihr Geld mit Werbung verdienen – es liegt also nah, dass sie mit KI nur weitere Möglichkeiten suchen wo sie mehr Werbung anzeigen können.

00:03:58: und irgendwann stellt sich dann die Frage ob eine KI Antwort

00:04:04: beste

00:04:04: Antwort ist oder ob es die beste Antwort dafür ist, damit Geld zu verdienen.

00:04:09: Dankeschön Eva!

00:04:11: Das ganze Interview findet ihr natürlich auf Heise Online.

00:04:15: Die Software Gotham des US-amerikanischen Technologieunternehmens Palantir ermöglicht das Sicherheitsbehörden große Datenmengen aus unterschiedlichen Quellen zusammenzuführen und automatisiert auszuwerten.

00:04:29: In mehreren unionsgeführten Bundesländern kommt Palantir bereits zum Einsatz.

00:04:34: Kritiker waren jedoch seit längerem vor weitreichenden Überwachungsmöglichkeiten, mangeln der Transparenz und potenziellen Eingriffen in die Grundrechte.

00:04:43: Die SPD hat sich nun klar gegen den Einsatz von Palantire positioniert.

00:04:48: Ich sehe nicht, dass Palantier für die Bundesbehörden kommt, sagte Bundesjustizministerin Stephanie Hubeich der Tageszeitung Welt.

00:04:56: Damit reagiert die Partei nicht zuletzt auf monatelangen Druck aus der Zivilgesellschaft.

00:05:01: Die Absage der SPD auf Bundesebene hat jedoch vor allem symbolischen Charakter, in dem Bundesländern dürfte Palantir weiter genutzt werden.

00:05:11: Die Vereinigten Staaten und die EU verhandeln derzeit über neue Anforderungen für die visumfreie Einreise – im Kern geht es um den Zugriff auf nationale biometrische Datenbanken der EU-Länder.

00:05:23: Wird bis Ende dieses Jahres keine Einigung erzielt, riskiert Europa den Ausschluss aus dem Programm für wiesumfreie Reisen.

00:05:31: Ein aktueller Entwurf der EU-Kommission gewährt den US-Sicherheitsbehörden tiefgreifende Befugnisse – besonders bräsannend scheint der Passus zur automatisierten Entscheidungsfindung.

00:05:42: Zwar sieht das Dokument laut Euraktiv vor, dass Entscheidungen mit erheblichen negativen Auswirkungen für den Einzelnen nicht allein durch Algorithmen getroffen werden dürfen.

00:05:53: Jedoch gibt es eine Hintertür.

00:05:54: Sofern das US-Recht solche Verfahren autorisiert, wäre die rein maschinelle Beurteilung

00:06:00: zulässig.".

00:06:02: Laut der europäischen KI-Verordnung muss der Mensch jedoch im Hochrisikobereich die letzte Entscheidung treffen – nicht ein Algorithmus!

00:06:10: Die Einbindung des geplanten Abkommens in europäische Regelwerke wie der Datenschutzgrundverordnung und dem AI-Akt dürfte sich somit schwierig gestalten.

00:06:20: Das US-Verteidigungsministerium verlangt einen unbegrenzten Zugang zu Anthropics CloudKI.

00:06:27: Dafür hat das Pentagon der KI-Firma jetzt ein Ultimatum gestellt, Martin Holland aus dem Heise online Newsroom mit den Einzelheiten.

00:06:41: eine Gefahr für die Lieferkette einzustufen, wenn die Firma nicht das macht was man wünscht.

00:06:46: Sondern es gibt auch die Alternative dass man sie einfach dazu zwingt das zu machen was sie was das Pentagon will und zwar über ein Gesetz das heißt Defense Production Act.

00:06:57: Das ist ein Gesetz Eigentlich dafür gedacht, das kriegswichtige Güter produzieren zu lassen.

00:07:03: Also Unternehmen dazu zu drängen, kriegs wichtige Güter zu produzieren.

00:07:06: Das ist aber tatsächlich auch schon vorher in Nicht-Kriegsszenarien eingesetzt worden.

00:07:11: Die bekannteste ist die Corona-Pandemie wo die US Regierung damit Unternehmen dazu gezwungen hat medizinische Güter herzustellen.

00:07:18: Trotzdem ist das natürlich noch einmal ein ganz anderes Kaliber.

00:07:22: und das Ganze hat das Pentagon jetzt auch mit einem Ultimatum versehen.

00:07:26: Und zwar laut Axios, das S-Magazin hat das Pentagon gesagt ihr habt bis Freitag um euch zu entscheiden und danach werden wir eins von beiden machen.

00:07:35: also entweder euch quasi vom Markt ausschließen weil Jeder, der als Gefahr für die Dieferkette oder Risiko eingestuft wird, kann das Pentagon keine Geschäfte mehr machen.

00:07:46: Aber es heißt doch, dass Pentagon nicht mehr mit Unternehmen macht, die mit Anthropec in dem Fall Geschäften machen.

00:07:52: Das wäre natürlich so ziemlich die gesamte US-Wirtschaft und deswegen dürfte das Risiko zu groß sein!

00:07:59: Das zeigt vor allem jetzt, dass das Pentagon wirklich, dass es ihm wirklich darauf ankommt die Technik von Anthropic zu bekommen.

00:08:06: Also es gibt immer wieder Zitate wo sie sagen, die sind halt einfach die besten.

00:08:10: Die KI Claude von Anthropic ist einfach das Beste.

00:08:13: Das ist nun mal ihr Problem.

00:08:14: deswegen müssen wir Sie mit harten Bandagen dazu zwingen für uns zu arbeiten.

00:08:19: gleichzeitig scheint sich Anthropics dieser Position durchaus bewusst zu sein und zu versuchen die eigenen Forderung durchzusetzen.

00:08:26: Im Kern geht es darum, dass das US-Militär Anthropics KI einsetzen soll aber ohne irgendwelche Hindernisse und Anthropic sagt prinzipiell können er das machen Aber ihr dürft die KI nicht einsetzen um Massenüberwachung der US Bevölkerung irgendwie durchzuführen oder zu entwickeln Und die KI darf nicht eingesetzt werden um tödliche Waffen abzufeuern Mensch darauf geguckt hat.

00:08:52: Das sind also die zwei Forderungen, das Pentagons sagt, wenn er es uns gar nichts vorschreiben, ihr müsst machen was wir wollen.

00:08:57: und deswegen jetzt dieses Ultimatum und es wird jetzt spannend zu sehen wie Anthropic reagiert.

00:09:02: bis dann geben sie sich hart aber das sind natürlich zwei ziemlich schwerwiegende Drohungen und deswegen muss man jetzt mal gucken ob Sie nicht doch noch einknicken.

00:09:12: Vielen Dank Martin!

00:09:15: Auch in einem anderen Bereich geht es an Nationale Sicherheit.

00:09:20: Das KI-Startup wirft drei chinesischen Konkurrenten vor, mehr als vierundzwanzigtausend betrügerische Konten für Claude eingerichtet zu haben um die eigenen KI-Modelle zu verbessern.

00:09:31: Die Unternehmen DeepSeq, Moonshot AI und Minimax hätten auf diese Weise mehr als sechzehn Millionen Interaktionen mit Claude generiert, um ihre eigenen Systeme zu trainieren!

00:09:42: Dabei verwendeten sie eine Technik, die Destillation genannt wird bei der ein weniger leistungsfähiges Modell anhand der Ergebnisse eines leistungsstärkeren Modells trainiert wird.

00:09:52: Ansropic bemängelte in einem Blog-Eintrag Verstöße gegen die Nutzungsbedingungen und gegen die regionalen Zugangsbeschränkungen – auch OpenAI wirft die Psyc vor sein R-I Modell mittels Chatchapity trainiert zu haben!

00:10:06: Anthropic war nun in dem Blogbeitrag, dass das Vorgehen der chinesischen Unternehmen erhebliche Risiken für die nationale Sicherheit der Vereinigten Staaten aufwärfe.

00:10:15: Ausländische Labore – Die amerikanische Modelle destillieren könnten diese ungeschützten Funktionen dann im Militär-, Geheimdienst- und Überwachungssysteme einspeisen.

00:10:27: Abseits von nationalen Sicherheitsbedenken hat Anthropic untersucht wie kompetent Menschen mit KI Werkzeugen umgehen?

00:10:35: Dafür analysierte das Unternehmen knapp zehn tausend anonymisierte Gespräche mit seinem Chatbot Claude.

00:10:40: Dabei stellt er sich heraus, je polierter die Antworten der KI aussehen, desto seltener Prüfennutzerinnen und Nutzer – ob sie auch stimmen!

00:10:48: Rund zwölf Prozent der Gespräche enthielten sogenannte Artefakte — also von Claude erzeugte Produkte wie kleine Apps oder Dokumente.

00:10:56: In diesen Dialogen machten die Nutzenden zwar am Anfang genaue Vorgaben, doch die kritische Prüfung sank messbar so dass sie seltener fehlenden Kontext identifizierten, seltene vermeintliche Fakten prüften und selten er die Argumentation der KI hinterfragten.

00:11:12: Anzropik vermutet wenn ein Ergebnis fertig aussehe behandelten die Nutzer möglicherweise auch als fertig.

00:11:19: Anders sieht es beim Iterieren aus also beim schrittweisen Verfeinern der Ergebnisse.

00:11:25: Wer iterierte, hinterfragte die Argumentation des Chatbots mehr als fünfmal häufiger und erkannte fehlenden Kontext vier mal häufiger.

00:11:34: Allerdings stößt das Iterieren auf ein technisches Dilemma – KI-Antworten werden schlechter wenn sich zu viel Kontext im Chatfenster ansammelt.

00:11:43: Kompetenter Umgang mit KI heißt also gezielt verfeinern aber auch wissen wann ein neues Gespräch nötig ist!

00:11:51: Hans Roepig empfiehlt, die erste Antwort als Ausgangspunkt statt als Endergebnis zu behandeln und polierte Ergebnisse gezielt zu hinterfragen.

00:12:01: AMD und Meta haben sich auf einen Rahmenvertrag im Wert von mehreren Milliarden US-Dollar geeinigt.

00:12:07: Was der genau beinhaltet, berichtet Marc Mantel von Heise Online.

00:12:21: Los geht es mit einer für Meta angepassten Version der Instinct MI-Fourhundertfünfzig.

00:12:27: Oben dreim kommt Prozessoren und Netzwerktechnik, Meta will komplette Helioserver von AMD kaufen.

00:12:33: Der gesamte Deal hat angeblich ein Wert von sechzig Milliarden US Dollar.

00:12:37: Läuft als Saplan bekommt Metain direkt aber einen erheblichen Rabatt.

00:12:41: Beide Partner haben Meilensteine festgelegt bei deren erreichenen Meta-AMD Aktien erhält.

00:12:46: Dafür muss Metakaufzeilen erfüllen und AMD bestimmte aber nicht bekannt gemachte Kursziel an der Börse erreichen.

00:12:53: Die Hundertsechzig-Billion Aktien wären schon heute rund dreißig Milliarden US-Dollar wert.

00:12:58: Ein nahezu identischen Deal hat AMD bereits im Oktober zwanzig fünfzwanzig mit OpenAI abgeschlossen, beide Firmen haben damit ein direktes Interesse an AMDs Börsen.

00:13:07: Erfolg

00:13:08: Vielen Dank Marc Forscher von Google's KI Abteilung DeepMind haben einen Framework vorgestellt das regeln soll wie KI-Agenten Aufgaben an andere Agenten und Menschen verteilen.

00:13:22: Eine zentrale Empfehlung ist dabei, KI-Systeme sollten Bewusstaufgaben an Menschen abgeben die sie eigentlich selbst erledigen könnten.

00:13:30: Der Hintergrund ist das sogenannte Paradox der Automatisierung.

00:13:35: Wenn KI alle Routineaufgabe übernimmt fehlt menschlichen Aufsehen die Erfahrung um in kritischen Situation noch einzugreifen.

00:13:43: Die Forschenden schlagen deshalb vor, gezielt Übungsaufgaben an Menschen zu vergeben.

00:13:48: Das Framework fordert außerdem – eine Aufgabe darf nur delegiert werden, wenn sich ihr Ergebnis auch überprüfen lässt!

00:13:56: Die Forschende waren zudem vor Sicherheitsrisiken, wenn zu viele Agenten auf denselben Basismodellen aufbauen.

00:14:04: Das KI-Startup Inception Labs hat mit Mercury II ein neuartiges Sprachmodell vorgestellt.

00:14:10: Es basiert nicht auf der üblichen Transformer-Architektur, sondern auf einem Diffusionsverfahren.

00:14:16: Statt Text – Wort für Wort zu erzeugen – verfeinert das Modell mehrere Textbausteine gleichzeitig.

00:14:22: Das Ergebnis ist vor allem Geschwindigkeit!

00:14:25: Laut Inception erreicht Mercury II über ein tausend Tokens pro Sekunde auf NVIDIAs aktuellen Blackwell Chips.

00:14:32: Die Antwortzeit liegt bei nur eins Komma sieben Sekunden.

00:14:35: Zum Vergleich?

00:14:36: Google's Gemini III Flash braucht gut vierzehn Sekunden Anthropics Claude Haikou sogar über dreiundzwanzig Sekunden.

00:14:45: Beim Preis ist Mercury II zudem deutlich günstiger als beide Konkurrenten, Inception hatte im November fünfzig Millionen US-Dollar von Investoren wie Microsoft und Nvidia erhalten.

00:14:55: – ob sich der Diffusionsansatz langfristig gegen die dominierende Transformerarchitektur durchsetzt, ist allerdings noch offen!

00:15:04: Es mag zunächst wie eine sinnvolle Idee erscheinen, mit KI-Chatbots Passwörter zu erstellen.

00:15:10: Doch Sicherheitsforschende der Firma Irregular warmen davor – solche Passwürter ließen sich nämlich leicht knacken!

00:15:17: Warum das so ist, erklärt Jenny Lipis Redakteurin von der MIT Technology Review.

00:15:23: Das Perfide ist dass die KI generierten Passwärter auf den ersten Blick recht sicher aussehen.

00:15:29: Sie enthalten Sonderzeichen und Zahlen.

00:15:31: Allerdings würden diese laut der Sicherheitsforscher oft an identischen und damit vorhersehbaren Stellen platziert.

00:15:39: Ein kryptografisch sicheres Passwort habe eine Entropie von rund ninety- acht Bitt, die KI generierten Passwörter dagegen haben in den Tests der Untersuchung nur rund siebenundzwanzig Bitt erreicht.

00:15:52: Auf dem Prüfstand hatten die Forscher die KI Modelle Claude Opus vier Punkt sechs von Anthropic OpenAI's GPT-Fünf Punkt zwei und Google's Gemini Three Flash.

00:16:05: Bei allen drei KI Systemen hätten sich feste Strukturen gezeigt, etwa identische Anfänge und nur geringe Variation bei der Zeichenauswahl.

00:16:14: Um zu verstehen, warum diese Passwörter von der KI so wenig standhalten muss man sich vergegenwärtigen das große Sprachmodelle darauf optimiert sind vorhersehbare und plausible Ergebnisse auszugeben und das nächste Zeichen mit der höchsten Wahrscheinlichkeit zu berechnen.

00:16:31: Aber das möchte man bei der Passworterzeugung hier eigentlich nicht haben!

00:16:35: Wenn man auf Nummer sicher gehen will, raten die Experten daher zu Passwortmanagern, die auf kryptografisch sichere Pseudo-Zufallszahlen Generatoren setzen.

00:16:46: Allerdings sollte man auch hier vorsichtweiten lassen – denn wiederum Forscher der ETH Zürich haben jüngst herausgefunden dass einige beliebte PasswortManager ebenfalls mit Sicherheitsproblemen kämpfen!

00:16:59: Danke Jenny.

00:17:01: Bei Synchronisationen kommt verstärkt KI zum Einsatz und bedroht Kreative.

00:17:06: Mexico will jetzt als erstes Land der Welt die Stimme als künstlerisches Werkzeug schützen – das ist nicht unbedeutend, denn Mexiko hat die größte und wichtigste Synchronisationsindustrie lateinamerikas!

00:17:20: Das Land produziert gut zwei Drittel aller Synchronization in der Hemisphäre.

00:17:24: Doch bislang gibt es keine Vorschriften, die eine künstliche Intelligenz daran hindern, die Stimmen von Schauspielerinnen und Schausspielern zu kopieren ohne dafür zu bezahlen oder um Erlaubnis zu fragen.

00:17:36: Um das zu ändern hat die Regierung von Präsidentin Claudia Schenbaum jetzt eine Gesetzesinitiative vorgelegt, die die menschliche Stimme rechtlich als künstlerisches Werkzeug anerkennt – dass nicht geklont werden darf!

00:17:50: Sollte der Vorstoß Erfolg haben?

00:17:52: wovon angesichts der Mehrheitsverhältnisse im mexikanischen Kongress auszugehen ist, wäre Mexiko weltweit Pionier bei der Regulierung des Klonens von Stimmen in der Kultur.

00:18:03: Wenn ihr jetzt Lust habt noch tiefer in das Thema KI einzusteigen und wenn ihr gleichzeitig diesen Podcast unterstützen wollt dann könnt ihr das mit einem heise Plus-Abo tun!

00:18:14: Damit bleibt ihr in IT und Technik immer einen Schritt voraus.

00:18:17: Meine Kolleginnen und Kollegen haben zum Beispiel Gemini & Chatchi Pity ins Duell der KI-Titan geschickt.

00:18:24: Sie erklären euch, warum lebende Hirnzellen das Energieproblem der KI lösen könnten oder wie KI im Fahrzeugbau zum Einsatz kommt – aber natürlich findet ihr bei Heiseplus auch jede Menge Hintergründe und Tests zu anderen Techthemen!

00:18:38: Sichert euch jetzt zwei Wochen HeisePlus mit fünfzig Prozent Rabatt unter heiseplus.de.

00:18:44: slash Audio.

00:18:45: Den Link findet ihr auch in den Shownotes.