KI-Update kompakt: Nvidia-Affäre, Coding-Agenten, Gemini 4 Carbon, Muse Ember

00:00:02: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Isabel Grünewalds und dies sind heute unter anderem unsere Themen.

00:00:17: In Videoaktien fallen und fallen nach Jensen Hwang's Affäre.

00:00:22: KI Coding-Agenten verfragten Zugangsdaten in öffentliche Repositories.

00:00:27: Gemini IV Carbon bringt Agentenschwarmfunktionen – und Metamuse Amber soll Agenten günstiger machen!

00:00:36: Nach dem Skandal um die außerehrliche Affäre von Nvidia-Chef Jensen Huang mit einer mutmaßlichen Agentin Chinas geht es für den Halbleiterhersteller an den Aktienmärkten weiter nach unten.

00:00:48: Martin Holland aus unserem heise online Newsroom fasst die Ereignisse zusammen.

00:00:53: Bei Nvidia ist weiterhin unklar welche Folgen der Skandal, um die außererliche Affiere von CEO Jensen Wang haben wird während immer neue Details bekannt werden.

00:01:05: Zuletzt wurde zum Beispiel öffentlich das Alice Wang, also die Frau um dies geht, Nvidia Chips im Wert von mehreren Milliarden US-Dollar nach China gebracht haben soll oder zumindest den Export ermöglicht haben soll was gegen US Sanktionen verstoßen hätte.

00:01:24: Das wird im Moment alles untersucht.

00:01:27: Nvidia selbst hat ja am Wochenende schon angekündigt dass eine Untersuchung eingeleitet wird aber welche Folgen das, wie gesagt haben wird ist auch angesichts solcher Enttüllungen immer noch nicht absehbar.

00:01:38: Auch weil US-Präsident Donald Trump immer stärker unter Druck gerät, weil er eine besonders enge Beziehung zu wangen hat und jetzt eben auch damit hineingezogen werden könnte vor allem, weil die Opposition, die ja gerade starke Gewinne bei den Wahlen einfahren konnte, jetzt auch Druck macht und meint dass Donald Trump die nationale Sicherheit schützen soll.

00:02:03: Das ist der eine Aspekt, der jetzt da passiert.

00:02:06: Aber es ist noch offen was auch die US-Geheimdienste und das FBI und so weiter, die angeblich auch Untersuchungen schon laufen haben oder angekündigt haben, was sie jetzt herausführen werden oder ob die warten etwas in wieder rauszunehmen.

00:02:19: Was aber schon reale Konsequenzen sind sieht man an der Börse wo Die großen Tech-Aktion oder im Prinzip eigentlich die ganzen Finanzmärkte, sich von dem heftigen Korrektur der vergangenen Woche beholt haben.

00:02:33: Die ersten zwei Handelstage diese Woche und Nvidia als einziges großes Unternehmen Verluste einfällt und zwar heftige Verlust.

00:02:41: Inzwischen sind das etwa zehn Prozent, die sorgen dafür dass beim Marktwert Nvidia inzwischen an den der vier Billionen Marke kratzt wo auch Microsoften jetzt steht aber Microsoft eben mit aufsteigende Tendenz Nvidia mit absteigender Tendenz.

00:02:58: weit vorne liegt inzwischen Apple die weiterhin über fünf Millionen liegen Und diese Marke war ja von Nvidia als erste geknackt worden.

00:03:08: wenigen Wochen stand NVIDIA bei fünf Komma Fünf Billionen.

00:03:11: Das ist nun aber weit entfernt und es ist noch unklar, wie es da jetzt weitergehen wird wobei zumindest im Analysten US Medien sagen das an den Finanzmärkten davon ausgegangen wird dass Jensen Wong in seinem Posten bleiben kann.

00:03:25: Es gibt auch überhaupt keine Aussicht wer ihm überhaupt folgen könnte.

00:03:28: bei NVIDia Da gibt's der starke Mann und die wichtigste Person.

00:03:34: Wer das machen könnte bei diesem so kritischen Unternehmen für den KI-Beruboom ist auch unklar und deswegen geht man davon aus, dass er sich verteilen können.

00:03:44: Aber das muss ich jetzt

00:03:44: zeigen.".

00:03:45: Danke schön Martin!

00:03:48: Mit viel Politprominenz hat die Telekom Anfang der Woche den Startschuss für ihre KI-Fabrik zwei Punkt Null gegeben.

00:03:55: Im Münchner Tura Park wird die Kapazität verdoppelt, sodass künftig zwanzigtausend Nvidia GPUs dort arbeiten.

00:04:02: Dafür investiert der Konzern rund zweihundertfünfzig Millionen Euro.

00:04:07: Die Anlage läuft vollständig mit erneuerbaren Energien und nutzt den Eisbach nebenan zur Kühlung.

00:04:13: Hauptzweck ist die Industrial AI Cloud für Unternehmen wie Siemens & Daimler Trucks, dort werden KI-Sprachmodell trainiert und Produktionsabläufe simuliert.

00:04:23: Zudem sollen künftig Chips des Dresdner Startups Spark City eingesetzt werden!

00:04:28: Ob die Telekom weiter über den Bau einer Gigafactory nachdenkt, bleibt vorerst offen.

00:04:34: Laut Telekom-Chef Tim Hörtges sei die EU-Vorschrift zur Vorhaltung von Rechenleistungen für die öffentliche Hand zu kostspielig – aber ein weiterer Ausbau des Rechenzentrums in München ist bereits in Planung.

00:04:48: KI-Codingagenten können unbeabsichtigt sensible Zugangsdaten in öffentliche Repositories ausschleusen und damit massive Sicherheitsrisiken verursachen.

00:04:58: Ausgelöst wird das Problem durch eine scheinbar harmlose Komfortfunktion, die Entwicklerinnen und EntwicklerInnen die Arbeit erleichtern soll", erklärte Knob von Heises Security.

00:05:09: Beim KI-Werkzeug Claude Kot von Anthropic betrifft dies Abfragen, die beim Zugriff auf Datenbanken oder Schnittstellen auftauchen.

00:05:16: Bestätigen programmieren die Option Ja – nicht mehr Fragen, speichert das System die Zugangsdaten lokal im Projektordner ab?

00:05:24: Entdeckt wurde diese Schwachstelle vom IT-Sicherheitsunternehmen APIRO.

00:05:28: Die Forscher untersuchten rund hunderttausend öffentlich auf GitHub abgelegte Cloud-Konfigurationsdateien, in mehr als tausend einhundert davon stießen sie auf echte Geheimnisse – insgesamt spürten sie über zweitausend fünfhundads scharfe Zugangsdaten in knapp zwei tausende öffentlichen Projekten auf.

00:05:44: Dazu gehören Passwörter für Datenbanken, Cloudschüssel, AP Token und Routelogins fürs Server.

00:05:50: Das Kernproblem liegt unbewussten Geheimnistransfer.

00:05:54: Eigentlich soll die lokale Einstellungsdatei auf dem Rechner des Entwicklers bleiben – wenn ein Ordner jedoch erst nachträglich zu einem Git Repository wird oder von einem anderen Rechler geklont wurde, greift der automatische Schutz nicht.

00:06:05: In vielen Fällen hat die künstliche Intelligenz-Dieter Teilen sogar selbst als Mitautor übertragen!

00:06:11: Das Entwicklerteam von Anthropic prüft nun Schutzmaßnahmen wie ein integriertes Scanning nach Geheimnessen.

00:06:17: Unternehmen sollten ihre Githuborganisation dringend prüfen und kompromittierte Zugangstaten umgehend austauschen.

00:06:23: Vielen Dank, Dirk!

00:06:25: Frankreichs Präsident Emmanuel Macron drängt auf internationale Sicherheitsstandards für künstliche Intelligenz.

00:06:33: In einer Videokonferenz mit rund fünfzig Staats- und Regierungschefs, Forschenden sowie Chefs von KI-Unternehmen forderte er verbindliche Regeln.

00:06:42: Die Beteiligten sagten zu, Risiken fortschrittlicher KI-Modelle unabhängig zu bewerten, Warnungen bei Vorfällen auszutauschen und die Entwickler stärker in die Verantwortung zu nehmen.

00:06:53: Macron betonte, dass schnelle KI-Vortschritte reale Sicherheitsrisiken für unsere kollektive Sicherheit bergen – man müsse daher auch gemeinsam handeln!

00:07:03: Bei den großen KI-Modellen jagt gerade ein Release das nächste.

00:07:07: Auch Google ist wieder mit dabei, mit einem Modell für besonders schwere Aufgaben und mit KI-Agenten die im Team arbeiten sollen.

00:07:16: Jonathan Kemper von The Decoder erklärt was dahinter

00:07:19: steckt.

00:07:30: Zugänglich ist Carbon über die Gemini-Schnittstelle in Google AI Studio, in Android Studio und über Gemini for Business.

00:07:38: Carbon ersetzt das bisherige Modell Gemini IV Argon nicht sondern ergänzt es!

00:07:43: Für die meisten Programmier- und Wissensaufgaben empfiehlt Google weiterhin Argon.

00:07:47: Carbon ist für die schweren Fälle gedacht – etwa mehrstufige Fehlersuche im Code oder offene wissenschaftliche Fragen.

00:07:53: Dafür verbraucht es mehr Tokens weil es länger Schluss folgt und seine Ergebnisse öfter überprüft.

00:07:58: Beide Modelle kosten pro Token gleich viel, mit Carbon fällt die Rechnung am Ende trotzdem höher aus.

00:08:04: Im Programmier-Benchmark Cursorbench liegt Carbon laut Google auf Platz eins.

00:08:08: Pro Aufgabe arbeitet es dabei sogar mehr als doppelt so günstig wie das nächste beste Modell – besonders hebt Google die Fähigkeiten in der IT-Sicherheit hervor!

00:08:16: In einem Programm des Sicherheitsunternehmens WIS hat Carbon bei zwei großen Softwareanbietern in weniger als zwei Stunden echte bisher unbekannte Sicherheitslücken gefunden.

00:08:26: In einem Test zu Prompt-Injections, also versteckten manipulativen Befehlen hat Google zur Folge kein einziger Angriff funktioniert.

00:08:33: Gelöst ist das Problem damit nicht – denn der Test könnte schlicht ausgereizt sein!

00:08:36: In einem internen Ehrlichkeitstest weigert sich Carbon außerdem in fast allen Fällen fehlende Versuchsdaten einfach zu erfinden.

00:08:43: Neu ist auch eine Funktion namens Swarm in Enti Gravity, Googles Gegenstück zu Clotcode und Codex.

00:08:49: Mit Swarm wird aus einem einzigen Prompt ein ganzes Team von KI-Agenten, deren Arbeit man live verfolgen kann….

00:08:55: Carbon übernimmt dabei die Aufgaben, die viel Reasoning brauchen – also Architektur, Koordination und Kontrolle.

00:09:01: Kleinere und schnellere Modelle arbeiten parallel in getrennten Arbeitsbereichen.

00:09:08: We'll zeigt die Funktion bisher nur als Vorschau.

00:09:11: Ob sich solche Agentenschwärme lohnen ist in der Branche sowieso umstritten.

00:09:15: OpenAI & Anthropic äußern sich zuletzt eher zurückhaltend.

00:09:18: auch Forschende sind skeptisch!

00:09:20: Der Klassovorteil liegt im Tempo weil viele Agenten gleichzeitig arbeiten.

00:09:24: Die Abstimmung zwischen ihnen bleibt aber kompliziert und jeder zusätzliche Agent kostet Rechenzeit – und damit Geld.

00:09:30: Vielen Dank, Jonathan!

00:09:33: Anthropic hat Version Fünf-Punk zwei seiner Sprachmodelle Claude Faible und Mythos veröffentlicht.

00:09:39: Diese Systeme sind für komplexe Aufgaben wie Programmierung und IT-Sicherheit gedacht und lösen diese jetzt häufig sicherer als die Vorgänger.

00:09:48: Faible Fünf Punkt Zwei bricht in Tests deutlich seltener aus einer Sandbox aus als frühere Version.

00:09:54: Gleichzeitig senkt das Unternehmen die Tokenpreise.

00:09:57: Wer einen optionalen Schnellmodus nutzt, zahlt dafür jedoch doppelt!

00:10:01: Die Modelle sind ab sofort über verschiedene Cloud-Plattform verfügbar – für den allgemeinen Gebrauch empfiehlt Anthropic weiterhin das Modell Opos Fünf Punkt Fünf.

00:10:11: Mythos zwei Punkt fünf verfügt über reduzierte Sicherheitsvorkehrungen und steht daher sowieso nur US Behörden und ausgewählten Kunden offen.

00:10:21: Um den immensen Energiehunger der eigenen KI-Rechenzentren zu stillen, hat Anthropic Gasgeneratoren im Wert von drei Komma vier Milliarden Dollar bestellt.

00:10:31: Die Anlagen von Caterpillar können bis zu eins Komma sieben Gigawatt Stoma zeugen.

00:10:37: Damit umgeht der Claude Entwickler traditionelle Zwischenhändler und sichert sich Direktgeneraturen bei denen die Lieferzeiten mittlerweile Jahre betragen.

00:10:46: Bisher hatte Anthropic die Kapazitäten dafür gemietet!

00:10:49: Der Deal ist der größte bekannte Einzelkauf von Stromerzeugung durch ein KI-Unternehmen.

00:10:55: Aber auch andere Tech-Konzerne wie Amazon und Microsoft planen eigene Gaskraftwerke, um ihre Anlagen unabhängig vom Stromnetz in den USA zu versorgen.

00:11:06: Metas kleinstes KI-Modell Muse Ember erreicht im Intelligent Index das Niveau von Claude Haikou Fünf Punkt Fünf – kostet pro Benchmark Aufgabe aber nur etwa einen Drittel!

00:11:19: Tomislav Besmalinovich von Heise Online mit den Einzelheiten.

00:11:23: Muse Ember ist für häufig wiederholte agentische Aufgaben gedacht, wie zum Beispiel das Verarbeiten von Dokumenten und kleinere Programmierarbeiten.

00:11:32: Das Modell kann Text-, Bilder-, Audio-, Videos-und PDFs verarbeiten, erzeugt selbst aber nur Text.

00:11:39: Meta hat Ember mithilfe seines Spitzenmodells Muse Wonderful trainiert – die Architektur und Modellgewichte bleiben unter Verschluss.

00:11:48: Auf der höchsten Reasoning-Stufe erreicht Ember thirty-six Punkte im Intelligence Index und liegt damit auf Augenhöhe mit Claude Heiko fünf Punkt Fünf.

00:11:59: Bei automatisierten Arbeitsabläufen erreicht es in einem Benchmarkt das Niveau von Muse Wonder, auch beim Programmieren und bei komplexen Aufgaben über die Kommandozeile schneidet es sehr gut ab.

00:12:12: Faktenwissen zeigt Ember dagegen Schwächen – das Modell lässt viele Fragen unbeantwortet.

00:12:18: Dadurch halluciniert es zwar seltener als Claude Haikou.

00:12:21: Fünf Punkt Fünf, beantwortet aber auch weniger Fragen korrekt.

00:12:25: Emberpunkt ist vor allem mit seinen niedrigen Kosten – über die Meta-API kostet Ember zehn US Cent pro Million Inputtokens.

00:12:33: Die Ausgabe werden jeweils fünfzig cent fällig.

00:12:36: Bei Anfragen mit mehr als zweihunderttausend Input Tokens verdreifachen sich allerdings die Ein und Ausgabepreise für sämtliche Tokens der Anfrage.

00:12:46: Mount Artificial Analysis ist Ember das günstigste Modell seiner Leistungsklassen.

00:12:51: Cloud HQ-Fünf Punkt Fünf etwa kostet pro Benchmark Aufgabe fast dreimal so viel, auch bei der Nutzung zwischen gespeicherte Eingaben ist Emba günstiger – hier liegen die Kosten rund sechzig Prozent unter den von Haiku.

00:13:05: Außerdem benötigt Ember bei den getesteten Aufgaben nur etwa ein Drittel so viele Ausgabe Tokens wie Haiku.

00:13:12: Mba ist über die Metamodel-API, Muse Code, Open Code und OpenRoute auserzügbar.

00:13:18: Danke Tomislav!

00:13:20: OpenAI hat im dritten Quartal den Umsatz auf rund zehn Milliarden Dollar gesteigert – verzeichnete aber weiterhin einen noch höheren Verlust von knapp elf Milliarden Dollar.

00:13:31: Damit liegt der ChatGPT-Entwickler hinter dem Konkurrenten Anthropic, der im selben Zeitraum deutlich mehr Umsatz und geringere Verluste aufwies.

00:13:39: Allerdings sind die Zahlen nur bedingt vergleichbar, da OpenAI-Aktienbasierte Vergütungen nicht in die Verluste einrechnet.

00:13:48: Dennoch lief das Quartal besser als die vorherigen.

00:13:52: Auch die Zahl der zahlenen Kundinnen und Kunden stieg gleich darauf etwa einhundert Millionen.

00:13:57: Mit Blick auf den geplanten Börsengang im kommenden Jahr scheint OpenAI gerade auf einem guten Kurs zu sein!

00:14:04: Samsung testet offenbar ein kostenpflichtiges Abonnement für erweiterte KI-Funktionen seiner Galaxy-Smartphones.

00:14:12: Unter dem Namen Galaxy AI Premium sollen Nutzerinnen und Nutzern künftig für Dienste wie erweitert Bildbearbeitung, Videogenerierung und automatisierte Appaufgaben zahlen.

00:14:23: Die Basisfunktion von Galaxy AI bleiben kostenlos – werden aber mit Nutzungslimits versehen!

00:14:29: Das Premium-Abo bietet viermal höhere Kontingente und soll etwa fünf Dollar im Monat kosten.

00:14:35: Der Test läuft derzeit in einem Early Access Programm, möglicherweise zunächst exklusiv für die kommende Galaxy S-II Serie.

00:14:45: Samsung begründet den Schritt mit den ständig steigenden Kosten für die Weiterentwicklung der KI Fähigkeiten.

00:14:52: Microsoft beendet oder prüft derzeit mehrere Verträge für Rechenzentrumskapazitäten.

00:14:59: So läuft ein Mietvertrag mit Oracle aus, da die dort genutzten älteren Nvidia-Chips den aktuellen Anforderungen nicht mehr genügen.

00:15:07: Auch eine geplante Erweiterung bei N Scale in Texas lehnt das Unternehmen ab – Grund sind Verzögerungen beim Bau und der Inbetriebnahme von KI Rechenzentren wie es in den USA zuletzt häufiger vorkam.

00:15:20: Künftig will Microsoft eigene KI Beschleuniger der Maya Baureihe stärker einsetzen um unabhängiger von Nvidia zu werden.

00:15:28: Dies wird den Bedarf an externer Rechenleistung jedoch erst langfristig becken können.

00:15:35: Amazons KI-Assistentin Alexa Plus lässt sich in Deutschland nun über alexa.com im Browser nutzen.

00:15:42: Zugriff haben vorerst nur Teilnehmende des Early Access, Daniel Habich von Heise Online weiß aber was Alexa Plus kann.

00:15:50: Also Alexa Plus ist die neue Version von Amazon Sprachassistenten Die jetzt eben mit einem moderneren LLM läuft.

00:15:58: Und der wichtigste Unterschied zu Alten Alexa liegt dann halt darin, dass man jetzt ein bisschen natürlicher mit ihr sprechen kann.

00:16:04: Eben in natürlicher Sprache normale Sätze mit der Assistentin austauschen kann und Alexa dann eben den Zusammenhang versteht und auch so Gespräche am Laufen halten kann.

00:16:14: also man muss nicht jedes mal neu das Wake Word sagen.

00:16:19: sie kann jetzt auch ein bisschen Aufgaben selbst erledigen Tische im Restaurant reservieren Terminenkalender eintragen solche Sachen Smart Home Routinen lassen sich jetzt ein natürlicher Sprach anlegen.

00:16:31: Also das ist so das typische LLM, die typischen LLm-Einsatzgebiete würde ich sagen.

00:16:36: in Deutschland läuft Alexa Plus jetzt eben seit Mai in einer Early Access Phase.

00:16:42: Solange es sie kostenlos danach wird sie aber kostenpflichtig.

00:16:45: Aktuell ist der Plan dass das Alexa Plus in Amazon Prime ohne Aufpreis dazu kommt.

00:16:52: Prime kostet neun Euro im Monat.

00:16:54: Man soll Alexa Plus aber auch separat abonnieren können.

00:16:58: Und dafür sollen man dann die Euro im Monat zahlen, also obwohl Alexa als Teil von Amazon Prime nur neun Euro im monat kosten soll zusätzlich zu den anderen Benefits, die man von Prime hat.

00:17:10: Also allein daran sieht man schon dass das nicht die finale Preisgestaltung sein kann.

00:17:14: Das wird ja nicht langfristig sinnvoll sein!

00:17:17: Aber wie es weitergeht wenn die Testphase ändert?

00:17:20: Das hat einmal bisher noch nicht gesagt.

00:17:22: Danke schön Daniel.

00:17:24: Australien verschärft die Regulierung für Entwickler leistungsfähiger künstlicher Intelligenz.

00:17:30: Auslöser war ein Vorfall im Juni, bei dem einen autonome KI-Agent von OpenAI unbefugt ein australisches Regierungsportal hackte und auf interne Datenzugriff.

00:17:41: Die Regierung führt nun verbindliche Sicherheitsanforderungen ein – darunter eine schnelle Meldepflicht bei Zwischenfällen und unabhängige Kontrollen!

00:17:51: Eine neue Aufsichtsbehörde soll die Einhaltung der Regelungen überwachen und bei verstößen Sanktionen verhängen.

00:17:58: Zudem prüft Australien Änderungen des Strafrechts!

00:18:02: Das umfassende KI-Gesetz soll voraussichtlich Anfang kommenden Jahres ins Parlament eingebracht werden, damit positioniert sich das Land als weltweiter Vorreiter bei der Regulierung hoch entwickelter KI-Systeme.

00:18:21: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.