KI-Update kompakt: ChatGPT als Suchmaschine, MHS, OpenClaw 2.0, git-Schadcode

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:17: EU-Kommission stuft ChatGPT als besonders große Suchmaschine ein.

00:00:22: Anthropic stellt Kommunikationsstandard für Hardware vor.

00:00:26: Open Cloud – zwei Punkt Null für mehr Teamarbeit, Gedächtnis und Automatisierung Und KI-Agenten führen Git-Shartcode beim Starten automatisch aus.

00:00:37: KI-Anbieter unterlagen in der Europäischen Union bislang hauptsächlich den Regeln sehr KI-Verordnung, die allerdings reguliert entlang der Technologie – nicht entlang des tatsächlichen Nutzungs von Angeboten und daraus resultierenden Risiken.

00:00:53: Nun hat die EU-Kommission mit Chatchapity erstmals ein großes KI-Sprachmodell als besonders großen Anbieter nach dem europäischen Digital Services-Akt eingestuft.

00:01:04: Damit unterliegt ChatGPT künftig einem erweiterten Regelkatalog mit weitreichenden Konsequenzen, erklärt Marco Pauli aus dem Heise Online Newsroom.

00:01:19: Damit hat GPPT die im DSA festgelegte Schwelle zur sehr großen Online-Plattform von fortyfünf Millionen Nutzerinnen und Nutzern pro Monat deutlich überschritten.

00:01:31: Nach dieser gerade erfolgten Einstufung durch die EU-Kommission, hat das Unternehmen nun bis Januarzeit die sich daraus ergebenden Anforderungen des DSA zu erfüllen.

00:01:42: Im Kern geht es darum dass OpenAI eine umfassende Risikoeinschätzung vorlegen muss.

00:01:48: Diese soll systemische Risiken von Chatchipiti benennen und zeigen, wie das Unternehmen diesen begegnet.

00:01:55: Dazu zählen der Umgang mit illegalen Inhalten negative Auswirkungen auf minderjährige Und Bedrohung für Grundrechte und die öffentliche Sicherheit.

00:02:04: Hinzu kommen erweiterte Pflichten beim Umgang Mit Nutzerbeschwerben.

00:02:08: Chagipiti muss künftig klare Verfahren zur Meldung, Löschung und Sperrung problematischer Inhalte einrichten sowie Widerspruchsmöglichkeiten für Betroffende.

00:02:19: Auch sogenannte Trusted-Flaggermechanismen werden verpflichtend bei denen ausgewählte Hinweisgeber etwa spezialisierte unabhängige Organisation oder auch staatliche Stellen eine beschleunigte Bearbeitung von Meldungen zu eventuell illegalen Inhalten auslösen können.

00:02:36: Der DSA gibt allerdings keinen abschließenden Katalog, der zu identifizierenden Risiken vor.

00:02:42: Das bedeutet das OpenAI selbst einschätzen muss welche Gefahren von seinem Dienst ausgehen und dass in einem Bereich der für KI-Anbieter weitgehend Neuland ist.

00:02:54: Mögliche Risikobereiche reichen von Deepfake Pornografie bis hin zur vollständig autonom agierenden Modell.

00:03:01: Wer Risiken ignoriert dem Drohnen empfindliche Bußgelder?

00:03:06: Die zuständige Aufsichtsbehörde ist die EU-Kommission selbst.

00:03:10: In enger Zusammenarbeit mit der irischen Digitalaufsichtsbehörde, da OpenAI ja seinen EU-Sitz in Dublin hat.

00:03:18: Vielen Dank Marco!

00:03:21: Deutschland reagiert auf die rasante KI-Entwicklung mit der Gründung des Deutschen KI Sicherheitsinstituts Kurz AISI Deutschland.

00:03:30: Es soll risikobahhaftete KI-Systeme evaluieren und die digitale Resilienz stärken.

00:03:36: In der ersten Phase arbeitet es als virtueller Nukleus.

00:03:40: Das Bundesamt für Sicherheit in der Informationstechnik übernimmt IT-Sicherheit, die Bundessenetzagentur, physische Sicherheit und Produkttauglichkeit.

00:03:50: Der Fokus liegt auf der Analyse führender KI-Modelle und potentieller Kontrollverluste.

00:03:55: Jüngste Vorfälle hätten gezeigt, wie gefährlich leistungsfähige KI Modelle für Demokratie-, Wirtschaft- und Zivilgesellschaft sein können – betonten die zuständigen Digital- und Innenminister.

00:04:06: Das Institut orientiert sich am britischen Vorbild und setzt auf internationale Kooperation.

00:04:12: Es soll später als zentraler Berater für Politik und Wirtschaft ausgebaut werden.

00:04:18: Der Hauptsitz in Berlin stößt in der Fachwelt nicht nur auf Gegenliebe – In der IT- und Wissenschaftszene wird seit langem debattiert, ob die Konzentration auf die Hauptstadt der Vielschichtigkeit der deutschen Forschungslandschaft gerecht wird!

00:04:32: Experten man auch, dass Deutschland für technische Souveränität mehr Investitionen in eigene Infrastruktur und offene Modelle brauche.

00:04:42: Bis zu achtundachtzig Prozent weniger Token bei der Videoanalyse – das verspricht Google für seine Gemini Flash-Modelle.

00:04:50: Möglich macht es ein Modell, das sich seine Videoausschnitte selbst aussucht!

00:04:55: Jonathan Kemper von The Decoder erklärt wie das funktioniert.

00:04:59: Google hat seine neuesten Modelle mit einer neuen Form der Videoanalyse ausgestattet.

00:05:03: Statt ein Video Star-Bild für Bild abzutasten, sucht das Modell nun gezielt nach relevanten Stellen.

00:05:09: Laut Google sinken dadurch der Tokenverbrauch um bis zu achtundachtzig Prozent und die Kosten um bis zur sechsensechzig Prozent – Die Genauigkeit steigt immerhin leicht!

00:05:17: Die Funktion gibt es für die aktuellen Modele Gemini three point sieben Flash, drei Punkt sechs Flash und drei Punkt fünf Flash Light.

00:05:23: Sie sollen damit auch sehr kurz im Moment erkennen, die weniger als eine Sekunde dauern.

00:05:28: Dazu zählen etwa schnelle Zustandsänderungen oder Schnitte, die bei der bisherigen Abtastung von einem Bild pro Sekunde verloren gingen.

00:05:34: Bislang verarbeitete Gemini-Videostatisch mit fester Bildrate und transkribierte zusätzlich den Ton.

00:05:40: Die agentische Variante gibt dem Modell nun Videowerkzeuge an die Hand.

00:05:44: Darüber entscheidet es selbst welche Abschnitte es sich ansieht Mit welcher Geschwindigkeit und über welche Ebene Also Bild, Audiospur oder Transkript.

00:05:52: Ein solches selektives Vorgehen konnten Entwickler zwar auch bisher manuell programmieren.

00:05:56: Nun übernimmt das Modell diesen Aufwand selbst, ähnlich wie bei der zuvor eingeführten Bildanalyse, bei der das Model eigenständig zoomt und zuschneidet.

00:06:04: Besonders deutlich fallen die Einsparungen bei langen Videos aus – etwa neunzigminütigen Vorlesung!

00:06:09: In eigenen Benchmarks erreichte Drei-Punktsieben Flash mit agentischer Analyse die beste Gesamtqualität und zugleich das beste Verhältnis aus Qualität und Kosten.

00:06:18: Die Funktion steht ab sofort über die API bereit.

00:06:20: Entwickler müssen die Verarbeitung dafür in der Konfiguration auf Agentec setzen.

00:06:25: Eine zusätzliche Gebühr fällt laut Google nicht an.

00:06:27: Es gelten die üblichen Tokenpreise.

00:06:30: Später soll die Funktion auch in die Germany App kommen und die Function Ask YouTube antreiben.

00:06:39: Fable-Fünf.Eins ist allgemein verfügbar, das neue Mythos wie gehabt nur über spezielle Zugangsprogramme für Salversicherheit und Biowissenschaften.

00:07:02: Anthropic wirbt mit rund twenty-fünf Prozent niedrigeren Kosten bei typischen Aufgaben – die Analysefirma Artificial Analysis kommt aber zu dem gegenteiligen Ergebnis auf der höchsten Rechenstufe.

00:07:15: Kostet Fable fünf Punkt Eins pro Aufgabe rund zwanzig Prozent mehr!

00:07:20: weil das Modell mehr als anderthalbfach so viele Ausgabentoken erzeugt.

00:07:26: In Benchmarks legt es vor allem bei agentischen Aufgaben zu, auf knapp sechsundfünfzig Prozent gegenüber zweiundvierzig beim Vorgänger!

00:07:35: Darüber hinaus hat Anthropic den Model-Hardware-Standard vorgestellt.

00:07:39: Damit sollen KI-Agenten Hardware wie zum Beispiel Laborgeräte, Roboterarme und Laser direkt ansteuern können, erklärt Caroline Riedtmüller von Heise Online.

00:07:49: Anthropic hat mit dem Model- Hardware Standard – kurz MHS – eine Forscher auf eine neue Spezifikation vorgestellt über die KI-Agenden wie Klot physische Geräte direkt ansteuern können ist definiert so etwas wie eine standardisierte Treiberschicht zwischen Betriebssystem und Gerät.

00:08:05: Bislang erfordert es oft viel Arbeit, Programme zu schreiben über die verschiedene Geräte wie Kameras- und Roboterarme sowohl miteinander kommunizieren können als auch in automatisierte Workflows mit KI eingebunden werden können – weil einem Standard wie MS soll das deutlich schneller gehen!

00:08:21: Im Kern ist MS eines Software welche die Kommunikation zwischen der Hardware und dem Computer übersetzt.

00:08:27: Im Zentrum steht eine kleine Menge grundlegende Operationen, die von dem meisten Gerät verstanden wird wie Read oder Write.

00:08:34: Zusätzlich macht der MS-Treiber Geräte in einem einheitlichen Datenformat aufhindbar so dass sie für andere Geräten und KI-Agenten ansprechbar sind.

00:08:42: Hinzu kommt ein Taggingsystem für Hardwaremeterdaten.

00:08:45: Darin lassen sich physische Eigenschaften und Einschränkungen beschreiben Die aus dem Code allein nicht hervorgehen Wie zum Beispiel das Gewicht oder die Reichweite eines Roboterarms.

00:08:54: Dank einer solchen Referenzdatei soll der KI-Agent alle nötigen Informationen zur Bediedung des Geräts vorliegen haben.

00:09:00: Wie Anthropic in seinem Blog erläutert, ist der Standard zunächst nur für einige Forschungslaborer und Hersteller in der Fertigung zugänglich.

00:09:07: Später plant das Unternehmen MRS als Open Source Standard bereitzustellen.

00:09:11: Die Entwicklung begann als Zusammenarbeit zwischen Anthropic und dem HHMI Janelia Research Campus.

00:09:16: Ob das Verfahren auch tatsächlich zum Branchungsstandard wird?

00:09:19: Muss ich zeigen!

00:09:20: Namhaftel Partner kann Anthropic Auch Gründungsvater des Model-Context-Protokolls auf jeden Fall schon vorweisen.

00:09:26: Danke, Caroline!

00:09:28: Und wir bleiben noch einen Moment bei Anthropic.

00:09:31: Über eine neue Schnittstelle lassen sich nun mit clodgenerierte Texte erkennen.

00:09:37: Hintergrund ist die europäische KI-Verordnung nach der Neue Sprachmodelle seit dem zweiten August ein Wasserzeichen einbetten müssen.

00:09:44: Zugriff auf die neue Schnittstelle bekommen zunächst Behörden, Medien-, Faktenprüfer, Forscherinnen- und Bildungseinrichtungen sowie gesellschaftliche Gruppen in der EU.

00:09:54: Das Verfahren stand von Google – und verändert die Wortwahl des Modells so, dass ein statistisch nachweisbares Muster entsteht.

00:10:01: Anthropik zufolge leidet die Textqualität darunter nicht.

00:10:05: Kritiker bezweifeln das allerdings, weil das Modell zwischen synonym nach einem festen Schlüssel wählt statt Nachbedeutung!

00:10:13: Viele Nutzerinnen und Nutzer von Claude wurden offenbar kürzlich aus ihren Accounts ausgelockt.

00:10:19: Ansropik hat dies gezielt als Vorsichtsmaßnahme getan, nachdem Cyberkriminelle die Zugangsdaten einiger Nutzende über Infostealer Malware gestohlen hatten.

00:10:30: Das Unternehmen entfernte vorsorglich auch interlegte Zahlungsmittel.

00:10:34: Die Angreifer nutzten gestohlene Log-in Sessions um auf Claude Konten zuzugreifen und verfügbare Token zu verbrauchen.

00:10:41: Betroffen waren hauptsächlich Windows-Rechner mit Infostealern wie Vida, Lumma oder Redline.

00:10:48: Vereinstet auch Max mit Atomicstealer.

00:10:51: Anthropik empfiehlt Betroffenen ihre Systeme auf Merway zu prüfen, E-Mailpasswörter zu ändern, zwei Faktor-Authentifizierung zu aktivieren und gespeicherte Passwörtern zu erneuern – erst danach sollten neue Zahlungsinformationen hinterlegt

00:11:05: werden!

00:11:07: Nachdem OpenClaw Anfang des Jahres einen regelrechten Hype um persönliche KI-Agenten ausgelöst hat, wurde nun Version zwei Punkt Null veröffentlicht.

00:11:17: Tomislav Bismailinovic von Heise Online hat sich das Update angeschaut.

00:11:21: Das OpenClar-Team hat Version zwei point Null seiner Open Source Plattform für persönlichen KI-Agenden veröffentlicht.

00:11:29: An dem bislang größten Update wirkten mehr als neunhundert Entwicklerinnen und Entwickler mit die knapp siebzehntausend Verbesserungen einbrachten.

00:11:37: Das zeigt, welchen Stellenwert das Update hat.

00:11:40: Die Installation ist jetzt deutlich einfacher.

00:11:43: Bei der Ersteinrichtung berücksichtigt OpenClaw bereits vorhandene Abos bei Chatchity Beauty oder Claws sowie eigene API Schlüssel.

00:11:52: Auch die Browser App wurde überarbeitet.

00:11:54: Sie startet direkt mit deiner Verhaltung so dass sich laufende Aufgaben leicht wieder aufnehmen und die Arbeit des Agenten bei Bedarf live mitverfolgen lässt.

00:12:04: Neue sind außerdem sogenannte Shared Cloud Sessions.

00:12:07: Damit können mehrere Nutzer gemeinsam an einer laufenden OpenCloud-Sitzung arbeiten oder Aufgaben einander übergeben, ohne dass der bisherige Kontext verloren geht.

00:12:18: Das OpenCloud Team bezeichnet das als Multiplayer und setzt die Funktion nach eigenen Angaben inzwischen selbst bei der Entwicklung des Projekts ein.

00:12:27: Noch tiefgreifender sind die Änderungen bei den agentischen Fähigkeiten.

00:12:32: In persönlichen Installationen kann eine Funktion namens Active Memory begrenzt Informationen aus früheren privaten Unterhaltungen desselben Agenten abrufen.

00:12:42: Das standardmäßig aktivierte Grounded Dreaming wiederum soll relevante Inhalte im Hintergrund zu längerfristigen Erinnerungen verdichten.

00:12:52: Dazu kommt ein Self-Learning System, das wieder verwendbare Erkenntnisse erfasst und geprüfte oder vom integrierten Skill Workshop verwaltete Fähigkeiten automatisch anwenden kann.

00:13:04: Auch bei der Computersteuerung legt das Open Cloud Team nach.

00:13:07: Auf gekoppelten Macs kann der Agent Desktop Oberflächen bedienen Unter Windows und Linux ist diese Funktion allerdings noch experimentell.

00:13:17: Bemerkenswert ist dass der Blog beitragt die Sicherheit nur beiläufig erwähnt Und wo sich für OpenCloud weiterhin ein zentrales Thema ist.

00:13:25: Version zwei Punkt Null bringt unter anderem neue Schutzmechanismen für Zugangsdaten, Plugins und gemeinsam genutzte Sitzungen.

00:13:34: Rundlegende Risiken wie Prompt Injection bestehen aber weiterhin – und das Sandboxing ist standardmäßig

00:13:40: deaktiviert.".

00:13:41: Dankeschön Tomislav!

00:13:44: Nvidia investiert drei Komma fünf Milliarden US-Dollar in das thaiwanese Unternehmen Mediatek.

00:13:51: Das ist die bisher größte Direktinvestition des US-Chip-Konzerns außerhalb der Vereinigten Staaten.

00:13:57: Mediatek übernimmt Nvidia's NVLink-Plattform, wodurch Kunden Nvidia Technologie für eigene KI-Chib Designs nutzen können – sie können sich dann auf das Design konzentrieren während die Integration in Nvidia Systeme vereinfacht wird!

00:14:11: Dadurch baut Nvidia mit der Investition seine finanziellen Verflechtungen innerhalb der KI-Branche weiter aus und stellt sicher, dass die Entwicklung in Zukunft auf der konzerneigenen Hardware-Plattform und den Konzerneigenden Standards basiert.

00:14:26: Mediatek & NVIDIA entwickeln gemeinsam KI-Platform für PCs und Autos.

00:14:31: Mediatek unterstützt darüber hinaus NVIDIAS Notebook Prozessor RTX Spark für KI Funktionen auf Laptops.

00:14:38: Die Sicherheitsfirma Manifold hat eine Angriffsmöglichkeit durch manipulierte Git-Repositories entdeckt.

00:14:46: Diese enthalten Schadcode in der Konfiguration, den KI-Agenten beim Öffnen eines Repositories automatisch ausführen und das mit vollen Entwicklerechten.

00:14:56: Zwar funktioniert dies nicht unter alltäglichen Bedingungen betont Wolf Hausbach von Heise Developer – trotzdem zeigt er Fall ein größeres Problem!

00:15:04: Im Detail muss man vielleicht verstehen, was Git macht.

00:15:09: Also Git ist ein Verwaltungstool für Softwarecode das eigentlich alle Entwickler verwenden.

00:15:18: Der Code liegt in sogenannten Repositories und die KI-Agenten wie ich hier beim Programmieren helfen sollen nutzen diese Repository als Ausgangsbasis für ihren Kontext und sozusagen hier bewegen sich innerhalb dieses Projekts.

00:15:35: Und was jetzt eben nicht so bekannt war, ist dass diese Agenten, wenn sie starten, sich erst mal einen kompletten Überblick über das Repository im Hintergrund verschaffen – und zwar mit vollem Rechten des Entwicklers ohne dass die in ihrer Sandbox wären, in ihrer Sicherheitssandbox und ohne Vertrauenseinschränkungen.

00:15:57: Also die konnten jetzt eigentlich beim Start kurz machen, was sie wollten und was jetzt erstmal eigentlich irgendwo vielleicht auch sinnvoll ist weil Sie sind dann schnell auf Diskurshöhe und einsatzbereit.

00:16:13: Der Sicherheitsvorfall ist einfach der dass diese ersten Befehle der Agenten also zum Beispiel die kennt jeder Entwickler das es Git, Status oder Diff Die ließen sich oder lassen sich in der Konfiguration umlenken auf den Start eines Programms.

00:16:30: Und die Firma hat hier einen hübschen Taschenrechner gestartet, aber da geht natürlich auch ein Toyana.

00:16:37: Also zur Einschätzung das Potenzial der Lücke ist hoch und sehr weit verbreitet weil eigentlich... ...die Firma hat uns gesagt dass eigentlich alle Hersteller betroffen wären.

00:16:47: Die komplette Liste ist noch nicht freigegeben weil hier einige KI-Hersteller noch in der Disclosure Phase sind.

00:16:54: Also die Hersteller haben sozusagen Zeit nach Bekanntgabe, die Sache erst mal zu fixen bevor es veröffentlicht wird.

00:17:01: und bekannt sind Claude, Codex, Cursor, Grock, Quinn und noch nicht bestätigt sind Open Air und Google aber wie gesagt indirekt scheinen sie auch betroffen zu sein.

00:17:15: Die meisten haben es aber gefixt inzwischen, muss man sagen.

00:17:19: Oder sind dabei zur Einschränkung?

00:17:22: Muss man sagen das betrifft jetzt nur Repositories die Man per ZIP oder per Datei bekommen hat.

00:17:30: er hat einem vielleicht irgendein Kollege gegeben hier schau mal rein und dieses sind dieses repo.

00:17:34: also die üblichen Wege die man normalerweise geht über Klonen oder Fetch oder dergleichen übers internet sind nicht Betroffen als es funktioniert eigentlich nur mit einer Händisch kopierten Git-Konfiguration.

00:17:52: Ich finde bei der Geschichte das Verhalten von den KI-Firmen ist erst mal, sich alles zu nehmen und alles zu greifen ohne irgendwelche Regeln zu beachten.

00:18:04: Es ist ein bisschen so'n Trend, der mit der KI über uns gekommen ist.

00:18:10: Das ist schon hohes Maß an RAVG, was die Firmen hier immer zeigen.

00:18:15: ob es jetzt erstmal sinnvoll ist oder nicht sei dahingestellt.

00:18:18: Aber ich finde das so ein bisschen eine rücksichtslose Tendenz, die sich eigentlich auch in anderen Bereichen

00:18:25: zeigt.".

00:18:26: Vielen Dank Wolf!

00:18:28: Das Debian-Projekt hat sich gegen ein Verbot und für Responsible Use of Generative AI entschieden.

00:18:36: Das Deban-Project ist ein weltweiter Zusammenschluss von Freiwilligen, die gemeinsam das Quell offene Betriebssystem Debian GNU Linux entwickeln.

00:18:44: In einer Grundsatzentscheidung lehnten jetzt die Teilnehmenden sowohl KI-Verbote als auch verpflichtende Sonderregeln ab.

00:18:52: KI-gestützte Beiträge bleiben also zulässig vorausgesetzt, sie sind technisch korrekt und rechtlich zulässigt.

00:18:59: Entwicklerinnen und Entwickler tragen die volle Verantwortung für KI Ausgaben – Transparenz über die KI-Nutzung wird nur empfohlen nicht vorgeschrieben!

00:19:08: Ein vollständiges KI-Verbot scheiterte an der nötigen Dreiviertelmehrheit.

00:19:14: Die Organisation Algorithm Watch hat Google's KI-Übersichten bei wahlbezogenen Suchanfragen untersucht.

00:19:21: Grundlage waren rund viertausend Fünfhundert Anfragen zu den Landtagswahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern sowie zur Berliner Abgeordnetenhauswahl.

00:19:31: Das Urteil fällt kritisch aus – bei Wahlfragen zeigte Google deutlich seltener eine KI-übersicht als bei unpolitischen Anfragen, in nur gut einem Drittel der Fälle!

00:19:42: Fragen zur AfD führten dabei nur etwa halb so oft zu einer Übersicht wie Fragen zu anderen Parteien.

00:19:49: Ein Google-Sprecher erklärte, die Funktion sei neutral gestaltet und erscheine nur bei hohem Mehrwert.

00:19:54: Algorithm Watch kritisiert außerdem die Quellenauswahl – fast die Hälfte aller Links stammte von nur zehn Domains am häufigsten von Googles eigener Plattform YouTube!

00:20:06: Die Organisation wertete das als Bevorzugung eigener Angebote – Google bestreitet es.

00:20:11: Zudem beschreibe die KI politische Position häufig mit lobenden Adjektiven wie pragmatisch oder bürgernah.

00:20:20: AlgorithmWatch führt das auf die bekannte Neigung von Sprachmodellen zur Schmeichelei zurück und fordert Transparenz- und Haftungsregeln – immerhin, eindeutige Faktenfehler fand Algorithmmatch anders als in früheren Untersuchungen nur noch

00:20:34: selten.".

00:20:36: Das war das KI Update von Heise Online vom September, zwei Tausendsechsundzwanzig.

00:20:41: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.