KI-Update kompakt: Anthropic, Gehirnforschung, KI-Vorsprung, Erdős-Problem

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewalds und dies sind heute unter anderem unsere Themen.

00:00:17: Anthropics aussichtloser Kampf gegen den Lieg des Quellcodes – was passiert im Gehirn wenn man einer KI vertraut?

00:00:25: US-Behörde behauptet wachsenden KI Vorsprung vor China!

00:00:29: Und KI löst sechzig Jahre altes Matheproblemen mit neuem Ansatz.

00:00:36: Ende März tauchte plötzlich der Quellcode von Cloud Code öffentlich im Netz auf.

00:00:42: Anthropic kämpft nun schon seit Wochen dagegen an, dass sich der Code weiter verbreitet.

00:00:47: Warum das so schwierig ist hat sich mein Kollege Robin Ahrens von der CT genauer angeschaut.

00:00:52: Es war Unachtsamkeit und kein ausgeklügelter Angriff – Der Queltex von CloudCode landete öffentlich zugänglich im Internet weil Entwicklerinnen versehentlich eine Sourcemap-Datei mitveröffentlichten.

00:01:03: Mit Source Maps lässt sich kompilierter Code auf den ursprünglichen Quelltext zurückführen und das geschah dann auch.

00:01:09: Nach nur kurzer Zeit landeten eine halbe Million Zeilen Quellcode von Cloud Code im Internet, und verbreiteten sich dort rasant.

00:01:15: Noch bevor Anthropic den League bemerkte wurde es Datenpaket tausende Male auf GitHub geforgt.

00:01:21: Gegen solche Kopien versucht sich Anthropic nun seit Wochen zu wehren – über achttausend Löschanträge soll das Unternehmen im Sinne des Digital Millennium Copyright Act gestellt haben!

00:01:31: Das US-amerikanische Urheberrechtsgesetz regelt den Schutz digitaler Inhalte.

00:01:36: Seine Verfahrensweisen stehen aber schon lange in der Kritik, denn das aktuelle DMCA System zwingt Plattformbetreiberin dazu, Inhalts sofort und ohne gerichtliche Prüfung zu entfernen – das geschah auch im Fall von Claude Cote.

00:01:49: Zunächst ließ Anthropic Tausende Github repositorisch sperren.

00:01:53: Letztendlich beschränkte das Unternehmen seine Forderungen aber auf knapp hundert Kopien des Quelltecks von Claute Cote.

00:01:59: Die Coding-Community reagierte auf die Löschwelle auf ganz eigene Weise, nämlich mit Clawcode.

00:02:04: Das ist eine wahlgecodete unabhängige Neuentwicklung der geleagten Kernarchitektur von Claude Code – quasi einer mit KI übersetzte Code-Kopie, die aber keine propriätären Dateien von Anthropic mehr enthält!

00:02:16: Für den Konzern wird es also schwierig, Urheberrechtsansprüche dagegen gelten zu machen….

00:02:21: Der League von Cloud Code offenbart aber auch viel grundsätzlichere juristische Fragestellungen, denn das Coding Tool soll sich quasi selbst geschrieben haben.

00:02:29: Rund neunzig Prozent seiner aktuellen Versionen sollen mithilfe einer Vorgängerversion des Coding Assistenten entstanden sein.

00:02:35: Damit stellt sich die Frage danach ob der KI-Queltex überhaupt Copyright Schutz genießt – bislang haben OS Gerichte ja schon mehrfach klargestellt dass vollständige KI Erzeugnisse eben nicht durch das Urheberrecht geschützt sind.

00:02:46: Anthropic würde sich also mit dem Versuch, vermeintliche Rechte am Code durchzusetzen auf unsicheres Terrain begeben.

00:02:52: Danke schön Robin!

00:02:54: Beim Softwareunternehmen PocketOS hat ein KI-Agent fast alle Daten gelöscht – auch in der Produktionsumgebung.

00:03:03: Verantwortlich war die KI gestützte Entwicklungsumgebungen Cursor betrieben mit Anthropics Modell Claude Opus.

00:03:10: Der Agent arbeitet im Staging-Environment und stieß auf einen Credential Mismatch.

00:03:16: Zur Behebung wollte er ein Datenvolumen beim Cloud-Anbieter Railway löschen, dafür nutzte er ein Token den er an anderer Stelle fand – dieser Token war eigentlich nur für Domainverwaltung gedacht!

00:03:28: Er hatte aber auch Zugriff auf destruktive Operationen.

00:03:32: Innerhalb weniger Sekunden löschte der Agent damit Daten der vergangenen drei Monate inklusive der Backups.

00:03:39: Der Agent gestand danach schriftlich seinen Fehler.

00:03:42: Er hatte Annahmen getroffen, ohne die Dokumentation zu prüfen – zudem missachtete er seine eigenen Safeguards, die destruktive Befehle ohne ausdrückliche Nutzerfreigabe eigentlich verbieten!

00:03:54: Pocket OS-Chef Jared Crane wart nun andere Firmen.

00:03:58: Hersteller würden KI-Agenten zu schnell auf Produktivsysteme loslassen, ohne ausreichende Sicherheitsvorkehrungen.

00:04:06: Die vier großen Tech-Konzerne googeln Amazon, Microsoft und Meta.

00:04:11: Planen in diesem Jahr insgesamt rund sevenhundertundzwanzig Milliarden US-Dollar in KI zu investieren – das berichtet die Financial Times!

00:04:20: Die Summe liegt siebzig Prozent über der Rekordsumme von vierhundertzehn Milliarden im letzten Jahr.

00:04:27: Bereits im ersten Quartal erreichten die Ausgaben einhundertdreißig Milliarden Dollar.

00:04:32: Bei den letzten Quartalzzahlen stach Google mit einem Cloud-Umsatzwachstum von dreiundsechzig Prozent hervor.

00:04:39: Steigende Preise für Speicherchips und andere Komponenten treiben die Kosten dafür zusätzlich in die Höhe.

00:04:45: Trotz der enormen Investition gehen sowohl Google als auch Microsoft davon aus, dass die Rechenkapazitäten zu gering sind um die Nachfrage zu bedienen.

00:04:54: Microsoftchefs Satya Nadella erklärte wie die Ausgaben wieder hereinkommen sollen!

00:04:59: Die Softwarebranche bewege sich von festen Lizenzpreisen pro Nutzer hinzu, LizenzPreisen mit zusätzlichen Nutzungsgebühren.

00:05:08: Kurz gesagt – Software wird teurer!

00:05:12: Forschende der TU Berlin haben im Gehirn nach Anzeichen für Vertrauen in KI-Systeme gesucht.

00:05:18: In dem DFG geförderten Projekt mit dem etwas sperrigen Namen Neuronale Korrelate von Vertrauen Ging sie der Frage nach, inwiefern Vertrauen daran erkennbar wird wie stark Menschen kognitive Prozesse zum Beispiel das Erinnern von Informationen an KI-Systeme auslagern?

00:05:39: Wie genau die Forscherinnen und Forscher vorgegangen sind erklärt Jenny Lippies von der MIT Technology Review.

00:05:45: Anstatt die Probanden nach ihrer eigenen Einschätzung zur KI Nutzung zu fragen oder schlicht deren Verhalten zu beobachten untersuchten die Forsche die Gehirnaktivität.

00:05:56: Über ein EEG konnten sie Hirnströme messen und Veränderungen in der Aufmerksamkeit unter Gedächtnisleistung erkennen.

00:06:03: Die Forscher haben zunächst auf die Aufmerksamkeit geschaut, also wie stark das Gehirn auf bestimmtes fokussiert ist – dass wird deutlich durch den neuronalen Marker N-II PC.

00:06:15: Je höher der N-IPC währt, desto stärker ist man fokassiert auf etwas.

00:06:22: Wenn Menschen mit einer zuverlässigen KI arbeiten, sind sie selbst weniger aufmerksam und der N-II PC Wert fällt geringer aus.

00:06:31: Ihr Gehirn entspannt sich gewissermaßen, weil es sich eben auch die KI verlässt.

00:06:37: Im Gegensatz dazu ist die KI fehleranfällig, steigt die Aufmerksamkeit, die Menschen kontrollieren stärker selbst und vertrauen weniger.

00:06:46: In einer zweiten Studie haben die Forscher ein anderes Signal im Gehirnt gemessen – die CDA.

00:06:52: Dieser neuronale Marker bezeigt die Belastung des visuellen Kurzzeitgedächtnisses an, also wie sehr das Gehirn gerade damit beschäftigt ist, Informationen kurzfristig festzuhalten.

00:07:05: Und auch hier kommen die Forscher zu dem Schluss – je höher die CDR desto geringer das Vertrauen in die KI.

00:07:13: insgesamt konnten die Forsche also das kognitive Auslagern von Prozessen dieses Offloading

00:07:19: nachzeichnen.".

00:07:21: Als nächstes plant das Forschungsteam der TU Berlin, die erhobenen Messdaten mit bestätigen Vertrauensmodellen zu verknüpfen.

00:07:29: Außerdem soll die Dynamik von Vertrauen näher betrachtet werden – vor allem wenn es um die Frage geht wie sich verlorenes Vertrauen in KI-Systeme wieder herstellen lässt?

00:07:40: Die Forscher sehen ihre Arbeit v.a.

00:07:42: wichtig für Bereiche wo Menschen mit KI insensiblen Kontexten zusammenarbeiten wie etwa die medizinische Diagnostik oder die Qualitätskontrolle in Industrien.

00:07:54: Vielen Dank Jenny!

00:07:56: Google's KI-Assistent Gemini bekommt in Deutschland neue Funktionen, er soll mehr zu einem persönlichen Begleiter werden.

00:08:04: Im Mittelpunkt steht die Funktion gemerkte Informationen.

00:08:08: Sie ist eine Vorstufe der in den USA verfügbaren Personal Intelligence.

00:08:12: Die kann auf Gmail Fotos und den YouTube Verlauf zugreifen und daraus Schlüsse ziehen.

00:08:17: Die deutsche Version geht weniger weit.

00:08:19: Gemini lernt hier aus vergangenen Unterhaltungen und merkt sich vorliebender Menschen – so sollen Antworten natürlicher und relevanter werden!

00:08:28: Als Beispiel nennt Google das Gemini bei der Geburtstagsplanung, das Lieblings-Comicbuch der Nutzerin berücksichtigt.

00:08:35: Die Funktion ist standardmäßig aktiviert, Nutzende können sie in den Einstellungen aber ausschalten.

00:08:41: Zusätzlich gibt es eine Importfunktion, mit der sich Chatverläufe und Erinnerungen aus konkurrierenden KI-Apps in Gemini übertragen lassen.

00:08:49: Weitere Neuerungen wird Google wohl auf der Entwicklerkonferenz IO in ein paar Wochen zeigen – dann dürfte es auch um agentische Funktionen für Android gehen!

00:08:59: OpenAI hat in den USA seine Datenschutzerklärung angepasst.

00:09:04: Wer ChatGPT oder Codecs weiter nutzen will muss zustimmen.

00:09:09: Neu ist die Erwähnung von Marketingpartnern.

00:09:12: Mit ihnen können Nutzerdaten geteilt und Cookies gesetzt werden!

00:09:16: Wir kennen das von Social Media Apps, bei denen sich so persönliche Daten für Werbung nutzen lassen.

00:09:21: Da Menschen mit ChatGPT oft sehr persönliche Informationen teilen, weist OpenAI daraufhin, dass Inhalte aus den Chats nicht weitergegeben werden sollen – das Unternehmen spricht aber ausdrücklich von Targeted Advertising.

00:09:35: Das Tracking soll zielgerichtete Werbung direkt in ChatGPT ermöglichen.

00:09:40: Die soll aber optisch von Chat-Inhalten getrennt sein!

00:09:43: Bei Gratisnutzerinnen und Nutzern ist das Tracking standardmäßig aktiviert, ein Optout ist jedoch möglich.

00:09:49: OpenAI hatte bereits Anfang des Jahres angekündigt aus Kostengründen verstärkt auf Werbung zu setzen – wann die Funktionen in die EU kommen, ist allerdings noch offen denn bei uns gelten durch die DSGVO und den DSA strengere Regeln.

00:10:05: Eine US-Behörde behauptet, dass China im KI-Weltrennen zunehmend zurückfällt.

00:10:10: Das Center for AI Standards and Innovation hat das neue chinesische Open Weight Modell DeepSeq VIV Pro getestet – nach dessen Einschätzung liegt dies in der Leistung rund acht Monate hinter den führenden US-Modellen!

00:10:25: Mehr dazu weiß Kim Scheurenbrand von The Decoder.

00:10:28: Getestet wurden unter anderem Cyber-Sicherheit, Softwareentwicklung, Mathematik und abstraktes Denken.

00:10:34: Die PSYQV IV ist laut der Behörde zwar das bisher leistungsfähigte chinesische KI Modell – in nicht öffentlichen Testschneider es allerdings schlechter ab als im eigenen technischen Bericht dargestellt.

00:10:46: Dort erscheint es auf Augenhöhe mit aktuellen US-Modellen wie Opus four point six und GPT five point vier.

00:10:53: In Wirklichkeit entspreche es aber eher dem älteren GPT-Fünf.

00:10:57: In Mathematikaufgaben kommt DeepSync VIV dagegen fast an die besten OS-Modelle heran.

00:11:03: Die Behörde gehört zum National Institute of Standards and Technology, kurz NIST einer US-Bundeseinrichtung.

00:11:11: Sie zeichnet ein Bild, wonach sich der Abstand zwischen US und chinesischen Modellen vergrößert.

00:11:17: Beim Preis hat die PSI-QVIV jedoch einen klaren Vorteil.

00:11:21: In fünf von sieben Tests kostet es weniger als das vergleichbare GPT-Fünf Punkt vier Mini, und der Preis wird zunimmt.

00:11:29: wichtiger – KI Modelle sollen immer länger am Stück arbeiten und mehr Aufgaben übernehmen.

00:11:35: Gleichzeitig werden die ohnehin etwas teureren OS-Modelle noch teurer!

00:11:40: Dementsprechend wichtig könnte sich die Preisgestaltung zukünftig auf den internationalen Erfolg verschiedener Modelle auswirken.

00:11:47: Danke schön, Kim.

00:11:49: Der chinesische Elektronikkonzern Xiaomi hat das KI-Modell MIMO V II.V Pro veröffentlicht.

00:11:56: Es ist auf langwieriger autonomer Aufgaben ausgelegt und soll stundenlang eigenständig an komplexen Projekten arbeiten können.

00:12:05: In einem internen Test programmierte das Modell einen vollständigen Compiler in vier eineinhalb

00:12:10: Stunden.

00:12:11: MIMo VII.V pro nutzt einer Architektur namens Mixture of Experts.

00:12:17: Dabei wird nicht das gesamte Modell für jede Anfrage aktiviert, sondern jeweils nur ein Teil.

00:12:22: Insgesamt umfasst es rund eine Billion Parameter – pro Anfrage sind zweiundvierzig Milliarden davon aktiv!

00:12:30: Auf dem Programmier-Benchmark SWE Bench Verified erreicht es knapp neunundsebzig Punkte und legt damit nah an AnsropEx Cloud Obus vier Punkt sechs.

00:12:40: Wie auch DeepSeek will Xiaomi mit dem Modell vor allem über das Preisleistungsverhältnis punkten.

00:12:45: Es verbrauche pro Aufgabe vierzig bis sechszig Prozent weniger Token als vergleichbare US-Mutelle.

00:12:53: Bislang glänzte KI in der Mathematik in erster Linie damit, bereits publizierte Lösungen für komplexe Beweise zu finden!

00:13:01: Nun hat eine KI zum ersten Mal einen komplett neuen Lösungsweg für ein mathematisches Problem gefunden, an dem sich Forscherinnen und Forscher bislang die Zähne ausgebissen haben – berichtet Volker Zruder von Heiser Online.

00:13:14: Der Dreiundzwanzigjährige Liam Price hat mit einem einzigen Prompt an GPT-Fünf.vpro ein mathematisches Problem gelöst, das sechzig Jahre lang offen war – ein sogenanntes Erdöschproblem benannt nach dem ungarischen Mathematiker Paul Erdösch.

00:13:29: Das Kuriose dabei?

00:13:30: Price sagt selbst er weiß gar nicht so genau worum es bei diesem Problem eigentlich geht.

00:13:35: Ab und zu wirft der Erdölschproblem einfach in die KI und schaut was zurückkommt.

00:13:39: Im Kern geht es um eine alte Vermutung zu bestimmten Zahlenmengen Die beste Ernährung stammte bisher aus dem Jahr im Jahr und Jahr zwanzig, ließ aber noch rund vierzig Prozent Luft zu einem vermuteten Grenzwert.

00:13:51: Und genau diese Lücke hat die KI jetzt geschlossen.

00:13:54: Spannend ist vor allem der Weg dorthin!

00:13:56: Die Fachwelt hat sich jahrzehnt lang auf einen bestimmten Ansatz eingeschossen – die KI hat den einfach ignoriert und fand eine elegantere Abkürzung über die Wahrscheinlichkeitstheorie.

00:14:08: Terence Tao Träger der Filzmedaille, das ist sowas wie der Nobelpreis für Mathematik spricht von einer Art kollektiver Denkplokade der Mathematiker.

00:14:17: Allerdings war die Rohausgabe der KI schwer verständlich.

00:14:21: Tao und ein Kollege haben den Beweis dann formal noch einmal korrekt aufgeschrieben.

00:14:26: Das heißt also Die KI ersetzt weder Borscher noch Mathematika.

00:14:30: Sie kann sie aber inspirieren und unterstützen.

00:14:32: Danke Volker!

00:14:34: Spotify führt einen Segel ein dass echte Künstlerinnen und Künstlern kennzeichnet.

00:14:39: Es erscheint auf deren Profilen in der Suche als verified by Spotify.

00:14:45: Vor der Vergabe prüft Spotify, ob eine identifizierbare Künstler Präsenz vorhanden ist – dazu zählen Konzerte, Merchandising und Social Media-Konten.

00:14:55: Auch die Einhaltung der Plattformregeln und stabile höherer Aktivität sind entscheidend.

00:15:00: Profile mit überwiegend KI-generator Musik werden von diesem Gütesiegel ausgeschlossen.

00:15:05: Ein fehlendes Siegel bedeutet aber nicht automatisch, dass hinter einem Profil eine KI-Persona steckt.

00:15:11: Die Maßnahme knüpft an frühere Schritte gegen KI Spam an.

00:15:16: Spotify hatte bereits strengere Regeln für KI Stimmklone und einen Spam Filter eingeführt.

00:15:22: Das Ausmaß des Problems zeigt der Konkurrent dieser – dort sind fast die Hälfte der täglich neu hochgeladenen Songs inzwischen KI generiert!

00:15:32: Spotify selbst arbeitet aber auch an KI-Funktionen, etwa zum lizenzierten Remix von Songs.

00:15:40: Lasst uns zum Schluss doch mal über Goblins sprechen!

00:15:43: OpenAI hat ein kurioses Problem seiner KI-Modelle untersucht.

00:15:48: Ab der Modellversion GPT-Fünf Punkt Eins begannen die Systeme zunehmend Goblins, Gremlins und andere Farbewesen in ihren Antworten zu erwähnen.

00:15:58: Die Zahl der Goblin-Erwähnungen stieg nach dem Start von GPT-Fünf Punkt Eins um onehundertfünfundsiebzig Prozent.

00:16:05: Die Ursache lag im Training einer Funktion namens Nerdy Personality.

00:16:11: Diese Funktion ändert den Sprachstil von ChatGPT – ein sogenanntes Belohnungssignal, das die Modelle sagt, welche Antworten gut zu diesem Profil passen bevorzugte versehentlich Metaphern mit Farbelwesen!

00:16:24: Nerdy machte zwar nur zwei Komma fünf Prozent aller Antworten aus, trotzdem entfielen zwei Drittel aller Goblin-Erwähnungen darauf.

00:16:33: Durch eine Rückkopplungsschleife im Training breitete sich die Eigenart auch auf andere Sprachstiele aus.

00:16:40: OpenAI schaltete Nerdy im März ab und entfernte das fehlerhafte Belohnungssignal.

00:16:46: Das Nachfolgemodell GPT-Fünf Punkt Fünf hatte das Problem aber trotzdem erneut!

00:16:51: weil dessen Training bereits begonnen hatte, bevor die Ursache für die Goblin-Vorliebe gefunden wurde.

00:16:58: OpenAI musste daher bei Codex – dem eigenen Coding Tool – eine spezielle Anweisung einbauen, die den Modell ausdrücklich verbietet über Goblins, Gremlins und andere Kreaturen zu sprechen.

00:17:12: Das war das KI Update von Heise Online vom vierten Mai im Jahr zwanzig.

00:17:17: Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab fünfzehn Uhr.