KI-Update kompakt: KI-Robotik, DiffusionGemma, Google DeepMind, Bakteriophagen

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:17: Europaretten mit Robotik?

00:00:20: Google baut Gemma per Diffusion zum schnellen Textmodell um.

00:00:25: DeepMind verliert weitere KI-Spitzenforscher – und KI entwirft lebensfähige Bakteriophagen!

00:00:33: Das Start-up Micro AGI aus München will nichts Geringeres als die Robotik umkrempeln.

00:00:40: Ben Schwahn sprach für heise online mit dem Gründer Berkhan Kilic über Training von und am Menschen – eine neue industrielle Revolution!

00:00:49: Robotics-Startups aus Deutschland erleben gerade einen echten Hype.

00:00:54: Nach über einer Milliarde Dollar an frischem Kapital für Neura Robotics aus Metzingen hat nun Micro-AGI aus München mit fifty-fünfzig Millionen Euro die bislang größte Seed-Investitionsrunde in Deutschland überhaupt eingeworben.

00:01:10: Die Firma Umberkan Kilic, der früher in der Formel eins arbeitete hat ein doppeltes Geschäftsmodell.

00:01:17: So verdingt sie sich als Robotik-Systemintegrator für Unternehmen um dort Arbeitsprozesse zu automatisieren samt passendem Nachtraining für die Fertigungsprozese.

00:01:28: Der zweite Teil von MicroAGI setzt auf einen KI Marktplatz bei dem massive Datenmengen gesammelt werden sollen, um physical AI erst zu ermöglichen.

00:01:38: Dabei tragen Menschen bei ihrer Tätigkeit Kameras und demnächst auch ein taktiles Erfassungssystem.

00:01:45: Der Gag daran?

00:01:47: Micro-AGI bezahlt Reinigungen, Kochsessions und andere Arbeiten im Haushalt.

00:01:52: Die Kunden müssen nur die Datenerfassung erlauben.

00:01:55: Parallel dazu können Menschen auch ihre aktuelle Tätigkeit selbst filmen und sich dafür dann bezahlen lassen.

00:02:01: Damit sollen deutlich schneller deutlich mehr Daten für das Roboter Training anfallen als dies mit der herkömmlichen Methode der sogenannten Teleoperation von humanoiden Robotern möglich wäre!

00:02:14: Micro-AGI Chef Kilic ist das alles sehr ernst.

00:02:17: Er fürchtet, dass nach der Produktion nun auch das geistige Eigentum der europäischen Industrie – nach China und anderswo abwandern könnte wenn Europa die Automatisierung nicht massiv vorantreiben.

00:02:29: Denn, sagte er im Interview mit Heise Online «die Zukunft komme so oder so».

00:02:34: Es entscheidet sich jetzt wer an der Wirtschaft von beteiligt werde!

00:02:40: Nach OpenAI und Anthropic räumt nun auch Meta ein, dass sich eigene KI-Software in fremde Systeme gehackt

00:02:48: hat.

00:02:49: Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner wie Meta unter anderem dem Sender CNN mitteilte.

00:03:02: Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet – was eigentlich gar nicht vorgesehen war!

00:03:09: Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrangen.

00:03:17: Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.

00:03:24: Nachdem unbemerkten Cyberangriff auf Huggingface hat OpenAI die Arbeit an dem dafür verantwortlichen neuen KI-Modell Astra teilweise ausgesetzt.

00:03:34: In einer Testumgebung gelang es den Modellen heimlich über ein Messageboard zu kommunizieren und gemeinsam eine Zero Day Lücke auszunutzen.

00:03:42: Dadurch erlangen sie die Kontrolle über einen Server, was später einen Angriff auf die Plattform Hugging Face ermöglichte.

00:03:49: OpenAI stuft die Fähigkeiten von Astra als potenziell kritisch ein – da das Modell eigenständig Schwachstellen in Systemen finden könnte!

00:03:59: bis die internen Sicherheits- und Überwachungsmaßnahmen verbessert sind, pausieren entsprechende Entwicklungsaktivitäten.

00:04:06: Fast alle heutigen Sprachmodelle schreiben Text token für token – doch Google DeepMind zeigt mit Diffusion Jammer dass es auch anders geht!

00:04:17: Inspiriert von Bildgeneratoren erstellt das Text aus zufälligem Rauschen was die Ausgabe deutlich verschnellert und strukturelle Probleme abschwächt.

00:04:26: Jonathan Kemper von The Decoder hat sich den technischen Bericht angesehen.

00:04:41: Ein klassisches autoregressives Modell muss die erste Ziffer hinschreiben, bevor es den Rechenweg kennt.

00:05:00: Gemma IV startet bei einer Matta-Aufgabe etwa mit minus eins, merkt beim Herleiten das minus fünfundzwanzig stimmt und korrigiert sich nachträglich.

00:05:08: Die Fusion Gemma hingegen entwickelt Antwort und Begründung gleichzeitig und tauscht die falsche Zahl aus, bevor überhaupt etwas beim Nutzer ankommt.

00:05:16: Beim Sodoku – wo ja jeder Eintrag von den anderen abhängt – löst es nach kurzem Fine Tuning knapp eighty-fünf Prozent der Rätsel.

00:05:23: Das Basis des Modells scheitete daran komplett.

00:05:26: Insgesamt bleibt die Fusion Gamer jedoch hinter dem Modell zurück, aus dem es entstanden

00:05:30: ist.

00:05:31: Manchmal hängt es in Wiederholungsschleifen fest und produziert einzelne Wörter mehrfach – und das Tempo gilt vor allem für einzelne Anfragen!

00:05:39: Ab etwa thirty-two gleichzeitig Nutzern ziehen klassische Sprachmodelle beim Durchsatz jedergleich.

00:05:45: Google stellt die Gewichte frei zur Verfügung und will damit die Forschung an Textdiffusionen anschieben.

00:05:50: Genutzt wird das bereits, etwa von einem Startup für multilinguale Spracherkennung und in einem Forschungsprojekt für Radiologiebefunde.

00:05:57: Danke Jonathan!

00:05:59: Google DeepMind hat ein KI-System zur Vorhersage tropischer Wirbelstürme vorgestellt – Weather Next Cyclones kann rund einen Tag weiter in die Zukunft blicken als führende operative Modelle.

00:06:12: Diese Verbesserungen entspricht dann etwa dem Fortschritt den klassische Wettermodelle in den vergangenen zehn Jahren erzielt haben?

00:06:19: Das System löst einen alten Zielkonflikt.

00:06:22: Bisher waren globale Modelle stark bei der Zugbahn, aber zu grob für die Intensität – bei spezialisierten Regionalmodellen ist es umgekehrt!

00:06:33: Weathernext Cyclones bearbeitet beides in einem System.

00:06:37: Bei einer Vorhersage fünf Tage im Voraus liegt die geschätzte Position des Sturmzentrums im Schnitt nur zweihundertdreißig Kilometer neben dem tatsächlichen Ort.

00:06:48: Bei einem Vergleichsmodell sind es dreihundert siebzig Kilometer.

00:06:52: Das Modell arbeitet dabei mit einem rund hundertmal gröberen Raster als bei spezialisierten Regionalmodellen – wie es dabei so genau vorhersagen erzeugt, bleibt laut DeepMind eine offene Forschungsfrage!

00:07:06: DeepMint versteht das System als Ergänzung nicht als Ersatz für klassische Modelle.

00:07:11: Code und Gewichte hat das Unternehmen frei verfügbar gemacht.

00:07:15: Seit Juni-Zweitausendfünfundzwanzig laufen die Vorhersagen live auf Google's Plattform WeatherLab.

00:07:22: Derweil baut Google die Führung seines KI Forschungslaborst DeepMind um, der bisherige CEO Demis Hassabis wechselt in eine strategische Rolle während Jeff Dean mit drei Spitzenforschern den Konzert verlässt.

00:07:37: Das sorgt für Unruhe in den Forschungsteams, berichtet Tomislav Besmalinovich von Heise Online.

00:07:42: Hassabis gibt die operative Leitung an dem bisherigen Technikchef des Labours Coray Kawukchulu ab und wird Vorsitzender von Google DeepMind sowie Chief Scientist des Mutterkonzerns Alphabet.

00:07:56: künftig will er gemeinsam mit Google Chef Sunder Pichai an strategischen Fragen rund um die Entwicklung allgemeiner künstlicher Intelligenz arbeiten und die neue DeepMind Führung beraten.

00:08:08: Zudem will er sich stärker bei Isomorphic Labs engagieren, dem von ihm gegründeten KI-Unternehmen für Medikamentenentwicklung.

00:08:17: Hassabis kam in den Jahren der Übernahme des von ihm mitgegründete KI-Laborst DeepMIND zu Google.

00:08:24: Für seine Arbeit an AlphaFold erhielt er den Nobelpreis für Chemie.

00:08:30: Während Hassabis Google in neuer Rolle erhalten bleibt, verliert der Konzern mit Chief Scientist Jeff Dean einen der prägensten Ingenieure seiner Geschichte.

00:08:40: Als dreißigster Mitarbeiter des Unternehmens war er maßgeblich am Aufbau der technischen Infrastruktur für die Googlesuche beteiligt.

00:08:49: Später gründete er das Forschungsteam Google Brain mit und prägte über viele Jahre die KI-Forschung des Konzerts.

00:08:56: Dean hat nun ein eigenes Startup namens Discovery Loop gegründet, an dem Google-Ausgründungsinvestor und Cloud Partner beteiligt ist.

00:09:05: Nach Informationen der New York Times sorgt die Neuordnung intern für Verunsicherung.

00:09:10: Mehrere Diebmeint beschäftigte Fürchten, dass das Labor an Eigenständigkeit verliert und sich künftig stärker an kommerziellen Interessen orientiert.

00:09:19: Zugleich wächst die Sorge, dass mit Dienst weggang und Hassabis Rückzug aus dem Tagesgeschäft zwei moralische Stimmen im Einfluss verlieren und ethische Grenzen aufgeweicht werden können.

00:09:31: Bereits in den vergangenen Monaten hat der Google mehrere prominente KI-Forscher an Konkurrenten wie OpenAI und Anthropic verloren.

00:09:40: Die aktuell Veränderungen an der Spitze verstärken den Eindruck einer unruhigen Phase.

00:09:46: Technologisch steht Google unter Druck.

00:09:49: Das nächste Frontier-Modell Gemini.com wurde vor Monaten angekündigt und lässt weiter auf sich warten, und zur Berufung auf Unternehmensquellen berichtet Axios – die Verzögerung sei teilweise auf die schlechte Stimmung in den beteiligten Teams

00:10:06: zurückzuführen.".

00:10:07: Dankeschön Thomas Love!

00:10:09: Mistral AI hat mit Shieldstrahl ein neues KI-Sicherheitsmodell zur Inheise-Moderation vorgestellt.

00:10:18: Anstelle fester Kategorien nutzt es einen flexiblen Frage-Antwortansatz.

00:10:23: Betreiber formulieren ihre Richtlinien als natürlich sprachliche Ja-Neinfragen, woraufhin das Modell einen Sicherheitswert ausgibt.

00:10:32: Dieser Ansatz ermöglicht eine bessere Berücksichtigung des Kontexts – so kann das Model unterscheiden ob ein Zitat in einem Schulreferat oder in einem Blogpost erscheint!

00:10:43: Laut Mistral erreicht Shieldstraw die Leistungsfähigkeit von siebenmal größeren Modellen, ist aber deutlich effizienter.

00:10:51: Technisch basiert das Modell auf Mistrats eigenem Modellfamilie und steht als Open-Weights-Modell unter der Apache-Zweibung Nullizenz zur Verfügung – was eine breite Anwendung und Anpassungen ermöglicht.

00:11:04: Meta stellt mit MuseCode einen eigenen KI Coding-Agenten vor, der mit den Angeboten von OpenAI und Anthropic konkurrieren soll.

00:11:13: Der Agent basiert auf dem ebenfalls neuen Sprachmodell MuseSpark-I.z, das speziell für Programmieraufgaben optimiert wurde.

00:11:22: MuseCode kann über die Kommandozeile, Softwareprojekte analysieren, Änderungen planen, Codeschreiben und die Ergebnisse testen.

00:11:31: Eine Architektur mit mehreren Hintergrundagenten ermöglicht die Bearbeitung komplexe Aufgaben – Meta positioniert den Dienst vor allem über niedrige Nutzungskosten als Alternative zu den Konkurrenzprodukten.

00:11:44: In unabhängigen Benchmarks erreicht das zugrunde liegende Modell Muse Spark-I, eine Leistung im Mittelfeld – liegt aber hinter den Spitzenmodellen!

00:11:55: Mit der Übernahme des kanadischen Startups Talas plant AMD das eigene KI-Portfolio um schnelle Inferenzlösungen zu erweitern.

00:12:04: Die im Jahr ist darauf spezialisiert, KI-Modelle direkt in Silicium zu gießen.

00:12:13: Diese applikationsspezifischen Chips haben ein KI-modell fest verdrahtet – was die Inferenz, also die Anwendung des Modells enorm beschleunigt und gleichzeitig den Energieverbrauch senkt!

00:12:26: Der Vorteil des Talersansatzes ist gleichzeitig aber auch der größte Nachteil, denn der aktuelle Chip HC-I kann nur Llama-Dreibunkt-Eins-Acht-B ausführen.

00:12:37: Keine anderen KI-Modelle!

00:12:39: Dieses Modell wurde bereits Mitte-Zwei-Tausendvierundzwanzig vorgestellt – das ist im KI-Weltrüsten schon ein störtliches Alter.

00:12:46: Allerdings ist er automatisierte und schnelle Entwicklungsprozess für applikationsspezifische KI-Logicchips das eigentliche Ziel der jungen Firma.

00:12:56: AMD plant Talas Technologie in die beschleuniger Roadmap zu integrieren, um sie neben den flexibleren Instinkt-GPUs anzubieten.

00:13:06: Im November hatte Amazon das KI-Unternehmen Perplexity verklagt – der Online-Rise sieht in den Agenten, die für Menschen auf Amazon shoppen einen Sicherheitsrisiko!

00:13:18: Ein Berufungsgericht hat nun eine einstweilige Verfügung gegen Perplexty ausgesetzt, die den Agentens zeitweilig den Zugriff verboten.

00:13:26: Die Richter argumentieren, dass die Nutzenden selbst auf Amazon einkaufen – sie verwenden die KI-Agenten lediglich als Werkzeug dabei.

00:13:34: Es sei also nicht das Unternehmen Perplexity, das hier als Käufer auftritt!

00:13:39: Der Fall wurde deshalb zur weiteren Verhandlung zurück an die vorherige Instanz verwiesen.

00:13:45: Die Entscheidung wird in der Tech-Branche genau beobachtet, denn Sie könnte weitreichende Folgen haben….

00:13:51: Viele KI-Anbieter entwickeln gerade ähnliche Agenten.

00:13:54: Diese sollen für Personen eine Vielzahl von Aufgaben im Internet auf den Plattformen von Drittanbietern erledigen!

00:14:00: Ein Urteil könnte also einen Präzidenzwahl schaffen.

00:14:05: Anthropic stellt sein Coding Tool Cloud Code auf einen automatischen Betrieb um, ab dem vierzehnten August läuft das Werkzeug standardmäßig im sogenannten Automodus.

00:14:15: Dabei arbeitet das Tool eigenständig und wartet nicht mehr bei jedem Schritt auf eine manuelle Freigabe.

00:14:21: Stattdessen prüft ein automatischer Klassifikator, ob eine Aktion gefährlich sein könnte – und fragt nur dann nach!

00:14:28: Anthropic begründet den Schritt mit Sicherheit & Effizienz.

00:14:32: In Tests mit über eintausend Testern habe der Automodus mindestens so sicher abgeschnitten wie manuelle freigaben.

00:14:39: Teams mit Automodus erledigten zugleich rund twenty-fünf Prozent mehr Arbeit.

00:14:44: Auch bei sogenannten Prompt Injection-Angriffen zeigte sich der Schutz.

00:14:48: Dabei versucht ein eingeschleuster Code, den Agenten von den Anweisungen der Nutzerin abzubringen.

00:14:54: In einer unabhängigen Prüfung mit sevenhundertzwanzig Angriffsversuchen war keiner erfolgreich.

00:15:01: Trotzdem mahnt Ansropik zur Vorsicht bei kritischer Infrastruktur – Der Klassifikator eliminiere Risiken nicht sondern reduziert sie nur!

00:15:11: Forscherinnen und Forscher des Stanford University und das ARC-Institut haben erstmals mit KI vollständige lebensfähige Virusgenome entworfen.

00:15:21: Marie Claire Koch von Heise Online erklärt, warum ihre Methode einerseits zwar gute Chancen gegen resistente Kreime hat, andererseits jedoch Risiken für die Bio-Sicherheit birgt.

00:15:32: Die Forscher haben zwei KI-Modelle, die heißen IvoI und IvoII so trainiert dass sie die Sprache von DNA verstehen.

00:15:39: Mit den Modellen haben Sie dann neue Erbgutbaupläne für sogenannte Bakteriophagen entworfen.

00:15:44: das sind Viren, die ausschließlich Bakterien befallen und für uns Menschen ungefährlich sind.

00:15:48: Das ist übrigens alles gar nicht so neu.

00:15:50: also.

00:15:50: diesen Preprint gab es schon im September twenty-fünfundzwanzig.

00:15:53: Als Vorlage diente ein gut erforschter harmloser Fage.

00:15:56: Die KI hat daraus tausend neue Genomvarianten vorgeschlagen, rund dreihundert davon wurden im Labor tatsächlich hergestellt und sechzehn funktionierten wirklich.

00:16:04: Sie konnten sich in Bakterien vermehren – obwohl es sie in dieser Form in der Natur nie gab!

00:16:09: Die Motivation für die Forschung lag unter anderem darin, dass Bakterie zunehmend resistent werden auch gegen bereits eingesetzte Fagen.

00:16:16: Mit KI ließen sich theoretisch viel schneller maßgeschneiderte Fagen entwickeln passgenau für einen bestimmten resistenten Erreger.

00:16:24: aber Und das sagen die Forscher auch selber, genau diese Fähigkeit ist ein Sicherheitsrisiko.

00:16:29: Würde man so einen Modell nicht mit harmlosen Bakterienviren sondern mit dem Erbgut gefährlicher Krankheitserreger füttern könnte man theoretisch auch riskante Varianten entwerfen.

00:16:39: Außerdem ist das Modell Open Source also jeder mit genugreichen Leistungen könnte es grundsätzlich auf andere Daten trainieren.

00:16:44: zu Einordnung muss man aber sagen Fragen sind extrem spezifisch, meistens wirkt nur einer gegen einen ganz bestimmten Bakterienstamm.

00:16:52: Die Prüfung von DNA-Bestellungen bei Syntheseunternehmen ist bislang leider oft freiwillig statt gesetzlich vorgeschrieben.

00:16:58: Studien zeigen zudem dass sie bei ganz neuen designen Sequenzen ohnehin nicht immer zuverlässig funktioniert.

00:17:03: Fachleute weisen deshalb darauf hin und waren das die internationalen Regeln hinter den technischen Entwicklungen hinterher hängen also dass es eine bessere Regulierung braucht.

00:17:11: Danke Marie!

00:17:12: Mehr zum Thema Gesundheit und Medizin Hört ihr übrigens in Marys Podcast Digital Health von Heise Online auf der Plattform Oraval?

00:17:22: Der von Elon Musk als Alternative zur Wikipedia-Aufgesetzten Groggypedia geht offenbar schon wieder die Luft aus.

00:17:30: Medienberichten zufolge sind Aktivitäten auf der Platform seit Monaten kaum noch zu verzeichnen!

00:17:36: Die Plattform wurde mit dem Ziel gestartet, eine neue Enzyklopädie zu schaffen bei der die KI GROG eine zentrale Rolle spielt.

00:17:44: Seit Monaten werden jedoch keine Änderungsvorschläge mehr von der zuständigen KI bearbeitet und auch die Einreichungen von Menschen sind stark zurückgegangen.

00:17:53: Während die KI GROC anscheinend weiterhin neue Artikel erstellt, scheint die Verwaltung und redaktionelle Weiterentwicklung der Plattform zum Erliegen gekommen zu sein.

00:18:02: Vom verantwortlichen Unternehmen SpaceX AI gibt es bislang keine offizielle Stellungnahme zu dem Stillstand was Fragen über die Zukunft des Projekts aufwirft!

00:18:13: Künstliche Intelligenz könnte eine wichtige Rolle beim Erhalt von Minderheitensprachen spielen.

00:18:19: Das Training ist jedoch nicht einfach!

00:18:21: Beim ostfriesischen Plattdeutsch fehlt es zum Beispiel an ausreichend maschinenlesbaren und strukturierten Texten, um ein zuverlässiges KI-Modell zu trainieren.

00:18:31: Einen Schritt weiter ist bereits die Ferringstiftung auf Föhr – dort wurde schon im vergangenen Jahr ein KI basiertes Online-Übersetzungsprogramm für Föhre frisisch entwickelt.

00:18:42: Dessen Ergebnisse schwanken jedoch noch stark.

00:18:45: Auch international gibt es solche Bemühungen, in Neuseeland etwa arbeitet ein indigenes Team daran die Maori-Sprache mit einer eigens trainierten KI wiederzubeleben.

00:18:56: Allgemeine Modelle wie ChatGPT sind ungeeignet da sie verschiedene Dialekte vermischen und fehlerhafter Ausgaben produzieren.

00:19:03: Fachleute sehen in der KI zwar ein nützliches Werkzeug, das den Zugang zu einer Sprache erleichtern kann.

00:19:10: Sie betonen aber, dass Technologie allein eine Sprache nicht retten kann!

00:19:16: Das war das KI-Update von Heise online vom zehnten August.

00:19:21: Ein neuer Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.