KI-Update kompakt: KI-Allianz, Claude Cowork, MAI-Cyber, Expenditure Horizon

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Nvidia versammelt Textschwergewichte für neue KI-Aliens – Claude Cowork & Kommt Mac OS Sandbox!

00:00:26: Microsoft stellt eigenes KI-Modell für Cybersecurity vor und neue Kennzahl misst wann sich KI Entwickler lohnt?

00:00:36: Nvidia hat eine neue Allianz zur Sicherheit von KI-Systemen ins Leben gerufen, die siebenunddreißig Technologieunternehmen vereint.

00:00:44: Die OpenSecureAI Alliance soll Open Source Werkzeuge entwickeln um KI-Agenten sicherer zu machen und Cyberangrafer abzuwehren.

00:00:53: Tomislav Besmalinovich von Heise Online mit den Einzelheiten.

00:01:04: Darunter Microsoft, IBM, SpaceX, Cisco und SAP.

00:01:09: Auffällig ist jedoch wer fehlt?

00:01:11: Die führenden Anbieter geschlossener KI-Modelle wie OpenAI, Anthropic und Google sind nicht dabei!

00:01:18: Das ist kein Zufall denn die Allianz macht sich für einen Open Source Ansatz bei KI Modellen stark.

00:01:25: Der Auslöser für diese Initiative war der Cyberankriff auf die KI-Plattform Hacking Phase.

00:01:31: Dabei gelang es KI-Agenten von OpenAI unbemerkt aus ihrer isolierten Testumgebung auszubrechen und sich Zugriff auf die KI-Plattform zu verschaffen.

00:01:42: Hugging Face stand vor dem Problem, dass die Sicherheitsmechanismen proprietärer KI-Modelle die notwendigen Analyse an Fragen blockierten.

00:01:51: So musste das Unternehmen erfahren chinesisches Open-Wade-Model zurückgreifen um den Angriff einzudämmen.

00:01:58: Nvidia's TechAlliance will nun einen offenen Werkzeugkasten entwickeln, mit dem sich KI-Agenten besser testen kontrollieren und absichern lassen.

00:02:08: Nvidia steuert dafür das neue Open Source Projekt NOOA bei.

00:02:14: andere Partner bringen sichere Formate für Modellgewichte und automatisierte Schwachstellensuche ein.

00:02:21: die Neue Allianz positioniert sich damit nicht nur als Sicherheitsinitiative sondern zugleich als offenes Gegengewicht zu den dominierenden, geschlossenen KI-Systemen.

00:02:32: Die Initiative fällt in eine laufende politische Debatte – die US-Regierung prüft nach der Vorstellung des leistungsstarken chinesischen Open-Wade Models chimika III mögliche Beschränkungen offener KI-Modelle.

00:02:46: Nvidia und andere US-Unternehmen warnten bereits im offenen Brief vor solchen Maßnahmen.

00:02:52: Hinter der Debatte stehen aber auch handfeste wirtschaftliche Interessen.

00:02:57: NVIDIA profitiert von einem vielfältigen KI-Ökosystem, da das Unternehmen die Hardwareinfrastruktur für KI-Entwicklung und Betrieb liefert.

00:03:08: Je mehr KI-Modelle entwickelt und eingesetzt werden lässt er höher ist ihm Nachfrage nach NVIDias Beschleunigerchips.

00:03:18: Der Sicherheitsvorfall bei OpenAI hat nun auch über ein tausend Fachleute aus führenden KI-Unternehmen dazu bewegt, Bremsmechanismen für die Entwicklung künstlicher Intelligenz zu fordern.

00:03:31: Die Unterzeichnen arbeiten für OpenAI, Anthropic, Meta oder Google – sie warnen vor einem drohenden Kontrollverlust und appellieren an die US-Regierung sich an internationalen Regulierungsmaßnahmen zu beteiligen!

00:03:44: Die Expertinnen und Experten befürchten, dass KI-Software bald in der Lage sein könnte sich selbst weiterzuentwickeln.

00:03:51: Bereits heute schreibt KI große Teile des Programmcodes in Techunternehmen jedoch noch unter menschlicher Aufsicht!

00:03:58: Der Moment der automatisierten KI-Entwicklung gilt als kritischer Wendepunkt – es bestehe ein reales Risiko, das das Entwicklungstembo die menschliche Fähigkeit übersteigt diese Systeme zu verstehen Selbst bei der Nutzung von KI-Agenten direkt auf dem Rechner lauern Gefahren.

00:04:19: Das zeigt ein soeben entdecktes Sicherheitsloch in Claude Cowork für den MAC – Ben Schwann, von der MacNi berichtet.

00:04:35: Laut Angaben der KI-Sicherheitsfirma Accomplish AI war die Mac-Version der Anwendung betroffen.

00:04:42: Angreifern war es möglich, eine Körnellücke auszunutzen um die geschützte Sandbox zu verlassen.

00:04:48: Resultat?

00:04:49: Potenziell war es möglichst das gesamte Mac-Datei System zu lesen und zu beschreiben.

00:04:54: Ob es tatsächlich zu solchen Angriffen kam ist aber unklar – bis zu fünfhunderttausend Nutzer hätten über die Lücke attackiert werden können, schätzt Accomplished AI!

00:05:05: Enfropik hat interessanterweise nicht vor, das Sicherheitsproblem zu beheben.

00:05:10: Den Bericht von Accomplish-AI nannte die Firma schlicht Informativ.

00:05:14: Der Grund?

00:05:15: Mittlerweile setzt Claude Covork auf eine virtuelle Maschine in der Cloud – die sogenannte Cloud Execution.

00:05:22: Claude Cowork dient als virtueller KI-Kollege für verschiedene Zielgruppen, die mit Präsentationen, Tabellen und mehr hantieren, darunter Anwälte, Mitarbeiter aus Finanzabteilungen oder Marketingleute.

00:05:37: Ein schwerwiegendes Datenleg bei Anthropics-KI Chatbot Claude machte tausende private Unterhaltungen über Suchmaschinen auffindbar.

00:05:46: Eine einfache Gogelsuche mit einem ganz bestimmten Parameter brachte zahlreiche vertrauliche Chats zum Vorschein, da anfanden sich Krypto Wallet Schlüssel Anwaltsanfragen zu Fehlverhalten und Sozialversicherungsnummern.

00:05:59: Die Ursache liegt in Claude's Chat-Teilen-Funktion, die öffentliche Links erstellt.

00:06:05: Eine missverständliche Option Make This Chat Discoverable führte dazu, dass nutzende unbeabsichtigt ihre Gespräche für Suchmaschinen zugänglich machten.

00:06:14: Google zeigt die Ergebnisse inzwischen nicht mehr an – andere Suchmaschine fanden jedoch zeitweise noch Treffer!

00:06:21: Das Lack erinnert an vergleichbare Vorfälle bei OpenAI's ChatGPT und verdeutlicht einmal mehr die Risiken beim Teilen von KI-Unterhaltungen.

00:06:31: Microsoft hat ein neues KI-Modell namens MyCyberInsFlash für Cybersecurity vorgestellt, das Modell gehört zur hauseigenen My-Model-Familie und ist speziell darauf ausgelegt Sicherheitslücken in komplexen Codebasen zu identifizieren, erklärt Caroline Riedmüller von Heise Online.

00:06:51: MySiberEinsFlash stammt aus der MyThinking-Einzelinie und wurde laut Microsoft vollständig intern auf der Basis von eigenen Trainingsdaten entwickelt.

00:06:59: Laut Microsoft's ModelCard hat das Modell insgesamt hundertseizig Milliarden Parameter, von die nur fünf Milliarden gleichzeitig aktiv sind.

00:07:06: Das Kontextfenster umfasst zweihundert sechsundfünfzigtausend Tokens.

00:07:11: Microsoft integriert das Modelle in Mdash – ein Multiagentsystem mit überhundert spezialisierten Agenten.

00:07:17: Diese decken den gesamten Workflow vom Code-Scanning über die Validierung bis zur Patcherzeugung ab.

00:07:23: MyCyberIns Flash ist dabei für rund neunzig Prozent aller Aufgaben zuständig, die schwierigsten zehn Prozent eskaliert das System an Open AI's GPT-FünfPunkVier.

00:07:32: Diese Kombination erreicht auf dem Benchmark Cyber Gym laut Microsoft eine Trefferquote von sechsundneinzig Prozent.

00:07:38: Gleichzeitig sollen die Kosten gegenüber der bisherigen Mdash-Konfiguration aus GPT FünfPunktVier, GPT FivePuntVier Mini und GPT-Fünf-Punktrei Codex um rund fünfzig Prozent sinken.

00:07:49: Danke schön, Caroline!

00:07:52: Im Gegensatz zu Microsoft fährt Amazon ein Großteil seiner eigenen Nova Modelle zurück – wie Business Insider berichtet.

00:07:59: Betroffen sind die Spitzenmodelle Nova Premiere und Omni.

00:08:03: Dazu kommen das Videomodell Real und der Bildgenerator Canvas.

00:08:07: Die Modelle laufen demnach für bestehende Kunden weiter, werden aber nicht mehr aktiv entwickelt.

00:08:13: Vorausgegangen waren Entlassungen in der AGI-Abteilung und die Schließung des AGI Labs.

00:08:20: Aus dem KI-Wettrennen zieht sich Amazon aber nicht zurück, Ressourcen fließen nun in die Gruppe Frontier Model Research unter Peter Abel.

00:08:29: Dabei handelt es sich um den Gründer eines Robotics Startups das Amazon zum Teil übernommen hatte.

00:08:34: Ein neues Basismodell soll auf der jährlichen AWS Konferenz ReInvent im Herbst vorgestellt werden.

00:08:41: Ein Amazon-Sprecher erklärte, KI-Modelle blieben eines der wichtigsten Projekte des Unternehmens.

00:08:48: Die US-Umweltbehörde EPA hat eine Gesetzeslücke gefunden die Kraftwerke ohne Netzanschluss von Emissionsbestimmungen befreit.

00:08:58: Davon profitieren in erster Linie KE Datenzentren.

00:09:02: Um den enormen Strombedarf zu decken entstehen nämlich zunehmend private Kraftwerken, die nicht ans öffentliche Stromnetz angeschlossen sind.

00:09:10: Die IPA hat nun festgestellt, dass für solche Inselanlagen keine bundesrechtlichen Grenzwerte für Schwefeldioxid und Stickstoffdioxid gelten.

00:09:20: Der Clean Air Act erfasst nämlich nur Kraftwerke die Strom für die Öffentlichkeit erzeugen.

00:09:26: Kraftwerken, die ausschließlich einen einzelnen Kunden wie eben ein Rechenzentrum versorgen, fallen nicht darunter.

00:09:33: Eine gesetzliche Korrektur ist politisch nicht geplant!

00:09:36: Nun könnten einzelne Bundesstaaten zwar eigene Regeln einführen, riskieren damit jedoch das Staaten mit laxeren Umweltauflagen attraktiver für KI-Unternehmen wirken.

00:09:47: Damit droht ein Wettbewerb um die niedrigsten Umweltstandards.

00:09:51: Kann KI sich selbst verbessern und dabei auch noch Geld sparen?

00:09:56: Eine US-amerikanische Forschungsorganisation hat das jetzt zum ersten Mal durchgerechnet – das Ergebnis fällt annüchternd aus!

00:10:04: Jonathan Kemper von The Decoder hat sich die Studie genauer angesehen.

00:10:08: Die Non-Profit Mita hat eine neue Kennzahl vorgestellt, sie soll zeigen wie Kosten effektiv KI-Agenten arbeiten.

00:10:15: Mita nennt sie expenditure Horizon auf Deutsch Ausgabengrenze.

00:10:19: Gemeint ist der Punkt an dem Mensch und KI für dieselbe Verbesserung gleich viel kosten.

00:10:24: bis dahin lohnt sich die KI.

00:10:26: danach arbeitet der Mensch günstiger.

00:10:28: Dahinter steht einer der großen Fragen der KI Forschung.

00:10:31: Kann KI ihre eigene Entwicklung beschleunigen?

00:10:34: Messen ließ sich das bisher kaum.

00:10:37: Denn dafür muss man sehr verschiedene Kosten gegeneinander aufrechnen, etwa die Arbeitszeit der Menschen, ihr Rechenzeit für die Experimente und den Betrieb der KI selbst.

00:10:45: Getestet hat Mieter das an einem öffentlichen Wettbewerb.

00:10:49: Dort versuchen Freiwillige seit zwei Jahren ein KI-Sprachmodell immer schneller zu trainieren.

00:10:54: Ein Prozent mehr Tempo kostet einen Menschen dort rund sechzehn Arbeitstunden.

00:10:58: Mieta betont allerdings selbst dass diese Zahl sehr unsicher ist.

00:11:01: Rechnet man mit Hundertfünfzig Dollar pro Stunde, sind das etwa Zwei-Tausend Fünfhundert Dollar für jeden Prozentpunkt.

00:11:07: Dann ließ Mieter sechs KI Modelle dieselbe Aufgabe allein bearbeiten.

00:11:12: Jedes durfte bis zu Zehntausend Dollar verbrauchen!

00:11:15: Zwei ältere Modelle sahen dabei zunächst nach Fortschritt aus – bei genauerer Prüfung war das aber nur Zufall.

00:11:21: Echte Verbesserungen brachten erst die neueren Versionen.

00:11:24: GPT fünftepunkt fünf kam auf rund ein Prozent Opus vier Punkt acht auf anderthalb.

00:11:29: Mehrfach versuchten die Modelle auch zu tricksen und schalteten etwa Teile des Trainings kurz vor dem Ziel ab.

00:11:35: Am Ende lagen die Ausgabengrenzen zwischen Null- und Drei-Tausend-Dollar.

00:11:39: Der gesamte menschliche Aufwand in den Wettbewerb wird dagegen auf rund Zweihundertfünfzigtausend Dollar geschätzt.

00:11:45: Auf sich allein gestellt hat KI den Fortschritt bisher also kaum beschleunigt, zwei Dinge schränken das Ergebnis ein.

00:11:52: Mieter hat nur ältere Modelle getestet.

00:11:54: Die aktuelle Generation mit Fable V, GPT-Fünfpunkt sechs Zoll und Opus fünf kommen nicht vor.

00:12:00: Und gemessen wurde nur die KI im Alleingang – in der Forschung arbeiten Menschen aber meistens mit KI als Werkzeug.

00:12:07: Die Ausgabengrenze zeigt also was KI ohne Hilfe leistet.

00:12:11: Wie stark sie menschliche Forscher beschleunigt, sagt sie eher nicht.

00:12:14: Danke Jonathan!

00:12:17: Immer mehr Menschen erledigen mit KI Aufgaben aus fremden Berufsfeldern.

00:12:22: Das berichtet OpenAI und nennt den Effekt Task Crossover.

00:12:26: Grundlage ist eine Auswertung von mehr als achthunderttausend arbeitsbezogenen Chatchi Petit Nachrichten.

00:12:33: Daraus geht hervor, dass dreiundvierzigkommar fünf Prozent der berufsspezifischen Anfragen Tätigkeiten aus einem fremden Beruf betreffen.

00:12:42: Am häufigsten wandern dabei Arbeiten aus Marketing- und Softwareentwicklung in einer anderen Berufsgruppe.

00:12:48: Nutzerinnen und Nutzer erledigen mit Chatchi-PT außerdem zunehmend Aufgaben, die früher an Spezialisten gingen.

00:12:54: Dazu zählen etwa die Vertragsprüfung, die Datenanalyse oder die Fehlerbehebung an Websites.

00:13:01: In kleineren Unternehmen sei der Effekt stärker – denn dort gebe es seltener eigene Fachteams!

00:13:07: OpenAI sieht in den Daten ein Frühsignal für den Wandel von Berufsbildern noch bevor sie Stellenbeschreibungen oder Jobtitel änderten.

00:13:17: Generell verändert KI auch unser Suchverhalten im Netz grundlegend.

00:13:22: Wie eine Studie von similar Web zeigt, werden bei Google fast bei der Hälfte aller Suchanfragen KI-generierte Zusammenfassungen eingeblendet – auch der dialogorientierte AI Mode verzeichnet stark steigende Nutzungszahlen.

00:13:36: Parallel dazu werden Chatbots wie ChatGPT, Gemini und Claude als eigenständige Recherchewerkzeuge immer beliebter!

00:13:44: Sichtbar wird der Wandel auch in der Art der Suchanfragen.

00:13:47: Kurze Stichworte weichen zunehmend längeren, natürlich formulierten Fragen.

00:13:53: Ob die Quellenverweise in einer KI-Antwort den Nutzenen tatsächlich auf externe Websites führen hängt davon ab wie prominent sie dargestellt werden.

00:14:03: Ein Interface Update in ChatGPD zum Beispiel das Externe Links Prominenter Darstellte führte zu deutlich mehr Weiterleitungen zu diesen externen Websites!

00:14:13: Das Grundproblem für die Inhalteanbieter bleibt jedoch bestehen.

00:14:17: Wenn KI-Dienste Informationen direkt liefern, entfällt für Nutzende in den meisten Fällen der Anreiz, die ursprüngliche Quelle aufzurufen – damit gehen den Urhebern Reichweite und Einnahmen verloren!

00:14:31: Die Leiden Declaration on Artificial Intelligence and Mathematics schafft erstmals ein umfassendes Regelwerk für den Umgang mit KI in der mathematischen Forschung.

00:14:43: Die internationale Mathematische Union und über dreitausend Fachleute weltweit unterstützen die Deklaration.

00:14:50: Darin wird zunächst von den Risiken von KI in der Mathematik gewarnt, künstliche Intelligenz produziert oft plausible aber falsche mathematische Beweise, die schwer von korrekten zu unterscheiden sind – besonders gefährdet sind Studierende und Nachwuchsforschende.

00:15:07: Zudem bedroht der Einfluss großer Technologieunternehmen da diese Aufgaben nach KI-Tauglichkeit statt nach wissenschaftlicher Relevanz auswählen.

00:15:20: Das Regelwerk enthält nun elf Empfehlungen für Forschende, acht für Organisationen und vier für die Politik.

00:15:26: Zentrale Forderungen sind Transparenz bei der KI Nutzung, Verantwortung für Korrektheit, Schutz von Autorenrechten und die Betonung menschlicher Beiträge.

00:15:37: Die Erklärung betont, dass Menschen weiterhin unverzichtbar für das Stellen relevanter Forschungsfragen bleiben.

00:15:44: Die TU Berlin entwickelt im Projekt A-Swarm II autonome elektrische Paketboote für Berlins Wasserstraßen.

00:15:53: Diese KI gesteuerten Fahrzeuge sollen den Lieferverkehr entlasten indem sie Pakete über die Spree oder den Landwehrkanal transportieren.

00:16:02: Die Boote nutzen künstliche Intelligenz für autonome Navigation, Hinderniserkennung und präzises Koppeln zu verbinden.

00:16:10: Ein magnetisches Kopplungssystem ermöglicht es den KI-System sich selbstständig zu verbünden und zu trennen.

00:16:16: Die Fahrzeuge kommunizieren miteinander und optimieren den Energieverbrauch durch koordinierte Fahrten.

00:16:23: Besonders anspruchsvoll ist die Vollautonom B und Entladung ohne menschliches Eingreifen!

00:16:29: Eine zentrale KI-Plattform überwacht das gesamte System, verfolgt Standorte, Zustand und Einsatzbereitschaft der Boote.

00:16:38: Die ersten Prototypen werden bereits in Berliner Westhaven getestet – und lernen durch KI-Algorithmen das autonome Navigieren!

00:16:45: Das Projekt will Berlins historische Wasserinfrastruktur für moderne emissionsarme Stadtlogistik reaktivieren.

00:16:54: Das war das KI-Update von Heise online vom neunzwanzigsten Juli.

00:16:59: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.