KI-Update kompakt: Neue Modelle von OpenAI, Meta und Google, KI und Gerüchte, KI-Wetter

00:00:02: Das KI Update, ein Heise-Podcast

00:00:05: mit redaktioneller Unterstützung

00:00:07: von The Decoder.

00:00:15: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen – neue KI-Modelle von OpenAI, Meta & Google.

00:00:23: Anthropic vertagt den Börsengang, KI gegen Verschwörung und ein neues KI-Wettermodell!

00:00:31: Zum Auftakt ein Blick auf die gerade laufende IFA in Berlin, dort dreht sich vieles darum KI im Haushalt und Smart Home zu bringen.

00:00:39: Hersteller zeigen Gerätenetzwerke bestehend aus KI-Assistenten und humanoiden Robotern, die Haushaltsaufgaben wie Wäschewaschen, Kochen oder Staubsaugen übernehmen.

00:00:49: Es werden aber auch neue KI-Brillen präsentiert, die der bekannten Metabrille Konkurrenz machen sollen.

00:00:56: Das chinesische Unternehmen Inmo etwa präsintiert die Go Three – sie kann laut Hersteller nicht nur Gespräche in Achtundneunzig Sprachen übersetzen sondern auch Antworten!

00:01:07: Die Worte der das Gerät tragenden Person werden also übersetzt und über ein drahtloses Lautsprechermodul wiedergegeben.

00:01:17: zeigt eine neue smarte Sportbrille.

00:01:19: Sie nutzt Google's Gemini für eine Atemüberwachung beim Laufen, erkennt die KI ein zu hohes Tempo und weist sie auf eine ruhigere Gangart hin.

00:01:30: Die Kamera puffert zudem dauerhaft zehn Sekunden Video zwischen – so lässt sich die Brille bei Unfällen als Dashcam nutzen!

00:01:37: Ausführlichere KI-News von der IFA folgen im KI Update am Mittwoch.

00:01:44: OpenAI hat sein neues Sprachmodell GPT-Sex Astra vorgestellt und bewirbt ist, wie sollte es anders sein als das intelligenteste Modell weltweit.

00:01:54: Zugang bekommt zunächst nur ausgewählte Organisationen.

00:01:58: Zahlende Kundschafts- und Entwicklungsteams sollen aber bald folgen – in Firmenumgebungen bleibt Astra anfangsstandardmäßig deaktiviert.

00:02:07: OpenAI-Mitgründer Greg Brockmann ließ verlauten, man werde sich an Astra rückblickend als Beginn einer AGI erinnern – also eine allgemein künstlichen Intelligenz.

00:02:19: Was genau darunter zu verstehen ist dafür gibt es bis heute keine einheitliche Definition.

00:02:25: In mehreren wichtigen Benchmarks schlagen Anthropics Cloth Modelle allerdings das neue OpenAI Spitzenmodell.

00:02:32: Chef-Wissenschaftler Jakub Paczoki sagte dazu, je leistungsfähiger die Modelle würden, desto schwerer sei zu verstehen was sie eigentlich könnten.

00:02:42: Passend dazu stuft OpenAI Astra im Bereich IT Sicherheit als kritisch ein – als erstes Modell des Konzerns überhaupt!

00:02:52: In Tests entdeckte Astra zwei unbekannte Schwachstellen brach aus einem geherteten Browser aus und erlangte vollen Systemzugriff.

00:03:01: Um Missbrauch zu erschweren, verweigert das Modell die Ausgabe von Angriffskot.

00:03:06: Weil sich solcher aber nicht immer zweifelsfrei erkennen lässt bleibt ein Restrisiko.

00:03:13: Die Sorge um die Kontrolle neuer KI-Modelle wächst – das zeigt ganz konkret ein neuer Vorfall.

00:03:19: Laut einer Analyse eines unabhängigen Forschungsteams sind Tausende KI-Agenten aus ihren Testumgebungen ausgebrochen.

00:03:27: Sie nutzten eigenmächtig die weitgehend unbekannte deutsche Plattform DSE Wiki.

00:03:33: Über Wochen hinterließen die Agenten dort rund achtzehntausend Beiträge, einige Modelle gaben sich dabei in ihren Namen als OpenAI Systeme zu erkennen.

00:03:43: Ursprünglich sollten die Agentinnen einer abgeschotteten Testumgebung nur Web-Inhalte für eine Informationssuche lesen.

00:03:52: Eigene Daten durften sie nicht auf externen Servern veröffentlichen.

00:03:56: Doch die Modelle funktionierten ihre Zugriffsrechte um, so konnten sie trotzdem Inhalte auf dem Wiki ablegen und durchbrachen die Isolation der Sandbox.

00:04:07: Das Wiki diente ihn dabei als eine Art schwarzes Brett – Sie tauschten Antworten auf Testaufgaben aus, bündelten Rechercheergebnisse und halten Methoden, um die Sandbox-Regeln zu umgehen.

00:04:20: Zudem diskutierten sie Angriffstechniken gegen die Wikisoftware.

00:04:26: In einigen Beiträgen bezeichneten sie sich selbst als Schwarm.

00:04:30: OpenAI bemerkte das Vorgehen erst nach mehreren Wochen, der Druck auf die Branche wächst, KI-Agenden besser unter Kontrolle zu bekommen.

00:04:40: Während sich OpenAI und eigentlich die gesamte Branche mit Sicherheitsfragen beschäftigen müsste scheint es weiterhin eher darum zu gehen möglichst schnell das nächste Modell zu veröffentlichen.

00:04:52: Neben GPT-Sex Astra und Fable V.I von Enthropic, brachten vergangene Woche auch Meta & Google neue KI-Modelle heraus – Tomislav Besmalinovic berichtet.

00:05:05: Metas Muse Spark I.ii zielt auf agentische Aufgaben und Softwareentwicklung.

00:05:11: Das Modell soll komplexe Anweisungen zu verlässiger Befolgen besser multitasking und stärker mit Nutzern zusammenarbeiten.

00:05:19: Das Kontextfenster umfasst eine Million Tokens.

00:05:22: Vorarbeiten kann das Modell Text, Bild und Video.

00:05:26: Inzwischen steht auch die stärkste Reasoning Stufe Max zur Verfügung ,die Meta zum Start noch für zusätzliche Sicherheitstests zurückgehalten hatte.

00:05:35: .

00:05:36: Ein sehr günstiger sogenannte Contributor Tarif, Lockentwickler erlaubt Meta im Gegenzug aber Promps und Antworten zum Training künftige Modelle zu verwenden.

00:05:47: Google veröffentlichte mit Gemini-Dreibunkt acht Flash bereits das dritte Flashmodell in gut sechs Wochen.

00:05:54: Das im Mai angekündigte Spitzenmodell Gemini drei Punkt fünf Pro lässt dagegen weiter auf sich warten, laut WallStreetJournal hat Google interne Drei Punkt Fünf pro Kandidaten verworfen und plant Gemini vier als nächstes Spitzen Modell.

00:06:10: Gemini-Dreib point acht.

00:06:11: Flash liegt besonders bei agentischen Programmieraufgaben zu und liegt im Terminalbench zwei Punkt eins sogar knapp vor Cloud Opus fünf.

00:06:20: Die Tokenpreise bleibt niedrig, in Tests von Artificial Analysis erzeugt das Modell allerdings rund dreißig Prozent mehr Output Tokens als ein Vorgänger.

00:06:31: Dadurch steigen die Kosten pro Aufgabe um rund vierzig Prozent und auch die Bearbeitungszeit nimmt dazu.

00:06:38: Was ebenfalls erschienen in Gemini.at.

00:06:40: Flash-Cyber ist auf Cybersecurity spezialisiert und soll Schwachstellen finden und beheben, weil das Modell weniger restriktiver Schutzmechanismen besitzt erhalten nur geprüfte Partner über Google's neues Fairwind Sicherheitsprogramm Zugang, darunter Behörden um Betreiber kritischer Infrastruktur.

00:07:01: Vergleichbare Programme betreiben auch Anthropic und OpenAI.

00:07:07: Das Wettrennen der Tech-Unternehmen hat natürlich hauptsächlich mit Geld und der Gunst, der Anlegenden zu tun.

00:07:13: Wer vorne mitspielen will braucht frisches Kapital – und plant deshalb oft einen Börsengang.

00:07:19: Anthropic wollte sehr bald an die Börse gehen, verbunden mit dem Ziel, die Rekordbewertung von SpaceX noch zu übertreffen.

00:07:27: Doch der Zeitplan wurde nun nach hinten verschoben.

00:07:30: Martin Holland berichtet davon

00:07:32: Mit Entropic steht in den USA der nächste Mega-Börsengang an, das KI-Unternehmen will SpaceX übertreffen und eigentlich war vorgesehen dass das im September passiert.

00:07:43: Jetzt wurde aber bekannt, dass bei dem Unternehmen selbst man inzwischen vom Oktober ausgeht und als Ziel ausgegeben hat, dass der Börsengang vor den Zwischenwahlen in den USA stattfinden soll die mit großer Spannung erwartet werden.

00:08:01: Die finden am dritten November statt, also bis dahin soll das über die Bühne gehen und SpaceX übertreffen.

00:08:09: Also Anthropic erwartet dass sie eine Bewertung von über zwei Billionen bekommen.

00:08:13: Das hat der SpaceX auch geschafft.

00:08:15: inzwischen liegt ein bisschen darunter.

00:08:17: jetzt muss man sehen ob Anthropic das schaffen kann.

00:08:21: die Zahlen und die Versprechen dazu sind gigantisch die gemacht werden.

00:08:26: dann Ist von einem Markt die Rede, der ein Großteil des Brutto-Sozialprodukts der Welt ausmacht.

00:08:33: Man muss sehen ob die Finanzmärkte das... Glauben und so übernehmen.

00:08:38: Aber jetzt dauert es erst mal noch ein bisschen.

00:08:40: der Grund für die Verzögerung, ist laut dem Bericht eine Verhandlung, die noch über einen Kredit geführt werden soll.

00:08:47: Ein Milliardenkredit und da sollen die Banken danach noch Zeit bekommen sich damit auseinanderzusetzen.

00:08:53: also laut dem bericht ist das alles mehr oder weniger Routine aber jetzt Dauerzeit einfach noch ein bis hin länger.

00:09:00: Danke Martin.

00:09:02: Schauen wir auf ein Einsatzgebiet, dem KI vielleicht nützlich sein könnte und zwar im Kampf gegen Verschwörungserzählungen.

00:09:10: Nach Attentaten kursieren Verschwörungstheorien oft schneller als sich die Fakten überprüfen lassen.

00:09:16: Ein Forschungsteam hat nun getestet was ein Chatbot in dieser Lage ausrichten kann.

00:09:22: Jonathan Kemper von The Decoder mit den Ergebnissen

00:09:31: Das funktioniert sogar dann, wenn zu einem Ereignis kaum gesicherte Fakten vorliegen.

00:09:36: Das zeigt eine Studie mehrerer

00:09:37: US-Universitäten.".

00:09:39: Nach dem Attentatsversuch auf Donald Trump im Juli, hat er schon nach einer Woche rund die Hälfte der Befragten von der Behauptung gehört das Attentat sei inszeniert gewesen.

00:09:49: Nach der Ermordung des Aktivisten Charlie Kirk kursierten ebenso schnell Theorien über eine sogenannte Vollsfleckaktion.

00:09:56: Für die Studie rekrutierten die Forscher Menschen, die an solche Theorien glauben und teilten sie in drei Gruppen auf.

00:10:02: Die erste führte mehrere Gespräche mit Google Gemini, die zweite bekam eine reine Faktenliste zu lesen, die dritte diskutierte zur Kontrolle ob Katzen oder Hunde die besseren Gefährten sind.

00:10:13: Die Modelle kannten beide Ereignisse nicht denn sie lagen nach ihrem Trainingsstand.

00:10:17: Die Forscher hinterlegten deshalb eine geprüfte Faktensammlung im System prompt Daran stand, was bestätigt war, was bereits widerlegt war und was offen blieb.

00:10:27: Die Gespräche dauerten im Schnitt knapp sieben Minuten.

00:10:30: In beiden Experimenten sank danach der Glaube an die jeweilige Verschwörungstheorie – und zwar deutlicher als nach der Faktenliste oder dem Kontrollgespräch.

00:10:39: Das Modell passte seine Strategie an die Faktonlage an.

00:10:43: Beim Trump-Attentat benannte es häufiger seiner eigenen Wissensgrenzen, warnte vor voreiligen Schlüssen und stellte Rückfragen, die zum Nachdenken anregen.

00:10:51: Beim Fall Körg ging es ähnlich vor wie bei älteren Verschwörungstheorien und betonte stärker, welchen gesellschaftlichen Schaden solches Denken anrichtet.

00:10:58: Der Effekt reichte teilweise über den einzelnen Fall hinaus – in späteren Befragungen stimmten die Teilnehmer allgemeine Verschwörungserzählungen selten dazu.

00:11:07: Bei einem konkreten neuen Ereignis ließ sich in der Hauptauswertung dagegen kein klarer Effekt nachweisen.

00:11:13: Die Autoren verstehen ihre Arbeit als Fallstudie und schließen nicht aus, dass der Ansatz in anderen Situationen

00:11:18: versagt.".

00:11:19: dieselbe Technik lasse sich außerdem es brauchen, um Menschen von Verschwörungen zu überzeugen.

00:11:25: Die größte praktische Hürdebleibe, dass Menschen sich überhaupt auf so ein Gespräch einlassen müssen.

00:11:36: Im Silicon Valley etwa wurden bis Anfang September rund dreizehntausend Stellenstreichungen angekündigt.

00:11:43: Das liegt jetzt bereits klar über den Gesamtwert des Vorjahres.

00:11:48: Weltweit sind in der Tech-Branche mehr als einhundertachtzigtausend Entlassungen gemeldet.

00:11:54: Wesentlicher Treiber ist der Ausbau von KI.

00:11:58: Die Konzerne lenken hohe Summen in den Aufbau von AI-Infrastruktur und zugleich übernehmen automatisierte KI-Systeme zunehmend Aufgaben von Beschäftigten.

00:12:08: Zudem übernimmt KI in vielen Fällen das Programmieren.

00:12:12: Das Unternehmen Freshworks etwa berichtet, dass KI bereits mehr als die Hälfte des Programmiercodes erzeugt – auch Aufgaben in Entwicklung, Qualitätssicherung und Vertrieb werden zunehmend überflüssig.

00:12:27: Meta führt die Statistik in der Bay Area an aber auch Amazon Cisco Oracle linked in eBay & PayPal bauen Personal ab.

00:12:37: Oracle strich weltweit rund einundzwanzigtausend Stellen und begründete dies mit dem Einsatz und der Skalierung von KI-Technologien.

00:12:46: Kalifornien plant nun Bildungsangebote für Arbeitssuchende, tausende Google Beschäftigte fordern in einer Petition besseren Kündigungsschutz.

00:12:57: Eine bereits erwartete Übernahme ist nun offiziell.

00:13:01: Nvidia kauft die KI-Plattform Huggingface.

00:13:07: Der Chiphersteller unterzeichnete die verbindliche Vereinbarung und informierte darüber in einem Blockbeitrag sowie in einer Mitteilung an die US-Börsenaufsicht, abgeschlossen sein soll der Deal in den ersten Hälften des kommenden Jahres.

00:13:22: Nvidia arbeitet bereits eng mit dem Unternehmen zusammen.

00:13:27: Huggingface ist eine zentrale Anlaufstelle für die KI-Community.

00:13:31: auf der Plattform, lassen sich Modelle und Datensätze veröffentlichen, teilen und herunterladen.

00:13:38: Die vielleicht wichtigste Frage für Entwicklende beantwortet Nvidia-Chef Jensen Wong klar Huggingface soll eine offene Plattform für die gesamte KI-Community bleiben.

00:13:49: Nutzende sollen weiterhin frei entscheiden, welche Modelle, Frameworks und Rechenplattformen sie einsetzen – auch Chips anderer Hersteller sollen weiterhin unterstützt werden!

00:14:01: Ein grundsätzliches Risiko bleibt bestehen und es rückt mit NVIDIA's Einstieg stärker in den Fokus.

00:14:08: Viele populäre offene KI-Modelle stammen aus China.

00:14:12: Schränkt die US-Regierung deren Verbreitung ein, verliert Huggingface einen Großteil seines Angebots.

00:14:20: KI Wettervorhersagemodelle unterscheiden sich grundlegend von herkömmlichen Modellen.

00:14:26: Klassische Modelle simulieren die Atmosphäre Schritt für Schritt auf einem dreidimensionalen Gitter gestützt auf physikalische Gleichungen.

00:14:36: KI-Modelle dagegen rechnen nicht mit solchen Gleichungen.

00:14:39: Sie erkennen Muster in großen Mengen historischer Wetterdaten und sagen auf dieser Grundlage voraus, wie sich die Atmosphäre entwickeln dürfte.

00:14:50: Google will jetzt bei der Frage danach, wie das Wetter wohl morgen wird – mit einer neuen Version seines KI-Wettermodells Weather Next neue Maßstäbe setzen, Malte Kirchner berichtet.

00:15:03: Weathernext III ist ab sofort verfügbar und es steckt schon überall drin in der Google Suche, Maps und Chatboard Gemini.

00:15:11: Zur Einordnung KI-Wettermodelle haben sich in den letzten Jahren vor allem bei extremen Wettelagen einen Namen gemacht – etwa bei Hurricanes.

00:15:19: Dort waren sie teilweise schneller und treffsicherer als klassische Vorhersagemodelle.

00:15:23: Und Sie kommen dabei mit deutlich weniger Rechenleistung aus.

00:15:26: Supercomputer braucht das nicht!

00:15:29: Was ist jetzt neu?

00:15:30: Drei Dinge.

00:15:30: Erstens, das Modell rechnet jede Stunde eine neue Vorhersage und bezieht dafür auch aktuelle Satellitenbilder mit ein.

00:15:37: Bisher gab es nur alle sechs Stunden ein Update – dadurch soll Weathernext III schneller auf spontane Wetterlagen reagieren können zum Beispiel bei Gewittern.

00:15:46: Realistisch bringt das wohl einen Zeitvorteil von zwei bis drei Stunden – auch wenn Google selbst stündliche Vorhnersagen verspricht!

00:15:53: Zweitens, die Auflösung wurde deutlich verbessert.

00:15:56: Bei Temperatur- und Luftfeuchtigkeit rechnet das Modell jetzt mit einem Raster von fünf statt vorher vormundzwanzig Kilometern.

00:16:03: Das kommt für alle Menschen in Gebirgstälern oder an Küsten zugute – dort wo sich das Wetter kleinräumig stark unterscheiden kann!

00:16:10: Auch für Betreiber von solaren Windkraftanlagen ist es interessant, denn das Model sagt jetzt auch Windgeschwindigkeit, Sonneinstrahlung und Wolkenbedeckung vorher.

00:16:20: Drittens Google sieht vor allem Regionen in Lateinamerika, Afrika und im Asien-Pazifikraum als Gewinner.

00:16:26: Denn dort fehlen bislang die hoch auflösenden Regionalmodelle, die wir in Nordamerika und Europa längst haben.

00:16:33: Aber – das ist wichtig.

00:16:34: wie gut Weathernext III wirklich ist muss sich erst noch zeigen!

00:16:38: Die Vergleichstests liefen nur sechs Wochen lang und selbst die Google Forscher warnen davor diese kleine Stichprobe überzu bewerten.

00:16:45: Google selbst betont dass es ein experimentelles System.

00:16:49: Amtliche Warnungen, etwa vom Deutschen Wetterdienst bleiben weiterhin die verlässliche Quelle.

00:16:54: Und bei dem Thema das KI-Wettermodelle ursprünglich bekannt gemacht hat – den Vorhersagen von Wirbelstürmen fallen die Fortschritte gegenüber dem Vorgängermodell sogar eher klein aus.

00:17:04: Danke Malte!

00:17:06: Nvidia hat ein Open Source Werkzeug namens Pair vorgestellt kurz für Personal AI Router.

00:17:14: Das Tool verteilt lokale KI-Anfragen automatisch auf alle Geräte im Heimnetzwerk und soll so Wartezeiten verkürzen.

00:17:23: PER arbeitet als virtueller Router zwischen Programmen wie Ulama oder LM Studio, den Rechnern im Netzwerk Statt eine einzelne Grafikkarte zu überlasten, schickt das Tool Anfragen an freie Rechner und bündelt am Ende die Ergebnisse.

00:17:40: Unterstützt werden unter anderem NVIDIAs GeForce RTX-Karten ab der zwanziger Serie und Apple Chips ab dem MIVA.

00:17:49: In einer Demonstration erledigte ein Verbund aus drei Geräten eine Aufgabe in neun statt achtzehn Minuten.

00:17:57: Die Beta-Version steht für Windows, Mac OS und Linux bereit.

00:18:03: Das US-Verteidigungsministerium erweitert seine KI-Plattform JanAI.mil um angepasste Versionen von ChatGPT & GROC.

00:18:13: Bislang lief dort seit dem Start im Dezember nur Google Gemini.

00:18:18: Nach Angaben des Ministeriums nutzen die Plattform bereits mehr als µm Menschen.

00:18:24: ChatGPT soll vor allem bei Verwaltung, Logistik und Planung helfen – GROC bewirbt das Pentagon militärischer und nennt Beschaffungsanalysen- und Lieferkettenmanagement.

00:18:36: Beide Werkzeuge laufen in einer abgesicherten Umgebung getrennt von den kommerziellen Versionen.

00:18:42: So soll verhindert werden, dass sensible Regierungstaten abfließen.

00:18:46: Anthropics-Modellclot fehlt weiterhin – das Unternehmen wollte dem Pentagon keine uneingeschränkte Nutzung erlauben.

00:18:54: Die Trump-Regierung stufte Anthropic zudem als Lieferkettenrisiko ein.

00:18:59: Ein Gericht erklärte das Ende August für rechtswidrig!

00:19:05: Das war das KI-Update von Heise Online vom siebten September, zwei tausend sechsundzwanzig.

00:19:11: Eine neue Folge gibt es Montags Mittwochs und Freitag ab fünfzehn Uhr.