KI-Update kompakt: Schwarzer Donnerstag, Neue Open-Weight-Modelle, Klagen gegen OpenAI

00:00:02: Das KI

00:00:03: Update, ein Heise-Podcast

00:00:05: mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.

00:00:18: Schwarzer Donnerstag in Asien Rekordzahlen und düstere Prognosen Neue offene KI-Modelle und Klagewelle gegen OpenAI.

00:00:29: Ein schwarzer Donnersdag an Asians Börsen.

00:00:33: Nach heftigen Kursverlusten bei mehreren US-Unternehmen aus dem KI-Umfeld sind am Donnerstag die asiatischen Märkte eingebrochen.

00:00:41: Besonders stark traf es Südkorea, Martin Holland schildert die Entwicklung.

00:00:47: Das Land ist besonders involviert in den Ausbau der KI Rechenzentren und zwar gibt's mehrere Unternehmen, die da kräftig mit verdienen.

00:01:02: das sind vor allem Samsung und SK Hynix.

00:01:04: Und die haben besondere Kursrutsche erleiden müssen, der Hintergrund ist nicht so ganz klar.

00:01:13: es gab auf jeden Fall wieder mal neue Sorgen darüber dass die Finanzierung dieses Ausbaus auf tünernen Füßen steht.

00:01:22: also zuerst war losgegangen ist das mit Core Weave einem US Unternehmen am KI-Hausbau kräftig verdient und aber viele Schulden dafür aufnimm musste.

00:01:33: Und da sind die Schulden jetzt noch mal teurer geworden, das war so ein Auslöser bei Samsung und SK.

00:01:39: Hünigs kam dann auch dazu dass es eine Analyse in einem südkoreanischen Analistenhaus gab wo darauf hingewiesen wurde dass wenn der Ausbau der Produktion von Speicher für die Technik so wichtig ist weiter so läuft dass dann ungefähr in den Jahr- und Jahrzehnten über Produktionen oder über Kapazitäten erreicht werden, die problematisch werden könnten.

00:02:04: Das soll alles mit dazu beigetragen haben, dass da teilweise Großrückgänge von zehn, elf, zwölf Prozent erreicht wurden.

00:02:13: Und in Südkorea ist es zumindest so, Index Cost Bidot seit seinem Höchststand im Juni jetzt fast vierzig Prozent an Wert verloren hat.

00:02:23: Das ist laut Analysen schon fast so viel wie bei früheren großen Finanzkräsen, also zum Beispiel der asiatischen Finanzkrise, der Dotcom-Blase, der weltweiten Finanzkäse von zwei tausend acht aber noch.

00:02:40: Oder es sieht zumindest aktuell nicht so aus, als würde das übergreifen.

00:02:44: Die Börsen in Europa und den USA haben die Kursverluste dann am Donnerstag nicht nachgeholt.

00:02:50: Und inzwischen sieht's jetzt am Freitag so aus dass sich auch die Kuseln Südkorea und Japanen und Asien au al.

00:02:58: Danke Martin!

00:02:59: Unberührt von diesen Turbulenzen an den Aktienmärkten hat der taiwanische Chip-Auftragsfertiger TSMC im dritten Quartal XXVI erneut Rekordzahlen vorgelegt.

00:03:11: Grund dafür ist laut dem Unternehmen die starke Nachfrage vor allem nach zwei und drei Nanometer Technologien.

00:03:18: Die drei Nanometer Chips stellen inzwischen den größten Anteil am Wafer-Umsatz.

00:03:24: Die neueren zwei Nanometer chips haben noch einen kleineren Anteil, wachsen aber schnell – sie werden unter anderem für Apple und AMD gefertigt!

00:03:33: Mit Blick auf den Jahr- und Zweihundert äußert sich Konzernchef Wei vorsichtig.

00:03:39: Die Nachfrage sei robust, der KI-Trend halte ungebrochen an – unter Druck stünden allerdings sogenannte preissensible Marktsegmente also Bereiche wie günstige Smartphones oder Haushaltselektronik in denen die Kundschaft empfindlich auf höhere Preise reagiere.

00:03:56: Steigende Komponentenpreise und wirtschaftliche Unsicherheiten könnten dort die Nachfrage dämpfen!

00:04:03: Während TSMC von der enormen Nachfrage nach KI Chips profitiert, sieht es für andere Teile der Branche weniger rosig aus.

00:04:11: Viele Anbieter von KI-Infrastruktur könnten laut dem Markt Forschungsunternehmen Gardner in finanzielle Schwierigkeiten geraten.

00:04:19: Sie stecken derzeit enorme Summen in neue Rechenzentren und Hardware für KI, dürften aber durch den Verkauf von KI-Rechenleistungen an ihre Kundschaft deutlich weniger einnehmen.

00:04:31: Besonders betroffen seien die Neoclouds – also spezialisierte Cloudanbieter, die sich auf KI Anwendung konzentrieren, etwa Nebius oder Corvif.

00:04:41: Gardner rechnet damit dass rund Achtzig Prozent von ihnen bis Zwei Tausend Dreißig nicht mehr eigenständig bestehen können!

00:04:49: Ihre Kosten sind hoch und sie hängen stark von einem einzigen Geschäftsfeld ab.

00:04:54: Hinzu kommt, dass die eingesetzte Hardware schnell veraltet und an Wert verliert.

00:04:59: Großen Anbietern wie Amazon, Meta und Google könnte diese Entwicklung entgegenkommen – ihre Umsätze stammen aus vielen verschiedenen Geschäftsfeldern so das Sie auch nicht rentable KI-Investitionen länger durchhalten können.

00:05:13: Am Ende könnten Sie als dominierende Anbiter übrig bleiben!

00:05:18: Künstliche Intelligenz hat in Deutschland bislang kaum Arbeitsplätze gekostet.

00:05:23: Das geht aus einer Studie des Instituts für Arbeitsmarkt- und Berufsforschung IAB hervor.

00:05:29: In Berufen, die besonders stark von KI betroffen sind – etwa im Büro und Wissensarbeit hat sich die Beschäftigung seit Jahrzehnte sogar günstiger entwickelt als in weniger betroffenen Jobs.

00:05:42: Das allerdings gilt nur für Beschäftigte ab dreißig Jahren.

00:05:46: Bei den Berufseinsteigern zwischen zwanzig-und neunundzwanzig Jahre beobachtet das IAB leicht negative Effekte.

00:05:53: Als Hauptgrund für den schwierigeren Einstieg sieht das IAB allerdings die schwache Konjunktur.

00:05:59: Jüngere Beschäftigte seien davon besonders betroffen, da ihre Stellen in wirtschaftlich schwachen Phasen oft als erstes wegfallen.

00:06:09: SpaceX AI hat mit GROG Voice III Null ein neues KI-Modell für Sprachdialoge in Echtzeit vorgestellt.

00:06:16: Solche Modelle werden v.a.

00:06:18: im Kundendienst eingesetzt, um Anliegen per Telefon ohne menschliches Zutun zu klären.

00:06:24: Das Modell soll menschlicher als der Vorgänger wirken – da es offenbar Sprechpausen und Zwischenrufe besser erkennt!

00:06:32: In unabhängigen Tests von Artificial Analysis liegt das Modell im Gesamtindex vor den Konkurrenzprodukten von OpenAI und Google.

00:06:41: Besonders deutlich fällt der Fortschritt bei simulierten Kundendienstgesprächen aus.

00:06:46: In Blind-Tests mit menschlichen Teilen nehmenden landet Grog Voice III Null dagegen nur auf Rang Drei.

00:06:53: Laut SpaceX AI wird das Model bereits in Tesla Fahrzeugen.

00:07:01: Auch beim Satellitendienst Starlink beantwortet es Kundenanrufe.

00:07:05: Rund siebzig Prozent davon schließt die KI ohne menschliche Hilfe ab.

00:07:10: Grog Voice läuft nur über die Cloud, es folgen nun drei KI-Neuheiten dieser Woche, die offen zugänglich sind und sich auf eigene Hardware betreiben lassen.

00:07:19: Los geht's mit einem futuristisch betitelten neuen Nvidia Modell!

00:07:24: Nvidia verdient sein Geld zwar mit Chips, bringt aber immer öfter auch eigene KI-Modelle heraus und das für die Nutzerinnen und Nutzern kostenlos.

00:07:32: Mehr dazu von Jonathan Kemper vom The Decoder.

00:07:36: Nvidia will, dass Unternehmen ihre KI-Agenten selbst betreiben statt sie bei OpenEye oder Anthropic einzukaufen.

00:07:42: Dafür hat der Chip Designer ein neues offenes Modell namens Nemotronn III.V for Super VL veröffentlicht.

00:07:49: Es ist für Agenten gedacht, die dauerhaft im Hintergrund laufen und zum Beispiel Verträge prüfen, Belegeabtippen oder Tabellen- und Diagramme in langen Dokumenten auswerten.

00:07:58: Das Modell versteht dafür neben Text auch Bilder und Videos.

00:08:02: NVIDIA hat SuperVL aus einem größten Modell Nemotron III Ultra distiliert – das kleinere Modell hat also gelernt, die Antworten des großen nachzuahmen.

00:08:10: Mit Hundertzwanzig Milliarden Parametern ist es nur ein Fünftel so groß, soll bei Agenten Aufgaben aber ähnlich genau arbeiten!

00:08:17: Laut NVIDIA erreicht SuperVL dabei auf einer einzelnen GPU bis zu fünfmal mehr Token-Durchsatz als andere offene Modelle ähnlicher Größe.

00:08:25: An die geschlossenen Spitzenmodelle von Anthropic oder OpenAI kommt es in den Benchmarks allerdings nicht heran.

00:08:31: Unternehmen können das Modell mit eigenen Daten nachtrainieren und auf eigenen Server betreiben – das machen laut Nvidia bereits dutzende Firmen!

00:08:38: Der Zahlungsdienst Ramp wandelt damit Fotos von belegen instrukturierte Daten um, Salesforce will damit Verwaltungsabläufe in Beraten automatisieren und CrowdStrike baut damit Agenten die Unternehmensnetzwerke verteidigen sollen.

00:08:50: Nvidia veröffentlicht neben den Gewichten auch Datensetzer- und Trainingsrezepte.

00:08:54: Damit ist SuperVL öfter als viele andere Open-Wade-Modelle.

00:08:59: Für lokale Rechner bringt Nvidia zusätzlich das kleinere Modell Bolt heraus.

00:09:03: Nvidia hat es so stark komprimiert dass es mit vierundzwanzig Gigabyte Speicher auskommt.

00:09:08: Das ist allerdings immer noch so viel, dass es vor allem auf teuren Workstations läuft.

00:09:12: Eine Version mit nur vier Gigabyte für Sprachassistenten soll später im Monat folgen.

00:09:17: Alle neuen Modelle sind auf Nvidia Hardware abgestimmt – vom Server im Rechenzentrum bis zum Laptop!

00:09:22: Je mehr Unternehmen offene Modelle selbst betreiben, desto mehr Nvidia-Chips verkauft der Konzern.

00:09:27: Meta, Google, Anthropic und OpenAI entwickeln dagegen zunehmend eigene Chips für ihre Modelle.

00:09:37: stellt sein neues Bildmodell Flux-III Image-Klein als Open-Wade Modell bereit.

00:09:43: Es erzeugt hochauflösende Bilder aus Text, bearbeitet bestehende Bilder und verarbeitet bis zu zehn Referenzen.

00:09:51: Mit fünf Komma sechs Milliarden Parametern ist es deutlich kleiner als sein Vorgänger und schneidet in den internen Tests trotzdem besser ab als alle anderen offenen Modelle.

00:10:03: Eine komprimierte Version läuft schon auf Grafikkarten mit acht Gigabyte Speicher.

00:10:09: Auf einer RTX-Fürzig-Siebzig braucht ein Bild weniger als neun Sekunden.

00:10:14: Unternehmen, mit weniger als fünf Millionen Dollar Jahresumsatz dürfen das Modell kostenlos kommerziell nutzen.

00:10:22: Meta veröffentlicht mit Muse Spark Open erstmals seit der Lama Reihe wieder ein offenes Sprachmodell.

00:10:29: Meta bezeichnet es als das Leistungsfähigste Open-Wade-Modell aus den USA.

00:10:34: Ausgelegt ist es auf Programmierung und Agentenaufgaben.

00:10:38: Das Modell hat achthundertsechzehn Milliarden Parameter, von denen zweiundvierzig Milliarden gleichzeitig aktiv sind – verarbeitet bis zu eine Million Token und versteht Text-, Bild-, Video- und Audio.

00:10:51: In Benchmarks liegt es laut Meta zumindest teils deutlich vor chinesischen Modellen wie Quen, GLM An Muse Wonder, das Meta erst am Montag als sein erstes Spitzenmodell vorgestellt hat, kommt es aber nicht herra.

00:11:05: Optimiert hat Meta das offene Modell für Apples M-V Ultra.

00:11:10: Für den lokalen Betrieb sind dernoch mindestens zwei Mac Studios mit je fünfhundert zwölf Gigabyte Speicher empfohlen.

00:11:18: Die Modellgewichte – also die trainierten Parameter des Modells stehen kostenlos auf Huggingface bereit!

00:11:25: Vom offenen Muse-Modell jetzt zum geschlossenen Clouddienst, da steht Metters KI-Assistent Muse wegen seines Umgangs mit Nutzerdaten in der Kritik.

00:11:36: Der KI-assistent legt offenbar detaillierte dossiers über verwandte Freunde und Bekannte seiner Nutzerinnen und Nutzer an – das haben mehrere Sicherheitsforscher dokumentiert nachdem sie die KI dazu brachten, interne Dateien preiszugeben.

00:11:52: Muse erstellt demnach zunächst leere Dateien zu einzelnen Personen aus dem Umfeld der nutzenden Person und füllt diese nach und nach mit Informationen.

00:12:02: Gespeichert werden da etwa Namen, Geburtstage, Adressen und Berufe.

00:12:07: Hinzu kommen Angaben wie oft sich die nutzende Person oder die jeweilige andere Person austauschen wann sie zuletzt Kontakt hatten und was sie gemeinsam erlebt haben.

00:12:18: Auch wie nahe sie sich stehen und wie am besten mit dieser anderen Person kommuniziert wird, soll festgehalten werden.

00:12:25: Dafür greift Muse offenbar auch auf Daten aus Facebook oder Instagram zurück.

00:12:31: Problematisch wirken zudem die Datenschutzpraktiken.

00:12:34: Chat-Transkripte bleiben offenbar erhalten – selbst wenn Nutzerinnen und Nutzer sie haben löschen lassen!

00:12:41: Ein Mettersprecher betonte das ein KI-Assistent nur mit solchen Kontextinformationen nützlich sein könne.

00:12:48: Muse greife dabei nur auf öffentlich zugängliche und freiwillig geteilte Daten zu.

00:12:54: Mehrere US-Bundesstaaten klagen gegen OpenAI.

00:12:58: ChatGPT habe Nutzern und Nutzer dazu angeleitet, sich selbst zu gefährden – so einer der Vorwürfe.

00:13:05: Die Staaten fordern Schadensersatz und eine Reihe von Maßnahmen von OpenAI.

00:13:10: Tomislav Besmalinovic berichtet

00:13:13: Acht US-Bundesstaaten gehen mit eigenen Klagen gemeinsam gegen OpenAI vor.

00:13:18: Beteiligt sind Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia.

00:13:26: Die Kläger werfen dem Unternehmen vor die Risiken von Chatchity für minderjährige verharmlost und den Chatbot irreführend als sicher dargestellt zu haben.

00:13:36: Noch Darstellung der Kläger soll ChatGPT-Nutzer zu Selbstverletzungen und zum Suizid angeleitet, so wie bei der Planung von Gewalttaten unterstützt haben.

00:13:46: Der Chatbot könne Wahnvorstellungen verstärken und gefährliche medizinische Ratschläge geben.

00:13:52: Einzelne Staaten werfen OpenAI zudem vor persönlichen Daten minderjähriger ohne die erforderliche Einwilligung erhoben zu haben.

00:14:00: Arizona sieht darin auch kommerzielle Interessen.

00:14:04: Die Staaten fordern unter anderem Geldbußen, Schadensersatz und die Herausgabe von Einnahmen.

00:14:11: Gefordert werden außerdem Alterskontrollen, Nutzungszeitbegrenzungen und Datenlöschung.

00:14:17: Arkansas verlangt sogar weitere Tests fortgeschrittener KI und die Entwicklung selbstverbessender Modelle auszusetzen bis ausreichende Sicherheitsvorkehrungen bestehen.

00:14:28: Open AI verweist auf bestehende Schutzmaßnahmen wie Elternkontollen und Pausenerinnerungen.

00:14:33: Das Unternehmen will den Schutz weiter ausbauen und mit den Bundesstaaten zusammen an branchenweiten Regeln arbeiten.

00:14:40: Danke, Thomas Lauf!

00:14:42: Das Landgericht Köln hat dem Betreiber von Snapchat untersagt, Daten aus Chats mit dem hauseigenen KI-Chatbot für personalisierte Werbung zu nutzen.

00:14:53: hält sich das Unternehmen Snap nicht an das Urteil, drohen bis zu zweieinfünfzigtausend Euro Ordnungsgeld pro Verstoß.

00:15:01: Voraussetzung ist, dass die Entscheidung rechtskräftig wird!

00:15:05: Die Richter stellten klar, dass die Nutzungsbedingungen für den KI-Chatbot gegen europäisches Datenschutzrecht verstoßen.

00:15:12: Snap hatte Einwilligungen für die Datenverarbeitung bereits voreingestellt – Nutzerinnen und Nutzer stimmten damit unbemerkt auch der Verwendung ihrer Daten für zielgerichtete Werbung zu.

00:15:24: Alles was im Chat mit der KI geschrieben wird floss laut Snap in die Werbeausspielung

00:15:30: ein.".

00:15:30: Das Gericht ließ auch das Argument eines berechtigten Interesses nicht gelten.

00:15:36: Geklagt hatte der Bundesverband der Verbraucherzentrale, besonders bei Daten minderjähriger gelten im europäischen Recht inzwischen strenge Vorgaben – auch durch den Digital Services Act.

00:15:47: Snap kann gegen das Urteil in Berufung gehen!

00:15:52: Und das war das KI-Update von heiser online vom sechzehnten Oktober.

00:15:57: Ein neue Folge gibt es immer Montags, Mittwochs und Freitags um fünfzehn Uhr!