KI-Update kompakt: Anti-Tech, Anthropic, KI in Frankreich, KI-generierter Spielfilm

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen US Sorge vor Antitech Extremismus, Anthropic an der Spitze, neue KI Infrastruktur in Frankreich und KI Generierte Spielfilm bei einem Festival.

00:00:30: Aus internen Unterlagen verschiedener US-Behörden, unter anderem des Heimatschutzministeriums und des FBI geht hervor dass die Behörden in den USA Technikkritiker ins Visier nehmen.

00:00:43: Angeblich aus Sorge vor KI bedingten Unruhen und vor Extremisten.

00:00:49: mehr dazu jetzt von Caroline Riedmüller.

00:00:52: Wer sich kritisch gegenüber Technik äußert muss zukünftig damit rechnen das er auf dem Radar der nationalen Sicherheitsbehörden der USA landet.

00:00:59: Laut internen Dokumenten, die dem Medium-Wired vorliegen gibt es dort nur in der Bedrohungskategorie Anti-Tech Extremism.

00:01:05: Also extreme Haltung gegen Technik.

00:01:08: Man habe Angst für Unruhen, die als Folge einer zunehmenden KI Ausweitung entstehen könnten heißt das.

00:01:14: Ab wann eine Haltung als extrem gilt scheint jedoch sehr weit ausgelegt zu werden und dass ist einer der zwei großen Knackpunkte dieser neuen Entwicklung.

00:01:22: denn zum einen ist in den Papieren von tatsächlichen Extremisten wie Zitz Lasota die Rede.

00:01:27: Er ist mutmaßlich der Anführer einer ersecktenähnlichen Gruppe, die KI stark ablehnt und deren Mitglieder unter anderem wegen Mordes angeklagt wurden.

00:01:34: Den internen Dokumenten zufolge werden aber zum Beispiel auch Demonstration gegen Elemask als potentiell extremistisch beobachtet oder Gemeinde- und Schulversammlungen.

00:01:43: Diese sind in betroffenen Regionen wohl aktuell eine Austauschplattform für Bürger, in deren Nachbarschaft ein Rechenzentrum geplant ist.

00:01:49: Wenn man sich hier kritisch gegen das Bauvorhaben äußert wird man anscheinend nun als potenzieller Antitechextremist beobachtet.

00:01:57: In der Vergangenheit wurde auch mindestens ein Informationsvideo über die negativen Auswirkungen eines Rechenzentrums als extrem Antitech gemeldet.

00:02:05: Das alles wirkt so, also würde man schon mit einer technisch kritischen Meinung als potenzieller Extremist beobachtet werden.

00:02:11: Der zweite Knackpunkt ist dass die Sicherheitsbehörden das Monitoring der Bevölkerung längst nicht mehr komplett selbst übernehmen.

00:02:17: Sie beauftragen schon länger private Firmen damit das Internet zu bewachen und sicherheitsrelevante Dinge zu melden.

00:02:22: In den vorliegenden Berichten wird explizit ein Monitoring von Social Media nach technisch-kritischen Äußerungen erwähnt.

00:02:28: Ganz grundsätzlich greifen solche Firmen aber häufig auch auf Daten zurück, die man an den Datenhandelsbörsen über jede Person kaufen kann.

00:02:35: Darunter fallen in der Regel Standortdaten, Nutzungsmuster von Endgeräten und vieles weitere.

00:02:40: Es wäre wenig überraschend wenn diese tiefen Einblicke im Endeffekt alles was wir online tun auch dahingehend ausgewertet wird ob wir Technik wie KI kritisch gegenüberstehen.

00:02:51: Inwieweit auch technisch kritische Äußerungen von Nichtamerikanern überwacht werden, ist nicht klar.

00:02:55: Grundsätzlich überwachen die USA aber fast den gesamten Internetverkehr weltweit und werden ihn automatisiert nach Schlagworten aus.

00:03:10: Damit

00:03:18: überholt Amtropic den Konkurrenten OpenAI und wird zum wertvollsten KI-Startup der Welt.

00:03:25: An der Runde beteiligen sich zahlreiche Investoren, darunter Amazon sowie die Speicher & Chip-Ambieter Samsung, Micron und SK Heinecks.

00:03:35: Das frische Kapital soll in die Forschung zur Sicherheit und Interpretierbarkeit von KI Modellen fließen.

00:03:42: Außerdem will Amtopic zusätzliche Rechenkapazitäten aufbauen Denn die Nachfrage nach dem KI-Assistenten Claude wächst stark.

00:03:52: Besonders im Enterprise-Geschäft verzeichnet Anthropic ein deutliches Wachstum, viele Firmen setzen Claude im Arbeitsalltag ein etwa mit Werkzeugen wie Claude Code für die Softwareentwicklung.

00:04:05: Zuletzt musste das Unternehmen die Nutzung sogar zeitweise drosseln da sie zur Verfügung stehender Rechenleistungen nicht ausreichte.

00:04:12: Berichten zufolge bereitet sich Anthropic auf einen Börsengang vor Denn auch in diesem Jahr folgen könnte.

00:04:19: Parallel zur Finanzierungsrunde stellte das Unternehmen das neue Spitzenmodell Claude Opus, Vier Punkt Acht vor.

00:04:26: Danke, Tomislav!

00:04:28: Ja es wurde eben schon kurz erwähnt.

00:04:30: Anthropic hat jetzt Claude opus vier Punkt acht veröffentlicht und ist ersetzt damit das erste im April erschienende vier Punkt sieben und kostet genauso viel.

00:04:41: Im Mittelpunkt des Updates steht laut Hersteller die Ehrlichkeit der KI.

00:04:46: Opus-Fürpunkt Acht soll seltener Behauptungen aufstellen, für die es keine belastbare Grundlage gebe.

00:04:52: Stattdessen soll das Modell nun häufiger darauf verweisen, wenn es sich bei einer Antwort nicht sicher ist oder wenn Informationen fehlen.

00:05:01: Auch in selbstgeschriebenem Code soll Opus Föhrpunkt Aacht eigene Fehler und Lücken häufiger offen benennen statt sie unkommentiert stehen zu lassen.

00:05:10: Das hauseigene Alignment-Team bescheinigt dem Modell außerdem Fortschritte bei prosozialem Verhalten.

00:05:16: Damit ist gemeint, dass die KI im Interesse der Nutzenden handelt und deren Selbstbestimmung respektiert statt sie zu manipulieren.

00:05:24: Anthropic kündigt zudem an die leistungsstärkere Mythos Klasse bald breiter verfügbar zu

00:05:31: machen.".

00:05:32: Bisher hat nur ein enger Kreiszugang, da das Modell wie berichtet laut Hersteller Sicherheitslücken besonders effektiv aufspüren kann.

00:05:42: Und dass offensichtlich ein dringender Bedarf an einer Verbesserung der KI-generierten Codequalität herrscht zeigt eine Umfrage des Softwareunternehmens Cloudbees.

00:05:52: unter Zweihundert Führungskräften aus der Technologiebranche Zum Einsatz von KI im eigenen Unternehmen befragt, berichtete da eine große Mehrheit von Funktionsfehlern, von Sicherheitslücken und von Leistungseinbußen durch KI-generierten Code.

00:06:09: Rund die Hälfte des KI-Codes enthält demnach bekannte Sicherheitsrisiken – auch Logikfehler ineffiziente Strukturen und simple Tippfehler treten auf Ebenso Compliance-Verstöße, etwa gegen Datenschutzvorgaben oder es werden Bibliotheken mit unpassenden Lizenzbedingungen verwendet.

00:06:30: Ein zentrales Problem ist, laut der Antworten auf die Umfrage, die Qualitätskontrolle.

00:06:35: Viele Testteams kämen mit dem Prüfen des KI-Codes gar nicht mehr hinterher – Die Pflege der Testumgebung also der Bereich in dem neuer Code geprüft wird bevor er in den echten Betrieb geht sei inzwischen aufwendiger als das eigentliche Programmieren.

00:06:51: Berichte von Amazon oder dem Fraunhofer Institut weisen ebenfalls auf sinkende Codequalität durch KI hin.

00:06:59: Ein Grund liegt dabei natürlich in der funktionsweise generativer KI selbst.

00:07:03: Sie arbeitet mit Wahrscheinlichkeiten und liefert beim gleichen Prompt nicht immer dasselbe Ergebnis.

00:07:11: Die Bundesregierung will KI flächendeckend in die deutschen Finanzämter einführen, das geht aus dem Referentenentwurf für das Jahressteuergesetz im Jahr.

00:07:23: Ziel ist es, demnach die Bearbeitung von Steuererklärungen zu beschleunigen und den Aufwand in den Behörden zu senken.

00:07:31: Für Steuerzahlende bedeutet das dass ihre sensiblen Finanzdaten künftig zum Training staatlicher Algorithmen benutzt werden sollen.

00:07:39: Bisher war ein solches Vorgehen rechtlich kaum möglich.

00:07:43: Der Zweckbindungsgrundsatz der DSGVO verbietet es, einmal erhobene Daten für andere Zwecke weiterzuverwenden.

00:07:51: Genau deshalb sollen nun der Paragraf neunundzwanzig C der Abgabenordnung so angepasst werden dass es Finanzbehörden ausdrücklich erlaubt ist KI mit echten Steuerdaten zu füttern.

00:08:03: Als Schutzmaßnahme sollen die Trainingsdaten spätestens ein Jahr nach Abschluss der Entwicklung gelöscht werden.

00:08:10: Ob das geplante Vorgehen juristisch Bestand hat, ist offen.

00:08:14: Datenschützer dürften die Pläne kritisch prüfen – auch eine Klage vor dem Bundesverfassungsgericht oder dem Europäischen Gerichtshof erscheint möglich, da die DSGVO als europäisches Recht über nationalen Regelungen steht.

00:08:29: Der japanische Konzern Softbank baut in Frankreich KI Rechenzentren mit einer Kapazität von fünf Gigawatt.

00:08:37: Das Investitionsvolumen liegt bei bis zu seventy-fünf Milliarden Euro, mehr dazu jetzt von Kim Schorinbrandt vom The Decoder.

00:08:45: Es ist die größte KI Infrastrukturinvestition von Softbank in Europa angekündigt beim Choose France Gipfel von Präsident Emmanuel Macron.

00:08:54: In der ersten Phase sollen bis zu einem Jahrzehnt in den Regionen Otto de France entstehen.

00:09:01: Die Standorte liegen in Dünnkirchen, Bosch-Gel und Bouchon.

00:09:05: Allein dieser Bauabschnitte kostet ca.

00:09:07: €.

00:09:08: Gemeinsam mit dem französischen Konzern Schneider-Elektricks soll in Dünkirchen außerdem ein Produktionscluster für Rechenzentrumskomponenten entstehen.

00:09:16: Mötschaftsminister Roland Lescure verwiesse auf den schnellen Zugang zum europäischen Stromnetz und beschleunigte Genehmigungsverfahren.

00:09:23: Auch außerhalb Europas treibt SoftBank zahlreiche Projekte voran.

00:09:27: In Abu Dhabi entsteht unter dem Namestargate UAE gemeinsam mit den Konzernen G-Forty Two einen Rechenzentrum mit bis zu einer Gigawatt Kapazität, dorthin sollen bis zu eine Milliarden US Dollar investiert werden.

00:09:39: In Japan bündelt SoftBanks Konzerne wie NEC, Honda und Sony um ein eigenes Foundation Model mit einer Billion Parameter zu entwickeln – das britische Stargate Projekt mit Open AI soll dagegen derzeit auf Halt stehen!

00:09:52: SoftBank gehört zu einem der größten Investoren von OpenAI und nimmt Kredite auf seine Anteile auf, um die Investitionen zu finanzieren.

00:10:00: Im Mai berichtete der Finanzdienstleister Bloomberg das einer dieser Krediter gekürzt wurde weil die Kreditgipper Zweifel am tatsächlichen Wert von Open AI haben.

00:10:10: Die US-Regierung hat veranlasst, dass leistungsfähige Halbleiter nicht an Unternehmen verkauft werden dürfen, deren Hauptsitz in China oder Macau liegt.

00:10:20: Für entsprechende Exporte ist künftig eine Lizenz nötig – bisher konnten chinesische Firmen die Chips über Tochtergesellschaften in anderen Ländern beziehen und so die Beschränkungen umgehen.

00:10:32: Vor einem Jahr hatte die Trump-Regierung Exportbeschränkungen ihrer Vorgänger aufgeweicht.

00:10:38: Damals fiel eine Regel weg, die Lieferung in Länderverbot aus denen die Chips weiter nach China gelangen konnten.

00:10:44: Schätzungen aus der Branche zufolge sollen seitdem hunderttausende Halbleiter auf diesem Weg in die Volksrepublik geflossen

00:10:52: sein.".

00:10:53: Die US-Regierung verfolgt also einen eigentlich sich widersprechenden Kurs.

00:10:57: Einerseits will sie China den Zugang zu spitzen Technik erschweren, andererseits soll die heimische Chipindustrie weiter kräftig am lukrativen Geschäft verdienen.

00:11:08: Nvidia hatte zuletzt auch versucht im chinesischen Markt wieder Fuß zu fassen.

00:11:13: Die modernsten Halbleiter von Nvidia sind für die besten KI Modelle weiterhin kaum zu ersetzen.

00:11:20: Laut einem Bericht von The Information arbeitet Metta an einem neuen KI Wearable, einem Anhänger den man um den Hals trägt.

00:11:29: Das Gerät könnte mit einer Kamera ausgestattet sein.

00:11:32: Weitere Details allerdings zu Funktionen oder Design sind bislang nicht bekannt.

00:11:37: Im vergangenen Jahr hatte Metta das Startup Limitless übernommen, dass bereits einen KI-Anhänger entwickelt hat.

00:11:44: Dieser kann Gespräche in Echtzeit aufzeichnen und transkribieren.

00:11:49: Parallel arbeitet Metta an mehreren neuen KI-Brillen.

00:11:53: Die Erste davon soll bereits im Juni erscheinen, bis Jahresende sollen drei weitere Modelle folgen.

00:12:00: Geld verdienen will Metta nicht nur mit dem Verkauf der Geräte sondern wohl vor allem mit angebundenen KI-Diensten und kostenpflichtigen Abos für Metta AI!

00:12:10: Die Wearables sollen auf dem hauseigener KI-Modell Muse Spark und einem geplanten KI Agent namens Hedge laufen.

00:12:19: Der Druck auf den Konzern ist jedenfalls groß.

00:12:22: Schließlich schreibt die Hardware-Sparte Reality Labs jedes Jahr Milliarden Verluste.

00:12:28: Der US-Nachrichtensender CNN hat das KI Suchmaschinenunternehmen Perplexity verklagt.

00:12:34: Der Vorwurf lautet, perplexity habe mehr als siebzehntausend Artikel, Videos und Bilder unerlaubt übernommen und für eigene Chatbot Antworten genutzt.

00:12:44: Es würden dabei oft mit CNN Inhalten identische oder sehr ähnliche Inhalte direkt in den Suchergebnissen präsentiert.

00:12:52: statt auf die Originalquelle zu verlinken heißt es in der Klageschrift.

00:12:57: soll Perplexity technische Sperren gegen Webcrawler umgangen oder ignoriert haben.

00:13:03: Ein CNN-Sprecher erklärte, hochwertiger Journalismus sei teuer und teils gefährlich in der Produktion und müsse geschützt werden.

00:13:12: Perplexety weist die Vorwürfe zurück und verweist darauf, dass sich Fakten nicht urheberrechtlich schützen

00:13:18: ließen.".

00:13:19: Verhandlungen über eine Lizenzvereinbarung waren im vergangenen Jahr gescheitert.

00:13:24: Mit anderen Medien wie Time, Le Monde oder der Spiegel hat Perplexity dagegen bereits Verträge geschlossen.

00:13:32: CNN ist der erste Fernsehsender, der gegen Perplexty klagt.

00:13:36: Auch die New York Times, News Corp und die Chicago Tribune liegen mit dem Unternehmen in Rechtsstreit.

00:13:44: KI-Suchagenten recherchieren oft gar nicht wirklich im Internet.

00:13:48: Stattdessen nutzen sie das Web vor allem, um Antworten zu bestätigen, die Sie bereits intern gespeichert haben.

00:13:55: Das zeigt eine Studie von Forschenden des Haben Institute of Technology und der chinesischen Online-Plattform Xiaohong Xu.

00:14:03: Untersucht wurden elf führende KI-Modelle.

00:14:06: Im ersten Test entfernten die Forschen alle Such-und Browsingwerkzeuge.

00:14:12: Trotz fehlendem Internetzugang lösten manche Modelle bis zu zweiundsechzig Prozent der Aufgaben des Benchmarks Browscom aus dem Gedächtnis.

00:14:21: Im zweiten Test durften die Modelle im Internet suchen, aber die Forschenden filterten genau die Webseiten heraus, die zur richtigen Antwort führen würden.

00:14:31: Alle Modelle schnitten dann sogar schlechter ab als ganz ohne Suche!

00:14:36: Die Recherche zog sie also von den richtigen Anforten weg.

00:14:40: Die Forschenden entwickelten daraufhin Livebrows Comp, einen neuen Benchmark mit aktuellen Fragen jenseits des Trainingswissens.

00:14:48: Dort fielen alle Modelle deutlich ab – auch die bisherigen Ranglisten verschoben sich!

00:14:54: Die Studie zeigt also etablierte Tests messen oft eher das Vorwissen der Modelle als ihre Recherchefähigkeit.

00:15:02: Eine weitere internationale Studie zeigt, dass das Training, das aus rohen Sprachmodellen hilfreiche Chatbots macht zugleich deren Fähigkeit schwächt menschliches Verhalten nachzubilden.

00:15:14: Dass die KI also so antwortet oder entscheidet wie es echte Menschen tun würden.

00:15:20: Der Effekt verstärkt sich von Modellgeneration zu Modell-Generation.

00:15:24: Grundlage ist der neue Datensatz PSYG-II-I mit Transkripten aus Verhaltensexperimenten von rund zweihundert Achttausend Teilnehmenden.

00:15:33: Die Forschenden verglichen damit Basismodelle aus den Familien QUEN III, Lama III und Olmo III – mit ihren nachtrainierten Varianten.

00:15:42: Basismudelle sind nur darauf trainiert das nächste Wort vorherzusagen.

00:15:47: Aus ihnen entstehen durch zusätzliches Training spezialisierte Assistenten.

00:15:52: Das Ergebnis ist eindeutig.

00:15:53: Die einfachen Basismodelle sagen menschliches Verhalten besser voraus als ihre weiter trainierten Nachfolger.

00:16:00: Besonders deutlich ist der Effekt bei Modellen, die auf logisches Schlussfolgern getrimmt sind.

00:16:05: Sie liefern zwar korrektere Antworten treffen aber die typischen Denkenmuster von Menschen schlechter.

00:16:11: Auch der Trick einer KI per Prompt eine bestimmte Rolle zuzuweisen halb kaum.

00:16:17: Für die Wissenschaft bedeutet das, wer menschliches Verhalten simulieren will sollte am besten ein rohes Basismodell nutzen.

00:16:25: Im Uni findet in New York das Tribeca Festival statt ein jährliches Kulturfestival mit Focus of Independent Filmen.

00:16:34: Teil des Programms ist ein erstmals komplett KI-generierter Film.

00:16:39: Er erzählt eine fiktive Geschichte aus dem Iran Martin Holland berichtet

00:16:44: Und zwar geht es um den Film Dreams of Violets und der behandelt die Proteste, vor allem die blutige Niederschlagung das Massaker an den friedlichen Protestierenden im Iran Anfang des Jahres.

00:16:59: Und hinter dem Film stehen zwei iranische Brüder, die ziemlich umtriebig in letzter Zeit viel mit KI zu tun haben und die sagen sie wollten unbedingt diese Geschichte erzielen konnten das aber mit herkömmlichen Mitteln nicht.

00:17:12: Also zur Erinnerung Anfang des Jahres gab es im Iran die wahrscheinlich größten Proteste in der Geschichte der islamischen Republik gegen das Regime und die wurden blutig niedergeschlagen, es gibt Berichte dass mehrere Zehntausend Menschen dabei getötet worden und da ist aber natürlich sehr wenig von rausgetrunken, das Internetworte gesperrt damals.

00:17:31: Es gibt Augenzeugenberichtes, es gab Fotos aber sonst nicht viel.

00:17:34: und natürlich kann im Iran selbst niemand ein Film darüber drehen.

00:17:40: Und die Brüder sagen, sie hätten das was Sie jetzt gemacht haben, hätten Sie nur mit KI machen können.

00:17:45: Und zwar konkret heißt es, dass sind jetzt die Eingaben aus der Pressemitteilung, dass Sie abends nach der normalen Arbeit zu Hause am Computer mit selbst bestellten Tools und unter Rückgriff auf bekannte KI-Modelle diesen Film eben erstellt haben, der quasi eine fiktive Geschichte erzählt.

00:18:04: Die während dieser Proteste und der Niederschlagung spielt und das sieht alles sputorealistisch aus, zumindest wenn man nach dem Trailer geht.

00:18:14: aber wie gesagt ist es alles komplett KI generiert.

00:18:17: Es kommt dazu sie sagen der Film habe nur zweitausend Dollar gekostet.

00:18:21: dass sei viel günstiger oder ist natürlich viel günster als Normalerweise ein Film, selbst ein nicht so großer Hollywood-Filmer stellt wir wobei man sagen muss das zumindest die Arbeitszeit offensichtlich nicht mit berechnet wurde.

00:18:35: Und die beiden meinen dass sie damit auch quasi eine Blaupause gemacht haben dafür wie künftig zahlreiche Filme erstellt werden könnten weil man ja das so günstig machen kann Wie jetzt die Reaktion da drauf ist, vor allem an den KI-generierten Sachen gibt es ja schon eine Weile Kritik.

00:18:53: Das muss man jetzt abwarten.

00:18:54: der Film läuft Anfang Juni in New York im Kino und soll danach auch so in die Kinos kommen.

00:19:00: Und vor allem muss man dazu sagen dass im Bezug auf den Iran und jetzt vor allem den Iran Krieg aber auch die geschiedene Saison schon eine ganze Weile die KI generierten Inhalte ein Problem sind oder sich aufmerksam machen.

00:19:15: Da gab es vor allem die KI-Propaganda der islamischen Republik, die auf so Lego Figuren zeigen.

00:19:20: Die zeigen immer so Legofiguren, die da die Konfliktparteien und die beteiligten Personen darstellen.

00:19:27: Und auch sonst gibt's natürlich in einem Geschehnis oder im Vorfall, der so schlecht zu dokumentieren ist, lädt es natürlich mal extra ein, dass man Inhalte generiert und das die sich verbreiten.

00:19:38: Und dann muss man jetzt sehen wie die Öffentlichkeit und so darauf reagieren wird.

00:19:43: Danke Martin.

00:19:46: Das war das KI-Update von Heise Online vom ersten Juni, ein neue Folge gibt es Montags Mittwochs und Freitags ab fünfzehn Uhr.