KI-Update kompakt: Nein zu Rechenzentren, Anthropic warnt, Google-Zwang, KI-Mythen

00:00:02: Das KI Update, ein Heise-Podcast

00:00:05: mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen – US-Votum gegen Rechenzentren, Anthropik warnt, Google koppelt Suche an KI, KI Schwächen oft überholt und Religion statt KI!

00:00:31: Bei den US-Zwischenwahlen haben sich die Demokraten durchgesetzt und überall Mehrheiten erzählt, auch teilweise in Staaten, wo die Republikaner überhaupt nie Konkurrenz durch die Demokraten befürchten mussten.

00:00:43: Aber die Menschen haben am Dienstag nicht nur das Repräsentantenhaus neu gewählt – in zahlreichen Bundesstaaten gab es auch, darüber berichtet jetzt Martin Holland auf kommunaler Ebene Abstimmungen über KI Rechenzentren

00:00:58: Und da ist es komplett eindeutig, dass die Menschen, die da jeweils gefragt wurden dagegen sind.

00:01:04: Es gab insgesamt einunvierzig solche Abstimmungen vor allem in Ohio wo es schon viele Rechenzentren gibt und alle wo... bislang Ergebnisse vorliegen, das sind jetzt schon siebenunddreißig.

00:01:15: Hat der Widerstand sich quasi durchgesetzt?

00:01:17: Das ist dann nicht immer ein Ja oder Nein.

00:01:19: Das kommt immer darauf an wie man die Frage stellt.

00:01:21: Das heißt auch nicht immer dass im Rechenzentren da jetzt untersagt sind.

00:01:25: teilweise wurde ein Moratorium vorgeschrieben.

00:01:28: Teilweise wurde die jeweilige Administration dazu verpflichtet sich beraten zu lassen.

00:01:34: aber es ist sehr deutlich Überall der Widerstand gegen Rechenzentren groß ist, dass die Kritik groß ist.

00:01:41: Dass die Menschen das in ihrer Nachbarschaft nicht haben wollen.

00:01:44: Man muss aber natürlich auch sagen, dass es teilweise Gemeinden sind wo nur ein paar hundert Menschen abgestimmt haben.

00:01:50: Es gibt aber auch größere Städte.

00:01:52: Die größte ist Blumenken Illinois und dort haben mehr als zwanzigtausend Menschen für so eine Beratungspflicht in dem Fall gestimmt.

00:02:03: Und was sich aber auch gezeigt hat, ist dass die Mehrheiten sehr groß sind.

00:02:06: Die knappste Abstimmung ist mit fünfundfünfzig zu fünfvierzient Prozent ausgegangen.

00:02:12: In vielen Fällen haben deutlich mehr als zwei Drittel der Menschen gegen Rechenzentren gestimmt und das zeigt einmal mehr wie wie umfangreich die Kritik inzwischen ist.

00:02:23: Das liegt inzwischen auch nicht mehr nur an dem Strombedarf, der lange da diskutiert wurde und den Wasser verbraucht bei Rechenzentren, sondern es gibt jetzt immer mehr Berichte darüber, dass Menschen, die in der Nähe von seinem gebauten Rechen-Zentrum wohnen über Lärmklagen, der eben durchgehen zu hören ist von den verschiedenen Anlagen, dass das sehr laut und nervtötend ist.

00:02:46: Und das wird jetzt eben auch immer mehr zum Thema.

00:02:49: Danke Martin!

00:02:50: Anthropic hält es für möglich, dass KI die Entwicklung neuer KI-Modelle schon bald erheblich beschleunigt.

00:02:57: Das geht aus der überarbeiteten Fassung des Börsen Prospekts hervor.

00:03:02: Tomislav Besmalinovic berichtet.

00:03:15: Künftige leistungsfähigere Modelle könnten noch mehr Entwicklungsarbeit übernehmen.

00:03:21: Im Extremfall könnte eine KI ihre Nachfolger ganz ohne menschliche Hilfe entwickeln, man spricht in diesem Zusammenhang auch von rekursiver Selbstverbesserung.

00:03:31: Die von Anthropic genannte Schwelle setzt eine solche allerdings nicht zwingend voraus.

00:03:36: Sie kann bereits erreicht sein wenn KI die Entwicklung neuer Modelle mindestens doppelt so schnell vorantreibt wie ohne KI Unterstützung.

00:03:44: Je stärker Claude an der Entwicklung seiner Nachfolger beteiligt ist, desto schwieriger könnte es für Menschen werden die einzelnen Schritte nachzuvorziehen und zu kontrollieren.

00:03:54: Anthropic räumt im Börsenprospekt auch ein erhebliche Beschleunigung bereits früher erst nachträglicher kann zu haben.

00:04:01: Bei der Einordnung dieser Nachricht ist allerdings zu berücksichtigen dass Anthropic kurz vor dem Börsengang steht.

00:04:08: das Unternehmen dürfte mit solchen Warnungen daher auch eigene PR-Interessen verfolgen.

00:04:15: Der Börsen-Prospekt verrät noch mehr.

00:04:18: Seit Jahresbeginn hat Enthropic nämlich Verluste von einem Hundertvier Milliarden Dollar angehäuft, größtenteils aufgrund bilanzieller Anpassung.

00:04:27: Der operative Verlust liegt bei fünfhundessich Millionen Dollar.

00:04:32: Gleichzeitig ist der Umsatz in den ersten neun Monaten, zw.

00:04:36: Jahrzehntzwei, von zwei Komma Fünf auf dreihandreißig Komma Zwei Milliarden Dollar gestiegen.

00:04:42: Für die kommenden Jahre hat Anthropic bereits Investitionen von eighthundertfünfundneunzig Milliarden Dollar in Rechenzentren und Infrastruktur veranschlagt.

00:04:52: Ob diese Summen tatsächlich fließen, siehe US-Zwischenwahlen ist offen – unter Anlegern wachsen zuletzt wieder die Zweifel ob sich die gewaltigen KI-Investitionen wirklich zurückverdienen lassen!

00:05:07: Am Montag ist der Digitalgipfel in Berlin zu Ende gegangen, das wichtigste jährliche Treffen von Politikwirtschaft und Verbänden zur digitalen Zukunft Deutschlands.

00:05:17: Im Mittelpunkt stand KI und die Frage wie souverän Europa in diesem Bereich agieren kann – deutlich wurden hier auch die Abhängigkeiten von US-Techfirmen und neue Deals mit ihnen!

00:05:30: Bundeskanzler Friedrich Merz sprach davon, wie wichtig eigene Fähigkeiten von der Hardware bis zur Software sein – gerade im KI-Kontext.

00:05:39: Dennoch seien Kooperationen mit vertrauenswürdigen Partnern nötig so

00:05:43: Merz.".

00:05:44: Dazu zählen auch die Pläne der Deutschen Nachrichtendienste ihre neue Offline-Cloud-Lösung ausgerechnet mit Google umzusetzen.

00:05:52: Merz verteidigte die Entscheidung.

00:05:55: Die Google Cloud sei ausreichend souverän, sagte er.

00:05:59: Fachleute aus Politik und Verbänden fordern allerdings einen anderen Ansatz.

00:06:04: Behörden und staatliche Stellen sollten gezielt heimische Klauddienste buchen, denn nur dadurch lohnten sich überhaupt Investitionen in europäische Alternativen.

00:06:16: Ein weiteres großes Thema beim Digitalgipfel waren die Folgen von KI für den Arbeitsmarkt.

00:06:22: Immer häufiger begründen Unternehmen Stellenabbau mit dem Einsatz von KI, Fachleute halten das oftmals für einen Vorwand.

00:06:30: Die tatsächlichen Gründe legen häufig eher in Konjunkturschwäche oder Umstrukturierungen.

00:06:36: Im Arbeitsalltag ist generative KI dabei längst angekommen – beim Schreiben, recherchieren und programmieren.

00:06:43: Die Begeisterung dafür hält sich allerdings in Grenzen.

00:06:46: Laut einer Umfrage des Softwaredienstleisters Adaptivist wünschen sich annähernd drei Viertel der Büro angestellten in Deutschland die Zeit vor Chatchi Pity zurück.

00:06:57: Viele klagen über Mehrarbeit und mehr Druck durch die neuen Werkzeuge.

00:07:02: Ein verbreiteter Rat an junge Menschen lautet häufig, sie sollten ins Handwerk einsteigen.

00:07:08: – beim Gipfel widersprach Arbeitsmarktforscher Enzo Weber Nötig seien bessere Weiterbildung und passende Bildungswege.

00:07:17: Auch Zuwanderung bleibt wichtig, denn KI werde den Beschäftigungsbedarf insgesamt nicht senken.

00:07:25: Passend zum Digitalgipfel ist eine neue Studie erschienen, die zeigt wie weit Deutschland bei der KI-Infrastruktur zurückliegt – das Borderstab-Institut hat sie im Auftrag des Branchenverbands BITCOM erstellt.

00:07:38: Die Investitionen in deutsche Rechenzentren steigen demnach in diesem Jahr auf ein Rekordwert von rund zwei Millionen Euro.

00:07:47: Angetrieben wird das Wachstum, vor allem durch Cloud-Dienste und K.I.. Bis im Jahr oder bis zu einem Jahr soll hierzulande mehr als die Hälfte aller Rechencentrumskapazitäten allein auf K. I entfallen.

00:08:01: Im globalen Vergleich fällt auf, dass Deutschland trotz der Investitionen gegenüber den USA und China weit zurückliegt.

00:08:08: Bitcoin-Präsident Ralph Wintergerst warnt – wer bei der Infrastruktur zurückfällt verliert auch bei KI schnell den Anschluss.

00:08:16: Ob das wirklich stimmt ist allerdings auch umstritten.

00:08:20: So zeigen Open Source Modelle doch, dass sich auch mit weniger Rechenleistung leistungsfähige KI bauen lässt!

00:08:28: Was für Folgen die Abhängigkeit von US-Techkonzernen haben kann, zeigt ein aktuelles Beispiel aus dem Bildungsbereich.

00:08:37: Da versucht Google die Nutzung von KI Werkzeugen quasi zu erzwingen – mehr dazu jetzt noch einmal von Martin Holland aus dem heise Newsroom.

00:08:55: die zukünftig aus KI-Werkzeuge abwählen können.

00:09:00: Also sagen können, dass Schülerinnen und Schüler keine KI Werkzeuge von Google benutzen können aber das das dann gleich bedeutend sei mit einer Absage an die Google Suche.

00:09:12: also das heißt wer wenn eine Schule sagt wir wollen nicht dass GooglesKI von Schülerinnen & Schülern benutzt wird Dann gibt es eben auch keine Google Suchen Und das ist ja nun mit Abstand die wichtigste Suchmaschine.

00:09:23: Das wäre ein sehr drastischer Schritt.

00:09:26: Das soll jetzt vorbereitet werden, das soll Anfang nächsten Jahres kommen und es gibt da schon heftige Kritik dran.

00:09:36: Es soll nicht ganz so umfangreich sein wie das jetzt klingt.

00:09:39: also man kann wohl, dass hat Google dann später noch gegenüber LSC versichert, dass Schulleitungen nur die KI-Werkzeuge abbestellen können quasi und dann die Suche trotzdem bekommen können.

00:09:52: oder das heißt in dem Fall aber auch dass die KI, die bei Google ja inzwischen auch an der Suche prominent angezeigt wird und Ergebnisse liefert.

00:10:00: Dass sie zumindest weiterhin verfügbar sein soll.

00:10:03: also es wird für Schulhaltung eben keine Möglichkeit geben wenn Sie mit Google kooperieren KI komplett auszusperren wenn sie die Google-Suche weiter benutzen wollen zu der es zwei Alternativen gibt.

00:10:15: aber bislang hat sich überhaupt keiner dabei durchgesetzt.

00:10:18: ob das so kommt muss ich hier zeigen.

00:10:21: die Kritik daran ist schon ziemlich laut.

00:10:24: Google hat das selbst gegenüber den New York Times bekannt gegeben und da hat der dortige Bürgermeister, Soran Mandami direkt davon gesprochen dass hier ein Konzern seine Monopolstellung ausnützt.

00:10:35: Und dass man sich aber nicht erpressen lassen würde also dass man das nicht zulassen könnte.

00:10:41: Konzerne bestimmt wie wir unsere Kinder unterrichten.

00:10:45: Also da muss man jetzt mal abwarten.

00:10:47: die Werkzeuge selbst, die Google vorgestellt hat.

00:10:50: Da geht es um vor allem um einen Tool das nennt sie Guided Learning.

00:10:54: Da gibt's darum dass Schülerinnen und Schülern eine Frage stellen an die Software jeweils dass sie nicht direkt die Antwort bekommen, sondern dass sie quasi zur Antwort geleitet werden.

00:11:06: Also das sie Hilfe dabei bekommen sollen diese Antwort selbst zu finden wo das jetzt alles kommt?

00:11:13: Das muss man mal abwarten.

00:11:14: also bei diesem Guided Learning auf jeden Fall ist von weltweit die Rede da gibt es auch schon Lob von Lehrerinnen und Lehrern die das getestet haben angeblich und zwar in Kolumbien und in Indien unter anderem und auch dieser Geschichte mit dem da eben direkt an die KI-Nutzung verknüpft wird.

00:11:35: Auch da muss man jetzt mal gucken, wo das alles so kommen

00:11:38: soll.".

00:11:38: Danke dir nochmals Martin!

00:11:41: Sprachmodelle können nicht einmal die Buchstaben im Wort Erdbeere zählen Eine Behauptung, die sich hartnäckig hält, obwohl sie längst überholt ist.

00:11:50: So ist es mit vielen bekannten oder diskutierten Schwächen von KI-Modellen – eine Studie hat das jetzt systematisch untersucht und Jonathan Kemper vom The Decoder hat sich die Ergebnisse angesehen.

00:12:02: Zwei Stanfordforscher wollten wissen wie schnell solche Erkenntnisse allgemein veralten?

00:12:07: Dafür haben Sie fünfzig viel zitierte Befunde übersprachmodelle noch einmal überprüft.

00:12:11: Getestet haben Sie zwanzig Modelle von acht Entwicklern.

00:12:14: Fast die Hälfte der Befunde ist laut der Studie abgelaufen.

00:12:17: Der ursprüngliche Effekt ist also weitgehend verschwunden, ein weiteres Drittel hat sich deutlich abgeschwächt.

00:12:23: Nur etwa jeder sechste Befund besteht noch – ein kleiner Teil hat sich sogar verstärkt!

00:12:27: Wo sich ein verfalltes Datum schätzen ließ, hielt ein Befund im Schnitt rund sechszehn Monate Am schnellsten verfallen Aussagen darüber was Modelle nicht können.

00:12:35: Dazu gehört neben den Buchstabenzellen auch das Rechnen in ungewohnten Zahlensystem.

00:12:40: Die Forscher vermuten, dass Entwickler solche Fehler gezielt wegtrainieren können, weil es ein klar richtiges Ergebnis gibt.

00:12:46: Tendenzen halten sich dagegen länger – das gilt etwa für die schmeiche Leihe gegen Übernutzern und für eine politische Linkstendenz.

00:12:52: Beim Bewerten bevorzugen Modelle außerdem weiterhin ihre eigenen Antworten.

00:12:57: Wie groß die Unterschiede bleiben, zeigt des Erfinden wissenschaftlicher Quellen.

00:13:01: GPT-Drei-Punkt-Fünf dachte sich in den letzten Jahren mehr als die Hälfte seiner Quellenangaben aus.

00:13:09: Das neueste Cloth Sonnet auf ein Prozent.

00:13:12: Ali Babas, ebenfalls aktuelles Modell Quen-Tripoint sieben Flash erfand dagegen mehr als zwei Drittel seiner Quellen.

00:13:17: Die Forscher fordern deshalb, befunde als Momentaufnahme eines bestimmten Modells zu behandeln und nicht als allgemeine Wahrheit.

00:13:23: Studien sollten Modell, Version und Datum nennen und ihre Proms und ihren Code veröffentlichen.

00:13:28: So lassen sich die Ergebnisse später mit neuen Modellen überprüfen!

00:13:33: In den USA hat ein Mann durchgesetzt, dass er bei der Arbeit keine KI nutzen muss – aus religiösen Gründen.

00:13:41: Es ist der erste bekannte Fall dieser Art.

00:13:44: Hintergründe dazu jetzt von Caroline Riedmüller.

00:13:47: Der Mann namens David Durman arbeitet als Forschungsadministrator an the University of Kentucky.

00:13:51: Diese fordert ihre Mitarbeiter auf, KI in ihrer Arbeitsabläufe zu integrieren.

00:13:56: Das wollte Durman jedoch nicht.

00:13:58: Zitat Der Prozess und die Arbeit, die damit verbunden sind, Situationen zu durchdenken – im Rahmen meiner Arbeit, meiner Ethik oder meines Umgangs mit anderen Menschen – ist ein wesentlicher Bestandteil meiner Entwicklung zu einem moralischen Menschen.

00:14:09: Und diese Arbeit abzugeben, ganz gleich ob sie anstrengend ist oder nicht, untergräbt meine Fähigkeit, moralisch zu

00:14:14: handeln.".

00:14:16: Dies gehe der Herr gegen seine moralische Überzeugung, sagte er in einem Interview mit Religion News.

00:14:22: Mit Hilfe einer NGO namens American Humanist Association beantragte er daher eine Ausnahmeregelung.

00:14:27: Dabei berief er sich auf ein Gesetz, das Anträg auf eine Änderung von Arbeitsanforderungen erlaubt werden diese religiösen Überzeugungen im Weg stünden.

00:14:35: Die Universität stimmt dazu.

00:14:37: Eine ähnliche Ausnahme könnte auch in Deutschland grundsätzlich möglich sein.

00:14:40: Gesetze die man so auslegen kann gibt es.

00:14:44: In den vergangenen Monaten gab es immer mehr Studien dazu Wie KI das handeln und Denken von uns Menschen verändert.

00:14:49: Laut einer MIT-Studie können KI generierte Inhalte zum Beispiel falsche Erinnerungen erzeugen Und Betroffene sind von diesen sogar besonders überzeugt.

00:14:58: Bei einer anderen Untersuchung von Anthropic übernahmen sechsenundachtzig Prozent der Teilnehmer in einem konkreten Entscheidungs-Szenario, indem sie als Expertin urteilen sollten – die Meinung und Handlungsempfehlungen von der KI.

00:15:09: Obwohl einige sogar wortgleich deren Begründung widergaben, waren die meisten jedoch überzeugt, die Entscheidung sei mehr ihre eigene als die der KI!

00:15:17: Nur fünfzehn Prozent erwähnten den Einsatz von künstlicher Intelligenz überhaupt.

00:15:21: Da wissen KIs zusätzlich zu ihrer Fehleranfähigkeit auch alles andere als

00:15:26: neutral.".

00:15:27: Eine Untersuchung von Anfang der Woche hatte beispielsweise gezeigt, dass Chachibiti und Grog auf identische Fragen zu den US-Wahlen hin fast immer gegensätzliche Parteien und Kandidaten empfallen.

00:15:37: Chachhibitinerie die Demokratischen – Grog fast immer die Republikanenchen.

00:15:42: Danke Caroline!

00:15:44: Mthropic hat den Programmierassistenten Claude Cote mit neuen Einschränkungen versehen.

00:15:49: Konkrete bestehende Spiele darf die Kain nun nicht mehr nachbauen.

00:15:54: Erlaubt bleiben eigenständige Entwicklungen, die sich an bekannten Genres orientieren.

00:16:00: Hintergrund sind KI-generierte Spielkopien, die beim Steam Next Fest im Oktober für Aufsehen gesorgt hatten.

00:16:08: Einige Indie-Studios sagten aus Angst vor Nachahmern öffentliche Demos ab.

00:16:13: Andere Entwickler berichteten von Erpressungsversuchen bei denen ihnen mit der vorzeitigen Veröffentlichung kopierter Spiele gedroht wurde.

00:16:22: Erste Spieleentwickler beschwerten sich allerdings bereits über die neuen Einschränkungen, so habe Claude Cote.

00:16:28: Die Arbeit an eigenen Projekten abgelehnt – etwa bei Spielmechaniken oder Anti-Cheats Software.

00:16:35: Ob das an der neuen Regel oder anderen Filtern liegt ist unklar!

00:16:39: Wie wirksam die Beschränkungen am Ende sind, ist ohnehin fraglich.

00:16:43: Entwickler können bei einzelnen Blockaden einfach auf andere KI-Dienste oder lokalbetriebene Open Source Modelle ausweichen.

00:16:53: Die Investmentbank Goldman Sachs nimmt den meisten beschäftigten fortgeschrittene KI Coding Tools wieder weg.

00:17:00: Cloud Code und Microsoft's GitHub dürfen laut einem Bloomberg Bericht nur noch Ingenieure nutzen.

00:17:06: Trader und Banker hatten die Werkzeuge zuvor monatelang eingesetzt, etwa um Handelsströme zu überwachen oder Inhalte zu erstellen.

00:17:15: Nicht nur bei ihnen sorgt die Entscheidung für Unmut – denn noch im Sommer wurde das Vibecoding durch nicht technische Mitarbeiter durch Goldman Sachs noch explizit gelobt.

00:17:26: Die genauen Gründe sind unklar.

00:17:29: Bloomberg nennt lediglich eine Überprüfung von Produktivität- und Risikomanagement als Grund.

00:17:34: Ein Goodman-Sprecher sagte, nach der Experimentierphase gingen die Tools nun an diejenigen, die sie langfristig am besten einsetzen könnten.

00:17:44: Die Suche nach außerirdischer Intelligenz bekommt Hilfe von KI-Agenten Am Allen Telescope Array.

00:17:50: in Nordkalifonien dürfen KI-Agenten jetzt das Teleskop steuern und die empfangenen Radiosignale mit KI Modellen auswerten.

00:18:00: Das SETI-Institut nutzt dafür NVIDIAs Plattform Holoscan, die die Teleskopdaten in Echtzeit verarbeitet.

00:18:07: Partner ist Breakthrough Listen – das Suchprogramm des Milliardärs Juri Milner.

00:18:12: Aufgaben, die bisher Wochen dauerten sollen so in Stunden erledigt sein.

00:18:16: Nach eigenen Angaben hat das Team damit erstmals einen Pulsar im Krebsnebeln in Echzeit per KI erkannt.

00:18:24: Pulsare sind schnell rotierende Sternenreste, die regelmäßig Signale aussenden.

00:18:30: Deshalb eignen sie sich als Testfall für die Signalerkennung.

00:18:34: Als nächstes will das Team offene KI-Modelle testen, die ohne Internetverbindung laufen – Sie könnten zum Beispiel in Sensoren auf der Rückseite des Mondes eingesetzt werden, wo es keine Verbindung zur Erde gibt!

00:18:48: Ein bestätigtes Signal außerirdischer Intelligenz gibt es seit dem ersten SETI Experiment, bis lang nicht.

00:18:58: Das war das KI-Update von Heise Online vom vierten November, ein neue Folge gibt es immer Montags Mittwochs und Freitag um fünfzehn Uhr.