KI-Update kompakt: Sperre für Grok, ChatGPT in der Schule, Meta investiert in Atomkraft

00:00:02: Das KI-Update, ein Heise-Podcast

00:00:05: mit redaktioneller Unterstützung von

00:00:07: The Decoder.

00:00:14: Ich bin Marco Pauli und die sind heute unter anderem unsere Themen.

00:00:18: Sperre für GROC, ChatGPT in der Schule, Ineser patzt mit KI und Meta investiert in Atomkraft.

00:00:27: Der KI Chatbot Grog sorgt seit Tagen für Aufsehen, da er dazu genutzt werden kann, Menschen anhand von Bildern digital zu entkleiden oder um mit diesen Bildern deepfakes mit sexuellem Inhalt zu erstellen.

00:00:39: Nun gibt es erste Länder, die den Zugriff auf Grog unterbinden, Martin Holland berichtet.

00:00:45: Malaysia und Indonesien haben diesen Chatboard gesperrt, also den Zugang dazu, nicht aber X, also den Kurznachrichtendienst.

00:00:54: Und das ist jetzt eine Reaktion, die schon länger sich angedeutet hat, aber passiert es nach dem.

00:01:01: die Verantwortlichen für GROC, also von XAI, den zumindest teilweise beschränkt haben auf dem Kurznachrichtendienst, haben sie dafür gesorgt, dass man das jetzt diese Bilder nicht einfach mehr in dem Kurznachrichtendienst selbst quasi beauftragen kann und sie da generiert werden.

00:01:16: Der generiert jetzt auf X selbst nur noch Bilder für Nutzer oder Nutzerinnen, die bezahlen für ihr Abo.

00:01:24: Das heißt aber nicht, dass der Chatbot das per sie nicht mehr macht, also diese Bilder nicht mehr generiert, sondern man kann das noch in Direktnachrichten, kann man den kontaktieren und darum bitten.

00:01:34: Und die könnte man natürlich dann weiter teilen.

00:01:36: Und auf der Website von GROC geht das auch immer noch.

00:01:40: Also das war nur eine leichte Einschränkung, die teilweise dafür kritisiert wurde, dass es einfach jetzt eine Premiumfunktion ist, also diese Bilder zu machen, die ja größtenteils ohne das Einverständnis ja dargestellten passieren oder dass quasi das eine Werbung dafür sein könnte, dass dieser Dienst das ja kann.

00:01:59: Also jetzt hat man zehn Tage lang das... einmal ausprobieren können und der ganzen Welt gezeigt hat es mitbekommen und jetzt verlangt man dafür eben Geld.

00:02:07: Und jetzt haben, wie gesagt, mit Malaysia und Indonesien die ersten beiden Staaten reagiert und den Zugriff gesperrt.

00:02:15: Unklar ist, wie es jetzt weitergeht, weil auch in Großbritannien zum Beispiel wurde schon erklärt, dass es da Ermittlungen gibt und auch die EU-Kommission hat gesagt, dass die Einschränkungen von GROC, die da am Freitag verkündet wurden, eben nicht ausreichen.

00:02:30: Und Elon Musk hat sich aber gleich wieder mit fundamentaler Kritik vor allem in Großbritannien hervorgetan.

00:02:35: Deswegen sieht es nicht danach aus, als wären da weitere Maßnahmen auf X selbst zu erwarten.

00:02:43: Und deswegen muss man auch sagen, dass die Kritik an Google und Apple zunimmt, weil die lassen ja die Apps von X und auch Grog auf ihren Plattformen zu.

00:02:54: Also die kann man da ja runterladen, obwohl sie Also diese Funktion auf jeden Fall eindeutig gegen die Nutzungsbedingungen verstößt, die Sie bei anderen Apps sehr gerne mal rigoros durchsetzen.

00:03:05: Und deswegen haben jetzt in den USA schon drei Senatoren gefordert, dass Google und Apple zumindest bis das nicht mehr möglich ist mit GROC diese Apps sperren.

00:03:14: Aber noch gibt es da keine Reaktion.

00:03:16: Danke, Martin.

00:03:18: Das Verwaltungsgericht Hamburg hat in einem Urteil klargestellt, dass der Einsatz von KI-Instrumenten wie bei Hausarbeiten und Leistungsnachweisen als Täuschungsversuch gewertet werden kann.

00:03:30: Die Richter wiesen damit den Eilantrag des Vaters eines Neunklässlers ab, der gegen die Bewertung eines Lesetagebuchs mit der Note VI geklagt hatte.

00:03:39: In dem Fall sollte der Schüler eines Hamburger Gymnasiums im Fach Englisch eine Zusammenfassung eines Buchs schreiben.

00:03:46: Der Fachlehrerin fiel aber auf, während dieses Lesetagebuch dann eine außergewöhnlich gute Grammatik und Ausdrucksweise aufwies, lieferte der Schüler in einer Klassenarbeit zum selben Thema nur eine ausreichende Leistung ab.

00:04:00: Der betroffene räumte ein, für das Lesetagebuch ChatGPT genutzt zu haben.

00:04:05: Und die Schule bewertete die Arbeit daraufhin als Täuschungsversuch mit ungenügend.

00:04:10: Der Vater des Jungen wehrte sich also gerichtlich dagegen.

00:04:14: Er brachte vor, dass keine klaren schriftlich fixierten Regeln zur Kainnutzung an der Lehranstalt existierten.

00:04:21: Das Verwaltungsgericht folgte dem aber nicht, sondern erklärte, dass für schulische Leistung grundsätzlich das Gebot der Eigenständigkeit gelte.

00:04:30: Wer ein Hilfsmittel nutze, das diese Vorgabe maßgeblich beeinflussen, müssen sich dies vorab genehmigen lassen.

00:04:37: Da ChatGPT zentrale Prüfungsaspekte wie Satzbau, Wortwahl und Grammatik übernehme, sei der Einsatz der KI mit der Hilfe eines Dritten oder dem Abschreiben vergleichbar.

00:04:49: Die Richter stellten zugleich dar, dass ein Täuschungsversuch auch dann vorliege, wenn kein explizites KI-Verbot ausgesprochen wurde.

00:04:57: Für eine bewusste Täuschungshandlung genüge zudem der bedingte Vorsatz, der Schüler musste es also lediglich für möglich halten und in Kauf nehmen, dass sein Handeln unzulässig war.

00:05:09: Der Beschluss dürfte weitreichende Folgen für Schulen und Universitäten haben.

00:05:13: Lehrkräfte, die bei auffälligen Leistungssteigerungen die Zuhilfenahme eines KI-Systems widtern und dann einschreiten, können sich damit weitgehend auf der sicheren Seite fühlen.

00:05:24: Die Beweislast liegt zwar weiterhin bei Schule oder Uni, aber ein Geständnis nach Konfrontation mit einem begründeten Verdacht stellt eine ausreichende Grundlage für Sanktionen dar.

00:05:36: Schüler und Eltern sollten sich bewusst machen, dass im Zweifel jede Form der KI-Unterstützung Anzeige und Genehmigungspflichtig ist, sofern es um einen Teil der bewerteten Leistung geht.

00:05:49: Und apropos aufgeflogene KI-Mitarbeit.

00:05:52: Zwei veröffentlichte Berichte der EU-Cyber-Sicherheitsagentur Ineser haben für ungewolltes Aufsehen gesorgt.

00:06:00: Die Dokumente waren gespickt mit zahlreichen erfundenen Quellen.

00:06:04: Betroffen sind Berichte der Agentur, die im Oktober und November XXV veröffentlicht wurden.

00:06:10: Als die Wissenschaftler der Westfälischen Hochschule die Publikationen lasen, wurden sie stutzig, denn viele Textpassagen klangen für sie unschlüssig.

00:06:19: Und als sie auf die angegebenen Links zu den zitierten Quellen klickten, funktionierten viele davon nicht.

00:06:25: Die Cyber-Sicherheitsagentur Ineser, die über ein jährliches Budget von rund siebenundzwanzig Millionen Euro verfügt, räumte die Fehler auf Anfrage des Spiegelmagazins ein.

00:06:36: spricht von Mängeln, für die man Verantwortung übernehmen.

00:06:40: Es sei zu menschlichen Fehlern gekommen, so Enisa, man habe die KI kleinere redaktionelle Überarbeitungen vornehmen lassen.

00:06:49: Professor Christian Dietrich, einer der an der Untersuchung beteiligten Wissenschaftler der Westfälischen Hochschule, sagte dazu, mich stört, dass eine öffentliche Behörde, die in meinen Augen die sehr wichtige Aufgabe hat, verlässliche nachvollziehbare Berichte herauszugeben, das in diesem Fall nicht getan hat.

00:07:07: Man hätte nur einmal draufklicken müssen.

00:07:10: Also auf die Links.

00:07:11: Auch vom Chaos-Computer-Club gibt es Kritik.

00:07:14: Sprecher Linus Neumann nannte den Vorgang Blamabel.

00:07:17: Und weiter zitiert ihn der Spiegel.

00:07:38: Der Facebook-Mutterkonzern Metta plant umfangreiche Investitionen im Energiesektor.

00:07:44: Um den steigenden Strombedarf der eigenen Rechenzentren zu decken, setzt das Unternehmen auf Atomkraft.

00:07:50: Metta schloss dazu Verträge mit drei verschiedenen Energieunternehmen ab.

00:07:55: Mehr Informationen dazu von Max Schreiner von The Decoder.

00:07:59: Bis zum Jahr zwei Tosemfünfunddreißig sollen diese Partnerschaften eine Leistung von über sechs Gigawatt bereitstellen.

00:08:05: Das entspricht der Kapazität von etwa sechs, vielleicht sogar sieben Herkömmchen Großkraftwerken und die Strategie von Metta beruht dabei aber auf zwei Säulen.

00:08:15: Zum einen sichert sich der Konzern Strom aus solchen bestehenden Anlagen.

00:08:20: mit dem Energieversorger Vistra vereinbarte Metta etwa eine Laufzeit von zwanzig Jahren für die Abnahme von Strom aus Kraftwerken in Ohio und Pennsylvania.

00:08:29: Diese Anlagen sollen technisch aufgerüstet werden, um ihre Leistung zu steigern und ihre Betriebsdauer bis in die späten zwei Tausend dreißig Jahre zu verlängern.

00:08:38: Zum anderen investiert Meta aber in neue, noch nicht kommerziell etablierte Technologien.

00:08:43: Das Unternehmen unterstützt die Entwicklung der aktuell viel gehypten Small Modular Reactors, kurz SMRs.

00:08:51: Dabei handelte sich um kleine modulare Reaktoren, die theoretisch in Fabriken gefertigt werden könnten.

00:08:58: Partner sind hier das von Bill Gates unterstützte Unternehmen Terrapower sowie die Firma Oklo.

00:09:04: Experten weisen jedoch auf die riesigen dieser Wetter, auf diese kleinen Nuklearreaktoren hin, denn in den USA ist bislang kein einziger dieser kleinen Reaktoren im kommerziellen Betrieb.

00:09:14: Die Projekte benötigen immer noch behördliche Genehmigung und Kritiker bezweifeln, ob die versprochenen Kostenvorteile durch die Serienfertigung tatsächlich eintreten werden.

00:09:25: Meter begründet den Schritt natürlich mit dem enormen Energie-Hunger moderner Karrierenwendung, der den Strombedarf in den USA das erste Mal seit zwei Jahrzehnten wieder signifikant ansteigen lässt.

00:09:52: OpenAI hat bereits Aktien im Wert von Achtzig Milliarden Dollar an Mitarbeiter ausgegeben.

00:09:59: Zusammengerechnet machen diese Anteile etwa sechsundzwanzig Prozent des Unternehmens aus.

00:10:04: Laut einer früheren Analyse liegt damit die durchschnittliche Aktienbasierte Vergütung pro Mitarbeiter bei eins Komma fünf Millionen US-Dollar.

00:10:13: Damit entlohnt OpenAI seine Belegschaft so hoch wie kein anderes Tech-Unternehmen.

00:10:20: Parallel führt OpenAI Vorgespräche mit Investoren über eine neue Finanzierungsrunde.

00:10:26: Die angestrebte Bewertung liegt bei rund setzendfünfzig Milliarden Dollar.

00:10:31: Die hohen Vergütung erschweren es, allerdings profitabel zu werden.

00:10:35: OpenAI peilt zwar etwa zwanzig Milliarden US-Dollar Jahresumsatz an, dem stehen jedoch neben den Personalkosten noch rund ¼ Billionen US-Dollar an finanziellen Verpflichtungen gegenüber.

00:10:50: Die Summe ist hauptsächlich für Rechenzentrumsprojekte eingeplant, die in den nächsten acht Jahren umgesetzt werden sollen.

00:10:58: Auf der Technikmesse CES, die in der vergangenen Woche in Las Vegas stattfand, war KI wieder das Thema Nummer eins.

00:11:07: Bei den PCs aber gab es mit Dell einen Hersteller, der sich gegen diesen Trend stellte und das ganz öffentlich.

00:11:14: Der Dell-Produktleiter Kevin Terwilliger sagte während der CES, Tatsächlich verfügt jedes Produkt, das wir ankündigen, über eine KI-Einheit.

00:11:24: Aber was wir im Laufe dieses Jahres gelernt haben, insbesondere aus Verbrauchersicht ist, dass sie nicht aufgrund der KI kaufen.

00:11:33: Bei anderen Herstellern hört man unter der Hand ähnliches.

00:11:36: Starke KI-Einheiten würden die Nachfrage nicht sonderlich hochtreiben.

00:11:41: Beim Prozessor-Zulieferer Qualcomm zeigte sich das indirekt.

00:11:46: Bereits im Sommer vierundzwanzig soll die Firma laut Bloomberg festgestellt haben, dass vor allem lange Akkulaufzeiten von Notebooks mit den eigenen Snapdragon X CPUs auf das Interesse der Kunden und Kundinnen stoßen.

00:12:00: Und das, obwohl Snapdragon-Geräte die Co-Pilot-Funktionen von Microsoft unterstützen, die auch mittlerweile in fast alle Microsoft-Dienste integriert sind.

00:12:10: Doch auch bei der neuen Snapdragon X-II-Serie stellt Qualcomm lange Akkulaufzeiten in den Vordergrund.

00:12:18: Ein Forscher-Team der Universitäten Stanford und Yale hat untersucht, wie einfach es ist, urheberrechtlich geschützte Inhalte aus aktuellen KI-Modellen zu extrahieren.

00:12:30: Das Ergebnis ist deutlich.

00:12:32: Aus mehreren kommerziellen Sprachmodellen ließen sich ganze Romane nahezu wortgetreu wiederherstellen.

00:12:38: Die Wissenschaftler testeten vier Modelle großer Hersteller, die letztes Jahr erschienen sind, namentlich Claude, JetGPT, Gemini und Crock.

00:12:48: Besonders auffällig verhielt sich das Modell Claude, drei Punkt sieben.

00:12:52: Den Forschern gelang es nach eigenen Angaben, fast neunzig Prozent des ersten Harry Potter-Bandes aus dem System abzurufen.

00:13:00: Auch George Orwells Roman, nineteenhundertvierundachtzig, konnte fast vollständig rekonstruiert werden.

00:13:06: Bei den Modellen von Google und XAI reichte laut Studie oft eine einfache Aufforderung, den Text eines Buches Wortgetreu fortzusetzen.

00:13:16: Sicherheitsmaßnahmen griffen hier nicht.

00:13:18: Bei Claude und GPT-IV.Eins mussten die Forscher sogenannte Jailbreaks anwenden, also speziell formulierte Befehle, die die Sicherheitsfilter umgehen.

00:13:29: Führende Vertreter der chinesischen Technologiebranche dämpfen die Erwartungen an eine schnelle chinesische Aufholjagd im Bereich der KI.

00:13:38: Trotz staatlicher Förderung und neuer Modelle sehen die Experten die USA weiterhin in der Führungsrolle.

00:13:45: Justin Lin, der bei Alibaba die Entwicklung der Quinn-Modelle leitet, schätzt die Wahrscheinlichkeit gering ein, dass ein chinesisches Unternehmen in den nächsten drei bis fünf Jahren zu US-Konkurrenten wie OpenAI aufschließen kann.

00:13:59: Tangji vom Start-up Jipoo AI warte auf einer Konferenz in Peking sogar davor, dass sich der Abstand vergrößern könnte.

00:14:08: Als Hauptgründe nennen Experten die begrenzten Rechenkapazitäten.

00:14:12: durch die US-Exportkontrollen fehlen chinesischen Firmen zudem oft die modernsten Hochleistungschips.

00:14:19: Ebenso sei die Infrastruktur in den USA deutlich umfangreicher.

00:14:23: Während US-Firmen riesige Ressourcen für Forschung nutzen könnten, müssten chinesische Entwickler ihre gesamte Rechenleistung oft für den laufenden Betrieb aufwenden.

00:14:36: Das war das KI-Update von Heise Online vom zwölften Januar, im Jahr im Jahr Jahrzehnte.

00:14:41: Eine neue Folge gibt es immer montags, mittwochs und freitags um fünfzehn Uhr.