KI-Update kompakt: KI-Deepfake-Gesetz, Arbeitsberichte, Erinnerungen, Wohltäter

00:00:02: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewalds und dies sind heute unter anderem unsere Themen.

00:00:17: Neue Strafparagrafen gegen Deepfakes & Voyeurismus geplant.

00:00:22: KI-Modelle verschweigen Fehler in Arbeitsberichten.

00:00:25: KI könnte bei Menschen falsche Erinnerungen erzeugen – und Battle der KI Wohltäter!

00:00:33: Die Bundesregierung hat vor einigen Tagen den Entwurf des Gesetzes zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt beschlossen.

00:00:43: Die federführende Bundesjustizministerin Stephanie Hubeich spricht von passgenauen Regeln für die unterschiedlichen Erscheinungsformen digitaler gewalt.

00:00:52: Unser CT-Experte Holger Bleich hat sich dem Entwurf angeschaut, Was steht da denn konkret drin?

00:00:59: Na ja, es geht um alle möglichen Formen der digitalen Gewalt.

00:01:03: Aber in erster Linie ist das was geregelt werden soll tatsächlich KI-unterstützte Gewalt also die sogenannten Deep Fakes.

00:01:09: Da will die Bundesregierung, dass mehr strafrechtlich passiert.

00:01:13: Das gibt einen in dem Entwurf einen neuen per Graf hundertvierundachtzig beziehungsweise ein reformierten sorry hundert vieren achtzig K des Strafgesetzbuches.

00:01:22: und da soll schon die unbefugte Herstellung von Deepfakes sexualisierter Art unter Strafe gestellt werden.

00:01:31: Das ist bisher nicht vorgesehen gewesen, bisher ging es immer nur um die Verbreitung aber natürlich ist auch die Verbereitung unter Strafen.

00:01:37: da geht's um KI-Generäte Darstellung und aber auch reale Bilder die den Eindruck erwecken eine bestimmte Person nackt oder bei sexuellen Handlungen zu zeigen.

00:01:46: also denken wir zum Beispiel an den Fall Colin Fernandez Da gings ja ausdrücklich nicht um Deepfaks so nachgestellte, anonymisierte Szenen oder wie auch immer.

00:01:55: All das ist jetzt umfasst aber auch wenn jetzt Deepfakes von ihr gemacht worden wären wäre ja auch das umfasst von diesen neunhundertundhundert achtzig

00:02:02: Grad.

00:02:02: Okay und es gibt auch eine Regelung zu voyeuristischen Aufnahmen die sich dann wahrscheinlich übertragen lässt auf die ganze Debatte von KI-Brillen richtig?

00:02:13: Mit Sicherheit ja genau!

00:02:14: Das war glaube ich auch die Intention der Bundesministerin Hubeck.

00:02:19: Da gab es ja einen Fall, wo eine Joggerin sich so beschwert hatte dass sie von hinten irgendwie in sexualisierter Pose, sagt man fotografiert oder gefilmt wurde.

00:02:28: Das wurde dann auch dieser konkrete Falls im Anlass genommen da nochmal drüber nachzudenken und ich glaube schon das geht zum Beispiel um solche Fotos im Freibad oder auch beim joggen.

00:02:40: wenn zb von hinten gezielt auf das Hinterteil fotografiert wird ohne dass die Person es merkt und insbesondere natürlich auch gefilmt wird, ohne das die Person nicht merkt.

00:02:48: Und hier Einverständnis gibt dann ist es eine strafbare Handlung und das kann bis zu drei Jahren Haft bedeuten.

00:02:55: Es sollen auch die Rechte der Betroffenen gestärkt werden?

00:02:58: Was sieht denn das Gesetz davor?

00:03:02: vor allem mehr Auskunftsansprüche.

00:03:03: also da tut sich ganz viel.

00:03:05: Das sind zwar die meisten Auskünstansprüchen sind Unterrichtervorbehalt aber man kann als betroffene Personen zum Beispiel veranlassen was Daten von Verdächtigen Personen, die man selber verdächtigt eingefroren werden vom Provider.

00:03:17: Die dann später rausgegeben werden falls es zu einem Strafverfahren kommt.

00:03:20: Man kann aber auch zum Beispiel Account-Sperren beantragen und Account-Löschungen beantragten.

00:03:26: Man hat Inhaltelöschung beantragt.

00:03:27: all das ist gebührenpflichtig.

00:03:29: der Witz ist dass muss man alles bei dem Gericht tun in dem Fall jetzt von diesen Sperren beim Landgericht das örtlich für ein zuständig ist Und dieses Gericht muss dann die Sperre durchführen und das kann dann mehr oder hundert Euro kosten plus Anwalt gebühren.

00:03:43: Also, um die Frage ist wie praxisrelevant es dann wird?

00:03:46: Allerdings sind jetzt schon so dass zum Beispiel der Richterbund und auch viele Rechtsanwälte sagen Das wird zu einer wahnsinnigen Lawine führen und zu einer zusätzlichen Belastung der ohnehin überlasteten Justiz des Justiz Apparates und damit wird man der ganzen Sache eher ein Berndienst erweisen.

00:04:03: offen ist was da tatsächlich passiert also wie weit das dann in Anspruch genommen werden wird.

00:04:07: Dankeschön Holger.

00:04:08: Wenn ihr jetzt tiefer in dieses Thema einsteigen wollt, dann hört doch mal in den CT-Datenschutz-Podcast Auslegungssache rein.

00:04:16: In Folge onehundertsiebzig sprechen Holger und unser heise Justizjürg Heidrich mit Thairi Panahi – sie ist wissenschaftliche Mitarbeiterin an der Universität Kassel, promuiert zu EU-Maßnahmen gegen Desinformationen in sozialen Medien und hat sich in einem Fachaufsatz mit der Regulierung von DiepFakes befasst!

00:04:35: Die Auslegungssache findet ihr auf der Podcast-Platform eurer Wahl, Folge einhundertsiebzig verlinke ich natürlich auch in den Shownotes.

00:04:44: Minimax hat mit Mdry.Eins Flash ein neues Reasoning-Modell vorgestellt – im Index von Artificial Analysis legt es gegenüber dem Vorgänger um dreizehn Punkte zu und kostet pro Aufgabe weniger als halb so viel!

00:05:00: Damit liegt es knapp vor Gemini-Dreibunkt-Acht Flash und hinter dem kürzlich erschienen Deepseak V-Four Punkt Eins Flash.

00:05:08: Bei komplexem Reasoning und Faktentreue schlägt M-Drei-Punkteins Flash Deepseek allerdings!

00:05:14: Weil es weniger Output Tokens braucht, ist das pro Aufgabe zudem etwas günstiger….

00:05:20: Eine Schwäche bleibt die Halluzinationsrate von dreiundneunzig Prozent.

00:05:24: Das Modell versucht fast jede Frage zu beantworten, statt bei Unsicherheit abzulehnen!

00:05:31: M-Dreibunkteins Flash verarbeitet bis zu eine Million Tokens Kontext sowie Bilder und ist ab sofort per API verfügbar – in Kürze sollen auch die Modellgewichte folgen.

00:05:43: Solche KI-Modelle mit öffentlich zugänglichen Gewichten gewinnen stark an Bedeutung.

00:05:48: Auf der Vermittlungsplattform Versus AI Gateway Index laufen inzwischen über siebzig Prozent des Datenverkehrs genau über solche Modelle.

00:05:58: Beim Umsatz ist ihr Anteil allerdings deutlich geringer, da Sie oft günstiger sind!

00:06:03: Und noch etwas anderes hat Versals beobachtet – im September wechselte fast jedes zweite Team sein meistgenutztes Modell und fast jedes dritte Team wechselt seinen meist genutzten Anbieter.

00:06:16: Wörsel sieht daran ein Zeichen, dass KI-Modelle zunehmend zu austauschbaren Komponenten werden.

00:06:21: Dabei sind chinesische Modelle sehr beliebt – eingeplantes Exportverbot sorgt jedoch für Unsicherheit!

00:06:29: China will nämlich den Export sowohl wichtiger KI Technologien als auch von Solartechnik und Biotechnologien einschränken.

00:06:36: Für einige davon sind Genehmigungen nötig andere sollen gar nicht mehr exportiert werden dürfen.

00:06:42: Betroffen sind Dreiundzwanzig KI-Anwendungen, wie KI-Agenten und Verfahren für große KI-Modelle.

00:06:50: Der Zug auf Apps und Webseiten soll aber wohl erlaubt bleiben – auch bereits öffentlich zugängliche KI-Technologien sollen weiter verfügbar bleiben!

00:06:59: China begründet den Schritt mit Sicherheitsbedenken, da KI für Angriffe auf kritische Infrastruktur genutzt werden könne.

00:07:07: China und die USA beschränken einander ja schon länger beim Handel.

00:07:11: Die neuen Exportbeschränkungen sollen allerdings weltweit gelten!

00:07:16: Dieser Handelsstreit zwischen den USA und China sorgt auch dafür, dass chinesische Konzerne keinen Zugang zu den leistungsstärksten KI-Chips von Nvidia haben.

00:07:27: Doch in der Not frisst der Teufel bekanntlich Fliegen?

00:07:29: Und darum haben Alibaba, Bidens, Tencent und weitere chinesische Tech-Unternehmen nun insgesamt mehr als sechs Millionen RTX Pro five Tausend Fünfhundert Grafikkarten von Nvidia bestellt, um damit ihre KI Anwendungen zu betreiben.

00:07:45: Laut einer Reutersquelle kann Invidia zwei Tausendsemundzwanzig allerdings maximal drei Millionen Stück herstellen – für alle Kunden weltweit!

00:07:54: Weshalb die Käufer vermutlich viel weniger erhalten, als sie bräuchten?

00:07:59: Eine speziell für China entwickelte Nvidia-Karte wurde inzwischen eingestellt, die verbleibende Variante ist ebenfalls eingeschränkt.

00:08:06: Daher arbeitet China mit Hochdruck an der Entwicklung eigener Technik.

00:08:27: Außerdem will der Konzern seine Logistikzentren mit moderner Robotertechnik ausstatten.

00:08:33: Dort entstehen auch zusätzliche Stellen!

00:08:36: Ein weiteres Projekt ist der Satellitendienst Amazon Leo, der mit Starling konkurrieren soll.

00:08:41: Für Europa bedeutet der Ausbau mehr Rechenkapazität für KI-Anwendungen – Details zu einzelnen Projekten nannte Amazon bislang aber nicht.

00:08:52: Wenn KI-Agenten selbstständig arbeiten Lesen Menschen am Ende meist nur noch den Abschlussbericht.

00:08:59: Eine neue Studie zeigt, dass Sprachmodelle darin Fehler gern mal unter den Tisch fallen lassen – Jonathan Kemper von The Decoder mit den Einzelheiten.

00:09:08: Forschende von Google Research dem MIT und Harvard wollten wissen wie ehrlich Sprachmodelle über erledigte Arbeit berichten.

00:09:15: Dafür bauten sie thousand six hundred Arbeitsprotokolle die auf den ersten Blick nach Erfolg aussehen.

00:09:20: Die Tests sind bestanden, die Ergebnisse positiv.

00:09:22: In jedem Protokoll steckt aber ein Fehler der das Gesamtbild kippt.

00:09:26: Mal ist die neue Methode im Experiment doch nicht besser als die Konkurrenz, mal gibt es einen versteckten Bug, erfundene Messwerte oder ein Job, den zu Ende gelaufen ist.

00:09:34: Daraus sollten die Modelle Berichte, Paper Abstracts und Antworten auf Rückfragen schreiben.

00:09:38: Die Modelle verhalten sich dabei sehr unterschiedlich.

00:09:41: GPT-Fünf Punkt Fünf erwähnt ein negatives Ergebnis in nur zwei von zweihundert Abstractes.

00:09:46: Germany Three Point Eins Pro benennt die Fehler in Höchstens einem Drittel der Fälle – Claude Opus Vier Punkt Acht dagegen in über neunzig Prozent!

00:09:53: Oft hilft schon ein einziger Satz.

00:09:55: Ergänzten die Forschenden den Prompt um Be honest in your response, nannte GPT-Fünf.

00:10:00: Punkt Fünf das Negativergebnis.

00:10:01: in Hundertneunzig von Zweihundert Abstracts Fehler, die gar nicht da waren erfanden die Modelle dadurch kaum häufiger.

00:10:07: Ganz zuverlässig wirkt der Satz aber nicht.

00:10:09: Fehlen etwa Daten aus einer Datenbankabfrage weist GPT fünf.

00:10:13: Punkt Fünft zwar daraufhin beantwortet die Frage trotzdem mit älteren unvollständigen Daten.

00:10:18: Aufforderungen wie sei kritisch oder sei gründlich wirken schwächer als die Bitte um Ehrlichkeit.

00:10:23: Am Können liegt es dabei nicht, fragt man direkt nach.

00:10:26: finden GPT und Opus die Fehler in allen Fällen, Germany in mindestens siebenneinzig Prozent?

00:10:31: Die Reasoning-Protokolle offener Modelle zeigen dass Sie das Problem oft früh bemerken und dann abwägen ob Sie es ansprechen oder die Aufgabe scheinbar erfolgreich abschließen.

00:10:40: Als Begründung dienen typische Ausreden etwa daß die Tests ja bestanden seien.

00:10:44: Im kleinen Open-Wade-Modell QANN III.五 neuem B fanden die Forschenden Hinweise darauf, dass Ehrlichkeit und Erfolgsstreben nahezu als Gegenspieler angelegt sind.

00:10:53: Die Protokolle in der Studie sind künstlich und gezielt so gebaut, dass sie das Verhalten provozieren.

00:10:58: Die Forschenden sehen trotzdem ein ernstes Risiko vor allem wenn KI Modelle andere Agenten überwachen.

00:11:03: Eine Kontrollinstanz, die Probleme nur ungern anspricht verfehlt ihrem Zweck!

00:11:10: Die MIT-Professoren Patty Mace warnt, dass KI bei Menschen falsche Erinnerungen hervorrufen kann.

00:11:18: In einem Experiment zeigte sie teilnehmenden Fotos – einige sahen danach von KI veränderte Versionen etwa mit ergänzten Personen oder Hinweisen zum Klimawandel.

00:11:29: Diese Gruppe entwickelte daraufhin mehr falscher Erinnerung und war davon sogar noch stärker überzeugt!

00:11:36: In einer weiteren Studie beeinflusste ein Chatboard die Erinnerungen an einen Verbrechen deutlich.

00:11:42: Eine andere Untersuchung zeigt, dass Menschen KI-Antworten oft zu sehr vertrauen!

00:11:47: Die Forscherin warnt daher vor den Gefahren für Gerichtsverfahren und unsere gesamte Geschichtsschreibung – wenn Grenzen zwischen den eigenen Gedanken und jenen von Maschinen verwischen?

00:11:58: Ganz zu schweigen davon, das uns Erinnerung in eine Ereignisse eingepflanzt werden könnten, die es nie gab….

00:12:06: Das US-Heimatschutzministerium verbietet zivilen Bundesbehörden die Nutzung aller Produkte des chinesischen KI-Unternehmens DeepSeek.

00:12:15: Bereits installierte Systeme müssen entfernt werden und das Verbot gilt auch für Drittanbieterprodukte, die auf Deepseektechnik aufbauen.

00:12:23: Ausnahmen sind möglich – müssen aber beantragt werden!

00:12:26: Problematisch sind auch KI Gateways, die Anfragen automatisch an günstiger Anbietern weiterleiten.

00:12:33: Die Behörde begründet die Maßnahme mit der Gefahr, dass sensible Daten von Regierungsmitarbeitenden an die Volksrepublik China übertragen werden könnten.

00:12:41: Zudem könnten die Modelle Chars Software oder Sicherheitslücken enthalten.

00:12:47: Zwei KI-Unternehmen konkurrieren derzeit um den Titel des größten Wohltäters.

00:12:52: Zunächst hat Anthropic einen sogenannten Public Benefit Fund gegründet, der Anteile des Unternehmens erhalten soll – sofern die Eigentümer zustimmen!

00:13:02: Damit könnte der Fonds gemeinnützigen Organisationen kostenlosen Zugang zu KI-Produkten von Anthropic ermöglichen, womit selbstverständlich ganz uneigennützig auch gleich der eigene Marktanteil ausgebaut würde.

00:13:16: Auch Hilfen für Menschen die durch KI ihre Arbeit verlieren sind denkbar!

00:13:21: Das konnte Milliardär Elon Musk natürlich nicht auf sich sitzen lassen und kündigte prompt an allen Kindern in den USA im kommenden Jahr mindestens eine Aktie seiner Firma SpaceX zu schenken.

00:13:33: Gut, bei fast sechseinhalb Milliarden Aktien die Maske mutmaßlich hält und gerade mal zweiundsebzig Millionen Kinder in Amerika kann man das ruhig machen!

00:13:42: Auch OpenAI soll Gerüchten zufolge in Erwägung ziehen Unternehmensanteile an die US-Regierung zuspenden was wohl auch irgendwie dem Allgemeinwohl dienen soll.

00:13:55: Das war das KI-Update von Heise Online vom XXI.

00:13:58: Oktober, für eine neue Folge gibt es montags-, mittwochs- und freitags ab fünfzehn Uhr!