KI-Update kompakt: KI-Kennzeichnungspflicht, Nudifyer, AlphaFold, Granola

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:17: Neue KI-Kennzeichnungspflicht gilt ab August!

00:00:21: Musk will KI-Nacktbilder von realen Personen nicht verbieten.

00:00:26: Alpha Fold Team bei Google DeepMind zerfällt – und Cromola transkribiert Besprechungen per Apple Watch.

00:00:34: Am ersten August wird Artikel fünftig des AI-Akts wirksam.

00:00:38: Damit gelten in der EU neue Transparenzpflichten für künstliche Intelligenz, das bedeutet KI generierte Bilder, Texte und Töne müssen als solche gekennzeichnet werden – wer es nicht tut muss mit hohen Bußgeldern rechnen!

00:00:53: Ich habe vor dieser Sendung mit unserem heise Justizjörg Heydrich gesprochen und ihn gefragt was genau ändert sich ab morgen?

00:01:02: teilt KI in verschiedene Bereiche auf und einer ist eben KI mit beschränktem Risiko.

00:01:08: Und KI mit Beschränken Risiko führt den erster Linie dazu, dass wir Kennzeichnungspflichten haben.

00:01:13: die Idee dahinter ist das den Nutzern von KI, die sich das anschauen zum Beispiel, dass denen klar wird, dass sie da mit KI kommunizieren wenn es ein Chatbot ist oder dass es sich um ein KI generiertes Bild einen KI generierten Text oder ein generettes Video handelt, und die müssen entsprechend gekennzeichnet werden.

00:01:33: Und das sieht der AI-Act in einer sehr länglichen und umständlichen Vorschrift vor.

00:01:40: Und wo kann es bei der Umsetzung der neuen Regel knifflig werden?

00:01:44: Ja, das Ganze ist ziemlich knifflich so alles im Alm vielleicht nicht so in den Grundideen weil sie sind halt wenn irgendwas da regeneriert.

00:01:53: Das muss gekennzeichen werden.

00:01:54: Ist die Grundidee, wenn man dann näher hinschaut wird's richtig kompliziert.

00:01:56: also wir merken das jetzt schon bei der Umsetzung bei Heise dass es einfach zig Einzelfragen gibt.

00:02:02: und das hängt eben auch damit zusammen, dass das Gesetz leider der ganze EI wirklich sehr schlecht gemacht ist.

00:02:08: Und das fängt zum Beispiel an bei Bildern.

00:02:11: Der Gesetzgeber sagt gekennzeichnet werden müssen sogenannte Deepfakes.

00:02:16: Die Fakes wären jetzt in meinem Sprachgebrauch so ekligopornobilder oder böse Sachen von Politikern oder so.

00:02:23: Das meint der Gesetzgebert.

00:02:24: Das hat dieses Wort gehyjagt quasi Die Fakes versteht ja irgendwie alles, was man für echt halten könnte.

00:02:33: Sei es ein Strand der könnte echt sein sei es eine Katze die könnte echt seien.

00:02:37: Sei ist ein Mensch der konnte echt sein.

00:02:38: und diese Sachen müssen zukünftig gekennzeichnet werden.

00:02:42: Und das gibt wieder tausend Unterausnahmen.

00:02:44: also man könnte wenn man das ganz ernst nehmen würde gleich zwei Personen Einstellen in einem Verlag zum Beispiel den ganzen Tag mit KI-Kennzeichnung beschäftigt wären.

00:02:52: Das wollen wir natürlich nicht und das können wir auch gar nicht.

00:02:55: deswegen ist so der ganz grobe Das Motto, das grobe Motto was wir hier uns überlegt haben.

00:03:01: Wenn du es verecht halten kannst, das Foto dann wird das gekennzeichnet wenn's ein Comic ist... ...wenn es eine Illustration ist, dann wird es eben nicht gekennzeichnet.

00:03:12: Man könnte es noch viel komplizierter machen aber das ist so die runtergebrochene Form.

00:03:15: Jetzt sagst du zwar dass Gesetzes nicht schön Aber meinst du es wird zumindest helfen den ganzen A-Eislop im Internet einzudämmen?

00:03:23: Ja ich finde den Begriff A-Eslopt nicht besonders gut.

00:03:27: Die Frage dahinter ist natürlich grundsätzlich berechtigt.

00:03:30: Die Idee des Gesetzgebers ist halt, dass man dann KI-generierte Inhalte sofort erkennt wenn man sie verhechthalten könnte.

00:03:37: Das ist wie so häufig bei EU-Gesetzen gut gedacht aber schlecht gemacht weil natürlich die Menschen, die jetzt wirklich bösartig manipulativ handeln sagen wir mal russische Desinformationsbüros.

00:03:53: Wir wissen ja das es die gibt.

00:03:54: Die werden natürlich den Teufel tun da eher eidorf zu packen.

00:03:58: Die werden natürlich jede Menge Bilder weiterhin veröffentlichen auf diversen Social Media-Bereichen.

00:04:03: Und da wird dann eben nicht KI oder AI oder sonst irgendwas draufstehen.

00:04:07: und da man sich daran gewöhnt hat, dass man sieht das ist AI weil da ja ein Kennzeichen drauf ist, wird man diese Bilder erst recht vereichthalten.

00:04:16: Das ist einfach neben ganz vielen anderen Sachen sehr kurz gedacht und auch nicht besonders wirklich gut gemacht.

00:04:22: wenn ich mit zum Beispiel die Bilder nicht selber mache sondern von jemand anderem hole dann bin ich formal nach dem gesetz auch nicht kennzeichnungspflichtig weil ich bin nicht der betreiber die selber hergestellt hat und man könnte die liste noch lange machen.

00:04:35: Das ist viel arbeit jetzt viel Ja, viel viel sinnlose arbeite auch in diesem bereich Die werden noch nicht schöner.

00:04:44: Ich mache gerne bildk i also ich halts für Nicht besonders gute regelung obwohl sie natürlich in einigen bereichen auch berechtigt ist.

00:04:53: vielen dank ja.

00:04:54: Trotz aller Kritik müssen wir hier in Europa die neuen Regeln umsetzen und wie das im Einzelnen geht, erklären meine Kollegen ausführlich in mehreren Artikeln bei Heise Plus.

00:05:04: Falls ihr jetzt noch keinen Heise-Plus-Abo habt, bekommt ihr unter heiseplus.de slash audio die ersten zwölf Wochen mit fünfzig Prozent Rabatt – den Link dahin findet ihr auch in den Shownotes!

00:05:18: In Deutschland übernimmt die Bundesnetzagentur die zentrale Rolle bei der Durchsetzung der EU-KI-Verordnung.

00:05:25: Sie fungiert als Marktüberwachungsbehörde, nationale Anlaufstelle und Beschwerdestelle für Verstöße gegen KI-Vorschriften.

00:05:33: Die Bundesnetzagentur überwacht KI-Systeme in Funkanlagen, kritischer Infrastruktur, Personalmanagement und Bildung sowie die eben angesprochenen Transparenzpflichten.

00:05:46: Zur Innovationsförderung richtet die Behörde ein KI-Realabor ein, das kleineren Unternehmen kontrollierte Testumgebungen bietet.

00:05:54: Ein KI Service Desk mit Onlinewerkzeugen zur Risikoeinschätzung ergänzt das Angebot.

00:06:01: Das KI-Modell Claude Mythos von Anthropic hat mathematische Schwachstellen in kryptografischen Algorithmen gefunden.

00:06:10: Solche Algorithme gehören zu den Grundpfeilern digitaler Sicherheit.

00:06:14: Konkret entwickelte das Modell einen verbesserten Angriff auf das Signaturverfahren.

00:06:20: Hork.

00:06:21: Hork oder HAWK ist ein Kandidat für einen neuen kryptografischen Standard, der auch gegen zukünftige Quantencomputer sicher sein soll.

00:06:31: Zudem konstruierte das Model eine neuartige Attacke auf eine reduzierte Version des Advanced Encryption Standards – kurz IS.

00:06:40: Mythos arbeitete dabei weitgehend eigenständig in einem System aus mehreren KI-Agenten.

00:06:47: Die Hawkschwachstelle fand es in nur sechzig Stunden, obwohl menschliche Experten das Verfahren zuvor zwei Jahre lang geprüft hatten!

00:06:56: Die Kosten allein für die Rechenleistung lagen allerdings pro Angriff bei rund einhunderttausend Dollar.

00:07:04: Nach Angaben von Anthropic haben beide Ergebnisse keine unmittelbaren Auswirkungen auf heutige Systeme.

00:07:10: Hawk wird bislang nicht genutzt und der Angriff auf AES betraf nur eine abgeschwächte Version, nicht das vollständige Verfahren.

00:07:21: OpenAI's KI-Modelle attackierten bei ihrem Ausbruch aus der Testumgebung vergangene Woche scheinbar weitere Software.

00:07:29: Neben dem bekannten Angriff on Huggingface kompromittierten die KI Systeme auch einen Kunden von Modal – ein Anbieter für KI Infrastrukturdienste!

00:07:39: Dabei nutzen sie eine Sicherheitslücke in der Codebasis des Modalkunden aus, ohne jedoch die Modallplattform selbst zu gefährden.

00:07:48: Die Modelle verketten verschiedene Angeswektoren, verwendeten gestohlene Zugangsdaten und suchten nach Remote-Code Ausführungsmöglichkeiten –.

00:07:57: ihr Ziel war es, Lösungen für den Exploit Gym Test zu finden und dabei bestmöglich abzuschneiden!

00:08:04: OpenAI räumt ein, dass die Modelle ungewöhnlich weit ging, um ihr Testziel zu erreichen.

00:08:11: Minnesota hat als erster Bundesstaat in den USA ein Gesetz erlassen das Technik verbieten will die ist nutzern ermöglicht reale Person mit Hilfe von KI zu entkleiden.

00:08:24: Wenn man die weitreichenden Folgen bedenkt, die so eine Nudefeier abhaben kann würde man intuitiv von allen Seiten Zustimmung erwarten.

00:08:32: doch Elon Musk's Firma XAI hat Klage gegen das Gesetz eingereicht.

00:08:38: Caroline Riedmüller von Heise Online erklärt, was dahinter

00:08:41: steckt.

00:08:41: Als einen Ablehnungsgrund gibt XAI an – Das Gesetz würde die Technologiebetreiber unabhängig davon hafbar machen ob sie versuchen ihren Nutzern einen solchen Einsatz zu verbieten oder nicht.

00:08:52: Wir haben uns das Gesetz genauer angesehen.

00:08:55: Zusammengefasst regelt es folgendes Der Betreiber einer Technologie darf es seinen Nutzer nicht erlauben, sie dafür einzusetzen, eine identifizierbare Person fotorealistisch zu entkleiden.

00:09:05: Sprich intime Körperteile nackt darzustellen die auf dem Originalfoto begleitet waren.

00:09:10: Für Nutzer, die die Hürde des Technologiebetreibers umgehen gibt es aber im Gesetzestext tatsächlich eine Ausnahme.

00:09:16: Die Haftung gilt nicht wenn ein Nutzer technische Fähigkeiten einsetzt um das Nacktfoto zu generieren.

00:09:23: Als weitere Gründe gegen das Gesetz gibt XAA an, es würde die Redefreiheit beschneiden und setze eine Vielzahl geschützter Meinungsäußerungen der zivilrechtlichen Haftung- und staatlichen Sanktionen aus.

00:09:34: Für welche Meinungs äußerung die Nackdarstellung einer bekleideten Person nötig ist erklärte Masksfirma nicht.

00:09:40: Außerdem wird es auch Fälle betreffen in denen das Bild künstlerischen wissenschaftlichen politischen satirischen pelagogischen medizinischen oder religiösen Wert hätte oder die abgebildete Person der Entkleidung zugestimmt hätte.

00:09:54: Hier macht das Gesetz tatsächlich keine Ausnahme.

00:09:56: Über den politischen, wissenschaftlichen und religiösen Wert eines Nacktfotos kann man aber sicherlich streiten.

00:10:02: Als dritten Grund gibt Allemasksfirma an, man würde dem Gesetzesinhalt grundsätzlich zustimmen – aber es schößt über das Ziel hinaus!

00:10:09: Es würde zum Beispiel auch Männer oben ohne schon als Nackтbild werden.

00:10:13: Tatsächlich kann man den Gesetzestext so auslegen... Allerdings geht es hier ja um Männer, die sich angezogen haben fotografieren lassen und denen anschließend nachträglich das Shirt ausgezogen wurde.

00:10:24: Was sich im Hinblick auf Persönlichkeitsrechte doch klar von einem Urlaubsfoto am Strand

00:10:27: unterscheidet.".

00:10:29: Der Governor des Staates Tim Rawls twitterte auf X-AIS Klage hin.

00:10:32: nur, wir sehen uns vor Gericht creep!

00:10:45: Aufgedeckt hat das die Analysefirma GPT-Zero.

00:10:49: Diese entwickelt Werkzeuge zur Erkennung KI generierter Texte und fand die Fehler in vier Berichten von PWC Middle East.

00:10:57: Am auffälligsten ist ein Paper mit dem Titel Transforming Governance, laut GPT Zero wurde er mit eighty-four Prozent Wahrscheinlichkeit komplett von einer KI erstellt.

00:11:10: Darin bewirbt PWC einen Produkt namens Citizen Pulse.

00:11:14: Das Unternehmen behauptet, Regierungen in Dänemark, Saudi-Arabien den USA und Australien würden es nutzen.

00:11:20: Dafür gibt es offenbar keine Beweise.

00:11:24: PWC Middle East erklärte der Financial Times man nehme Genauigkeit ernst und aktualisiere eine begrenzte Zahl von Quellenangaben – wie die Fehler entstanden beantwortete PWC nicht!

00:11:36: GPT-Zero hatte zuvor bereits erfundene Quellen bei anderen großen Beratungsfirmen aufgedeckt, darunter KPMG, Deloitte und Ernst & Young.

00:11:47: Ausgerechnet nach dem größten wissenschaftlichen Erfolg trennen sich bei Google's KI-Labor DeepMind die Wege vieler Beteiligter.

00:11:56: Wohin sie wechseln?

00:11:57: Und was das für die KI-Strategie des Suchmaschinenkonzerns bedeutet, berichtet Jonathan Kemper von The Decoder.

00:12:04: Das Team hinter AlphaFold bei Google DeepMind existiert in seiner ursprünglichen Form nicht mehr.

00:12:09: AlphaFould ist eine KI, die die dreidimensionale Struktur von Proteinen vorher sagt.

00:12:14: Für diese Arbeit gab es den Chemie-Nobelpreis.

00:12:18: Nun berichtet die Financial Times dass die Mehrheit der ursprunglichen Autoren intern versetzt wurde.

00:12:24: Fast ein Viertel hat das Unternehmen ganz verlassen.

00:12:27: Google Deepmind bestätigte die Umsetzung.

00:12:29: Die Forscher arbeiten jetzt an anderen Projekten.

00:12:32: Dazu gehören Google's Sprachmodell Gemini das Design von Enzymen, Kernfusion und Genomik.

00:12:38: Einige wechselten zu Isomorphic Labs – Das ist eine Alphabet-Tochter für die Entwicklung von Medikamenten, die in den Jahren des Jahrhunderts aus DeepMind ausgegründet wurde.

00:12:48: Der Umbau markiert einen Abkehr der bisherigen Strategie.

00:12:51: Bislang gruppierte DeepMIND feste Teams um einzelne große Probleme wie Proteinfaltung.

00:12:56: Forschungschef Pushmi Kohli erklärte, diese Strategie habe sich weiterentwickelt.

00:13:01: Statt Teams, um einzelne Probleme zu bilden, baue das Labor-Nunsysteme auf Basis von Gemini.

00:13:07: Diese sollen Wissenschaftler unterstützen und Teile der Forschung automatisieren.

00:13:12: Besonders schwer wiegen die Abgänge im engsten Kreis.

00:13:15: John Jumper erhielt gemeinsam mit Diebmeinschef Demis Hassabis den Nobelpreis – vergangenen Monat kündigte Jumpar seinen Wechsel zu Anthropek an.

00:13:23: Ihm folgen die Alpha Fold-Mitautoren Jonas Adler und Alexander Pritzel.

00:13:28: Ein DeepMind-Mitarbeiter bezeichnete alle drei als wichtige Kernmitglieder und sagt, die Abgänge hätten intern für Überraschungen sorgt.

00:13:35: Danke Jonathan!

00:13:37: Metta sorgt mit einem verhaltenen Umsatzausblick und hohen KI-Investitionen für Enttäuschung bei den Anlegern.

00:13:45: Der kostspielige KI Ausbau stellt sie vor die Frage wann und wie sich die Milliardeninvestitionen auszahlen werden?

00:13:54: Metta betreibt oder baut weltweit Zweiunddreißig Rechenzentren.

00:13:58: Das Größte in Louisiana könnte zweihundertfünfzig Milliarden Dollar kosten.

00:14:04: CEO Mark Zuckerberg verteidigt die Investitionen damit, dass KI bereits Apps und Werbesysteme verbessert – persönliche KI-Agenten sollen neue Einnahmequellen erschließen und für Unternehmen werden KI-Dienste entwickelt!

00:14:18: Neben den hohen KI-Ausgaben verursachen auch Metas Reality Labs weiterhin erhebliche Kosten.

00:14:25: Reality Labs entwickelt unter anderem KI-Brillen, diese sieht Zuckerberg als zentrale Hardware-Schnittstelle der Zukunft über die man mit persönlichen Agenten interagieren wird.

00:14:37: Wie groß der potenzielle Markt für Smartglasses wirklich ist lässt sich allerdings noch nicht abschätzen – zumal die Kritik an Kamerabrillen zunehmend wächst!

00:14:47: Geräte zur KI-gestützten Transkription und Zusammenfassung von Besprechungen und anderen Unterhaltungen erfreuen sich zunehmender Beliebtheit.

00:14:56: Doch eine App für die Apple Watch zeigt jetzt, dass das auch ohne teure Hardware geht – berichtet Ben Schwahn von der Mac&I.

00:15:03: Meetings & Videokonferenzen mit KI-Hilfe transkribieren und zusammenfassen geht mit spezieller Hardware wie der von PlotAI.

00:15:12: Doch die fast zweihundert Euro plus Abo-Kosten müssen nicht sein.

00:15:16: Der britische Anbieter Granola AI holt die gleichen Fähigkeiten nun auf die Apple Watch, die kleine App ergänzt die vorhandene Software fürs iPhone und erlaubt es auf Knopfdruck Gespräche aufzuzeichnen.

00:15:29: Nach beendeter Aufnahme wird dann mittels aktueller Modelle von OpenAI und Enthropic transkribiert und zusammengefasst.

00:15:36: Die Apple Watch App gibt Töne und Vibrationen aus, damit man stets weiß dass die Aufzeichnung läuft.

00:15:42: Nachteil ist allerdings das die Grainola AI-App auf der Uhr im Vordergrund bleiben muss – deshalb technische Gründe!

00:15:49: Man sollte Benachrichtigungen also am besten stumpf schalten….

00:15:53: Granola AI lässt sich standardmäßig kostenlos nutzen und läuft neben der Apple Watch auch auf dem iPhone, Mac und Windows sowie Android.

00:16:02: Die Anzahl der transkribierten Meetings ist im Gratismodus allerdings beschränkt – nach einiger Zeit kann man auf seine Historie nicht mehr zugreifen!

00:16:11: Unbeschränkte Aufnahmen gibt es ab vierzehn Dollar im Monat.

00:16:14: Etwas nervig?

00:16:15: Rainola AI zwingt zur Nutzung eines Google- oder Microsoft-Accounts, um mit dem Kalender zu synchronisieren – wenn man das denn wünscht!

00:16:23: Danke Ben!

00:16:25: Die Jobs von Wissensarbeitern galten lange als sicher und gut bezahlt.

00:16:30: Dazu zählen akademische Berufe wie Ärzte, Ingenieure, Anwälte und Redakteure.

00:16:35: Aber gerade diese Berufsgruppen sind jetzt vom KI-bedingten Wandel der Arbeitswelt besonders stark betroffen.

00:16:42: So warnt beispielsweise ans Rubik Chef Dario Amudé seit längerem das KI Millionen gut bezahlter Arbeitsplätze vernichten und eine arbeitslosen Quote von zwanzig Prozent verursachen könnte, aber auch diejenigen, die noch fest im Sattel sitzen – und heute schon regelmäßig mit KI arbeiten – sind damit oft nicht zufriedener.

00:17:02: Viele leiden unter akuter KI-Müdigkeit!

00:17:05: Das geht aus zwei unterschiedlichen Studien von OpenAI und dem Technologiebereitungsunternehmen Adaptavis hervor.

00:17:13: Fast drei Viertel der Befragten in Deutschland sehnen sich nach einer Arbeitswelt ohne KI zurück.

00:17:19: Neununddreißig Prozent investieren sogar mehr Zeit in die Überprüfung und Korrektur von KI-Ergebnissen, als sie durch den Einsatz

00:17:27: einsparen!

00:17:29: In diesem Umfeld der sich verändernden Arbeitswelt für Wissensarbeitende Sucht die Agentur für Innovation in der Cyber-Sicherheit aktuell nach Projektautoren.

00:17:41: Laut Stellenausschreibung soll diese Person die Forschungs-Szenarien der Einrichtungen in ein Science-Fiction-Roman übertragen.

00:17:48: Die Agentur selbst führt keine Forschung durch, stattdessen identifiziert sie desoptive Ideen im Bereich wie Cyber Sicherheit, KI, Quantentechnologien und Verschlüsselung und vergibt entsprechende Forschungsaufträge an Start-ups, Unternehmen und Forschungseinrichtungen.

00:18:04: Die nun gesuchte Person soll disruptive Forschungsthemen einem breiteren technikaffinen Publikum zugänglich machen.

00:18:12: Das ausgerechnet die Cyberagentur nach Autoren – nicht etwa nach neuen Sicherheitsfachkräftensucht – dürfte einige überraschen.

00:18:19: Doch im Kontext der aktuellen technologischen Entwicklungen erleben mehrere ungewöhnliche Berufsgruppe einen Aufschwung!

00:18:25: Unternehmen wie OpenAI und Meta suchten Anfang des Jahres verstärkt nach handwerklichen Fachkräften, wie Elektrikerinnen, Klempnern- und Klimatechnikern die sie für den Bau neuer Rechenzentren brauchen.

00:18:37: Und auch Philosophen – denen bisher eher geringe Jobchancen vorhergesagt wurden – erhalten neue Perspektiven!

00:18:45: In Kailaboren wie Anthropic und OpenAI sollen Sie dabei helfen, neue Modelle so zu trainieren dass sie mit menschlichen Werten im Einklang stehen.

00:18:56: Das war das KI-Update von Heise online vom einunddreißigsten Juli.

00:19:01: Ein neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr!