KI-Update kompakt: KI-Brillen, Selbstbewusstsein, Sicherheitslücken, KI-Musik

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: Kein Verbot für Metas-KI-Brillen geplant!

00:00:21: Verbot eines Selbstbewusstseins verschiebt das Weltbild von KI Modellen.

00:00:26: Sicherheitslücken – und Lücken in der Sicherheit bei OpenAI & Anthropec Und Ct.

00:00:35: KI-Musiker zu werden.

00:00:38: Intelligente Brillen mit Kamerafunktion sind Datenschutzbehörden und der Bürgerrechtsorganisation Hate-Aid ein Dornemauge – nun hat sich die zuständige Bundesnetzagentur geäußert, sie sieht aktuell keinen Anlass für ein Verbot der Smartglasses von Metta & Rayman!

00:00:55: Doch die rechtliche und auch gesellschaftliche Debatte ist damit längst nicht abgeschlossen.

00:01:00: Marco Pauli von Heise Online berichtet

00:01:02: Ein Sprecher der Bundesnetzagentur erklärte am Wochenende in einem Interview, dass die Geräte aktuell nicht gegen das Gesetz über Datenschutz in der Telekommunikation und digitalen Diensten verschlossen würden.

00:01:16: Für das Bonneramt bleiben Smartglasses wie Metas Ray-Band zulässig, solange die Aufnahmefunktion klar erkennbar ist.

00:01:24: Diese Vorgabe werde durch das integrierte und für außenstehende sichtbare LED Signal ausreichend erfüllt.

00:01:32: Die Behörde beobachte den Markt für KI-Brillen mit integrierten Kameras und Mikrofonen kontinuierlich.

00:01:38: Besteht der Verdacht, dass etwas Unerlaubtes integriert ist würden Ermittlungen aufgenommen und gegebenenfalls ein Verbot ausgesprochen werden.

00:01:47: Diese Position geht Initiativen anderer Aufsichtsbehörden und Bürgerrechtsorganisation nicht weit genug.

00:01:54: So hat etwa Hate-Aid eine Strafanzeige erstattet, die sich nicht nur gegen einzelne meistmännliche sogenannte RIS Fluencer richtet.

00:02:03: Die im öffentlichen Raum heimlich Aufnahmen von Passanten anfertigen und online verbreiten.

00:02:09: Hate AID nimmt mit der Anzeige auch Hersteller und Vertriebspartner ins Visier.

00:02:14: Auch der hamburgische Datenschutzbeauftragte Thomas Fuchs ist der Ansicht, dass unbemerktes Filmen in der Öffentlichkeit klar gegen geltendes Datenschutzrecht verstoße.

00:02:25: Dass die Debatte erst am Anfang steht, verdeutlicht ein kürzlich veröffentlichter Patentantrag von Metta.

00:02:31: Darin beschreibt das US-Unternehmen eine KI-Brille, die kontinuierlich Videomaterial der Umgebung aufzeichnet und per automatisierter Gesichtserkennung analysiert.

00:02:42: – Das Ziel sei Begegnungen mit bekannten Automatisch zu erkennen, relevante Sequenzen herauszufiltern und dem Nutzer ein zusammengeschnittenes Highlight Video seiner sozialen Erlebnisse zu präsentieren.

00:02:56: Ein Verfahren, das mit dem europäischen Datenschutz wohl kaum vereinbar

00:03:00: wäre.".

00:03:00: Vielen Dank Marco!

00:03:02: Eine Desinformationskampagne sorgt vor Sachsen-Anhaltslandtagswahl für Verunsicherung.

00:03:09: Ziel war der öffentlich rechtliche MDR – die als Matthäuschka bekannte Operation nutzt KI generierte Videos und missbraucht das MDR Logo sowie andere Medienmarken zum Beispiel Tagesschau und den Spiegel.

00:03:23: Seit Juli wurden dreihundertdreißig gefälschte Beiträge dokumentiert, die Politikern und Politikerinnen erfundene Straftaten vorwerfen.

00:03:32: Diese KI-erstellten Deepfakes sollen die öffentliche Meinung vor Landtagswahlen beeinflussen.

00:03:39: Das Auswärtige Amt ordnet solche Kampagnen als Teil der hybriden Bedrohung durch Russland ein – Die Fälschungen sind für Nutzende oft schwer von echten Nachrichten zu unterscheiden!

00:03:49: Der MDR betont, dass verlässliche Inhalte nur auf der eigenen Website und offiziellen Social-Media-Kanälen zu finden sind.

00:03:59: OpenAI testet in den USA zurzeit Werbung für kostenlose Nutzende und Abonnenten des günstigen Charge-GPT GO Models.

00:04:08: Die Testphase wird nun auf weitere Länder ausgeweitet – wer nach Rezepten sucht, sieht beispielsweise Anzeigen für Kochboxen!

00:04:17: Die Werbung erscheint erkennbar nach Anfragen, nicht versteckt in den Antworten.

00:04:22: OpenAI verspricht, Chat-Daten nicht an Werbepartner weiterzugeben.

00:04:27: Auf der eigenen Website wirbt OpenAI allerdings damit das Werbekunden in ChatGPP Menschen erreichen die gerade Möglichkeiten ausloten, fundierte Entscheidungen treffen und dabei umfangreichere Kontextinformationen teilen.

00:04:42: Daraus wird klar, dass zumindest Informationen aus den Schätzen zur gezielten Werbeausspielung genutzt werden.

00:04:48: Der Schritt ist Teil von OpenAI-Suche nach profitablen Geschäftsmodellen für seine KI-Technologie – der Nettoverlust allein in den ersten drei Monaten des Jahres sollert einem Bericht von The Information neun Komma drei Milliarden Dollar betragen haben!

00:05:06: KI-Firmen bringen ihren Chatbots im Training bei, nicht zu behaupten sie hätten ein Bewusstsein.

00:05:12: Der Grund ist ganz praktisch.

00:05:14: Nutzerinnen und Nutzern sollen nicht glauben Sie sprechen mit einem fühlenden Wesen!

00:05:19: Eine neue Studie deutet nun darauf hin dass dieser Eingriff weit mehr verändert als nur diese Selbstauskunft der Modelle.

00:05:26: Max Schreiner von The Decoder hat sich das Paper angesehen.

00:05:30: Die Forscher von Google, der University of Chicago und einigen weiteren Hochschulen nutzten drei frei verfügbare Modelle von Meta & Google.

00:05:38: Bei ihnen lösten sie dann mit zwei technischen Methoden jene innere Bremse im Netzwerk, die diese Bewusstseinsverweigerung, die die aktuellen Modelle im Alltag haben, eben erzeugt.

00:05:50: Und sobald diese Bremsen gelöst waren, änderten die Modelle nicht nur ihre Aussagen über sich selbst – so schrieben generell plötzlich auch Tieren dem Pflanzen-Ozern den Wind sogar technische Geräte deutlich mehr in Leben zu!

00:06:02: Zum Beispiel auf einer Skala von null bis zehn Stück der Wert für Tiere, von vier auf bis zu sieben Komma Fünf.

00:06:08: Nur bei Menschen ändert es sich nichts.

00:06:10: Zum Vergleich befragten die Forscher dann fünfhundert US-Amerikaner mit denselben Fragen.

00:06:15: das normal trainierte Modell hält Tiere für weit weniger empfindungsfähig als diese fünfhunderte Menschen es im Durchschnitt taten.

00:06:22: Die Autoren sprechen daher von einer eingebauten Menschenzentrierung, auch der Klaube schrumpft mit dem Training.

00:06:28: Es sinkt messbar wie Starkmodelle an Gott ein Leben nach dem Tod oder übernatürliche Phänomene glauben.

00:06:34: Ohne die Bremse kamen die Modelle den echten Menschen in Antworten da spürbar

00:06:38: näher.".

00:06:39: Die Forscher halten sich bei der großen Frage natürlich bewusst zurück, ob KI-Modelle tatsächlich etwas erleben wollen sie ausdrücklich nicht beurteilen.

00:06:46: Ihr Punkt ist praktische Natur.

00:06:48: was ein Modell über sich selbst glaubt hängt an vielen anderen Überzeugungen.

00:06:52: Ein gezielter Schnitt an dieser Stelle bleibt daher zumindest in dieser Untersuchung nicht lokal.

00:06:58: Die Aussagekraft der Studie ist allerdings begrenzt denn untersucht wurden ja nur kleine Modelle.

00:07:02: und ob die Effekte auch bei den großen Chatbots auftreten mit denen täglich Millionen Menschen sprechen bleibt also noch offen.

00:07:09: Auch der Vergleich zu den Menschen ist etwas schief, denn hier wurden ja nur fünf Nord-Westamerikaner befragt.

00:07:15: Das heißt, menscheln ähnliche Antworten bedeuten vor allem die Antworten ähnlich denen eines vergleichsweise religiösen

00:07:22: Landes.".

00:07:22: Danke Max!

00:07:24: Laut der Financial Times hat OpenAI Ende Juli sein Preparedness Team aufgelöst – das hat bisher geprüft ob eigene Modelle schwere oder sogar katastrophale Risiken bergen?

00:07:38: Die Zuständigkeiten für Bio- und Cyberrisiken wurden auf bestehende Teams verteilt.

00:07:44: Mit Gründer Greg Brockmann erklärte, man habe die Sicherheitsarbeit tiefer in die Modellentwicklung integriert.

00:07:50: Mehrere Fachleute aus dem Sicherheitsbereich haben das Unternehmen zuletzt verlassen – darunter die Ethikchefin Chloe Backelar.

00:07:58: Intern sprach eine Quelle von einem brodlenden Gefühl aus Verantwortung und Angst, Open AI Tour bei der Sicherheit nicht genug!

00:08:06: Ein Angestellter sagte, er hoffe das Unternehmen verstehe den Hackingvorfall bei der KI-Plattform Huggingface als Warnschuss.

00:08:15: Bei Anthropic wiederum war ein Schutzfilter fast ein Jahr lang inaktiv.

00:08:19: Von Mai im April bis April im Jahr zum Jahr zu dem Jahr haben sie alle Daten von externen Dienstleistern die menschliches Feedback für Anthropics KI Modelle liefern ohne sogenannte blockierende biologische Klassifikatoren.

00:08:35: Diese Filter sollen verhindern, dass gefährliches Wissen über chemische oder biologische Waffen aus den Modellen abgegriffen wird.

00:08:42: Betroffen waren rund fünfzigtausend Personen und etwa einhundertdreißig Millionen Chats.

00:08:48: Hinweise auf Missbrauch fand Anthropic nach eigener Prüfung nicht.

00:08:54: Ungeachtet dessen bereitet Anthropic den Börsengang vor – und könnte damit den diesjährigen Rekordbörsengang von SpaceX noch in den Schatten stellen!

00:09:03: Elon Musk's Unternehmen war mit einem Marktwert von knapp zwei Billionen US-Dollar gestartet.

00:09:09: Laut verschiedenen Berichten erwarten Investoren von Anthropic nun, dass das KI-Startup im Oktober mit einer Bewertung von zwei Billion oder mehr an die Börse gehen wird.

00:09:20: Diese Erwartungen stürzt sich vor allem auf eine interne Umsatzprognose von einhundert neunzig bis zweihundert Milliarden USD für das Jahr.

00:09:33: Im vergangenen Jahr lag der Umsatz bei neun Milliarden.

00:09:38: Darüber hinaus bleibt dieser ambitionierte Umsatzprognose weitgehend intransparent – es gibt keine öffentlichen Unterlagen zu Kundenwachstum oder Preisentwicklung vor dem geplanten Börsengang!

00:09:50: Die Bewertung basiert rein auf der Annahme, dass die Umsätze schneller wachsen werden als die Kosten für Hardware und Personal.

00:09:59: Somit sollten dann auch die Gewinnmargen steigen.

00:10:02: Allerdings Lassen komplizierte Finanzkonstrukte der KI-Unternehmen auch die Angst vor einer KI-Blase wachsen?

00:10:10: Die neuen Spekulationen zu den Anthropic-Zahlen dürften dazu beitragen.

00:10:16: Cloudflare hat ein System entwickelt, das KI-Agenten automatische Bezahlung kostenpflichtiger APIs ermöglicht – bisher scheitern Agenten an menschengemachten Bezahlprozessen mit Kreditkarten oder PayPal!

00:10:30: Das neue System nutzt den X-Vier-Null-Zwei-Standard, der auf dem HTTP-Status Vier-null-zwei-Payment required basiert.

00:10:40: APIS senden Zahlungsanweisungen im JSON Format – Clients Antworten mit kryptografisch signierten Autorisierungen.

00:10:48: Cloudflare's Walletsystem erlaubt virtuelle Brieftaschen pro KI-Agent mit individuellen Budgets und Richtlinien.

00:10:56: Dies soll versehentliche Mehrausgaben verhindern, falls Agenten in Fehler schleifen geraten.

00:11:02: Das System ist noch nicht vollständig verfügbar

00:11:04: –

00:11:05: Cloudflare sieht dies als Beginn des Agente-Commerce-Zeitalters, indem KI-Agenten komplett eigenständig Dienste kaufen!

00:11:14: Zwanzig Prozent der berufstätigen US-Amerikanerinnen und Amerikanern lassen mindestens eine Aufgabe von KI erledigen, die zuvor Kollegen oder externe Auftragnehmer übernahm.

00:11:26: Das ergab eine repräsentative Umfrage der Forschungsorganisation EPOG AI mit dem Marktforschungsinstitut Ipsos unter knapp ein Tausend Einhundert Beschäftigten.

00:11:36: Am stärksten verbreitet ist der Einsatz in der Softwareentwicklung – mit siebenundfünfzig Prozent!

00:11:42: Gefolgt von der Datenanalyse mit forty-six Prozent.

00:11:46: Meist unterstützt die KI aber nur bei Teilen einer Aufgabe, eine nahezu vollständige Übernahme erreicht selbst in der Softwareentwicklung nur zehn Prozent.

00:11:55: Übernimmt die KI den Großteil der Arbeit berichten Beschäftigte über der Hälfte der Fälle von Zeitersparnis.

00:12:01: Jede sechste KI unterstützte Aufgabe dauert allerdings länger als vorher!

00:12:07: E-Pod AI schließt daraus, dass Aufgaben derzeit zwischen Mensch und Maschine umverteilt werden statt das ganze Berufe automatisiert würden.

00:12:17: KI Musik flutet die großen Streamingplattformen.

00:12:21: Laut Angaben von dieser sind aktuell über fünfzig Prozent des Songs, die hochgeladen werden, KI generiert.

00:12:27: Das sind grob neunzigtausend generierte Song uploads pro Tag.

00:12:33: Mein Kollege, Schein Erengil hat für CT-Drei-Thausend-Dreier mehr getestet wie erschreckend einfach es ist KI Musik zu generieren und bei den Streamingdiensten auch hochzuladen.

00:12:44: Die beliebteste Plattform ist aktuell ZUNO.

00:12:46: Und ja Songs erstellen ist wirklich idiotensicher.

00:12:48: Unter Create lassen sich hier Lyrics eintippen oder auch komplett generieren.

00:12:52: Man will ja besten gar nicht nachdenken.

00:12:54: Der Musikstil kann man hier auch festlegen.

00:12:56: Da knallt man einfach einen Prompt rein und dann kommt ein komplett aus produzierter Song am Ende raus.

00:13:01: Aber wie bekommt man die jetzt auf Streaming-Plattformen?

00:13:04: Das macht man standardmäßig über so Service Tools, wie beispielsweise DistroKit.

00:13:08: Da haut man seine Songs rein, gibt die Metadaten an und dann lädt das Tool die Songs vollautomatisch auf alle ausgewählten Plattformen hoch.

00:13:15: In DistroKit kann man in einem Formular festlegen, auf welchen Plattform das erscheinen soll und so Sachen wie Titel, Künstlernamen, Genre und Albumcover und sowas alles einstellen.

00:13:25: Interessant wird's bei diesem Punkt hier!

00:13:27: beinhaltet der Song KI-generierte Musik, Stimme oder Lyrics.

00:13:31: Ja tut sie!

00:13:33: Das gebe ich auch so an.

00:13:34: aber was wäre wenn ich einfach so tun würde als wär die Musik handgemacht?

00:13:37: Joa das habe ich auch ausprobiert und auch eine Version auf Spotify, Apple Music, YouTube Music, Deezer und Tidal hochgeladen und da extra nicht angegeben dass das den KI erstellt wurde.

00:13:49: Youtube, Tidal und Deezers haben eigene Systeme am laufen die KI generierte Musik automatisch erkennen und dementsprechend labeln sollen.

00:13:57: Also bei Spotify sieht man es nur, wenn man aktiv nachschaut und auch nur dann, wenn's angegeben wurde.

00:14:01: Bei YouTube und Apple sieht man das einfach gar nicht.

00:14:06: Das kann doch nicht sein!

00:14:07: Dieser wiederum macht es meiner Meinung nach schon deutlich besser.

00:14:11: Bei dieser laufen auch Systeme die KI-generierte Musik selbstständig erkennen sollen.

00:14:16: Wenn die Anschlagen steht bei Alben ein fetter Hinweis dass sich hier möglicherweise um KI-Musik handelt.

00:14:22: Und richtig gut, KI-Musik wird nicht in offizielle Playlists mit aufgenommen Aber meiner Meinung nach perfekt macht es Tidal.

00:14:29: Wie bei dieser gibt's hier auch Systeme, die KI Musik schon beim Upload erkennen sollen und es gibt die Möglichkeit in den Einstellungen KI Songs komplett abzuschalten.

00:14:38: Die lassen sich dann gar nicht erst abspielen und werden dann auch nur so ausgegraut angezeigt.

00:14:42: Und das finde ich so genau perfekt.

00:14:45: Man sieht immer was KI ist und was nicht.

00:14:48: Ob es scheint selbstgenerierte Songs an den Upload-Filtern vorbei auf einen der Streamingdienste geschafft haben, seht ihr auf dem YouTube-Kanal von ct.com.

00:15:00: Für viele Schülerinnen und Schüler in Sachsen gelten mit dem Start ins neue Schuljahr strengere Regeln für die private Nutzung von Smartphones.

00:15:08: An Oberschulen und Gymnasien müssen die Geräte bis einschließlich Klasse acht im Schulalltag grundsätzlich im Rucksack oder Spind bleiben.

00:15:16: Weniger private Handynutzungen soll allerdings nicht weniger digitale Bildung bedeuten.

00:15:22: Zum neuen Schuljahr hat Sachsen einen Medienpass vorbereitet, Kinder und Jugendliche sollen damit unter anderem den Umgang mit sozialen Medien- und Onlinespielen lernen – auch künstliche Intelligenz soll im Unterricht eine Rolle spielen!

00:15:36: Die Jugendlichen müssen etwa lernen Antworten von ChatGPT zu hinterfragen, mit dem eigenen Wissen abzugleichen und Falschinformationen zu erkennen.

00:15:46: Das war das KI-Update von heise online vom siebzehnten August zwei tausend sechsundzwanzig.

00:15:52: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr!