KI-Update kompakt: KI-Urheberrechtsstreit, Limitless, Deep-Research, Wahlwerbung

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: KI-Urheberrechtsstreit eskaliert.

00:00:21: Meta kauft KI Gadget Startup Limitless.

00:00:25: Die Research-Systeme erfinden Fakten und KI-Modelle können im Chat politische Präferenzen verändern.

00:00:33: Der Streit um Medienenhalte in KI-Modellen spitzt sich zu.

00:00:37: OpenAI muss Chat-Protokolle herausgeben, die New York Times klagt gegen Perplexity, Meta setzt auf Lizenzabkommen.

00:00:45: Malte Kirchner aus dem heise online Newsroom fasst die Ereignisse zusammen.

00:00:49: Der Kampf um KI und Urheberrecht nimmt weiter Fahrt auf.

00:00:52: In den USA muss OpenAI jetzt zwanzig Millionen Chat-Protokolle herausrücken.

00:00:57: Eingericht hat das jetzt angeordnet.

00:00:59: Den New York Times will anhand dieser Protokolle überprüfen, ob Chat-GPT urheberrechtlich geschützte Artikel wortwörtlich wiedergegeben hat.

00:01:07: Und damit nicht genug.

00:01:08: Die Zeitung hat parallel dazu auch noch klargegeben, die KI-Suchmaschine per Plexity eingereicht.

00:01:14: Interessant ist, dass erinnert stark an einen Fall hier in Deutschland.

00:01:17: Die GEMA hat kürzlich gegen OpenAI gewonnen, weil ChatGPT-Liedtexte zu präzise wiedergegeben hat.

00:01:23: Das Gericht sagte, das kann kein Zufall sein, das ist eine Urheberrechtsverletzung.

00:01:28: Aber in den USA ist die Rechtslage etwas anders.

00:01:31: Dort gibt es das Konzept des Fair Use, also der fairen Nutzung.

00:01:35: Die entscheidende Frage lautet deshalb nicht ob, sondern wie viel ChatGPT wiedergegeben hat.

00:01:40: OpenAI hofft natürlich, dass das Gericht sagt, dass alles noch im Rahmen war.

00:01:45: Wenn nicht, könnte es richtig teuer werden.

00:01:47: OpenAI hatte sich übrigens gegen die Herausgabe der Chat-Protokolle gewährt, aus Datenschutz gründen und weil die meisten Protokolle angeblich irrelevant sein.

00:01:55: Aber die Richterin entschied, Anonymisierung reicht aus.

00:01:58: Die Klage läuft schon seit Dezember.

00:02:01: Bei Perplexity geht es um ein ähnliches Problem.

00:02:04: Die KI-Suchmaschine nutzt komplette Nachrichtenartikel, um Nutzeranfragen zu beantworten.

00:02:09: Noch schlimmer aus Sicht der New York Times, Perplexity halluciniert manchmal und die falschen Ergebnisse werden dann der Zeitung zugeschrieben.

00:02:16: Achtzehn Monate lang hat die Times versucht, eine Einigung zu finden, sagt sie, ohne Erfolg.

00:02:21: Gegen Perplexity läuft übrigens schon eine weitere Klage von Doe Jones.

00:02:24: Wichtig zu verstehen, den Medienhäusern geht es nicht darum, der KI komplett zu verbieten, ihre Inhalte zu nutzen.

00:02:30: Sie wollen einfach, dass KI Firmen Lizenzabkommen abschließen und dafür bezahlen.

00:02:35: Und das funktioniert teilweise auch schon.

00:02:36: Meta hat jetzt bekannt gegeben, dass sie etliche neue Verträge unterschrieben haben, unter anderem mit USA Today, CNN, Fox News und Lemont.

00:02:45: Insgesamt laufen in den USA aktuell vierzig ähnliche Klagen gegen KI-Firmen.

00:02:49: Die Frage, wie KI mit urheberrechtlich geschützten Inhalten umgehen darf, wird uns also noch eine ganze Weile beschäftigen.

00:02:56: Vielen Dank, Malte.

00:02:58: Das Berliner Abgeordnetenhaus hat eine Novelle des Allgemeinsicherheits- und Ordnungsgesetzes beschlossen.

00:03:05: Die Reform startet die Polizei mit Befugnissen aus, die tief in die Grundrechte eingreifen.

00:03:10: Während Innensenatorin Iris Spranger das Gesetz als notwendiges Update für das digitale Zeitalter und den Kampf gegen Terrorismus verteidigt, sehen Kritiker darin einen unverhältnismäßigen Angriff auf die Privatsphäre.

00:03:23: Unter anderem die Einführung des Paragrafen A.A.

00:03:26: sorgt in der Fachwelt für Tadel.

00:03:29: Dieser erlaubt der Polizei den biometrischen Abgleich von Gesichtern und Stimmen mit öffentlich zugänglichen Daten aus dem Internet.

00:03:36: Damit kann die Polizei etwa mit Material aus der Videoüberwachung, automatisierte Suchen in sozialen Netzwerken oder auf Foto-Plattformen durchführen, um Personen zu identifizieren.

00:03:48: Außerdem ermöglicht der neue Paragraf, die Weiterverarbeitung von personenbezogenen Daten zum Training und zur Testung von Systemen der künstlichen Intelligenz.

00:03:59: Damit schaffen die Volksvertreter eine Rechtsgrundlage, um etwa Bilder, Videos oder Textnachrichten aus Ermittlungsverfahren für das Anlernen von KI-Algorithmen zu nutzen.

00:04:10: Datenschützer kritisieren dies scharf, da KI-Modelle oft Rückschlüsse auf die Trainingsdaten zulassen und die Zweckbindung der ursprünglich erhobenen Daten hier weit gedehnt wird.

00:04:21: Mit dem Beschluss reiht sich Berlin in die Liste der Bundesländer ein, die ihre Polizeigesetze massiv verschafft haben.

00:04:28: Die Kombination der neuen Instrumente macht das Berliner Paket aber besonders weitreichend.

00:04:34: Auch der CDU-Landtagswahl-Spitzenkandidat Sven Schulze in Sachsen anheilt, will künftig stärker auf KI setzen, um Anschläge besser zu verhindern.

00:04:44: Er befinde sich gerade in intensiven Gesprächen mit der Innenministerin dazu, sagte Schulze im Medien.

00:04:51: KI bietet uns neue Möglichkeiten im Bereich Datengewinnung und Videoüberwachung.

00:04:56: sagt er derzeit amtierende Wirtschaftsminister von Sachsen-Anhalt.

00:04:59: KI sollte künftig genau da helfen und herausfinden, ob jemand kein normaler Besucher sei, sondern einen Ort vorab ausspähe.

00:05:09: Dabei greifen derartige Systeme auf die Bewegungsmuster der Besuchenden zurück.

00:05:13: Das heißt, alle Menschen werden gefilmt und ihr Verhalten wird bewertet.

00:05:18: Bewegt sich jemand auffällig, schlägt das System Alarm.

00:05:21: Unklar ist, wie oft es dazu kommt und welche Folgen das für die Betroffenen hat.

00:05:26: Die Landesregierung von Sachsen-Anhalt hatte bereits Anfang des Jahres ein Gesetzesentwurf vorgelegt, der auch die Einführung automatisierter Datenanalysen vorsieht.

00:05:35: Experten und Datenschützer gehen davon aus, dass dabei die umstrittene Software des US-Unternehmens Palantir zum Einsatz kommen könnte.

00:05:43: Sie wird bereits in einigen Bundesländern eingesetzt, wie etwa in Bayern, Hessen und Nordrhein-Westfalen.

00:05:49: Mit der Software sollen vorhandene Informationen aus verschiedenen Datenbanken der Polizei verknüpft werden.

00:05:56: Metta hat das Unternehmen Limitless übernommen.

00:06:00: Die waren bisher auch unter dem Namen Rewind bekannt.

00:06:03: Mehr zu der Übernahme weiß Eva Maria Weiß von Heise Online.

00:06:07: Limitless bietet kleine Anhänger an, die man an eine Kette hängen kann oder die man wie eine Branche an die Kleidung stecken kann.

00:06:14: Diese Anhänger hören dann auf Wunsch alle Gespräche mit.

00:06:18: Die Aufzeichnungen sind dann wiederum durchsuchbar.

00:06:22: Das geschieht klar mittels KI.

00:06:24: Was habe ich noch mal neulich mit Tante Trude für das Weihnachtsbuffet besprochen?

00:06:29: Oder um welche Uhrzeit wollten Tim und ich uns treffen?

00:06:33: Das sind wahrscheinlich zwei eher harmlose Anwendungsbeispiele.

00:06:37: Gesagtes und Zusammenfassungen können freilich auch in jedem Streit als Beweismittel eingesetzt werden.

00:06:45: Da kann es auch mal schnell ein bisschen hässlicher werden.

00:06:48: Limitless hat unter dem Namen Rewind auch eine Software für den Computer angeboten und die erinnert stark an Microsoft's Recall-Funktion, bei der ja Screenshots gemacht werden, die dann ebenfalls durchsuchbar sind.

00:07:02: Rewind, also die Software, wird es ab sofort nicht mehr geben und auch der kleine Anhänger ist bereits aus dem Verkauf genommen worden.

00:07:11: Wer ihn besitzt und bisher Abogebühren für die Nutzung bezahlt hat, der kann das noch ein Jahr lang weitermachen und auf alle Funktionen zugreifen, muss dafür aber tatsächlich jetzt nichts mehr bezahlen.

00:07:23: Danach wird dann der Support eingestellt.

00:07:25: Was hat Meta denn da mit dem Unternehmen vor, wenn sie direkt alles einstellen?

00:07:29: Es ist im Silicon Valley nicht unüblich, dass aufstrebende Konkurrenz übernommen wird, bevor sie wirklich zur Konkurrenz werden könnte.

00:07:38: Möglicherweise hat Metta genauso Instagram und WhatsApp übernommen und jetzt eben Limitless.

00:07:44: Aber bei Metta wurden natürlich Instagram und WhatsApp dann ausgebaut und die Dienste wurden nicht eingestellt.

00:07:52: Limitless schreibt, als sie vor fünf Jahren begonnen haben, Hardware mit KI-Funktionen zu entwickeln, Seien sie noch irre Nerds gewesen und damals hat noch niemand an solche Produkte so richtig geglaubt.

00:08:05: Nun aber gibt es eine Menge Mitbewerber, die sind einfach größer als sie.

00:08:10: Das sind bekanntermaßen OpenAI, Google oder eben auch Meta.

00:08:14: Und wir erinnern uns auch an Humanes AI-Pin oder den Rabbit

00:08:17: R.I.S.,

00:08:18: die sind halt schon krachengegangen.

00:08:20: Beides waren ganz ähnliche Zusatzgeräte und daher wundert es auch nicht, dass Meta den Verkauf jetzt beendet.

00:08:29: Aber weshalb haben sie dann Interesse?

00:08:31: Es dürfte spannend sein, welche Erfahrungen Limitless mit dem dauerhaften Zuhören und auch der Auswertung gemacht hat.

00:08:38: Das ist sicherlich ein Wissensschatz, auf den Meta gerne zurückgreift.

00:08:43: Wer ein Gerät von Limitless tatsächlich nutzt, der kann seine Daten jetzt auch exportieren und in der App direkt blöschen.

00:08:50: Auf was Meta dazugriff hat, das ist unklar.

00:08:53: Danke Eva.

00:08:55: Das US-Telekommunikationsunternehmen Securus hat ein KI-Modell anhand jahrelang aufgezeichneter Telefon- und Videoanrufe amerikanischer Gefängnisinsassen trainiert.

00:09:07: Jetzt testet es dieses Modell, um Anrufe SMS und E-Mails der Häftlinge zu scannen.

00:09:14: So sollen Straftaten vorhergesagt und verhindert werden.

00:09:17: Das ist zumindest die Hoffnung von Kevin Elder, Präsident des Unternehmens.

00:09:22: Laut Elder hat Sikurus im vergangenen Jahr seine Tools getestet, um die Gespräche von Insassen sogar in Echtzeit zu überwachen.

00:09:30: Zu seinen Kundengehörengefängnisse für Untersuchungshäftlinge, Strafvollzugsanstalten für Verurteilte und Haftstalten der Grenzschutzbehörde EIS, die zuletzt mit rabiaten Razzien von sich reden machte.

00:09:42: Aktivistinnen und Aktivisten für Strafgefangene meinen, dass Sikurus bereits in der Vergangenheit die Bürgerrechte von Gefangenen verletzt hat.

00:09:50: Beispielsweise zeigten Leaks aus den Aufzeichnungsdatenbanken des Unternehmens, dass es Tausende von Anrufen zwischen Insassen und ihren Anwälten unrechtmäßig aufgezeichnet habe.

00:10:02: Eine Studie des chinesischen Smartphone-Herstellers Oppo deckt systematische Schwächen von Deep-Research-Systemen auf.

00:10:10: Das sind agentische Systeme, welche eigenständig komplette Berichte aus Internetquellen erstellen können.

00:10:16: Dazu rufen sie automatisch Dutzende oder hunderte Webseiten ab, unterstellen daraus in wenigen Minuten umfangreichere Schascheberechter.

00:10:24: Google, Perplexity und OpenAI bieten solche Funktionen an.

00:10:28: Das Problem ist, dass fast ein fünftel aller Fehler entsteht, weil die Systeme plausibel klingende, aber erfundene Inhalte generieren.

00:10:37: Das Kernproblem liegt laut OPPO in der starren Ausführung.

00:10:41: Ein System plant etwa eine umfassende Datenbankanalyse, kann dann aber nicht auf die Datenbank zugreifen.

00:10:47: Statt die Strategie anzupassen, füllt es alle geplanten Abschnitte mit selbstgenerierten Inhalten.

00:10:54: Den System fehlt die Fähigkeit, transparent mit Wissenslücken umzugehen.

00:10:58: Spannend wird sein, wie sich diese Erkenntnis auf zukünftige Deep-Research-Systeme auswirkt.

00:11:05: Die Unzuverlässigkeit von KI-Agenten ist auch der Grund, warum sie noch selten in Unternehmen zum Einsatz kommen.

00:11:12: Das zeigt jetzt auch eine Untersuchung der UC Berkeley, der Stanford University und von IBM Research.

00:11:18: Statt autonomer Supersysteme dominieren im Alltag der Unternehmen einfache Workflows mit viel menschlicher Kontrolle.

00:11:26: Die Studie passiert auf einer Umfrage unter dreihundert sechs Fachleuten und zwanzig Interviews mit Teams, deren Agenten bereits produktiv laufen.

00:11:35: Die Details kennt Kim Schorrenbrand von The Decoder.

00:11:38: KI-Agenten sind Systeme, die Sprachmodelle mit Werkzeugen und Gedächtnis kombinieren, um mehrstufige Aufgaben eigenständig zu lösen.

00:11:45: In Forschungspapieren führen solche Systeme oft dutzende oder hunderte Schritte aus.

00:11:50: Die Realität in Unternehmen sieht aber noch anders aus.

00:11:53: Sechsundachtzig Prozent der untersuchten produktiven Agenten führen höchstens zehn Schritte aus, bevor ein Mensch eingreifen muss.

00:11:59: Bei fast der Hälfte sind es sogar weniger als fünf.

00:12:02: Die befragten Teams setzen bewusst auf einfache Architekturen.

00:12:05: Siebzig Prozent verwendeten Standardmodelle ohne aufwendige Anpassungen.

00:12:09: Der Aufwand fließt stattdessen in manuelles Promt Engineering.

00:12:12: Komplexe Trainingsverfahren wie Reinforcement Learning spielen praktisch keine Rolle.

00:12:16: Das Hauptproblem bleibt die Zuverlässigkeit.

00:12:18: Da KI-Modelle nicht deterministisch arbeiten, ist ihre Korrektheit schwer sicherzustellen.

00:12:23: Vierundsebzig Prozent der produktiven Agenten werden deshalb primär von Menschen bewertet.

00:12:27: Viele Teams kombinieren das mit automatischen Prüfverfahren, bei denen eine KI die Ausgabe einer anderen KI bewertet.

00:12:33: Allerdings fast immer mit menschlicher Kontrolle als letzter Instanz.

00:12:37: Die Motivation für den Einsatz ist klar, seventy- drei Prozent der Teams nennen Produktivitätssteuerung als Hauptgrund.

00:12:42: Die Agenten übernehmen Routineaufgaben in Bereichen wie Versicherung, Personalwesen oder Datenanlüse.

00:12:48: Entsprechend locker sind die Anforderungen an die Geschwindigkeit.

00:12:50: Für einvierzig Prozent der Systeme sind Antwortzeiten im Minutenbereich akzeptabel.

00:12:56: Interessant ist auch die Software-Architektur.

00:12:58: Die meisten befragten Unternehmen setzen auf agentische Frameworks von Drittanbietern wie Langchain oder CrewAI.

00:13:04: Die Studie warnt davor, dass Forschung an der Praxis vorbeigeht.

00:13:07: Viele Themen aus Forschungspapieren wie komplexe Multi-Agent-Szenarien finden sich in produktiven Systemenkom wieder.

00:13:13: Gleichzeitig wächst die Handlungsfähigkeit von KI-Modellen unbemerkt.

00:13:17: Funktionen wie Deep Research, bei denen Systeme eigenständig umfangreiche Recherchen durchführen, sind ja bereits weit verbreitet.

00:13:23: Danke

00:13:23: schön, Kim.

00:13:25: Die KI-Suchmaschine Perplexity hat ein Sicherheitssystem für Browser-Agenten vorgestellt.

00:13:32: Denn ein akutes Problem von solchen Agenten besteht darin, dass sie mehr auf Webseiten sehen als die Nutzerinnen und Nutzer.

00:13:38: Zum Beispiel weiße Schrift auf weißem Grund.

00:13:41: So können Angreifer bösartige Befehle in Webseiten verstecken.

00:13:46: Der KI-Agent interpretiert diese dann fälschlich als Nutzeranweisungen und führt unerwünschte Aktionen aus.

00:13:53: Wie akut das Problem ist, zeigte sich im August.

00:13:56: Der Browserhersteller Brave entdeckte eine Sicherheitslücke in Perplexitys eigenem Browser Comet.

00:14:03: Über versteckte Befehle konnten Angreifersensible Daten wie E-Mail-Adressen und Einmalpassworte auslesen.

00:14:10: Das neue System namens BrowSafe soll solche Angriffe erkennen, bevor sie Schaden anrichten.

00:14:16: Perplexity stellt das System öffentlich bereit.

00:14:20: KI-Chatbots können politische Ansichten von Menschen auch in kurzen Konversationen womöglich deutlich effektiver ändern als dieses traditionelle Wahlwerbungvermarkt.

00:14:31: Das liegen zumindest umfangreiche Analysen nahe, die jetzt öffentlich gemacht wurden.

00:14:36: Martin Holland aus dem Heise Online Newsroom berichtet.

00:14:39: weil gleich mehreren wichtigen Wahlen der vergangenen Monate haben, Forscher und Forscherinnen versucht herauszufinden, wie gut KI-Chatbots da drin sein können, politische Meinungen, Präferenz und Einstellung zu ändern.

00:14:52: Und für die Versuchsanordnung haben sie Menschen befragt zu ihren politischen Überzeugungen, zu Themen, die da eben aktuell waren.

00:15:01: Und danach, nach dieser Befragung haben sie sie eben vor Chatbots gesetzt und haben sie mit diesen Chatbots quasi diskutieren lassen.

00:15:09: diese Themen besprechen lassen und die Chatbots waren jeweils darauf trainiert oder ausgelegt, diese Meinung zu ändern oder für bestimmte politische Positionen oder in dem Fall Kandidaten zu werben.

00:15:22: Das Ergebnis in mehreren Staaten war nun, das konkret geht zum Polen, Großbritannien und die USA, das Ergebnis war nun, dass die Ziemlich gut waren da drin die Chatbots.

00:15:33: Also das bei den Befragungen, die dann danach durchgeführt wurden, teilweise ganz schön große Verschiebungen bei den politischen Meinungen konstatiert werden konnten.

00:15:42: Das war besonders ausgeprägt in Großbritannien und Polen, während es in USA ein bisschen schwieriger war.

00:15:48: Das könnte mit der stärkeren Polarisierung zusammenhängen, haben sie gesagt.

00:15:52: Und auf jeden Fall haben sie konstatiert, dass das deutlich effektiver zu sein scheint als Fernsehwerbung, die natürlich immer noch so eines der klassischen Wahlwerbermittel ist.

00:16:02: Jetzt gibt es aber auch da zumindest schon Hinweise darauf, dass das, was die Leute dann direkt danach gesagt haben, nicht unbedingt bedeuten muss, dass sie dann anders wählen würden, was ja nun das erklärte Ziel von Wahlwerbung ist.

00:16:13: Also das wurde eben nicht überprüft und lässt sich auch viel schwerer überprüfen, wie lang diese veränderten Antworten oder Einstellungen eben auch anhalten, weil es dann doch gar nicht so leicht ist, wirklich Überzeugung zu ändern oder selbst, wenn sich das Wissen ändert, auch zu ändern, dass man anders handelt.

00:16:30: Und was besonders auffallend war bei allen Studien war, dass diese Chatbots eben sehr mit vorgeblichen Fakten argumentiert haben.

00:16:39: Also die Antworten haben sehr viele scheinbare Fakten enthalten.

00:16:43: Aber wie das eben von KI längst bekannt ist, waren da eben viele falsche Informationen.

00:16:47: Also es waren eben gar keine Fakten, sondern falsche Angaben.

00:16:50: Und das hat sich auch nicht verringert mit der Menge an oder mit der Länge der Diskussion, sondern zwar immer ziemlich viel.

00:16:57: Die Redes von ungefähr einem Drittel der Antworten war falsch oder da wurden Unwahrheiten drin entdeckt.

00:17:02: Und das ist natürlich ein ziemlich großes Problem, weil es ja Und das Ziel erreicht die Konversation, Wahrheitsgetreuer zu machen.

00:17:13: Was auch festgestellt wurde, war, dass diese Falschbehauptungen häufiger anzutreffen waren, wenn für Kandidaten des rechten Spektrums argumentiert wurde als des linken, aber sie sind überall vorgekommen.

00:17:26: Das ist ein großes Problem, das offensichtlich immer noch nicht behoben ist.

00:17:30: Danke, Martin.

00:17:32: Menschliche Fähigkeiten, wie Kreativität und Empathie, verlieren auf dem Arbeitsmarkt keinen Wert, sondern sollen laut dem Weltwirtschaftsforum im Jahr-Zweißen-Dreißig sogar an erster Stelle stehen, noch vor KI-Kompetenzen.

00:17:48: Das geht aus einem aktuellen White Paper vor.

00:17:50: Die menschlichen Kompetenzen umfassen unter anderem kreative und problemlösende Fähigkeiten wie kritisches und analytisches, systemisches sowie mathematisches Denken.

00:18:02: Damit können komplexe Herausforderungen bewältigt und neue Ideen entwickelt werden.

00:18:07: Auch Motivation und Selbstwahrnehmung, lebenslanges Lernen, Coaching, Neugier, Detailgenauigkeit, Resilienz, Flexibilität und Agilität sowie emotionale Intelligenz zählen dazu.

00:18:21: Laut dem Bericht befähigen Sie Menschen, sich selbst zu managen, weiterzubilden, zwischenmenschliche Beziehungen zu gestalten und ihr Wohlbefinden zu erhalten.

00:18:30: Der Bericht betont jedoch auch, dass gerade diese Kompetenzen in Bildungssystemen bisher zu wenig gefördert werden.

00:18:38: Umfragen bestätigen, dass bei Unternehmen schon heute eine hohe Nachfrage nach qualifizierten menschlichen Kompetenzen in der Belegschaft besteht, während das Angebot nicht mithalten kann.

00:18:51: Das war das KI-Update von Heise Online vom eighthen Dezember für nur zwanzig.

00:18:56: Eine neue Folge gibt es immer Montags, Mittwochs und Freitags um fünfzehn Uhr.