KI-Update kompakt: Demokratie, Pentagon vs. Anthropic, Produktivität, KI-Musik

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: KI-Schwärme bedrohen demokratischen Diskurs.

00:00:21: Pentagon droht an Thropic mit weitreichenden Sanktionen.

00:00:25: KI Produktivitätsschub in den USA erstmals messbar!

00:00:28: Und erste private Radiosender Deutschland spielen KI generierte Songs.

00:00:34: KI kann missbraucht werden.

00:00:36: Klar, dann KI ist es sehr viel einfacher, Deepfakes und auch Fake-News zu generieren – und zum Teil auch zu verbreiten!

00:00:43: Nicht zuletzt geschieht das etwa mittels KI-Agenden.

00:00:46: Ein Forschungsteam hat nun vor koordinierten Angriffen durch KI-Agenten gewarnt.

00:00:52: Wie diese ablaufen und was sie so gefährlich macht weiß Eva Maria Weiß von Heise Online.

00:01:03: vielleicht sogar lenken, auf jeden Fall eingreifen.

00:01:06: Es ist grundsätzlich nichts Neues das in sozialen Netzwerken auch Meinung gemacht wird.

00:01:12: Wir müssen nur an den Cambridge Analytica Skandal denken.

00:01:15: Da wurden Daten ja genutzt um darauf aufbauen Kampagnen zu steuern.

00:01:20: Also Menschen wurden passende Beiträge für sie ausgespielt und so zum Beispiel unsichere Wähler bevorzugt kontaktiert.

00:01:30: Damals musste noch einiges quasi Händisch passieren.

00:01:34: Das heißt, es gab eine Reihe Menschen die an der Erstellung dieser Kampagne und der dazugehörigen Beiträge und Bilder beteiligt waren.

00:01:42: Nun kann man dafür eben Kain nutzen – und das erlaubt sogar Personen zu Fälschen, die dann in den sozialen Netzwerken eigenständig Beiträge posten, liken und kommentieren!

00:01:55: Diese Personas können sogar als Schwerme auftreten oder wie es die Forscher der Uni Koblenz auch nennen, als KI-gesteuerte Flotten.

00:02:04: Multiagentensysteme können soziales Verhalten und Dynamiken ganz authentisch nachahmen – sie fallen also zwischen den Social Media-Konten von echten Personen gar nicht mehr weiter auf!

00:02:17: Doch diese Schwärme verbreiten dann eben absichtlich Desinformation dieselbe Disinformation.

00:02:25: Wenn zahlreiche echte wirkende Personen nun also dieselbe Informationen streuen, wirkt diese Information besonders echt?

00:02:33: Das kann für die Gesellschaft oder für die Demokratie gefährlich sein!

00:02:37: Und die Forscher sehen sogar noch einen weiteren Grund zur Sorge – KI-Modelle werden mit den Daten aus sozialen Netzwerken trainiert.

00:02:46: Wenn dort also besonders viele Schwärme versuchen eine bestimmte Meinung oder Ansicht hervorzuheben Fließt das in das Training ein.

00:02:56: Neue Modelle geben dann also das wieder, was die Fake-Profile geschrieben haben.

00:03:01: Gefordert sind nun also vor allem die Anbieter von sozialen Netzwerken.

00:03:06: Weder Metta noch Google werden in dieser Form Manipulation wollen und die Nutzungsrichtlinien verbieten das ja eigentlich sogar aber bekanntlich hält das böswillige Akteurin nicht davon ab.

00:03:17: Es bedarf also jetzt neuer Strategien und auch vielleicht neue Mustererkennungen, um solche KI-Flotten zu erkennen.

00:03:24: Nicht nur die Anbieter von online Plattformen müssen Fake News und Desinformationen erkennen – auch wir Menschen sollten uns dessen bewusst sein, dass viele gefälschte Informationen Beiträge und Bilder online auftauchen!

00:03:37: Das ist aber oft schwierig… Und ein aktueller Fall zeigt?

00:03:41: Niemand ist davor gefeilt.

00:03:42: Dass heute Journal zum Beispiel hat ein gefälschtes Video in einem Beitrag gezeigt.

00:03:47: Was ist da denn passiert, Eva?

00:03:49: In der Sendung wurde ein KI-Video genutzt, das vermeintlich einen ICE-Einsatz in den USA zeigen sollte.

00:03:57: Dabei verwies die Moderatorin noch darauf, dass ganz viele Videos online kursierten, die nicht alle echt seien und dann hat das ZDF selbst einen Ausschnitt gezeigt, der offensichtlich mit Open AIS Sora generiert wurde – also eben nicht echt war!

00:04:13: Das war in diesem Fall auch sehr einfach zu erkennen, es gab nämlich ein Wasserzeichen von Sora.

00:04:43: Vielmehr sagen sie dazu jetzt auch nicht.

00:04:46: Das Beispiel zeigt da eben ganz genau, wir alle müssen sehr achtsam sein.

00:04:52: Bilder sagen nämlich bekanntlich mehr als tausend Worte und das stimmt auch!

00:04:56: Bilder die wir einmal gesehen haben brennen sich ein – das geschieht dabei viel leichter als etwa bei Text.

00:05:04: Unser Gehirn ist überhaupt nicht darauf trainiert, Bilder darauf auszuwerten ob sie echt sind oder ob sie gefälscht seien könnten.

00:05:11: Bisher galt ja, dass fotorealistische Bilder in der Regel auch fotoreallistisch gewesen sind.

00:05:19: Aber das war

00:05:20: einmal.".

00:05:20: Danke Eva!

00:05:22: Das Europäische Parlament hat wegen Sicherheitsbedenken, KI-Funktionen auf dienstlichen Smartphones und Tablets der Abgeordneten und ihrer Angestellten deaktiviert – das berichtet das Politikmagazin Politico unter Berufung auf eine interne E-Mail, in der der Schritt bekannt gegeben wurde Der Schritt sei Erfolg, nachdem die IT-Abteilung eingestanden habe, dass sie die Sicherheit der Daten auf den Geräten nicht garantieren könnte wenn die KI-Werkzeuge dort aktiv sein.

00:05:51: Das Magazin zitiert einen anonymen EU Angestellten das es dabei um Funktionen geht, die das Schreiben und Zusammenfassen von Texten erledigen – um virtuelle Assistenten und die Zusammenfassung von Internetseiten.

00:06:04: Die Maßnahme des EU-Parlaments macht einmal mehr deutlich was für Probleme die rasche Weiterentwicklung von KI-Funktionen im Arbeitsalltag mit sich bringt.

00:06:13: In der internen E-Mail wird laut Politikon noch darauf gedrängt, ähnliche Vorsichtsmaßnahmen auf privaten Geräten vorzunehmen – es sollte vermieden werden dienstliche Emails, Dokumente oder andere interne Informationen an KI-Werkzeuge zu übermitteln, etwa um deren Inhalte zu analysieren und zusammenzufassen.

00:06:32: Das deutet an, dass jetzt die Gefahr besteht das Abgeordnete und ihre Angestellten einfach auf private Geräte wechseln wenn sie auf bestimmte KI-Funktionen nicht verzichten wollen.

00:06:42: Solche SchattenKI ist in Unternehmen längst ein wachsendes Problem!

00:06:47: Dass Pentagon & Anthrobek verhandeln gegenwärtig wie Claude beim US Militär eingesetzt werden kann.

00:06:55: Wegen der roten Linien der KI Firma droht das Pentagon mit einer Eskalation des Konflikts.

00:07:01: Martin Holland mit den Einzelheiten.

00:07:03: Im Konflikt mit dem Kei-Unternehmen Anthropik will das US-Verteidigungsministerium angeblich eskalieren und das Unternehmen als Gefahr für die Lieferkette einstufen, dass ist etwas was sonst ausländischen Unternehmensverarbeiten wäre und da sieße das kein Unternehmen das mit dem US Militär, dem Verteidigung Ministerium Geschäfte macht auch mit Anthropic Geschäften machen dürfte.

00:07:26: Das wäre natürlich massiver Schlag gegen das ganze Geschäft, den ganzen Business von Anthropic weil das Uralsverteidigungsministerium natürlich ein riesiger Kunde ist auf dass wenige verzichten dürften.

00:07:39: Noch ist es aber nur eine Drogen die nicht offiziell gemacht wurde sondern also das US-Magazin Axios hat darüber berichtet.

00:07:48: das heißt man versucht offenbar das rauszubekommen und klar zu machen das hier ernst gemeint ist aber noch nicht quasi öffentlich in der Pressemitteilung oder so, publik machen.

00:08:00: Der Konflikt selbst ist dabei schon länger bekannt.

00:08:02: Es geht darum dass das US-Militär Zugriff auf die KI von Anthropic bekommen soll, die auch laut Axios als am leistungsfähigsten angesehen wird von den Angestellten dort.

00:08:14: und Propics sagt aber es sind Ordnungen könnt ihr machen, aber nicht ihr dürft damit nicht Massenüberwachung von US-Bürgern und Bürgerinnen vornehmen und keine Waffen entwickeln, die KI gesteuert sind und bei denen kein Mensch mehr drauf guckt bevor sie abgefeuert werden.

00:08:34: Das ist für das US-Verteidigungsministerium und den Verteidigungsminister Pete Heckseth angeblich so das Zitat inakzeptabel.

00:08:42: dieser Einschränkung und deswegen folgt jetzt diese massive Drohung.

00:08:46: ob daran wirklich festgehalten wird muss ich jetzt zeigen oder ob das eine Verhandlungstaktik ist muss man erst mal sehen.

00:08:53: Vielen Dank, Martin.

00:08:55: Ein Unternehmer der keine Skrupell hat das Pentagon bei der Entwicklung Autonomawaffen zu unterstützen ist Elon Musk.

00:09:02: Seine Firmen SpaceX und XAI beteiligen sich an einem Pentagon-Wettbewerb zur Entwicklung sprachgesteuerte Autonummer Drohnen Schwarmtechnologie.

00:09:11: Der Wettbewerk ist mit einhundert Millionen Dollar dotiert.

00:09:14: SpaceX und xAI arbeiten am gesamten Projekt mit – einschließlich Zielerfassung und Zielbekämpfung!

00:09:21: Ziel ist Software, die Sprachbefehle in digitale Anweisungen umwandelt und Drohnschwärme über mehrere Einsatzbereiche wie Luft- und See koordiniert.

00:09:31: Der sechsmonatige Wettbewerb soll in fünf Phasen ablaufen von der Softwareentwicklung bis hin zu realen Tests.

00:09:38: XAI baut seine Pentagon-Präsenz systematisch aus – das Unternehmen sucht derzeit aktiv Ingenieure mit US-Sicherheitsfreigaben und hat bereits einen Zweihundert Millionen Dollar Vertrag mit dem Pentagon.

00:09:51: Mehrere Verteidigungsbeamte äußerten allerdings Bedenken über die Integration generativer KI in Waffenplattform.

00:09:59: Das chinesische KI-Startup MANS hat eine neue Funktion namens Manus Agents vorgestellt, damit können Nutzerinnen und Nutzer einen KI-Agenten direkt in Messenger Apps verwenden.

00:10:11: Der Agent lässt sich einfach per QR Code einbinden.

00:10:14: MANUS AGENTS bietet mehrstufige Aufgaben, Recherche, Datenverarbeitung und Dokumentenerstellung alles direkt im Chat.

00:10:22: Nutzende können Sprachnachrichten, Bilder und Dateien senden.

00:10:26: Zur Auswahl stehen zwei Modelle – Manus-Ins.ex Max für komplexe Aufgaben und Ins.x Lite für schnelle Anfragen.

00:10:34: Manus Agents startet zunächst bei Telegramm, obwohl der Facebook-Konzern Meta das Startup Ende twenty-fünfundzwanzig übernommen hat.

00:10:43: Womöglich steht er dir, der von chinesischen Behörden noch geprüft wird auf der Kippe?

00:10:47: Vielleicht will Metta aber auch die Funktion zunächst in einem Umfeld testen lassen, das bei Problem nicht sofort mit Metta assoziiert wird.

00:10:56: Neue Wirtschaftsdaten aus den USA deuten darauf hin, dass künstliche Intelligenz – die Produktivität erstmals messbar steigert!

00:11:06: Das sagt Erik Brynjolfson, Direktor des Stanford Digital Economy Lab.

00:11:10: Wie er das gemessen hat, erklärt uns Kim Scheurenbrand von The Decoder.

00:11:15: In einem Gasterartikel in der Financial Times stützt er seine These auf neue Wirtschaftsdaten aus den USA.

00:11:22: Die aktualisierten Zahlen des Bureau of Labor Statistics zeigen, dass US-Beschäftigungswachstum wurde um rund vierhundert dreitausend Stellen nach unten korrigiert.

00:11:31: Gleichzeitig wuchs die Wirtschaft im vierten Quartal um drei Komma sieben Prozent.

00:11:36: Weniger Arbeitskräfte bei hoher Wirtschaftsleistung seien ein eindeutiges Zeichen für Produktivitätswachstums, schreibt Bryn Jörgson.

00:11:44: Er schätzt den US-Produktivitätszuwachs für bis zu ca.

00:11:48: zwei Prozent, das ist fast doppelt so viel wie der Durchschnitt der letzten zehn Jahre, der bei einem Prozent lag.

00:11:55: Brünnjofsen verweist auf die sogenannte Produktivität J Kurve.

00:12:00: Große Technologien wie die Dampfmaschine oder der Computer bringen nicht sofort messbare Gewinne.

00:12:05: Zunächst müssen Unternehmen ihre Abläufe umbauen, Mitarbeiterinnen und Mitarbeiterschulen und neue Geschäftsmodelle entwickeln.

00:12:12: Die aktuellen US-Daten würden nun zeigen dass diese Investitionsphase vorbei sei und wir in die Ertragsphase übergehen.

00:12:19: Allerdings Brunjov Sonn ist Mitgründer von Work Helix einem Unternehmen das Firmen bei der KI Entführung berät.

00:12:26: Da soll ein geschäftliches Interesse daran, den Nutzen von KI her vorzuheben.

00:12:29: Zudem könnte das BEP-Wachstum zu einem Teil der Investitionen in die KI-Infrastruktur selbst getrieben

00:12:35: sein.".

00:12:36: Danke schön Kim!

00:12:38: Noch vor wenigen Monaten schien künstliche Intelligenz der sicherste Investmenttrend dedicated zu sein.

00:12:44: Seit Jahrzehntausenddreiundzwanzig flossen jede Menge Kapital in KI Infrastruktur, Cloudchips und Software.

00:12:51: Anfang dieses Jahres zeigte sich jedoch eine überraschende Gegenbewegung.

00:12:55: Der Markt beginnt, den Preis für die schöne neue KI-Zukunft neu zu berechnen – denn Investoren fürchten zunehmend dass generative KI eben nicht nur Produktivität steigert sondern auch Geschäftsmodelle zerstört und zwar entlang der gesamten Wertschöpfungskette.

00:13:13: Selbst die Aktien großer Konzerne fallen da deren riesige Investition in KI die Gewinne schmälern könnten!

00:13:20: Zudem waren einflussreiche Tech-Chefs öffentlich davor, dass KI schon bald viele Bürojobs ersetzen wird.

00:13:27: Diese Unsicherheit über die negativen wirtschaftlichen Folgen führt nun dazu, dass die Kurse an den Börsen sinken – da ein möglicher Jobverlust auch den Konsum und damit die gesamte Wirtschaft schwächen würde!

00:13:40: Im Gegensatz zu vielen anderen Unternehmen sorgt der breitere Einsatz von KI beim britischen Computer-Hardware-Hersteller Raspberry Pi gerade für eine CoS Rally.

00:13:50: Die Aktien des Entwicklers von einem Platinencomputern legten am Dienstag an den Londoner Börse um bis zu zweiundvierzig Prozent zu und verzeichneten damit seit Wochenbeginn einen Rekordanstieg.

00:14:02: Der Aufschwung wurde wohl befeuert durch Spekulationen in den sozialen Medien, wonach die Nachfrage nach den Geräten von Raspberry Pi steigen könnte, da sie zur Steuerung des beliebten KI-Chatbots OpenClaw verwendet werden können.

00:14:17: Demnach haben Programmierer OpenClaws so angepasst das es effizient auf einem kleinen Cluster von Raspberry PI Minicomputern läuft – diese sind deutlich günstiger als zum Beispiel Applesysteme!

00:14:28: Allerdings ist der aktuelle Aufschwung auch nur eine Momentaufnahme.

00:14:32: Der Kurs der Aktie liegt immer noch etwa fünfzig Prozent unter ihrem Rekord hoch von vor einem Jahr.

00:14:38: Das liegt an sinken Gewinnen und dem starken Anstieg der Kosten für Speicherchips, die in vielen Produkten verwendet werden.

00:14:45: KI wirbelt also den Aktienmarkt überall durcheinander!

00:14:50: KI-generierter Content ist auf Social Media Plattform allgegenwärtig.

00:14:55: Aber auch klassische, lineare Medien experimentieren zusehends mit KI-Inhalten – etwa private Radiosender.

00:15:02: Robin Ahrens aus der Zitärredaktion hat sich die Entwicklung mal genauer

00:15:06: angeschaut.

00:15:07: Wer mitten in der Nacht im Raum Frankfurt oder in Bayern auf der Autobahn unterwegs war und das Radio eingeschaltet hatte, mag sich vielleicht schonmal gewundert haben….

00:15:16: Da erklingen Songs, die die Muster von Popstücken ziemlich plump abspulen und noch dazu bekannten Hits ähneln... Das könnten KI-generierte Songs gewesen sein, denn die ersten privaten Radiosender in Deutschland spielen nachts regelmäßig KI Musik.

00:15:32: Zum Beispiel Sender der The Radio Group.

00:15:34: Dem Medienunternehmen gehören bekannte Stadtradius wie Radio Frankfurt, Radiokottbus, Antennekaiserslautern und andere.

00:15:42: Zwischen ein und vier Uhr nachts spielen diese Sender die KI Musiknacht – ein Radioprogramm das auf KI generierter Musik basiert!

00:15:51: Dass die Songs KI generiert sind, wird zu Beginn und zwischen den Musikstücken transparent gemacht.

00:15:56: Das erklärte mir der Geschäftsführer der The Radio Group Tim Laut.

00:16:00: Den Anteil an KI-generierter Musik will die Mediengruppe bislang nicht auf das Tagesprogramm ausweiten.

00:16:07: Auch der Bayerische

00:16:08: Radiosender Nr.

00:16:15: Das bestätigte uns der Präsident der Bayerischen Landeszentrale für neue Medien Dr.

00:16:19: Thorsten Schmiege, das Ausspielen von KI-Songs wird laut Schmige aber allenfalls für Randzeiten diskutiert.

00:16:27: Für The Radio Group Geschäftsführer Tim Laut steht er unter Haltungswert von KI Songs im Vordergrund.

00:16:33: Er bezeichnet den Einsatz von KI Inhalten als logischem nächsten Schritt in der Evolution des Radios.

00:16:40: BLM-Präsident Schmiege erwähnt in seinem Statement allerdings auch, dass für KI-generierte Musik keine Gebühren bei der GEMA anfallen.

00:16:47: Die Einnahmen die Radiosenderen die Verwertungsgesellschaft abführen müssen berechnen sich nämlich aus dem Menge angespielter Musik aus dem GEMA Repertoire und mit KI generierten Songs lässt sich der Programmanteil an lizenzpflichtiger Musik senken – und somit kostensparen!

00:17:04: Die GEMA selbst betrachtet KI-Musik im Radioprogramm eher mit Sorge.

00:17:10: KI-Songs seien zwar nach der überwiegenden Auffassung von Juristinnen nicht durch das Urheberrecht geschützt.

00:17:15: Wenn bestehende Musiktitel aber zum Training von KI-Modellen genutzt wurden, verletze das gegebenenfalls die Rechte der Urheuberin.

00:17:23: Das schreibt uns die GEMA in einer Stellungnahme.

00:17:26: BLM-Präsident Schmiege sieht aber die KI Anbieter in der Pflicht für mögliche Rechtsverletzung durch generierte Musik geradezustehen.

00:17:34: Radiosender sein dafür nicht verantwortlich!

00:17:39: Sony will Rechteinhabern zu einem Anteil an den Einnahmen aus KI-generierter Musik verhelfen, sofern diese Unterverwendung urheberrechtlich geschützter Werke entstanden ist.

00:17:50: Zu diesem Zweck haben Forschende von Sony AI eine Software entwickelt die Original Songs in KI-enerierter Musik

00:17:57: erkennen kann.

00:17:59: Das Modell vergleicht Musik aus beiden Quellen und schätzt die prozentualen Anteile einzelner Originalwerke an den KI generierten Ergebnissen z.B.

00:18:09: dreißig Prozent Beatles und zehn Prozent Queen, berichtet Nicker Asia.

00:18:14: Sony hofft demnach, dass Anbieter die Technik in ihre eigenen KI-Modelle integrieren werden.

00:18:19: Der Konzern sieht in der Technologie die Grundlage für ein Vergütungssystem – das Einnahmen aus KI generierter Musik entsprechend dem Anteil der beteiligten Urheber verteilt!

00:18:31: Der chinesische Konzern Bitance gibt dem Druck aus Hollywood nach, dass KI-Videogenerierungsmodell CDANCE II.O soll künftig nicht mehr für die Generierung von Videos verwendet werden können in denen durch das Urheberrecht geschützte Charaktere und prominente Personen vorkommen.

00:18:49: Das geht aus einer Stellungnahme von Bitance hervor, die dem US Fernsehsender CNBC vorliegt.

00:18:55: Erst am Wochenende hatten Hollywood-Unternehmen wie Disney und Paramount Skydance dem TikTok-Eigentümer Abmanungen zukommen lassen, nachdem KI generierte Videoclips im Internet kursierten – die Figuren aus Star Wars oder dem Marvel-Universum enthielten.

00:19:09: By Dance ergreife nun Maßnahmen um eine unerlaubte Nutzung von geistigem Eigentum und Abbildungen zu verhindern, erklärte ein Sprecher des chinesischen Konzerns.

00:19:19: Wie dies technisch vonstatten gehen soll ließ By Dance allerdings offen!

00:19:25: Das Content Management System WordPress hat einen KI-Assistenten für Webseiten eingeführt, die auf workpress.com gehostet werden.

00:19:33: Die künstliche Intelligenz soll Inhalte und Layouts so weit verstehen können dass Änderungen auch in natürlicher Sprache möglich sein sollen.

00:19:41: Auf relativ ungenaue Anweisungen wie dieser Bereich soll moderner und geräumiger wirken oder ich wünsche mir mehr Schriftarten.

00:19:50: für einen klaren und professionellen Eindruck zeigt die KI als Vorschau entsprechende Optionen.

00:19:56: Zudem ist Google's Nano-Banana als Bildgenerator integriert, damit lassen sich photorealistische Bilder erstellen – das soll die Nutzung externer KI-Werkzeuge und dass damit verbundene Copy and Paste überflüssig machen!

00:20:11: Das war das KI Update von Heise Online vom Eighth Februar in den letzten Jahren.

00:20:16: Eine neue Folge gibt es immer Montags-, Mittwochs- und Freitag um fünfzehn Uhr.