KI-Update kompakt: Five-Eyes-Warnung, GPT-5.5-Cyber, Vibecoding, Filmbranche

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unser Team.

00:00:17: Geheimdienstbündnis und BSI warnen vor KI gestützten Cyberangriffen.

00:00:23: Update für OpenAI Sicherheitsmodell GPT-FünfpunktfünfCyber.

00:00:28: Vibecoding wird zum Stresstest bei Filmübernahmen Und Google investiert US-USD in Filmstudio A-Twenty Four.

00:00:39: Die Cyber-Sicherheitsbehörden von Australien, Neuseeland, Großbritannien, Kanada und den USA warnen in einer gemeinsamen Erklärung vor sich rasant verändernden Cyberrisiken durch künstliche Intelligenz.

00:00:52: Staaten müssten zügig handeln, um weiterhin die Oberhand zu behalten, heißt es in der Erklärung der sogenannten Five Eyes.

00:01:00: Dieses Bündnis der Geheimdienste der englischsprachigen Länder besteht seit dem Zweiten

00:01:04: Weltkrieg.".

00:01:05: Malte Kirchner aus dem Heise Online Newsroom mit den Einzelheiten

00:01:09: Die Five Eyes machen ihre gemeinsamen Erklärungen vor allem eines deutlich – KI ist für Angreifer bereits Alltag und die Verteidiger müssen jetzt nachziehen!

00:01:18: Konkret nennen die Behörden Möglichkeiten, wie KI die Zeibeabwehr stärken kann.

00:01:23: Schwachstellen früher erkennen, Softwarequalität verbessern, auffälliges Verhalten schneller identifizieren.

00:01:30: Gleichzeitig warnen sie Frontiermodelle werden Angriffe schneller und präziser machen so dass sie schwerer abzuwehren sind.

00:01:36: Das Zeitfenster zwischen dem Entdecken einer Schwachstelle und ihrer Ausnutzung werde immer kürzer.

00:01:41: Zero Days sind keine Ausnahme mehr, sondern eine zwangsläufige Begleiterscheinung immer leistungsfähigerer Systeme.

00:01:49: Auffällig ist die Zielgruppe dieser Erklärung – sie richtet sich ausdrücklich an Vorständen und Geschäftsleitungen nicht dann IT-Abteilungen.

00:01:56: Cyberrisiko so wie Botschaft ist kein technisches Problem mehr, sonder Chefssache.

00:02:01: Schutzmaßnahmen müssten nicht nur auf dem Papier existieren, sondern unter realem Druck funktionieren.

00:02:07: Die konkreten Empfehlungen sind dabei nicht neu.

00:02:09: Andere Flächen reduzieren, Patches beschleunigen, veraltete Systeme als strategische Risiken behandeln, Notfallpläne vorab testen.

00:02:17: Der Unterschied zur bisherigen Kommunikation ist die Dringlichkeit und die Absenderzeile.

00:02:23: Und der Zeitpunkt dieser Mitteilung scheint kein Zufall zu sein – das Statement erscheint kurz nachdem die US-Regierung dem KI Unternehmen Enzropic untersagt hat seine Modelle Mythos & Fable Ausländern zur Verfügung zu stellen….

00:02:35: In Swapwick hat Fable daraufhin zurückgezogen.

00:02:38: Die Erklärung selbst nennt kein Unternehmen und kein Modell, doch australische Behörden hatten Claude Mütters zuvor ausdrücklich als Beispiel für neue Frontier-KI-Fähigkeiten

00:02:47: angeführt.".

00:02:49: Vielen Dank, Malte!

00:02:50: Passend zur Warnung der Ausländischen Geheimdienste hat das Bundesamt für Sicherheit in der Informationstechnik einen Papier zur IT-Sicherheitslage in Deutschland herausgegeben, in der es ebenfalls vor einer verschärften Bedrohungslage warnt.

00:03:04: Organisationen müssen kurzfristig zielgerichtete Maßnahmen umsetzen, um für die Auswirkungen vermehrte Angriffe gewappnet zu sein.

00:03:12: Die Empfehlungen des BSI gleichen denen der Five Eyes.

00:03:16: Grundsätzlich müssen Unternehmen davon ausgehen dass nachträglich gepatchede Zero Day Schwachstellen bereits ausgenutzt wurden.

00:03:23: Darum sollten Kapazitäten zur Detektion und Bearbeitung von Sicherheitsvorfällen in Unternehmen ausgebaut werden.

00:03:30: Das bedeutet, in der Regel zusätzliche personelle Unterstützung und Expertise betont das

00:03:36: BSI.".

00:03:38: Das Bundeskabinett hat eine Reform des Energie-Effizienzgesetzes auf den Weg gebracht – sie betrifft besonders Rechenzentren die zentral für die KI Anwendungen und Cloud Computing sind und enorme Mengen an Strom verbrauchen.

00:03:51: Der Gesetzentwurf sorgt für scharfe Kritik.

00:03:54: Die IT-Wirtschaft warnt vor Überregulierung, zivilgesellschaftliche Organisationen befürchten jedoch große Rückschritte beim Klimaschutz und einen Kniefall vor den großen Techkonzern – denn die sollen künftig weniger streng nachweisen müssen wie viel Energie ihre Anlagen tatsächlich verbrauchen!

00:04:13: Viele Unternehmen würden zudem von der Pflicht befreit ihren Energieverbrauch überhaupt zu prüfen.

00:04:18: Das erschwere die öffentliche Kontrolle.

00:04:21: Für Betreiber von KI-Rechenzentren könnten darüber hinaus die Anreize sinken, auf klimafreundliche Energiequellen umzusteigen.

00:04:29: Damit würden erhebliche Potenziale zum Energiesparen ungenutzt gelassen und der Klimaschutz zugunsten von Wirtschaftsinteressen geschwächt – so die Kritik!

00:04:39: Mit einer Sicherheitsinitiative geht OpenAI in Konkurrenz zu Anthropics Mythos und bietet zudem ein Sicherheitsreview Service für Open Source Projekte.

00:04:50: Wolf Horstbar von HeiseDeveloper hat sich die neuen Angebote angeschaut.

00:04:54: Ja, gerade zu einem Zeitpunkt wo Antropic der Konkurrent mit Mythos so ein bisschen ins Schlinge gekommen ist und er gerade von der US-Regierung für Ausländer gesperrt wurde stellt Open AR jetzt diese große Initiative vor.

00:05:11: ich sag mal die besteht im Prinzip aus drei Punkten das erste Update für das große Sicherheitsmodell von OpenAI.

00:05:20: Das ist GPT-FünfpunktfünfCyber, also der direkte Konkurrent zum Mythos.

00:05:27: Dann gibt es ein Sicherheitsplug Infocodex, also das Programmiertool und einen spannenden Review Service für Open Source Projekte zusammen mit der Sicherheitsberatungsfirma Trail of Bits, also renommierte Sicherheitsberatungsfirma.

00:05:47: Genau im Einzelnen, das Update für Cyber zielt insbesondere auf große Codebasen und soll hier Lücken nicht nur finden sondern auch gleich den gesamten Patchzyklus mit einbeziehen, also testen in den Produktionsworkflow überführen.

00:06:07: für das Finale Review Ja, ein Sicherheits-Test.

00:06:13: Also gerade beim Test Cyber Gym den sich OpenAI hier rausgepickt hat schneidet Cyber dann auch tatsächlich ein bisschen besser ab wie Mythos wobei es auch noch andere Tests gibt die da so ein bisschen.

00:06:28: diese Modelle sind da vielleicht irgendwo insgesamt auf einer Höhe kann man sagen das eine mal ein bisschen bessere das andere ein bisschen schlechter.

00:06:35: ähnlich wie bei Mythos ist Cyber Nicht freizugänglich, sondern begrenzt auf Partnerunternehmen die sich bewerben müssen.

00:06:45: Wobei es jetzt laut der Pressemitteilung auch ausländische Partner gibt also auch europäische und deutsche dies nutzen dürfen.

00:06:56: Und Okmai betont hier auch die enge Zusammenarbeit mit der US-Regierung.

00:07:03: Ja so ein bisschen wenn man das bewertet Da wird um diese Super-Sicherheitsmodelle auch so ein bisschen schieschig gemacht.

00:07:10: Also was ich gehört habe, Sicherheitsexperten schätzen die schon als effektiver ein aber der Vorsprung ist vielleicht auch nicht ganz so groß wie also gerade gegenüber den offenen oder auch chinesischen Modellen wie die Hersteller das also ein bisschen marketingmäßig propagieren.

00:07:30: da stecken natürlich auch so'n bisschen Ideen von Börsengängen dahinter oder auch was Hardware-Experten schon gesagt haben, dass einfach die Modelle so aufwendig sind.

00:07:42: So viel Hardwareressourcen verbrauchen, dass die Hersteller sie da eigentlich fast begrenzen müssen den Zugang weil diese Ressourcen gar nicht zur Verfügung stellen können.

00:07:53: also zum Beispiel der Sicherheitsexperte John Callers hat gesagt er hält das für großes Theater und So ein kleiner Kreis.

00:08:01: sind dann auch immer irgendwo better Tester, was vielleicht gar nicht so günstig ist.

00:08:06: Na gut das sind Spekulationen!

00:08:08: Was ich tatsächlich sehr spannend

00:08:09: finde ist

00:08:10: der Review Service für Open Source Projekte mit Trails of Bits.

00:08:15: Das läuft unter dem hübschen Namen Patch the Planet und Projekten können sich hier bewerben und bekommen einen Sicherheitsreview mit Mensch und also mit Beratern von Trails Of Bits eine Woche lang unter Unterstützung von natürlich GPT-Cyber.

00:08:35: Initial teilgenommen haben große Projekte schon wie Pyson, Rust, Krypto oder Curl und wurden auch durchaus Lücken entdeckt und gefixt.

00:08:46: Interessenten können sich also hier bewerben um aufgenommen zu werden.

00:08:50: Danke Wolf!

00:08:52: Die Grünen in Nordrhein-Westfalen haben einstimmig beschlossen, die Zusammenarbeit mit dem US-Datenanalyseunternehmen Palantir zu beenden.

00:09:01: Die Parteibasis fordert die schwarz-grüne Landesregierung auf keine neuen Verträge abzuschließen und bestehende Vereinbarungen zu kündigen.

00:09:10: Dies schafft einen Konflikt innerhalb der Koalition da die CDU – die Palantirsoftware als unverzichtbar für moderne Polizeiarbeit betrachtet.

00:09:20: Dass als Dar-System bezeichnete KI-Tool kann große Datenmengen verknüpfen und Persönlichkeitsprofile erstellen.

00:09:28: Kritiker sehen verfassungsrechtliche Probleme, und warnen vor Überwachungsrisiken.

00:09:34: Ähnliche Debatten gibt es in Baden-Württemberg, wo im Juli eine Urabstimmung über Palantir stattfindet!

00:09:41: Der Widerstand zeigt die grundsätzliche Ablehnung der Grünen gegenüber US-amerikanischen Überwachungstechnologien und ihren Wunsch nach europäischer digitaler Souveränität.

00:09:53: Meta hat die Überwachung von Mitarbeiteraktivitäten für das KI-Training nach einem möglichen Datenleck gestorbt, das Unternehmen zeichnete zwei Monate lang Maus- und Tastatoreingaben auf um KI-Modelle menschliches Verhalten lernen zu lassen.

00:10:09: Diese Model-Capability-Initiative stieß schnell auf internen Widerstand.

00:10:14: Mitarbeiterinnen und Mitarbeiter äußerten Bedenken, dass sie über Arbeitscomputer auf persönliche Steuer- und Gesundheitsdaten zugegriffen hatten, die nun möglicherweise für das KI-Training verwendet werden könnten.

00:10:25: Laut Berichten waren dann auch sensible Daten von Beschäftigten wie private Unterhaltungen und persönlichen Informationen für andere zugänglich – obwohl metterstrange Zugrisskontrollen versprochen hatte!

00:10:38: Ein Mitarbeiter meldete dies als Sicherheitsvorfall hoher Priorität.

00:10:42: Meta bestreite zwar den unbefugten Zugriff, untersucht aber den Vorfall – das Tracking-Programm bleibt währenddessen pausiert!

00:10:51: Die Unternehmensberatung Bane & Company setzt sogenanntes Vibecoding ein um die Software von Übernahmekandidaten per KI nachzubauen.

00:11:02: Die Ergebnisse beeinflussen bereits konkrete Kaufentscheidungen im Milliardengeschäft der Private Equity Branche.

00:11:08: Max Schreiner von The Decoder weiß mehr dazu.

00:11:27: So können potenzielle Käufer entscheiden oder einschätzen, wie leicht sich die Technologie eigentlich reproduzieren ließe und ob der Programmcode tatsächlich dann den Wettbewerbsvorteil ausmachen kann.

00:11:39: Laut einem Bericht der Financial Times hat bei Ihnen auf diese Weise bereits hunderte solcher Prototypen erstellt – es waren für noch spezialisierte Softwareengineure nötig und heute erledigen das gewöhnliche Beraterinnen und Berater ohne Coding-Erfahrung!

00:11:54: Rebecca Burrock, Leiterin von Bains Globala Private Equity Praxis vergleicht den Effekt mit dem Unterschied zwischen einer zweidimensionalen und einer dreidimensionalen Ansicht.

00:12:04: Man könne so zeigen was ein Softwareunternehmen leisten könne – und was nicht!

00:12:08: Und ob der Code oder etwas anderes zum Beispiel Kundenbeziehungen, Vertriebsnetzwerke oder exklusive Datenbestände den eigentlichen verteidigbaren Teil des Geschäfts darstelle.

00:12:17: Die Methode hat bereits handfeste Folgen.

00:12:19: einer Investor-Berichtete der Financial Times, dass ein von Bain Vibegekoteter Nachbau eine Analyseplattform dazu beigetragen habe, das seine Firma aus dem Bieterverfahren ausgestiegen sei.

00:12:30: Zwei weitere Private Equity Manager aus dem Silicon Valley erklärten – sie hätten ihr Dealmaking verlangsamt und prüften insbesondere das KI-Risiko durch Vibecoding also das Softwareprodukt einfach zu ersetzen bei jedem Ziel deutlich strenger!

00:12:43: Auch die öffentlichen Märkte spiegeln diese Unsicherheit wieder.

00:12:46: Anbieter von Unternehmenssoftware wie der CEM Spezielles Salesforce und der IT-Dienstleister ServiceNow verloren in diesem Jahr mehr als ein Drittel ihres Börsenwärts.

00:12:54: Dazu brach auch im Privatmarkt der Wert von Techübernahmen durch Private Equity Firmen, im ersten Quartal, im Jahr im Jahr zum Jahr für das erste Quartale, im Jahre zum Jahr zum Jungsjahr im Jahr für den ersten Quarantäne im Jahr.

00:13:02: Laut der Wirtschaftsprüfungsgesellschaft KPMG ging er gegenüber dem Vorquartal um fast siebzig Prozent zurück.

00:13:09: Die sinkenden Kosten für Softwareentwicklung durch KI werfen also eine grundlegende Frage auf, wie viel ist properitäre Software noch wert wenn sie sich immer schneller und günstiger nachbauen lässt.

00:13:31: Diese Nachricht ließ den Aktienkurs der Bildagentur zunächst um oneinundertfünfundvierzig Prozent explodieren und erreichte den höchsten Stand seit Dezember.

00:13:40: Die anfängliche Euphorie ebte jedoch ab als im Laufe des Montags Details bekannt worden – die Lizenz gilt nur für Anzeige von Inhalten bei Suche- und Entdeckungen, nicht für das Training von KI Modellen.

00:13:55: Dies bedeutet geringere Lizenzgebühren als ursprünglich erhofft!

00:13:59: Der Aktienkurs fiel im Tagesverlauf wieder, stabilisierte sich aber trotzdem mal ein Plus von neunzig Prozent.

00:14:06: Getty Images umfasst auch die Marken Eistock und Ansplasch – insgesamt sind darüber Werke von über sechshunderttausend Urhebenden lizenziert.

00:14:15: Darüber hinaus betreibt Getty selbst einen KI-System zur Bildgenerierung.

00:14:19: Parallel läuft eine Klage gegen Stability AI wegen unrechtmäßiger Nutzung von zwölf Millionen Bildern zum Training deren KI Models.

00:14:30: Der TikTok-Mutterkonzern By Dance hat auf seiner Force Konferenz fünf neue KI-Modelle vorgestellt, im Mittelpunkt steht das Videomodell SEADANCE

00:14:39: II.V.,

00:14:41: dass Anfang Juli starten soll.

00:14:43: Das Modell erzeugt erstmals einzelne Videoclips von bis zu dreißig Sekunden Länge ohne nachträgliches Zusammenschneiden – bisher lag die Grenze auf dem Markt bei etwa fünfzehn Sekunden!

00:14:55: Außerdem verarbeitet das System nun bis zu fünfzig zusätzliche Eingaben gleichzeitig, also zum Beispiel Referenzbilder oder Audiodateien.

00:15:03: Das soll komplexe Filmszenen mit vielen Figuren ermöglichen.

00:15:07: Erstellte Videos lassen sich zudem gezielt nach bearbeiten, wobei Bild-Look und Stil erhalten bleiben.

00:15:14: Neben dem Videomodell kündigte das Unternehmen auch ein neues Sprachmodell, ein Bildmodell und ein Audiumodell an!

00:15:27: Die Google-Tochter DeepMind will gemeinsam mit dem Indie-Filmstudio neue KI Werkzeuge für Filmschaffen entwickeln, berichtet Daniel Herbig von Heise Online.

00:15:37: was dann am Ende wohl den Filmschaffenden in irgendeiner Form helfen soll und Google verspricht sich davon eben Feedback.

00:15:58: In irgendeine Form geht das sicher um KI-Werkzeuge, die bei der Filmproduktion eingesetzt werden können aber jetzt nicht unbedingt nur um generative KI im klassischen Sinne.

00:16:07: Und die Partnerschaft ist auch langfristig ausgelegt, könnte mehrere Projekte umfassen und die Natur der Zusammenarbeit kann sich auch ändern im Laufe der Zeit, schreiben Google und A-Vierundzwanzig.

00:16:18: Du hattest uns ja am Montag schon einen Einblick gegeben, wie die Gaming-Branche mit KI umgeht.

00:16:23: Wie sieht es denn in der Filmbranche gerade aus?

00:16:25: Ja also mit dem Einsatz von KI experimentieren schon viele Filmproduktionsfirmen und Streamingdienste.

00:16:31: bei Netflix gibt's zum Beispiel auch schon Inhalte, bei denen Spezialeffekte dann mit KI gebaut wurden.

00:16:37: das Ziel davon ist im Grund natürlich klar.

00:16:39: es könnte helfen im Film unseren schneller und günstiger zu produzieren.

00:16:44: Wie immer heißt es aber jetzt nicht unbedingt, dass dann plötzlich halt komplette Kinofilme aus der KI kommen.

00:16:49: So ist das nicht unbedingt.

00:16:51: Aktuell wird das eben eher gezielt eingesetzt zum Beispiel für Spezialeffekte oder auch nur fürs

00:16:56: Storyboarding.".

00:16:57: Vielen Dank Daniel!

00:16:59: Meta hat eine neue KI-Brillenserie unter eigenem Markennamen vorgestellt die sich von den bisherigen Rayban Kooperationen löst.

00:17:09: Die Metaglasses entstehen weiterhin mit Esseloluxortica und sind günstiger als die Rayban-Modelle.

00:17:16: Drei Rahmenformen stehen zur Verfügung, eine davon wurde mit Kylie Jenner entwickelt.

00:17:21: Insgesamt gibt es sechsundzwanzig Kombination aus verschiedenen Farben und Gläsern.

00:17:26: Die Grundfunktion umfassen freihändige Foto- und Videoaufnahme, offene Lautsprecher und acht Stunden Akkulaufzeit!

00:17:34: Der wichtigste Unterschied liegt in der KI Software – die Brillen nutzen das neue Muse Spark Modell aus Metas Super Intelligence Labs.

00:17:43: Dieses soll besser erkennen, was Nutzerinnen sehen und gezielte im Alltag unterstützen.

00:17:48: Weitere Neuerungen sind eine automatische Fotoauswahl, Fußgängernavigationen und erweiterte Echtzeitübersetzung für zwanzig Sprachen!

00:17:59: Das war das KI-Update von Heise Online vom vierundzwanzigsten Juni, ein neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.