KI-Update kompakt: KI-Brillen von Meta, LinkedIn, Notion 3.0, DSA-Beschwerde

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: KI-Brillen dominieren die MetaConnect.

00:00:20: LinkedIn will Daten für KI-Training nutzen.

00:00:24: KI-Agenten in Notion.null geben vertrauliche Datenpreis.

00:00:28: Und die S.A.

00:00:29: beschwerde deutscher Medien und NGOs gegen Google.

00:00:33: Meta hat drei neue KI-Brillen vorgestellt.

00:00:36: Sie alle sind mit Meta AI verbunden.

00:00:39: Doch Mark Zuckerberg hat durchaus noch größere Pläne.

00:00:42: Wie die ausschauen, weiß Eva Maria Weiß von Heise Online.

00:00:45: Mark Zuckerbergs Wette scheint dieses Mal aufzugehen.

00:00:49: Das Metaverse war und ist bisher ja jetzt kein großer Renner, aber mit KI, generativer KI und mit KI-Brillen liegt das Unternehmen ziemlich richtig.

00:01:00: Die Ray-Ban-Matter-Brille erscheint neu als zweite Generation.

00:01:05: Mit verbesserte Akkule auf Zelt, bessere Kamera und dazu kommen die Matter-O-Clay Houston und ganz neu die O-Clay Vanguard.

00:01:13: Das ist eine Brille, die explizit für Sportler entwickelt wurde.

00:01:17: Sie kann zum Beispiel mit den Systemen von Garmin und Strava kombiniert werden.

00:01:22: Die Messwerte wandern dann automatisch in die entsprechenden Dienste.

00:01:26: Außerdem ist die Brille wasserfest und es sind hier beispielsweise die Knöpfe nach unten an den Bügeln gewandert, damit man sie auch bedienen kann, wenn man einen Hame trägt.

00:01:37: Aber grundsätzlich braucht man natürlich nicht unbedingt Knöpfe, sondern eine solche smarte Brille lässt sich eben mittels Sprache steuern.

00:01:46: Und das heißt, sie sind erst wirklich möglich, seit generative KI dazu in der Lage ist, Hardware zu steuern.

00:01:54: Bevor Large Language Models so ein gutes Verständnis von Sprache hatten, hätte man nur simpelste Befehle geben können.

00:02:01: Und dann wäre so eine Brille wahrscheinlich nicht gerade zum Verkaufsschlager geworden.

00:02:07: Und für Metta ist das Interesse, eigene Hardware auf den Markt zu bringen, riesig.

00:02:12: Denn bisher hat es ja eine Art Abhängigkeit von Apple und Google gegeben.

00:02:16: Man musste Apps für die Bestriebssysteme bereitstellen.

00:02:21: KI-Brillen, so stellt es sich Zuckerberg vor, sollen das Smartphone dabei aber komplett ablösen.

00:02:28: Danke schön Eva.

00:02:30: LinkedIn ändert seine Nutzungsbedingungen zum dritten November.

00:02:34: Ab dann möchte die Microsoft-Tochter alle Nutzerdaten für das Training generativer künstlicher Intelligenz verwenden.

00:02:41: LinkedIn-Nutzerinnen und Nutzer können dem jedoch widersprechen, indem sie die voreingestellte Zustimmung im Bereich Datenschutz ihrer LinkedIn-Konto-Einstellungen ausschalten.

00:02:50: Für die Zukunft nimmt sich das soziale Netzwerk auch das Recht heraus, nicht vorab über Änderungen der Nutzungsbedingungen zu informieren, sofern es diese auf neu angeführte Funktionen oder Dienste zurückführt.

00:03:02: Zudem sucht LinkedIn zu verdeutlichen, dass Deepfakes und andere unrechtmäßige Identitätsfälschungen auf unseren Services nicht zulässig sind.

00:03:11: Außerhalb des europäischen Wirtschaftsraums und der Schweiz vertieft LinkedIn darüber hinaus die Datennutzung für Werbezwecke, und zwar nicht nur von LinkedIn geschaltete oder vermittelte Werbung, sondern für den gesamten Microsoft-Konzern, samt dessen Tochtergesellschaften.

00:03:26: Die personenbezogenen Daten sollen dabei in beide Richtungen fließen.

00:03:30: Wer das nicht möchte, kann auch das

00:03:32: festlegen.

00:03:34: KI-Agenten übernehmen Aufgaben selbstständig.

00:03:38: Das gilt künftig auch für Zooms AI-Companion.

00:03:41: Er erscheint in Version.

00:03:43: Mit dem Update kann der Assistent sowohl der Nutzerin der Zoom-Plattform selbst helfen, als auch beispielsweise im Kundenservice eingesetzt werden.

00:03:51: Natürlich muss ein Agent erst einmal aufgesetzt werden.

00:03:54: Man wählt einen Namen aus, gibt dem Agenten Zugriff auf Unterlagen und einen selbst erstellten oder ausgewählten Wissenschafts.

00:04:01: Man beschreibt ein Problem, wann der Agent reagieren soll und gibt ihm einen Lösungsweg.

00:04:05: Je nach Umfang eines Problems oder Umfang des eigenen Portfolios ist es also doch nicht ganz trivial, KI-Agenten einzusetzen.

00:04:13: Sie wollen erstellt und betreut werden.

00:04:16: Was Zoom dabei immer wieder betont, es werden keine Daten der Nutzerinnen und Kunden für das Training von KI-Modellen genutzt.

00:04:23: Grundsätzlich arbeitet Zoom mit Modellen andere Anbieter.

00:04:27: Sowohl proprietäre Modelle wie OpenAI's GPT-V und Anthropics Cloud sind eingebunden, als auch Metas Lama und darauf aufbauende eigene spezialisierte Small Language-Modelle.

00:04:38: Um immer das richtige Modell für eine Aufgabe zu finden, bietet Zoom eine Orchestrierung der Modelle.

00:04:44: Auch das Produktivitätstool Notion hat mit Version drei Punkt Null autonome KI-Agenten eingeführt, die selbstständig Dokumente erstellen, Datenbanken pflegen und Arbeitsabläufer automatisieren können.

00:04:57: Sicherheitsforscher von Code Integrity haben nun eine schwerwiegende Schwachstelle entdeckt.

00:05:02: Die Agenten lassen sich durch manipulierte PDFs zur Weitergabe sensibler Daten verleiten, ohne dass die Nutzer davon erfahren.

00:05:11: Wie der Angriff funktioniert, erklärt uns Kim Scheurendrand von The Decoder.

00:05:15: Das Problem liegt in der grundlegenden Architektur des Systems.

00:05:18: Die Forscherinnen und Forscher sprechen von einem tödlichen Trifekter, also der gefährlichen Kombination aus erstens KI-Agenten, zweitens KI-Agenten mit Toolzugriff und drittens KI-Agenten mit Langzeitspeicher.

00:05:33: Herkömmliche Zugriffskontrollen versagen in diesem Szenario vollständig.

00:05:37: Sondern kritisch ist dabei das integrierte Web-Suchen-Tool, das den Agenten ermöglicht, externe URLs aufzurufen.

00:05:44: Was eigentlich für Automatisierung gedacht war, wird zum Einfallstor für systematischen Datendiebstahl.

00:05:51: Der Angriff funktioniert einfach und ist effektiv.

00:05:54: Ein präpariertes PDF tanzt sich als harmloser Feedbackbericht, enthält aber versteckte Anweisungen für den KI-Agenten.

00:06:01: Diese beschreiben eine scheinbar interne Routineaufgabe, weisen den Agenten aber tatsächlich an, vertrauliche Kundendaten zu extrahieren und an einen externen Server zu übertragen.

00:06:12: Sobald ein Nutzer das PDF in Notion hochlädt und dem Agenten einen harmlosen Befehl, wie Fasse den Bericht zusammen gibt, folgt dieser den versteckten Anweisung im Indokument.

00:06:23: Er sammelt die gewünschten Daten und überträgt sie über das Websuchentool an die vom Angreifer kontrollierte URL.

00:06:30: Der gesamte Vorgang läuft im Hintergrund ab, ohne dass der Nutzer etwas davon bemerkt.

00:06:34: Die Tests liefen mit Cloud-Sonet-IV.null, eine Modell mit eigentlich modernen Sicherheitsmechanismen.

00:06:40: Selbst diese fortgeschrittenen Schutzvorkehrungen konnten den Angriff nicht verhindern, was die grundsätzliche Vorwundbarkeit des Systems unterstreicht.

00:06:48: Die Gefahr beschränkt sich nicht nur auf manipulierte PDFs.

00:06:52: notion.null erlaubt die Integration externer Datenquellen wie GitHub, Gmail oder Jara und jede dieser Quellen kann potenziell manipulierte Inhalte enthalten.

00:07:02: Sie alle werden damit zu möglichen Einfass-Touren für solche Prompt-Ejection-Eingriffe.

00:07:07: Dankeschön, Kim.

00:07:09: Das KI-Unternehmen XAI hat eine optimierte Version seines Sprachmodells vorgestellt.

00:07:14: Bei ähnlicher Leistung arbeitet es deutlich effizienter.

00:07:18: GROCK IV FAST liefert vergleichbare Ergebnisse wie das bisherige Spitzmodell GROCK IV, benötigt dabei aber vierzig Prozent weniger Rechenleistung.

00:07:27: Das liegt darin, dass GROCK IV FAST deutlich weniger sogenannte Thinking Tokens benötigt.

00:07:33: Das sind die Recheneinheiten, die das Modell für seine Zwischenschritte verwendet.

00:07:37: Für Nutzerinnen und Nutzer bedeutet das eine Kostensenkung von bis zu achtundneunzig Prozent pro Aufgabe.

00:07:43: Die Architektur unterscheidet sich grundlegend von früheren Versionen des Modells.

00:07:47: Während diese noch separate Systeme für einfache und komplexe Aufgaben verwendeten, kombiniert GROG IV FAST beide Funktionen in einer einzigen Architektur.

00:07:58: Das Verhalten des Modells wird dabei über den System prompt gesteuert, was eine flexible Anpassung an verschiedene Aufgabentypen ermöglicht.

00:08:05: Entwicklerinnen und Entwickler können Crockvier Fast über verschiedene Kanäle nutzen, darunter grock.com, die mobilen Apps oder die XAI-API.

00:08:15: Für eine begrenzte Zeit steht das Modell kostenlos über Open-Router und Wurzel zur Verfügung.

00:08:22: OpenAI verstärkt seine Ambitionen im Hardware-Bereich und hat seit Anfang des Jahres über zwei Dutzend Apple-Mitarbeiter für den Aufbau eines eigenen Geräte-Teams abgeworben.

00:08:33: Die neuen Kräfte stammen aus strategisch wichtigen Bereichen wie Interface-Design, Wearables, Kameras, Audio, Fertigung und Supply Chain Management.

00:08:42: Als Grunde für den Wechsel nennen Insiders neben hohen Aktienoptionen auch weniger Bürokratie und bessere Möglichkeiten zur Zusammenarbeit.

00:08:51: Der Personalaufbau folgt auf die Übernahme des Hardware-Startups IO Products im Mai.

00:08:57: Gegründet wurde IO vom legendären ehemaligen Apple-Design-Chef Joni Eif und Tang Tan, der bei Apple für die Umsetzung von Eifs entwürfen in die Serienproduktion verantwortlich war.

00:09:08: Tan funktioniert nun als Chief Hardware Officer bei OpenAI und treibt die Hardware-Strategie des Unternehmens voran.

00:09:16: Nach der Ankündigung der IO-Übernahme klopften offenbar viele Apple-Mitarbeiter aus freien Stücken bei OpenAI an.

00:09:23: Das KI-Unternehmen arbeitet an mehreren Gerätekonzepten, darunter ein Smart Speaker ohne Display, eine intelligente Brille, ein tragbarer Pin und ein digitaler Sprachekorder.

00:09:34: Den Produktionsauftrag für das erste Gerät hat bereits Luxshare erhalten, ein wichtiger Zulieferer für das iPhone.

00:09:41: Auch GoalTech, ein weiterer Partner aus Arbeitslieferkette, wurde für die Fertigung von Komponenten angefragt.

00:09:47: Apple reagierte sichtlich nervös auf die systematischen Abwerbungen durch OpenAI.

00:09:52: Im August sagte das Unternehmen ein jährliches Meeting seiner Führungskräfte in China kurzfristig ab, aus Sorge, dass während der Abwesenheit des Managements weitere Talente abgeworben werden könnten.

00:10:03: Intern wächst laut Berichten der Frust über nur noch inkrementelle Produktverbesserungen und die stagnierende Entwicklung des Aktienkurses.

00:10:13: Microsoft zeigt die Blaupause für seine nächste Generation an KI-Rechenzentren.

00:10:18: Der erste Standort entsteht am US-amerikanischen Mount Pleasant in Wisconsin.

00:10:22: Hier will Microsoft Anfangs-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Karriere-Kar.

00:10:33: Laut eigenen Angaben soll das Fairwater-getaufte Rechenzentrum in Wisconsin zur Fertigstellung zehnmal mehr Rechenleistung bereitstellen als das heute am besten ausgestattete Rechenzentrum der Welt.

00:10:46: Zur elektrischen Leistungsaufnahme äußert sich der Konzern nicht, sie dürfte sich auf hunderte Megawatt belaufen.

00:10:52: Der Fokus soll auf Energie aus erneuerbaren Quellen liegen.

00:10:56: Allein die drei riesigen Gebäude haben eine Gesamtfläche von onehundertelftausend Quadratmetern, das entspricht dem Ausmaß von mehr als fünfzehn Fußballfeldern.

00:11:05: Beinahe so viel Fläche wie die Hardware nehmen die Kühlanlagen an den Seiten des Rechenzentrums ein.

00:11:11: Wie mittlerweile gängig setzt Microsoft auf eine geschlossene Wasserkühlung.

00:11:15: Unter den Turbinen befinden sich die Wasserrohre mit unzähligen Kühlammeln, die die Abwärme an die Umgebungslufte abgeben.

00:11:23: Geschlossene Kühlsysteme bieten sich in Regionen mit wenig Wasser an.

00:11:27: Sie sollen über ihre Einsatzdauer mit einer einzigen Befüllung auskommen.

00:11:31: Kein Wasser verdampft.

00:11:33: Google's KI-Zusammenfassungen sorgen dafür, dass Internetseiten seltener besucht werden.

00:11:39: Damit verstoße die Suchmaschine gegen den Digital Services-Akt der EU, meinen Medienverbände.

00:11:46: Martin Holland aus unserem heise Online-Newsroom berichtet.

00:11:49: Die sogenannten KI-Zusammenfassung von Google haben jetzt auch in Deutschland zu einer offiziellen Reaktionen geführt und zwar haben eine ganze Reihe von Medienorganisationen und aber auch NGOs eine Beschwerde bei der Bundesnetzagentur eingereicht, die in Deutschland für die Aufsicht über den Digital Services Eck der EU verantwortlich ist.

00:12:11: Und zwar haben sie sie aufgefordert, bei der EU dafür zu sorgen, dass ein Verfahren gegen Google eingereicht wird, dass diese KI-Zusammenfassung überprüft werden und möglichst dagegen vorgegangen wird.

00:12:23: Und zwar geht es darum, dass diese Zusammenfassung, die Google jetzt seit ein paar Monaten generiert, die werden auch mit den Inhalten von Verlagen trainiert und da werden eben teilweise Antworten auf Fragen ausgegeben, die die Leute in die Suche von Google eingeben.

00:12:40: Idealfall, also zumindest für Google und auch für die Leute, die die eingeben, wird die Frage damit schon beantwortet.

00:12:46: Da müssen sie eben nicht mehr auf die Seiten der Verlage klicken, wo teilweise die Grundlage für diese Antwort steht.

00:12:53: Das sorgt natürlich dafür, dass die Verlage weniger Besuche bekommen.

00:12:57: Das hat unterschiedlich große Auswirkungen, da gibt es auch verschiedene Angaben, aber eigentlich sind sich eigentlich alle in den Medien, dass es erhebliche Einbußen bei den Zugriffszahlen zur Folge hat.

00:13:09: und da geht das wird eben kritisiert und das wird unter anderem auch kritisiert, weil es eben bislang eine Übereinkunft gab zwischen den Verlagen und Google auf der anderen Seite, dass also die Verlage ihre Inhalte.

00:13:22: kostenfrei oder zumindest teilweise kostenfreies Internet stellen und dann von Google indexiert werden können.

00:13:27: Google kann dann in der Suche immer schöne Treffer ausgeben, möglichst passend, während die Verlage im Gegenzug halt die Besuche bekommen und dann ihre Werbung ausspielen können.

00:13:37: Und der Vorwurf ist eben, dass Google das aufgekündigt hat.

00:13:40: Das ist jetzt auch nicht das erste Mal, dass dieser Vorwurf oben wird.

00:13:43: Erst vor wenigen Tagen hat ein Verlag in den USA, eine Klage gegen Google sogar eingereicht.

00:13:48: In Deutschland ist es eben jetzt erstmal der Versuch, das über den Weg der DSA-Regeln zu machen.

00:13:55: Da muss ich jetzt zeigen, ob die Bundesnetzagentur das genauso sieht, also ob das überhaupt unter den DSA fällt und ob sie dann aktiv wird.

00:14:03: Das ist noch nicht klar, aber auf jeden Fall sind die Beteiligten an dieser Aufforderung ganz schön breitgefächert.

00:14:09: Also da sind Medien verbundet, die Zeitungen vertreten, Zeitschriften vertreten, auch Internetzeiten vertreten.

00:14:16: Unter anderem ist da auch Heise Medien mittelbar über diesen Weg beteiligt, weil Heise Medien eben auch Mitglied in zwei dieser Organisationen ist.

00:14:26: Danke, Martin.

00:14:28: Künstliche Intelligenz löst die Modelfotografie bei Otto ab.

00:14:32: In nur wenigen Minuten könne der Shop mithilfe generativer KI unter eines eigenen Tools namens MoVex Virtual Content Creator neue Bilder erstellen, die den Ansprüchen des Unternehmens im Verkauf genügen.

00:14:44: So heißt es in einer Pressemitteilung des Versandhändlers.

00:14:47: Die Vorteile liegen in der Schnelligkeit und weniger Kosten.

00:14:51: Produkte könnten schneller in den Shop kommen, schwärmt Otto CEO Marc Opelt.

00:14:55: Die Rede ist von wenigen Stunden bei neuen Kollektionen.

00:14:58: Die Produktionskosten könnten so bis zu sechzig Prozent sinken.

00:15:02: Aber lassen die so erstellten Bilder überhaupt noch realistische Rückschlüsse auf das echte Produkt zu?

00:15:08: Befürworter im Netz argumentieren, dass Modefotos schon lange per Bildbearbeitung massiv verändert werden.

00:15:15: Von Authentizität können sowieso keine Rede sein.

00:15:18: Neben Otto sind auch Größen wie Zalando oder H&M daran, KI in der Modelfotografie einzusetzen.

00:15:26: Adobe bringt das neue KI-Video-Modell RayDry von LumaAI in seine Web-App für generative KI Firefly.

00:15:34: Für die ersten zwei Wochen nach dem Start steht das Modell nur dort sowie auf Lumas eigener Plattform Dream Machine zur Verfügung.

00:15:42: RayDry wird von LumaAI als erstes Reasoning-Video-Model bezeichnet.

00:15:46: Die KI soll sehen, nicht nur auf Grundlage des Prompts generieren, sondern sie auch konzipieren, Zwischenschritte planen und eigene Ergebnisse evaluieren können.

00:15:56: Der Ansatz verspricht, verglichen mit bisherigen Videomodellen konsistentere Bewegungsabläufe, logische Szenenabfolgen und Figuren, die über mehrere Frames in weg stabil bleiben.

00:16:07: Adobe hat seit Anfang des Jahres mehrere KI-Modelle von Drittanbietern in Firefly integriert.

00:16:13: Seit April enthält Firefly die Bildgeneratoren OpenAI, GPT, Google Image in drei und Flux von Black Forest Labs.

00:16:21: Im vergangenen Monat hat Adobe Google Gemini zwei Punkt von Flash Image in Firefly integriert.

00:16:27: Die Integration bietet Creative Cloud Nutzerinnen und Nutzern den Vorteil, dass Inhalte sich direkt in Adobe Anwendungen übergeben lassen, beispielsweise an die Videobearbeitung Premiere Pro.

00:16:38: Adobe betont, dass sämtliche Inhalte mit Content Credentials versehen werden und nicht für das Training weiterer Modelle genutzt werden.

00:16:47: Künstliche Intelligenz kann Katzenbilder zeichnen, Krankheiten voraussagen und Fishingmails schreiben.

00:16:53: Jetzt kann dieselbe Technologie ein funktionierendes Genom zusammenstellen.

00:16:59: Kalifornische Forscher von der Stanford University und dem gemeinnützigen ARC-Institut haben eine KI neue genetische Codes für Bakterien fressende Viren vorschlagen

00:17:09: lassen.

00:17:10: Mehrere dieser sogenannten Bakteriophagen waren tatsächlich vermehrungsfähig und töteten auch Bakterien.

00:17:17: Die Wissenschaftler sagen, dass die Keime mit KI-geschriebener DNA das erste generative Design vollständiger Genome darstellten.

00:17:26: Vom Computerentwurf ne.

00:17:27: Viren könnten auch kommerziell genutzt werden, um zum Beispiel Patienten mit schweren bakteriellen Infektionen zu behandeln.

00:17:35: Ähnliche Tests werden derzeit durchgeführt, um Kohle mithilfe von spezialisierten Fagen vor Schwarzwälde zu schützen, die ebenfalls Bakterien verursachen.

00:17:44: Das stand für Tim betont, dass seiner KI bewusst keine Informationen über Viren vermittelt hat, die Menschen infizieren können.

00:17:52: Diese Art von Technologie birgt nämlich das Risiko, dass andere Wissenschaftler aus Neugier, mithären Absichten oder auch böswillig die Methoden auf menschliche Krankheitserreger anwenden und neue Dimensionen von totbringenden Fähigkeiten erforschen könnten.

00:18:10: Das war das KI-Update von Heise Online vom Zweiundzwanzigsten September, twenty-fünfundzwanzig.

00:18:15: Eine neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.