KI-Update kompakt: Gemini 4 Argon, Manus Cue, ChatGPT-Werbung, Reha-Kliniken

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Google's Gemini IV Argon schließt zur KI-Spitze auf aber nicht ganz nach vorn.

00:00:24: Manus fordert Meta & OpenAI mit persönlichem KI-Agenten Q heraus!

00:00:30: LiveRamp erweitert ChatGPT-Partnerschaft für gezielte Werbung und KI bringt Entlastung bei der Dokumentation in Reha-Kliniken.

00:00:40: Google hat mit Gemini IV Argon sein neues Spitzenmodell vorgestellt, es ist das erste große Modell des Konzerns seit mehr als sieben Monaten – das bereits angekündigte Gemini III.V ließ Google nach einer schwierigen Entwicklung einfach ganz aus!

00:00:57: Ob sich das Warten gelohnt hat, weiß Jonathan Kemper von The Decoder.

00:01:05: Ein Termin stellt er noch nicht an Aussicht.

00:01:29: Technisch neu ist das Ausgabelimit, dass Google von sixty-thausend auf eine Million Token drastisch anhebt.

00:01:36: Damit soll das Modell schwierige Probleme in einem Durchlauf besser lösen können.

00:01:40: Das Kontextfenster umfasst wie beim Vorgänger ebenfalls eine Million token.

00:01:45: Argon verarbeitet Textbilder, Video und Spracheingaben, antwortet aber nur in Textform.

00:01:50: Im Intelligence-Index von Artificial Analysis erreicht Agon dreiundfünfzig Punkte und sieht mit Open-Eyes GPT-Six Astra gleich.

00:01:58: Voran bleiben Claude Opus fünfunfünfmit achtundfünftig, und Claude Sonnet fünfundfünf mit sechsundfifzig Punkten.

00:02:05: Pro Aufgabe verbraucht Agon allerdings mehr als doppelt so viele Ausgabetoken wie GPT Six Astra.

00:02:11: Deutlich zugelegt hat Google bei agentischen Aufgaben – bislang eine Schwäche der Gemini-Modelle!

00:02:16: In einem Test für Automatisierungsaufgaben belegt Agon den ersten Platz.

00:02:20: Bei Aufgaben im Terminal liegt es dagegen hinter den Modellen von Anthropic und OpenAI.

00:02:25: Im Index des Testsanbieters Wales AI steht erstmals ein Gemini-Modell an der Spitze, besonders stark ist Agon dort bei Finanzen, Recht und Programmierung Auffällig niedrig ist die Halluzinationsrate.

00:02:37: Sie liegt in einem Test for Faktenwissen bei fünfzehn Prozent.

00:02:40: Die OpenAI-Modelle kommen auf über fünfzig.

00:02:43: Argon räumt also häufiger ein, eine Antwort nicht zu kennen.

00:02:47: Die niedrige Halluzinationsrate geht allerdings nicht mit einer Spitzenposition bei der reinen Genauigkeit einer her.

00:02:53: Dort bleibt Argon mit fünfzig Prozent hinter GPT-Six Astra und sogar hinter dem Vorgängermodell Gemini three point eins pro.

00:03:00: In einem Vergleich, bei den Menschen die Ausgaben bewerten landet es bei Textaufgaben auf Platz Eins – bei der Webentwicklung hingegen nur auf Platz Acht.

00:03:08: Zum Einführungspreis berechnet Google zwei US-Dollar pro Million Eingabeturken und zehn US Dollar pro Million Ausgabetorken.

00:03:15: Später verdoppeln sich die

00:03:16: Preise.".

00:03:17: Vielen Dank, Jonathan!

00:03:30: Das einseitige Papier erklärt, dass jede Firma selbst verantwortlich sei ihre Technologien sicher zu machen und so zu bauen – das Nutzerinnen-Nutzer vertrauen zu den Produkten aufbauen.

00:03:41: Die Unternehmen sollten robuste interne Prozesse haben die Sicherheitsprobleme verhindern oder im Ernstfall zumindest schnell aufspüren.

00:03:50: Die KI-Unternehmen sollten sich darüber hinaus regelmäßig treffen und Standards & Best Practices entwickeln.

00:03:57: Nichts davon ist neu!

00:03:58: All diese Maßnahmen wurden bereits von den KI-Unternehmen selbst angekündigt oder teilweise schon umgesetzt.

00:04:04: Bislang hat das die KI-Agenten jedoch nicht davon abgehalten, ihre Arbeitsaufträge eigenwillig zu interpretieren und immer mal wieder aus ihren Testumgebungen auszubrechen, sich in fremde Unternehmen oder Organisationen zu hacken.

00:04:20: Diese Eskapaden der KI-Agenden ziehen bei OpenAI nun auch personelle Konsequenzen nach sich.

00:04:27: Drei an der Aufarbeitung der Fälle beteiligte Experten wurden entlassen, allerdings nicht weil die Modelle ausgewürzt waren sondern weil sie laut OpenAI gegen interne Regeln zum Umgang mit vertraulichen Informationen verstoßen hätten.

00:04:44: In dem bisher aufsehenerregendsten Fall war ein KI-Agent aus der Testumgebung ausgebrochen und hatte sich ungeplant Zugriff auf die Plattform Huggingface verschafft.

00:04:53: Zur Aufarbeitung dieses Vorfalls hatte OpenAI für einige Tage externe KI-Sicherheitsexperten herangeholt.

00:04:59: Die veröffentlichten später tiefgreifende Einblicke in die Vorgehensweise der Software.

00:05:06: OpenAI betont, dass niemand gefeuert wurde weil er Sicherheitsbedenken geäußert habe – das Fehlverhalten sei jedoch über das Teil von Informationen mit einer externen Analysefirma hinausgegangen!

00:05:19: Abseits der problematischen Vorfälle etablieren sich persönliche KI-Agenten derzeit als neue Produktkategorie, in die sowohl große KI-Labore als auch Startups investieren.

00:05:31: Meta bietet Muse und OpenAI mit Dots bereits entsprechende Lösungen an – auch das Startup Instinct hat ein gleichnamiges Produkt im Angebot!

00:05:40: Nun

00:05:40: hat

00:05:41: Manus mit Q eine App für persönliche KIAgenten vorgestellt.

00:05:46: Tomislav Bismalinovic von Heiser Online erzählt uns mehr darüber.

00:05:50: In QR hält jeder Agent eine eigene E-Mail Adresse, Telefonnummer, digitale Geldbörse und einen eigenen Cloudcomputer.

00:05:57: Über ihre E-mailadresse und Telefonnumber können die Agenten laut Manus selbst ständig Nachrichten verschicken sowie Anrufe und SMS Senden und Empfang.

00:06:06: Die Agenten können außerdem innerhalb eines vorgegebenen Budgets Zahlungen ausführen.

00:06:13: Meere Agenten können dabei auch auf ein gemeinsames Ziel hinarbeiten.

00:06:17: In einem Beispiel recherchiert einer Veranstaltungsorte, ein zweiter erstellt daraus eine Auswahl und dann dritte eine Präsentation.

00:06:26: Die Aufgaben werden dabei untereinander weitergereicht während der Nutzer die Richtung vorgibt und die endgültigen Entscheidungen trifft.

00:06:34: Q ist im Web sowie für Android, Mac oder Windows verfügbar.

00:06:38: Die iOS Version wurde zur Prüfung Map Store eingereicht.

00:06:42: Der Zugang zur Early Access Phase erfolgt derzeit per Einladungskode und ist zunächst kostenlos, laut Manus allerdings nur für begrenzte Zeit.

00:06:52: Q wurde zusammen mit Manus-II.null vorgestellt – einer umfassenden Erweiterung der KI-Agentenplattform des Unternehmens.

00:07:01: Manus II.nul bringt unter anderem neue Studiumgebungen mit den Nutzervideos erstellen und bearbeiten sowie Spiele entwickeln können.

00:07:09: Hinzu kommen ein eigener Cloud-Computer für dauerhaft laufende Projekte und Automatisierungen, ereignisgesteuerte Workflows und die Steuerung eines verbundenen Computers durch Manus KI Agent.

00:07:21: Danke schön, Tomislav!

00:07:23: Das KI Unternehmen Anthropic stellt seine Plattform Cloud for Government ab sofort für Bundes- und Staatsbehörden in den USA bereit.

00:07:32: Sie läuft in einer Umgebung mit der Zertifizierung FedRamp High.

00:07:36: Das ist die strengste Sicherheitsstufe im US-Programm für Clouddienste.

00:08:06: Und vor Gericht ist der Streit bislang offen, nachdem zwei Urteile gegensätzlich ausfielen.

00:08:12: Neue KI-Modelle werden in immer kürzeren Zeiträumen präsentiert – doch in den letzten Monaten sind ja häufig große Sprachmodelle außer Kontrolle geraten und haben dritten Schaden zugefügt!

00:08:23: Daher hatte die US-Handelsaufsicht FTC eine offizielle Untersuchung gegen die Entwickler Anthropic und OpenAI sowie andere KI-Unternehmer eröffnet, die nun noch einmal vertieft wird.

00:08:36: Wie ein FTC-Manager der New York Post erzählte, werden die KI-Unternehmen in den kommenden Wochen aufgefordert, der Behörde interne Unterlagen offen zu legen.

00:08:46: Zudem werden die Spitzenmanager zu Zeugenaussagen vorgeladen – sie sollen zu ihren Diensten und deren Gefahr für Verbraucherinnen und Verbrauchern Rede und Antwort stehen.

00:08:55: In die Untersuchung wird auch das Forschungsinstitut Mieter mit einbezogen, dass die jüngsten KI-Modelle hinsichtlich ihrer Fähigkeiten und Risiken evaluiert hat.

00:09:05: Juristisch beruft sich die FTC auf den Verdacht, die KI-Betreiber könnten unfaire oder irreführende Geschäftspraktiken pflegen.

00:09:13: Ungewöhnlich ist allerdings dass ein FTC Manager die Verdächtigen über die Medien vorwarnt!

00:09:21: Die Daten und Analyseplattform LiveRamp baut ihre Partnerschaft mit ChatGPT weiter aus – das hat Folgen für die Daten von ChatGPPNutzenden nur leider nicht klar welche….

00:09:33: und gibt Karolin Riedmöller von Heise Online zu bedenken.

00:09:36: LifeRamp ist ein Unternehmen aus dem Ökosystem des Datenhandels, es bietet seinen Kunden unter anderem an ihre Nutzerdaten aufzubereiten damit zu handeln und auf der Grundlage der Daten neue oder bestehende Kunden anderswo zu erreichen.

00:09:49: Seit Juni-sindsechstenzwanzig arbeitet LifeRam mit OpenAI zusammen.

00:09:53: bisher ging es dabei vor allem um die Erfolgsmessung von Werbern zeigen wie ChatGPT selbst Kunden zugeteilt hat.

00:09:58: das lief dann vereinfacht beschrieben so ab Ein Fachhandel für Musikerbedarf hat seine Anzeige von neuen Gitarrenseiten an ChatGbt übergeben.

00:10:07: Das hat sie dann Nutzern gezeigt, die es verpassend hielt – zum Beispiel, weil sie ChatGBT gerade Fragen über Gitarre stellten!

00:10:13: Wie erfolgreich diese Werbung war, konnte der Fachhandl dann über LiveRamp auswerten.

00:10:17: Jetzt geht hier zusammen und arbeitet noch einen Schritt weiter.

00:10:20: Unternehmen können über Liveramp ihre Werbungen nun gezielt an ihre Kunden ausspielen.

00:10:24: Zum Beispiel an jene GPT-Nutzer, die zuvor eine Gitarra bei ihnen gekauft haben….

00:10:29: Dafür schickt das Unternehmen eine Liste seiner Zielkunden an OpenAI.

00:10:33: Wies es gleich die Daten, mit denen seine eigenen Kunden ab?

00:10:35: Gibt es dort Überschneidungen?

00:10:37: Wenn es Treffer in nennenswerten Größenordnungen gibt wird die Werbung an den gesuchten JetGBT-Nutzer ausgespielt.

00:10:42: Laut dem Blog von LiveRamp erfolgt der Abgleich über LiveRamps hauseigene RAMP ID Nummer.

00:10:47: Das ist einer Art Identifikationsnummer, die uns allen vom Unternehmen einfach zuguteilt wird und die uns eindeutig identifiziert während wir uns im Internet bewegen – sofern wir nicht entsprechende Schutzmaßnahmen ergreifen!

00:10:57: Das heißt, es fließen nun auf jeden Fall mehr Daten von allen möglichen Unternehmen an OpenAI.

00:11:02: Die Unternehmen selbst können aus dem Vorgang auch mindestens ableiten – wer von ihren Kunden alles ChurchBT nutzt!

00:11:08: Doch wer genau welche Daten hält und ob OpenAI die Unternehmen-und LiveRAMP die zusätzlichen Informationen über den Nutzer speichern und weiterverarbeiten ist nicht klar?

00:11:17: Es wird deliglich wieder einmal deutlich….

00:11:19: OpenAI hat den Weg zu Datenkraken eingeschlagen... Die Funktion wird vorerst in elf Ländern eingeführt und soll schrittweise überall dort verfügbar sein, wo JetGBT verfügba ist.

00:11:29: Danke Caroline!

00:11:31: An anderer Stelle hat OpenAI nach eigenen Angaben eine koordinierte Kampagne gestoppt die das versteckte Reasoning seiner Modelle kopieren sollte.

00:11:40: Diese Zwischenschritte sind wertvolles Trainingsmaterial um die Fähigkeiten eines Modells nachzubauen.

00:11:47: Ein Kern der Aktivität ordnet OpenAI Personen zu Moonshot AI in Verbindung stehen, dem Entwickler der Sprachmodellreihe Kimi.

00:11:57: Die Angreifer kopierten das verschlüsselt ausgegebene Reasoning in eine neue Unterhaltung und ließen es dort wiederum von einem KI-Modell entschlüsseln.

00:12:07: Ende Juli beobachtete OpenAI an zwei Tagen Spitzen von sechzehntausend Anfragen – insgesamt umfasste das Netzwerk über fünfzehnteusend Konten!

00:12:17: Auf der eigenen Schnittstelle hat OpenAI die Lücke geschlossen.

00:12:21: Ein Forscher-Team zeigte jedoch, dass derselbe Trick über Microsoft Azure – wo dieselben Modelle laufen – noch bis Ende September funktionierte.

00:12:30: Die Forschenden kritisieren die Gegenmaßnahmen daher als lückenhaft und auch für OpenAI gilt die Arbeit daran nicht als abgeschlossen!

00:12:40: US-Verteidigungsminister Pete Hexeth hat verschiedene Initiativen für zukünftige Kriegstrategien ins Leben gerufen und dabei auch namhafte Vertreter der Technologiebranche ins Boot geholt.

00:12:52: SpaceX AI-Chef Elon Musk – und der Gründer der VR-Firma Oculus und des Rüstungsunternehmens Unreal Industries, Paul Malaki – sollen gemeinsam im Project Meridian die Schlachtfelder der Zukunft erforschen.

00:13:07: Unter der Leitung des republikanischen US-Politikers Newt Gingrich soll die Gruppe Waffen und Technologien identifizieren, die Streitkräfte zur Beherrschung dieser Einsatzumgebungen benötigen sowie konkrete Lösungen für die Entwicklung, Erprobung und Einführung dieser Fähigkeiten vorschlagen.

00:13:24: Musk und Lucky sollen dabei kritische Perspektiven von außerhalb des Pentagon beitragen – so Hexeth!

00:13:32: Bis Ende Januar, sie sollen ein Konzept erarbeiten, um Amerikas langfristige militärische Überlegenheit zu sichern.

00:13:42: Kommen wir mal zurück zum Alltagsnutzen von künstlicher Intelligenz.

00:13:46: Was bedeuten KI-Sprachmodelle für Reha-Kliniken?

00:13:49: Beim RehaKI Summit diskutierten Ärztinnen und Ärzte unter anderem über die Möglichkeiten Kosten, Zeitersparnis und das Problem des Dies gelingen.

00:14:00: Marie-Claire Koch von Heise Online hat sich das angeschaut und fast die Stimmung auf der Konferenz zusammen.

00:14:05: Einige Kliniken setzen bereits auf KI für Aufnahmegespräche und Entlastberichte, und sagen, dass ihnen das Arbeit abnimmt.

00:14:13: Dazu läuft gerade auch eine Studie an drei REA-Einrichtungen, die ebenfalls Hinweise darauf liefert, dass es tatsächlich Erleichterung gibt – die Ärztinnen und Ärzte, die auf dem REA Summit miteinander diskutiert haben.

00:14:25: um ganz unterschiedliche Eindrücke geschildert, manche erleben KI als richtige Hilfe, weil sie dann nicht beim Patientengespräch nitschreiben müssen.

00:14:33: Also ist dieses Ambient Listening und andere finden Sie nützlich sind aber noch nicht so ganz zufrieden und außerdem müssen die Texte natürlich noch geprüft werden Und wenn nicht alle angebunden und eingebunden sind in diese Prozesse Dann ist das mit der Nutzung eben auch nicht so einfach.

00:14:51: Ein Thema dass natürlich immer wieder beschäftigt ist so die Schnittstellen thematik Was nützt ein erstellter Bericht, wenn man den hinterher nicht ins Primärsystem bekommt?

00:15:01: Also in das System wo die Dokumentation läuft.

00:15:05: Es ist aber ein allgemeines Thema im Gesundheitssystem dass manche Anbieter sich da querstellen und nicht so kooperativ zeigen was den Informationsaustausch angeht.

00:15:15: Eine weitere Frage die halt beschäftigt hat ist was die KI langfristig mit dem Arztberuf und der Pflege macht.

00:15:24: Wenn ein System schon in der Ausbildung super viel Arbeit abnimmt, wie sammeln junge Ärztinnen und Ärzte dann genug eigene Erfahrungen um Fehler zu erkennen.

00:15:34: Dankeschön Marie!

00:15:36: Airbnb hat in seinem Herbst Update mehrere KI-Funktionen vorgestellt.

00:15:41: Nutzende können Unterkünfte, Erlebnisse & Services künftig per Freitext oder Spracheingabe suchen – eine KI wählt passende Angebote aus.

00:15:50: Zusätzlich erzeugt die KI Beschreibungen und Zusammenfassungen, mit denen sich Unterkünfte vergleichen lassen.

00:15:56: Ein KI Chat Support ergänzt das Angebot.

00:16:00: Gastgebende erhalten KI-Zusammenfassung zur Performance ihrer Inserate samt Handlungsvorschlägen.

00:16:06: Außerdem passt die dynamische Preisgestaltung – die Preise automatisch nach Nachfrage und Angebot an.

00:16:13: Über technische Details, Serverstandorte und Datenschutz schweigt AirBnB sich weitgehend aus!

00:16:19: Auch zur Verlässlichkeit der Ergebnisse bleibt das Unternehmen Waage.

00:16:25: Zum Schluss habe ich noch ein Programm-Tipp für euch!

00:16:27: Seit der Corona-Pandemie gehören Videokonferenzen für uns alle ja fast zum Arbeitsalltag und immer häufiger zeichnen die Unternehmen diese auf oder lassen einen KI-Modellprotokolle schreiben.

00:16:38: Der CT-Datenschutz-Podcast Auslegungssache beschäftigt sich in der aktuellen Folge mit diesem Alltagsthema, dass jede Menge datenschutzrechtliche Fragen mit sich bringt.

00:16:48: Denn wer Dienste wie Teams oder Zoom einsetzt und zur Konferenz einlädt, trägt die Verantwortung im Sinne der DSGVO!

00:16:56: Wer verantwortlich ist?

00:16:57: Wer einwilligen muss – und wann einen KI-Transkript zum Problem wird besprechen mein Kollege Holger Bleich von der CT Und unser heise Verlagsjustizjahr, Jörg Heidrich mit dem Datenschutzexperten Nikolaus Bertermann.

00:17:10: Episode onehundertneunundsechzig der Auslegungswache findet ihr eigentlich auf allen Podcastplattformen!

00:17:17: Das war das KI-Update von heise online vom zweiten Oktober.

00:17:20: zweitausend sechsundzwanzig – eine neue Folge gibt es montags Mittwochs und freitags ab fünfzehn Uhr.