KI-Update kompakt: Grok auf Abwegen, Suizid durch KI?, ChatGPT Health, SleepFM, CES-KI

00:00:29: GROC, die KI von Elon Musk's XAI, kann von Menschen dazu genutzt werden, um anhand von eigentlich harmlosen Fotos Personen digital zu entkleiden und sexualisierte Versionen auf X zu posten.

00:00:43: Es ist kein Zufall, dass das besonders häufig mit GROCK geschieht, denn XAI gewährt dem Chatbot Funktionen, die sexualisierte Deepfakes erst möglich machen.

00:00:53: Nun gibt es erste Untersuchung dazu, wie häufig diese Art der Nutzung ist und wie sich der Chatbot dazu verhält.

00:01:00: Martin Holland berichtet.

00:01:01: So

00:01:01: hat eine KI-Forscherin einfach mal, in den vierundzwanzig Stunden lang, alle Antworten dieses Chatbots überprüft und gezählt und hat ermittelt, dass der fast siebentausend solcher Bilder pro Stunde erstellt im Schnitt.

00:01:18: Das sind mehr als achtzigmal so viel wie auf fünf anderen Plattformen, auf denen man so etwas machen kann zusammen.

00:01:27: Man kann bei diesem Chatboard einfach ein Bild verlinken und sagen, kannst du bitte diese Frau oder die Person, die da drauf ist in einem Bikini oder in Unterwäsche oder in sehr kurzer Kleidung darstellen?

00:01:39: und der KI-Chatboard generiert dann einen Bild, das eben so aussieht, auch wenn es natürlich nicht die richtige Person zeigt, ist das trotzdem höchst problematisch für die Betroffenen.

00:01:50: Und teilweise macht er das eben auch bei Minderjährigen und bei Kindern.

00:01:54: Und jetzt ist eben auch deutlich, dass das ein immenses Ausmaß erreicht hat.

00:01:58: Also es gibt auch ganz heftige Kritik an den Leuten.

00:02:02: Einerseits sie das machen, aber auch an X, der das zulässt.

00:02:05: Gleichzeitig hat das US-Magazin Wired herausgefunden, dass auf der Webseite von GROC, also diese KI von XAI, hat auch eine eigene Webseite.

00:02:16: Also man muss die nicht nur über den kurz Nachrichtendienst X befragen, man kann auch direkt... die zur Generierung von Inhalten auffallen, dass da offensichtlich noch viel, viel problematischere Inhalte entstehen.

00:02:28: Das kann man normalerweise nicht sehen, weil die Privat sind.

00:02:31: Also wer das in Auftrag gibt, bekommt die Inhalte nur selbst angezeigt.

00:02:35: Aber es gibt eine Lücke, die oder zumindest ein Weg daran zu kommen.

00:02:40: Es ist unklar, ob es eine Lücke ist, die im Sommer letzten Jahres entdeckt wurde und zwar wer da Inhalte erstellen lässt von Grog und darunter auf einen Teilen.

00:02:48: Button klickt, also um das zum Beispiel per WhatsApp weiterzuschicken oder an Facebook zu veröffentlichen.

00:02:53: Der generiert einen Link, der von Google indexiert wird.

00:02:58: Und über Google lassen sich diese Inhalte auch finden.

00:03:00: Und da sieht man eben, dass diese KI auch solche Videos erstellt, auch viel problematischer, auch ohne diese Beschränkung darauf, dass die Person, die da digital entkleidet wird, überhaupt, also, dass die noch ein bisschen Kleidung trägt, dann wird passieren auch ganz, also, da wird dann ganze Nackdarstellung passiert.

00:03:17: Und es gibt auch sexuelle Handlungen, die da dargestellt werden, viel Blut und problematische Sachen.

00:03:23: ob es überhaupt Schutzmaßnahmen gibt, um zum Beispiel auch richtig verbotene pornografische Inhalte darzustellen.

00:03:30: CROC sieht nicht vor, das Alter zu überprüfen.

00:03:33: Also im Prinzip kann jeder Internetnutzer, die das machen, solche Inhalte sich generieren lassen.

00:03:41: Danke Martin.

00:03:42: Auf X hat CROC am Freitagmorgen damit begonnen, bitten, um eine Bildgenerierung abzulehnen.

00:03:47: Nötig sei dafür jetzt ein kostenpflichtiges Abo, heißt es in den Antworten.

00:03:53: Martin Holland bleibt gleich dran für das KI Update in Sachen hochproblematischer Nutzung von KI Chatbots.

00:03:59: Character AI und Google standen unter Druck, da Jugendliche nach Nutzung der Character AI Chatbots sich oder andere verletzt haben.

00:04:08: Ein Jugendlicher nahm sich das Leben, nach einer Monate andauernden Unterhaltung mit einem KI-Chatbot von Character AI.

00:04:16: Die Mutter hatte Klage gegen das Unternehmen eingereicht.

00:04:19: Der Rechtsstreit ist einer der ersten Fälle in den USA, in denen KI-Unternehmen wegen möglicherweise verursachter psychischer Schäden zur Verantwortung gezogen werden sollten.

00:04:30: Bevor aber vor Gericht verhandelt werden konnte, haben sich Google und Character AI nun außergerichtlich mit der Klagenden geeinigt.

00:04:38: Noch einmal Martin Holland.

00:04:40: Es geht um Fälle, in denen Jugendliche den Dienst von Character AI genutzt haben, um mit Chatbots zu reden, zu schreiben, die vorgeben, bestimmte Figuren zu sein.

00:04:52: Zum Beispiel aus Fernsehsäen oder so.

00:04:54: Und die Jugendlichen oder die Kinder haben sich dann teilweise danach ... selbst verletzt oder die wurde dann von diesen Chatbots geraten oder empfohlen oder direkte Text hat das nahegelegt, dass sie andere verletzen oder schädigen sollen.

00:05:10: Und in einem Fall, und das ist der berühmteste und der Aufsehen erregendste, geht es um den Vorwurf, dass ein Jugendlicher mit einem Chatbot von Character AI gechattet hat, der sich ausgegeben hat als eine Figur aus Game of Thrones und irgendwann nach einer Konversation mit diesem Chatbot sich selbst das Leben genommen hat.

00:05:28: Und da war im Vorwurf im Raum, dass es da nicht genug Schutz davor gibt.

00:05:33: Und Character AI hat zwischendurch reagiert und unter achtzehnjähriger von einem Plattform ausgeschlossen.

00:05:40: Google war Teil dieser Rechtsstreitigkeiten, weil Character AI ist von X angestellten, von Google gekündet worden.

00:05:47: Und Google hat die Technik dezentriert und auch stark daran beteiligt.

00:05:52: Details der Einigungen sind nicht öffentlich geworden.

00:05:55: Es ist also unklar, ob und wie viel Geld da zum Beispiel fließt.

00:05:58: Und noch müssen die Gerichte, das sind insgesamt vier Fälle in vier verschiedenen US-Bundesstaaten, dem Vergleich jeweils zustimmen.

00:06:05: Danke Martin.

00:06:10: vorgestellt, einen separaten Gesundheitsbereich innerhalb von ChatGPT.

00:06:14: Der KI-Assistent verknüpft da persönliche Gesundheitsdaten mit dem Chatbot und soll Nutzern dabei helfen, medizinische Befunde zu verstehen, Arztbesuche vorzubereiten und Fitnessdaten auszuwerten, Malte Kirchner berichtet.

00:06:28: OpenAI betont dabei, das Ganze soll die medizinische Versorgung unterstützen, aber nicht ersetzen.

00:06:34: Zunächst ist ShedGPT-Help nur für eine kleine Gruppe früher nutzerzugänglich über eine Warteliste.

00:06:38: Und hier wird es für uns in Europa interessant.

00:06:40: Die EU, die Schweiz und Großbritannien sind vorerst komplett außen vor.

00:06:44: Verfügbar ist das Feature für alle Accounttypen von kostenlos bis pro.

00:06:48: Der Hintergrund laut OpenAI stellen weltweit über zweihundertdreißig Millionen Menschen pro Woche Gesundheitsfragen an.

00:06:55: ShedGPT ein riesiger Anwendungsfall also.

00:06:58: Was kann ShedGPT Health konkret?

00:07:00: Das Herzstück ist die Integration mit Apple Health, also der vorinstallierten Gesundheitsapp auf dem iPhone.

00:07:05: Darüber kann ShedGPT auf Daten wie Schritte, Herzfrequenz, Schlafmuster oder Trainingseinheiten zugreifen.

00:07:11: Zusätzlich lassen sich Fitness-Apps wie MyFitnessPal, Peloton oder Weight Watchers verknüpfen.

00:07:16: In den USA können Nutzer sogar elektronische Patientenaktien anbinden.

00:07:20: Chatchapity Health kann dann zum Beispiel Laborergebnis interpretieren, medizinische Dokumente übersetzen, Ernährungsempfehlungen geben oder Trainingsroutinen erstellen.

00:07:29: Auch beim Vergleich von Versicherungsoptionen soll der Assistent helfen.

00:07:32: Beim Datenschutz verspricht Open AI besondere Schutzmaßnahmen.

00:07:35: Gesundheitschats werden getrennt von normalen Unterhaltungen gespeichert, mit Verschlüsselung und Isolierung.

00:07:41: Die Daten sollen nicht zum Training der KI-Modelle verwendet werden.

00:07:44: Konkrete technische Details nennt OpenAI allerdings nicht und gerade mit Blick auf die unterschiedlichen Gesetze zwischen USA und Europa sollte man diese Versprechen mit Vorsicht genießen.

00:07:53: Warum bleibt die EU draußen?

00:07:55: Gesundheitsdaten gelten nach der Datenschutzgrundverordnung als besonders sensibel ununterliegend strengen Regeln.

00:08:01: Datenübermittlungen in den USA sind nur mit speziellen Garantien erlaubt und bei Gesundheitsdaten schauen die Aufsichtsbehörden besonders genau hin.

00:08:08: Dazu kommt, wenn Chatshipity Health als medizinisches Produkt eingestuft würde, müsste es die EU-Medizinprodukte für Ordnung erfüllen.

00:08:15: Auch der AI-Akt könnte hier zum Problem werden.

00:08:18: Dann bleibt noch eine kritische Frage.

00:08:20: Wie verhindert OpenAI das Nutzer dem System zu sehr vertrauen?

00:08:24: Trotz aller Warnenweise, dass Chatshipity Health keine ärztliche Beratung ersetzt, wirbt OpenAI mit dem Chatbot als Zitat Navigator für die Gesundheit.

00:08:33: Das könnte bei manchen den Eindruck erwecken, es handelt sich doch um eine Art KI-Arzt.

00:08:37: Wie das Unternehmen durch technische Schutzmaßnahmen sicherstellt, dass Nutzer bei akuten Symptomen nicht auf Notrufe oder Arztbesuch verzichten, das bleibt offen.

00:08:46: Danke, Malte.

00:08:48: Wissenschaftler der Stanford University haben ein KI-Modell entwickelt, das auf Basis von Schlafdaten Krankheitsrisiken vorhersagen soll.

00:08:57: Das Modell heißt Sleep FM, wobei FM für Foundation Model steht, ein Grundlagenmodell also.

00:09:04: Slip-FM nutzt riesige Datensätze von Schlafaufzeichnungen, um nicht nur den aktuellen Schlafzustand zu analysieren, sondern das Risiko für die Entstehung von über einhundertdreißig verschiedenen medizinischen Erkrankungen vorherzusagen.

00:09:20: Dr.

00:09:20: Fabio Denstedt hat sich die dazugehörige Studie, die in Nature Medicine veröffentlicht wurde, angesehen.

00:09:33: hat diese KI die Sprache des Schlafs gelernt.

00:09:36: Trainiert wurde das Modell mit über fünfundundachzigtausend Stunden an Aufzeichnungen aus der Polysomnographie.

00:09:44: Die Polysomnographie ist eine umfassende Untersuchung der Schlafmedizin, bei der gleichzeitig Hirnströme, Herzaktivität, Muskelbewegungen und die Atmung aufgezeichnet werden.

00:09:56: Das Ziel war aber nicht nur den Schlaf selbst zu analysieren, Die KI nutzt die komplexen Signale eine einzige Nacht, um vorher zu sagen, ob jemand in den nächsten Jahren Krankheiten entwickeln wird.

00:10:08: Die Ergebnisse sind beeindruckt.

00:10:10: Das Modell erkennt zuverlässig die Risiken für über einhundertdreißig verschiedene Erkrankungen.

00:10:15: Gemessen wurde die Präzision dabei mit dem sogenannten C-Index, einem etablierten Index für solche Prognosen.

00:10:22: Besonders präzise waren die Vorhersagen u.a.

00:10:25: für Alzheimer, Prostatakrebs und Diabetes.

00:10:28: Damit überschrifft SLEEP FM klassische medizinische Risikofaktoren wie Alter oder Bodymass Index deutlich.

00:10:35: Darüber hinaus ist das Modell robust in seinen Vorhersagen.

00:10:38: Die KI liefert selbst dannverlässliche Daten, wenn man ein Sensor ausfällt oder die Aufnahmequalität schwankt, was ein häufiges Problem bei Schlafmessungen mit der Polysomnografie ist.

00:10:48: In Kombination mit modernen Variables wie Smartwatches könnten diese Erkenntnisse zu dem Bald den Weg aus dem Schlaflabor in den Alltag finden und eine kontinuierliche Gesundheitsüberwachung ermöglichen.

00:10:59: Das Fazit der Forscher?

00:11:00: Schlafmessungen könnten künftig weit über die reine Schlafdiagnostik hinausgehen und dank KI-Aralyse als präzises Frühwarnsystem für unsere langfristige Gesundheit dienen.

00:11:11: Danke Fabio.

00:11:12: Bis zum heutigen Freitag findet in Las Vegas die CES die größte Technologiemesse der Welt statt.

00:11:19: André Kramer ist vor Ort und hat sich umgesehen, welche Neuerungen in Sachen KI präsentiert werden.

00:11:26: Ein großer Schwerpunkt der CES-Karriere ist auf Humanoiden-Robotan.

00:11:31: Auf vielen Messeständen laufen diese Roboter mittlerweile umher, als wäre es kein großes Problem, wo sie vor wenigen Jahren allerdings noch nach drei Schritten umgefallen wären.

00:11:40: Und da kommt das Thema Physical AI zum Tragen.

00:11:44: Das sind Bewegungsdaten, mit denen sich solche Roboter trainieren lassen.

00:11:47: Und solche Daten sammelt beispielsweise das Unternehmen NVIDIA.

00:11:52: Das kanadische Start-up Helpli Robotics hat ein Eingabegerät für Roboterhände entwickelt, das dem Nutzer über motor- und taktisches Feedback gibt.

00:12:00: Er spürt also, was der Roboter spürt.

00:12:02: Und genau solche Daten sind wichtig für NVIDIA, dass damit seine Physical AI trainiert.

00:12:09: Das chinesische Unternehmen Agibot stellt beispielsweise sehr agilo Roboter her.

00:12:14: Das US-Unternehmen Boston Dynamics hat erstmals seinen Atlas-Roboter live vor einem großen Publikum vorgestellt und Hyundai plant in Zukunft dreißigtausend solcher Roboter in seinen Fabriken einzusetzen.

00:12:28: Künstliche Intelligenz spielt nicht zuletzt auch im Automotive-Bereich eine große Rolle.

00:12:32: Das niederländische Unternehmen hier hat beispielsweise behavioral maneuvers vorgestellt, die Lenk- und Bremsbewegungen sowie beim Menschen ausführen sollen.

00:12:41: Grundlage dafür bilden Daten von Millionen von Fahrzeugen.

00:12:46: Ein ähnlichen Ansatz verfolgt Bosch mit seiner Software Vehicle Motion Management.

00:12:51: Sie steuert Bremselenkungen, Antrieb und Fahrwerk so, dass Rollbewegungen in Kurven und Nickbewegungen beim Stop- und Go-Verkehr vermieden werden, dass so Reiseübelkeit mindern.

00:13:02: Daneben gibt es auch immer wieder interessante Integration von großen Sprachmodellen zu sehen.

00:13:06: Das US-Startup iMogul integriert ChatGPT in seine gleichnamige App, um Drehbücher zu analysieren, Zusammenfassung zu erstellen und gleich passende Regisseure und Schauspieler vorzuschlagen.

00:13:18: Die App soll außerdem dazu dienen, Autoren mit Produzenten zu vernetzen, da Autoren derzeit wohl häufig ihre Drehbücher auf Reddit hochladen.

00:13:28: in der Hoffnung, dass Netflix oder ein großes Hollywood-Studio darauf anspringt.

00:13:32: Danke, Andre.

00:13:34: Wir bleiben auf der CES.

00:13:36: AMD hat mit einem neuen KI-Beschleuniger eines der weltweit größten Chip-Konstrukte entwickelt.

00:13:42: Insgesamt zwölf Comput- und IO-Chip-Lets sowie zwölf Speicherstapel ergeben einen Chip-Verbund, der etwa so groß ist wie die Hand von AMD-Chefin Lisa Sue, die diesen Riesen-Chip auf der CES vorgestellt hat, Marc Mandel berichtet.

00:14:03: AMD entwirft das Ereignisseure de sein Helios, natürlich mit möglichst viel eigener Hardware.

00:14:07: Epic Prozessoren aus der neuen Vennis Generation, Instinct MI-Fourhundertfünfzig X-Besteuniger und Netzwerktechnik der übernommenden Firma Pensando.

00:14:17: Zur Technikmesse CS zeigte AMD-Chefin Lisa Suh erstmals den Prozessor und Besteuniger Nackt.

00:14:22: Beide sind durch ihre Scheregröße ziemlich beeindruckend.

00:14:25: Vennis mit Zvonhundertsechstenfünfzig CPU Kern nutzt etwa zwanzig Quadratzentimeter Sediziumfläche, der KI-Besteuniger noch mehr.

00:14:32: Die Schipblitz entstehen mit zwei und drei Nanometer Technik von TSMC.

00:14:37: Damit kommt die ME-Fourhundertfünfzig-X auf enorme, dreihundertzwanzig-Milliardentransistoren.

00:14:42: Die Schipbspezifikation hält AMD bislang geheim.

00:14:45: Offensichtlich ist aber der Auslandespeichausbau.

00:14:48: Die ME-Fourhundertfünfzig-X hat gleich zwölf HBM-Vier-Stapel mit einer Gesamtkapazität von vierhundertzweiunddreißig Gigabyte einer gebündelten Übertragungsrate von fast zwanzig Terabyte die Sekunde.

00:15:00: Damit überholt AMD selbst Nvidia's aktuellen Blackwell Ultra.

00:15:03: Dessen Steckenpferd ist allerdings der fortschrittliche Software-Stack.

00:15:07: Ob AMD dagegen ankommen kann, sagt sie später im Jahr.

00:15:28: Nutzer in den USA können künftig Waren von ausgewählten Händlern erwerben, ohne das Chatfenster zu verlassen.

00:15:34: Zum Start beteiligen sich Plattformen wie Etsy sowie Einzelhändler wie Urban Outfitters an dem Projekt und technisch passiert diese Funktion namens Copilot Checkout auf dem sogenannten Agente Commerce Protocol.

00:15:47: Dabei handelt es sich um einen offenen Standard für den KI-gestützten Handel, den STRIPE mitentwickelt hat.

00:15:54: Das System ermöglicht das KI-Agenten den gesamten Kaufprozess, von der Auswahl bis zur Bezahlung autonom oder zumindest teilautonom durchzuführen, so das Versprechen.

00:16:08: Doch die Umsetzung solcher Shoppingfunktion gestaltet sich in der Praxis schwieriger als erwartet, wie ein aktueller Bericht von The Information am Beispiel von OpenAI zeigt.

00:16:18: Denn obwohl OpenAI bereits im September eine breite Shoppingoffensive ankündigte, verläuft der Staat wohl schleppend.

00:16:25: Selbst prominente Partner wie der Kofferhersteller Away sind bislang nicht über den Chatbot kaufbar.

00:16:32: Das Kernproblem liegt in der Datenqualität, die KI-Modelle haben demnach Schwierigkeiten, unstrukturierte Produktdaten korrekt zu interpretieren.

00:16:42: Oft ist für die KI dann nicht eindeutig erkennbar, ob ein Artikel tatsächlich auf Lager ist oder nur vorbestellt werden kann.

00:16:49: Interpretiert der Agent diese Daten falsch, drohen dann Bestellungen von nicht lieferbarer Ware oder Transaktionen zu falschen Preisen.

00:16:56: Stripe versucht nun, dieses Problem durch eine Standardisierung der Händlerdaten an der Wurzel zu packen, doch die Bereinigung der Datenbanken erfordert viel manueller Arbeit.

00:17:06: Dennoch bleibt der Wettlauf um die Schnittstellen zum Kunden intensiv.

00:17:09: Google arbeitet parallel an einem eigenen Standard, dem Agent Payments Protocol, das bereits von über sechzig Unternehmen unterstützt wird.

00:17:16: Für die Anbieter der großen Sprachmodelle liegt hier ein potenziell lukratives Geschäftsmodell.

00:17:21: Wenn Nutzer ihre Kaufentscheidungen direkt im Dialog mit der KI treffen, können die Plattformbetreiber an den Umsätzen partizipieren.

00:17:36: Denn das Programm listet laut einem Bericht von Modern Retail Produkte von externen Webseiten automatisch auf dem Amazon Marktplatz, ohne dass die betroffenen Shopbetreiber zugestimmt haben.

00:17:48: Händler berichten, dass sie erst durch ungewöhnliche Bestellungen von einer speziellen Amazon-Email-Adresse auf den Vorgang aufmerksam wurden.

00:17:57: Das System nutzt KI-Agenten, um Produkte auf Drittanbieterseiten zu identifizieren und Bestellungen im Namen des Kunden dort auszuführen.

00:18:06: Emerson integriert diese Artikel dann in die eigene Suche, versehen mit einem By-Formie-Button.

00:18:13: Immer wieder sollen darin auch Fehler wie falsche Beschreibungen oder Bilder enthalten sein.

00:18:19: Emerson verteidigt die Funktion als Service für Kunden, die so neue Marken entdecken sollen.

00:18:24: Wer nicht mitmachen will, muss sich aktiv per E-Mail melden, um aus dem Programm entfernt zu werden.

00:18:31: Während der Konzern externe Inhalte also für den eigenen Marktplatz nutzt, geht er juristisch gegen andere Firmen vor, die Ähnliches tun, somit der Amazon kürzlich Perplexity ab, weil deren Browser Nutzern ermöglichte, via KI auf Amazon einzukaufen, ohne sich dabei auf der Amazon-Nutzeroberfläche aufzuhalten.

00:18:54: Google erweitert seinen E-Mail-Dienst Gmail in den USA um neue KI-Funktionen.

00:19:00: Im Zentrum steht eine neue Suchfunktion, die es Nutzern ermöglichen soll, den eigenen Posteingang mit natürlicher Sprache zu bedienen.

00:19:08: Damit können Anwender dann beispielsweise erfragen, wann etwa der letzte Termin mit einem bestimmten Handwerker war.

00:19:15: Die KI extrahiert die Antwort dann aus den entsprechenden E-Mails.

00:19:20: Zusätzlich führt Google sogenannte AI Overviews ein.

00:19:23: Diese fassen lange E-Mail-Verläufe automatisch zusammen und heben die wichtigsten Punkte hervor.

00:19:30: Während die Zusammenfassung kostenlos sind, bleibt die komplexe Fragefunktion zahlenden Abonnenten vorbehalten.

00:19:37: Die Schreibhilfe Help Me Write mit der E-Mails erstellt oder überarbeitet werden können, schaltet Google hingegen für alle Nutzer frei.

00:19:46: In einer Testphase befindet sich zudem eine Funktion zur Priorisierung des Posteingangs.

00:19:52: Die KI analysiert dabei Kommunikationsmuster und Inhalte, um wichtige Nachrichten, wie etwa Rechnungen oder Arzttermine, von weniger relevanter Post zu trennen.

00:20:03: Wann die Funktionen nach Deutschland kommen, ist noch nicht bekannt.

00:20:08: Das war das KI-Update von Heise Online vom neunten Januar.

00:20:13: Ein neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.

Shownotes

Transkript anzeigen

Neuer Kommentar