KI-Update kompakt: Hate Aid vs. KI-Brillen, Mistral, Prompts, Twitch

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Hate Aid stellt Strafanzeige gegen Matter, Ray-Ban und Optiker.

00:00:23: Misstrails große Wetter auf Europas KI-Infrastruktur.

00:00:27: Prompts lassen sich aus Chatbot Antworten rekonstruieren.

00:00:37: Die Organisation Hate-Aid hat Strafanzeige gegen Metta und mehrere Optikketten eingereicht.

00:00:43: Die Smartglasses sollen gegen das Telekommunikations-Digitale Dienste Datenschutzgesetz verstoßen!

00:00:51: Ich habe vor der Sendung mit unserem CT-Experten Nico Jurain gesprochen, was genau hat es denn mit diesem TDDDG auf sich?

00:00:59: Und worum geht es?

00:01:00: Hate-aid?!

00:01:01: Also die Idee dabei ist, das Hate-Aid wenn sie damit durchkommen zum einen Firmen wie Ray Ban und Meta überhaupt mal verbieten solche Geräte solche Brillen herzustellen oder auf den Markt zu bringen also die mit Kamera ausgestattet sind da.

00:01:15: Und auf der anderen Seite ist es halt nach § VIII des Gesetzes bezüglich des Missbrauchs von Telekommunikationsanlagen dann auch tatsächlich verboten solche Gerät zu besitzen.

00:01:24: Also dementsprechend wäre es halt auch Konsequenzen haben für Leute die bereits so eine Belange.

00:01:30: Welche Folgen könnte diese Strafanzeige jetzt haben?

00:01:33: HeldAlt möchte Vertriebsverrot durchsetzen für KI-Brillen mit Kamera.

00:01:37: Ganz klar und die Idee dahinter ist, dass man sagt okay, sie verstoßen halt gegen dieses TDDG!

00:01:44: Und daher wäre es dann tatsächlich den Herstellern verboten das anzubieten und ja praktisch den Zufluss zu stochen in Deutschland für diese Geräte.

00:01:54: Mal abgesehen davon, dass wir da noch wieder diskutieren können ob man das hier im Ausland holen kann.

00:01:59: Aber ich glaube, wir sollten einen Schritt zurückgehen.

00:02:01: Ich finde das ein bisschen problematisch.

00:02:02: deswegen weil... Wir haben ja die Antworten vom Meter bekommen und wir haben jetzt auch inzwischen E-Mails von Lesern, die zum Beispiel mit der Bundesnetzagentur sich damals schon auseinandergesetzt haben zu der Zeit als die Kainfällen eingeführt wurden.

00:02:16: Und das Spannende dabei ist dass einfach denen das schon vorgelegt wurde also wir wissen inzwischen zwanzig zweiundzwanzig wurde ein Meter hingegangen und habe gesagt so da sind die Brillen so sieht es aus das ist die Aufnahmefunktion Und die blinken eben halt einmal, wenn ein Foto gemacht wird und blinken dauerhaft, wenn jetzt ein Video aufgezeichnet wird.

00:02:35: Die Bundesnetzagentur, um auch das nicht uns alles vor hat damals ganz klar gesagt, uns reicht das!

00:02:41: Insoweit kann ich jetzt zum Beispiel in der Stellungnahme vom Medienmarkt das verstehen, dass einer sagt, Leute hier blädt irgendwie den falschen Bau an?

00:02:47: Da ist eben halt die große Frage ob das eigentlich sozusagen jetzt zielführend ist so eine Strafanzeige zu stellen in diese Richtung statt vielleicht zu sagen wir versuchen... das vielleicht auch mit dem anderen Weg oder mit einem anderen Weckel anzugehen.

00:03:01: Nun trägst du ja selbst so eine KI-Brille, wie stehst Du denn als Nutzer zu der Debatte?

00:03:06: Also ich habe schon mehrfach selber einen Test geschrieben, dass ich finde, dass dieses einmalige Aufblink dann nicht reicht und dass es einfach schlecht umgesetzt ist meiner Meinung nach also nicht besonders zielführend gemacht worden ist, also ich will auch nicht irgendwie fotografieren werden ohne dass sich das mitbekomme.

00:03:21: aber was ich halt richtig durch finde ist jetzt dieser Generalverdach entsteht So nach dem Motto, wenn ich so eine Brille kaufe, dann bin ich ein Cree und dann möchte ich unbedingt Leute da aufnehmen.

00:03:31: Ich sitze doch nicht mit einer beschlagenen Brille in der Sauder!

00:03:34: Also was sind das wir abgesehen davon?

00:03:36: Das war ja wie gesagt in Bangkok mit Teilern von der ersten Wave her.

00:03:41: Und die ist durch die klimatischen Wählmung, die daher geherrscht haben also alleine die Luftfolge hat, haben gereicht um sie zu killen.

00:03:47: Ich glaube nicht dass eine dieser Brille wirklich Saum dagegen übersteht.

00:03:51: Jetzt bin ich ganz ehrlich

00:03:52: Wäre deine KI-Brille für dich noch interessant, wenn sie keine Kamerafunktion hätte?

00:04:14: Es

00:04:22: gibt genügend

00:04:23: Anwendungen, die vernünftig sind.

00:04:25: Die sinnvoll sind.

00:04:26: Kein W-Tool, wo überhaupt ehrlich das unproblematisch ist.

00:04:30: Die Fotofunktion ist für mich tatsächlich vor allen Dingen habe ich vor allem genutzt im Urlaub zum Beispiel im Ausland, wo ich irgendeine Sprache nicht beherrsche Schilder nicht lesen kann dass sich wirklich sage okay das hat noch Objekterkennung.

00:04:42: Ich stelle mich davor und sag hier was bietet dieses Restaurant an?

00:04:45: der fotografiert kurz die Akata ab und sagt mir das um das gibt es da oder eben halt Verkehrschilder, die ich einfach nicht verstehe.

00:04:51: Darf ich hier jetzt parken?

00:04:52: Oder nicht?

00:04:52: also was?

00:04:53: Und der einige Knaller ist ja das in Deutschland völlig unproblematisch irgendwelche Stifte, Kugelschreiber mit eingebauter Kamera bei denen du kein Geblinke siehst weil es auf der Rückseite ist und du kannst das komplett unproblematic abdecken dass diese Sachen weiterverkauft werden.

00:05:09: und dann sagen alle Ja.

00:05:10: aber wieso denn?

00:05:11: ganz einfach dieses Gesetz spricht ja von Missbrauch von Telekommunikationsanlagen Also in dem Moment wo du diesen Stift benutzt.

00:05:19: Fällt der nicht mehr unter dieses Gesetz, weil er nicht funkt?

00:05:22: Also der ist einfach... Der hat eine SD-Karte oder eingebauten Speicher und dieses Gesetz zielt auf Geräte die halt eine Telekommunikationsanlage sind also sprich irgendeine Art von Funktverbindung WLAN Bluetooth haben Und das haben diese Drillen halt zu ihrer Begleitapp auf dem Handy.

00:05:37: Wenn sie das nicht hätten würden die da schon wieder nichts runterfallen.

00:05:40: Da ist dann der Moment für mich gekommen, wo ich denke vielleicht wäre das denn die Sache gewesen?

00:05:43: Oh hey!

00:05:44: Hey!

00:05:44: Und wir hätten anfangen können.

00:05:46: Dass wir sagen wieso bitte fangen wir da an mit irgendwelchen Kommunikationsanlagen statt einfach mal zielgerichtet auf Sachen zu gehen, die eben genau dafür gemacht werden so ein Spannerwerkzeug zu sein weil ganz ehrlich also einen Kugelschreiber mit einer Kamera.

00:06:00: Das ist wirklich ein Spannwerkzeug.

00:06:02: Wäre es technisch eigentlich möglich, dass diese KI-Brillen zwar mit Kameras verkauft werden aber das die Bilder oder Videos nirgendwo gespeichert oder zugänglich sind?

00:06:13: Die Aufzeichnung an sich kannst du weil das hier in meiner Cloud verwertet oder ausgebärt wird schwierig ausbauen.

00:06:18: Aber was natürlich machen können ist, du sagst du gibst diese nicht raus.

00:06:21: also sie geht dann in die KI die Cloud für die KI aber du kriegst halt das Ding nicht raus.

00:06:26: Das war die Idee von diesem chinesischen Unternehmen hat die einfach nur intern halt, dass in irgendein Speicher hatte.

00:06:34: Dass dann über die Cloud abgeglichen hat und da habt ihr es gelöscht!

00:06:38: Also das kannst du auch sehen wie das funktioniert.

00:06:40: Es gibt so ein Chat-Protokoll jedenfalls bei eine Karikamera.

00:06:43: Und wenn du da reingehst, dann siehst du so ganz kleine Thumbnails.

00:06:47: Die könntest du für gar nichts mehr verwenden aber dann siehst du halt Kede hat das dieses Aufnahme gemacht.

00:06:51: Könntest immer noch sehn Eier.

00:06:52: okay die Aufnahme hat geklappt, aber eben halt wo viele können.

00:06:55: Vielen Dank Nico für diese Einschätzung.

00:06:58: KI-Konzerne wie OpenAI oder Anthropic haben bereits Verträge mit Inhalteanbietern geschlossen, um ihre KI zu verbessern.

00:07:07: Bei Apple steht nun ähnliches an – der Konzert verhandelt mit großen Verlagen über mehrjährige Inheitslizenzen für seine überarbeitete Sprachassistentin Siri AI.

00:07:18: Das KI-System soll so auch aktuelle Nachrichten und Informationen liefern können!

00:07:23: Anders als bei bisherigen Vereinbarungen in der Branche strebt Apple laut dem Wall Street Journal kein Garantiezahlungsmodell an, sondern eine nutzungsabhängige Vergütung.

00:07:34: Das Budget dafür soll im neunstelligen Bereich liegen!

00:07:38: Wie genau Verlagsinhalte im KI-System dargestellt werden ist allerdings noch unklar – aber die Zeit drängt.

00:07:45: Siri AI kommt bereits im September mit iOS.

00:07:50: Nutzende in Europa müssen allerdings aus regulatorischen Gründen noch länger warten.

00:07:56: Europas KI-Hoffnungsträger Mistral AI stellt sein Geschäft breiter auf.

00:08:02: Unter anderem will das französische Unternehmen künftig nicht mehr nur eigene Modelle über seine Plattform anbieten.

00:08:08: Thomas Love, Besmalino Vitsch von Heise Online mit den Einzelheiten

00:08:15: Der erste betrifft den kostspieligen Ausbau eigener Rechenkapazität in Europa.

00:08:21: Dafür bringt das Unternehmen eine Gruppe großer europäischer Unternehmen und Institutionen zusammen, die mehrjährige Kapazitätszusagen machen sollen.

00:08:30: Diese gebündelte Nachfrage soll misstral helfen neue Infrastruktur in einer Größenordnung aufzubauen, die einzelne Teilnehmer allein kaum sichern

00:08:40: können.".

00:08:43: Der zweite Schritt betrifft die Verfügbarkeit der Rechenkapazität und die Frage, wo KI Anfragen verarbeitet werden.

00:08:51: Unternehmenskunden können nun festlegen ob die eigentliche KI-Inferenz und die damit verbundene Verarbeitung in Europa oder den USA erfolgen.

00:09:01: Laut dem Nachrichtenportal VentureBeat plant Mistral zusätzlich eine Variante, bei der die Verarbeitung nicht nur in Europa sondern vollständig auch von Mistral kontrollierter Infrastruktur stattfindet.

00:09:13: Also ohne große Cloudanbieter!

00:09:16: Der dritte Schritt ist zugleich so überraschend.

00:09:19: Mistral will neben der eigenen KI künftig auch Open-Wade Modelle anderer Entwickler über seine Plattform anbieten.

00:09:26: Den Anfang macht GLM-Fünfpunkt zwei des chinesischen KI Labors ZAI.

00:09:31: Es soll auf derselben Infrastruktur laufen und denselben regionalen Vorgaben und Service zu sagen unterliegen wie Mistras eigene Modelle, die Firma begründet den Schritt damit dass moderne KI Anwendungen zunehmend unterschiedliche Modelle und Fähigkeiten kombinieren und Unternehmen deshalb neben der Kontrolle über die Infrastruktur auch freie Modellwahl benötigen.

00:09:54: Mistral ist Technikchef, Timothée Lacroix setzt daher darauf das Unternehmen verstärkt Rechenleistung auf seinen Rechenzentren beziehen.

00:10:03: Bietet Mistral dort auch fremde Modelle an kann es an deren Bereitstellung verdienen, selbst wenn Kunden kein Mistralmodell nutzen.

00:10:11: Strategie steutet sich damit eine stärkere Verschiebung vom Modellentwickler hin zum Infrastruktur und Plattformanbieter an bei dem die reichen Kapazität wichtiger werden könnte als einzelne Modelle.

00:10:25: Vielen Dank, Tomislav!

00:10:27: Taiwan hat einen KI-gestützten Cyberangriff aus dem Ausland auf staatliche Behörden bestätigt.

00:10:34: Seit dem zwanzigsten Juli wurden Gegenmaßnahmen eingeleitet.

00:10:37: Welche Behörde betroffen waren und ob Daten gestohlen wurden, teilte das Digitalministerium nicht mit.

00:10:44: Das israelische Cyber-Sicherheitsunternehmen Dream berichtet jedoch, dass die Angreifer aus frei verfügbaren KI-Agenden wie OpenClaw ein weitgehend autonom arbeitendes Werkzeug bauten.

00:10:56: Das soll sich wie ein koordiniertes Hackerteam verhalten und Anfang Juli über vier Tage hinweg zeitweise bis zu acht KI-Agenten gleichzeitig eingesetzt haben!

00:11:07: In den Netzwerken von einundzwanzig staatlichen Stellen haben diese nach Schwachstellen gesucht und bei Widerstand ihre Vorgehensweise verändert.

00:11:16: Mindestens fünfundachtzig Regierungskonten seien geknackt, mehr als zweitausendfünfhundert Personaldatensätze abgezogen worden.

00:11:24: Der Angriff habe sich auch gegen Taiwan's Atomaufsicht und mindestens sieben Energieunternehmen gerechtet.

00:11:31: Laut Dream deuten vereinfachte chinesische Schriftzeichen in der internen Kommunikation auf einen Betreiber mit Verbindung zu China hin.

00:11:41: Viele Menschen vertrauen Chatbots inzwischen sehr persönliche Dinge an, meist beschäftigt sich die Forschung mit den Antworten der KI oder den Prozessen im Sprachmodell, die zu diesen Antworten führen – aber wie sicher ist eigentlich das was wir an einen Chatbot schreiben?

00:12:01: Jonathan Kemper von The Decoder berichtet.

00:12:04: Aus der Antwort eines Chatbots lässt sich offenbar ziemlich genau zurückrechnen, was jemand gefragt hat.

00:12:09: Ein Team der indischen Technikhochschule IIT Bombay und von Adobe Research hat dafür ein Modell gebaut das eine fertige KI-Antwort liest und daraus den Promptreh konstruiert, der sie ausgelöst hat.

00:12:20: Der Trick steckt in der Blickrichtung.

00:12:22: Normalerweise sagt ein Sprachmodell immer das nächste Talken voraus.

00:12:26: hier läuft es umgekehrt.

00:12:30: Die Forscher nennen das Previous Token Prediction.

00:12:33: In Tests traf das Rückwärtsmodell einzelne Eingaben wortwörtlich und lieferte gleich mehrere sinngleiche Varianten dazu, die beim Original-Modell zu sehr ähnlichen Antworten führten.

00:12:43: Zugriff auf die Modellgewichte braucht es dafür nicht – es reicht der ausgegebene Text!

00:12:48: Und es funktioniert auch über Modellgrenzen hinweg.

00:12:50: Trainiert wurde auf einem kleinen Quenn-Model, rekonstruiert hat es anschließend auch Prompts aus GPT-IVO antworten.

00:12:57: Ein Angreifer müsste also nicht einmal wissen….

00:12:59: welches Modell hinter einer Ausgabe steckt.

00:13:02: Getestet hat das Team allerdings nur kurze Eingaben von ein bis zwei Setzen, also ungefähr das was Nutzer typischerweise in ein Chatfenster tippen.

00:13:10: Für vertrauliche Nutzerfragen ist das Risiko damit greifbar – ob sich auf demselben Weg auch lange Systempromz von Unternehmen auslesen lassen und in den Geschäftsgeheimnisse oder Moderationsregeln stecken, hat das Paper nicht untersucht.

00:13:25: Google bringt Gemini-Dreibung sieben Flash nur drei Wochen nach Gemini Drei Punkt sechs Flash heraus.

00:13:32: Es sei nun Googles bislang leistungsfähigstes Modell der Flash Reihe für Coding und Agentenaufgaben, doch ein Vergleich mit den Konkurrenzmodellen in den obligatorischen Benchmarks fällt gemischt aus.

00:13:45: Parallel haben Cerebras & OpenAI – die neuen Servicetier Ultra Fast für GPT-Fünf-Punktex Sol vorgestellt!

00:13:54: Beschleunigt von Serbras Waferscale Engine Hardware soll dieser Modus bis zu vierzehnmal schneller als der Standardmodus sein.

00:14:02: Im Wissensbenchmark Humanities Last Exam soll dieses Modell alle zweitausendfünfhundert Fragen in gut elf Stunden beantwortet haben, während Anthropics Cloud Fable V für eine vergleichbare Genauigkeit mehr als drei Tage gebraucht habe!

00:14:18: Unterdessen hat DeepSeek das Sprachmodell V-IV Pro allgemein freigegeben.

00:14:24: Es verspricht vor allem deutlich produktivere Agenten, neu ist auch eine einstellbare Reasoning-Intensität für V-V-Pro und V-VI Flash – niedrig für einfache Aufgaben hoch für alltägliche Agentenworkflows und maximal für komplexe Aufgabenstellungen!

00:14:42: Das stärkste KI-Modell am Markt findet bei Unternehmen kaum Abnehmer.

00:14:48: Im ersten Monat nach dem Start empfiehlen nur rund sechs Prozent der bei Anthropi gekauften Tokens auf Fable-Fünf.

00:14:56: Das zeigen Daten des Finanzdienstleisters Ramp.

00:14:59: OpenAI's Flugship GPT-Five-PunktexSoul kommt im eigenen Haus auf twenty-fünf Prozent.

00:15:07: Der nahelingende Grund ist der Preis, Fable fünf kostet etwa doppelt so viel wie die OpenEye Konkurrenz.

00:15:14: Offenbar ist damit eine Obergrenze erreicht, ab der Firmen den Aufpreis für mehr Leistung nicht mehr zahlen wollen – zumal sich diese Leistungssteigerungen im Arbeitsalltag kaum in Zahlen fassen lässt.

00:15:26: Erfahrende Nutzerinnen und Nutzer weichen stattdessen immer öfter auf offene Modelle aus, deren Fähigkeiten den kommerziellen Spitzmodellen nur noch wenige Monate hinterher hinken.

00:15:37: Twitch nutzt Streams, Clips & Chats für das Training der Amazon KI.

00:15:43: Wer das nicht will, muss die Funktion abstellen.

00:15:46: Wie das geht, erklärt Daniel Herbig von Heise Online.

00:15:49: Die Situation ist ein bisschen kurios.

00:15:51: Twitch ist mit der Meldung an die Öffentlichkeit gegangen, dass man die Nutzung der privaten Inhalte für das Training von KI-Modellen jetzt abschalten kann und hat es dann quasi als positive Neuerung dargestellt.

00:16:02: Und die Reaktion aller Twitch-Nutzer war halt ... Moment mal!

00:16:06: Das wird zum Training von KAI Modellen genutzt?

00:16:09: weil das hat Twitch vorher nirgends so wirklich öffentlich angekündigt.

00:16:13: Das heißt, es sind alle jetzt ein bisschen aus den Wolken gefallen und es gibt auf jeden Fall auch nicht Kritik an dem Vorgehen einerseits dass es überhaupt gemacht wird und andererseits dass diese Option jetzt standardmäßig angeschaltet ist.

00:16:27: also man kann sie zwar ausschalten in den Kontoreinstellungen aber wer das nicht macht hat die eben standardmäßig an und trainiert die KI mit den eigenen Chats mit Was dann noch dazukommt, selbst wenn man es abschaltet ist das eigentlich nur eingeschränkt nützlich.

00:16:42: Weil wenn man in einem Chat von einem anderen Streamer schreibt, dann gilt die Einstellung von diesem Streamer nicht die eigene.

00:16:50: Das heißt man wird da quasi in Zippenhaft genommen und man kann sich also auch als gut informierter Nutzer der da manuell aktiv wird, kann man sich nur eingenschränkt schützen.

00:17:00: Danke Daniel.

00:17:01: In Indien hat der Chef der Zentralbank Sanjay Malhotra vorgeschlagen, KI für Kreditentscheidungen einzusetzen – gerade auch für Anfragen die menschliche Bankangestellte ablehnen würden.

00:17:14: Denn in Indien fehlt vielen Menschen und kleinen Betrieben ein Bankkonto und eine formale Buchhaltung.

00:17:20: Für Banken gelten sie daher meist als kreditunwürdig!

00:17:24: KI könnte aber auch alternative Daten, wie zum Beispiel Stromzahlungen oder digitale Aktivitäten auswerten um Kreditwürdigkeit zu beurteilen.

00:17:34: Zusätzlich soll KI die Kundenbetreuung effizienter machen und Sprachbarrieren abbauen da Indien viele Amtssprachen hat und ein erheblicher Teil der Bevölkerung nicht lesen kann Um bekannten Risiken wie fehlender Nachvollziehbarkeit oder mögliche Diskriminierung entgegenzuwirken, müsse am Ende aber immer ein Mensch die Entscheidung verantworten, betonte der Indische Zentralbankchef.

00:17:59: Das war das KI-Update von Heise Online vom vierzehnten August, zwanzig.

00:18:04: Eine neue Folge gibt es Montags, Mittwochs und Freitag ab fünfzehn Uhr!