KI-Update kompakt: KI-Moderation, Finanzmarkt, Datenschutz, GPT-Images

00:00:02: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: Meta setzt verstärkt auf KI-Moderation statt menschlicher Prüfer, jede Menge Warnsignale am KI Finanzmarkt.

00:00:25: Kritik an Stellenkürzungen beim Datenschutz in Baden-Württemberg – und lange Prompts sind nicht mehr nötig!

00:00:33: Metta will die Moderation auf den hauseigenen Social-Media-Plattform bis Ende des Jahres weitgehend automatisieren.

00:00:40: LLMs sollen menschliche Prüferinnen und prüfer ersetzen, und die Effizienz steigern – das sorgt für Kritik, berichtet Malte Kirchner aus dem Heise Online Newsroom.

00:00:50: Wer etwas auf Instagram oder bei Facebook postet muss sich künftig immer häufiger dem Urteil einer KI fügen.

00:00:57: Laut einem Bericht der Financial Times will Meta die Moderation von Inhalten auf seinen Plattformen bis Ende des Jahres weitgehend automatisieren.

00:01:04: Schon heute haben Large-Language-Models, die Hälfte aller menschlichen Überprüfungsanfragen ersetzt.

00:01:09: Bis Ende hier soll dieser Anteil weitersteigen – bei bestimmten Inhaltstypen sollen dann neun von zehn Moderationsentscheidungen allein von der KI getroffen werden.

00:01:19: Warum macht Meta das?

00:01:21: Offiziell lautet die Antwort bessere Qualität!

00:01:24: Interne Testzetten gezeigt, dass die KI-Systeme im Schnitt dreizehn Prozent weniger Fehler machen und sogar zehn Prozent mehr Regelverstöße aufdecken als menschliche Prüfer.

00:01:34: Inoffiziell – und das bericht in Informanten der Financial Times geht es vor allem ums Geld!

00:01:39: Meta investiert massiv in künstliche Intelligenz und die KI Moderation soll helfen diese Milliarden schweren Investitionen gegen zu finanzieren.

00:01:47: Meta selbst bestreitet das.

00:01:49: Interessant ist auch der technische Wechsel im Hintergrund.

00:01:51: Bislang soll Meta für die KI-Moderation auf Google Geminal gesetzt haben.

00:01:55: Jetzt wurden Mitarbeiter angewiesen, auf Metas eigenes Modell umzusteigen – es heißt Muse Spark und stammt aus Metas neuen Superintelligence Labs.

00:02:03: Doch die Umstellung läuft nicht reibungslos.

00:02:06: Intern gibt es laut FT Kritik.

00:02:08: Die KI mache Fehler etwa wenn sie harmlose Inhalte sperrt oder unsichtbar macht.

00:02:12: Und es fehlen an geeigneten Methoden, um die Leistung der Systeme wirklich zuverlässig zu messen.

00:02:18: Meter weiß das zurück.

00:02:19: Was das für die Beschäftigten bedeutet, liegt auf der Hand.

00:02:22: Zunächst trifft es vor allem Vertragsfirmen, die mit Moderationsaufgaben betraut waren und deren Verträge schlicht nicht verlängert werden.

00:02:28: Langfristig dürfte der Automatisierungsschub aber auch bei Meterselbststellen kosten Und das ist der größere Kontext.

00:02:35: Meta-Chef Mark Zuckerberg hatte schon Anfang des Jahrzehntes angekündigt, einzelne Mitarbeiter mit KI so auszurüsten, dass sie die Arbeit ganze Abteilungen erledigen können.

00:02:45: Die Inhaltemoderation ist offensichtlich nur der Anfang.

00:02:49: Vielen Dank, Maite!

00:02:51: Der Sächsische Landtag hat eine umfassende Reform des Polizeigesetzes verabschiedet, die der Polizei weitreichende KI basierte Überwachungsbefugnisse einräumt.

00:03:01: Kernstück der Reform ist der Einsatz künstlicher Intelligenz für automatisierte Videoüberwachung.

00:03:08: Die KI-Systeme können Personen über mehrere Kameras verfolgen, Verhaltensmuster analysieren, gefährliche Gegenstände erkennen und biometrische Gesichterkennungen in Echtzeit durchführen.

00:03:20: Zusätzlich dürfen Ermittler KAI-Ssystemen nutzen die Gesichter und Stimmen mit frei zugänglichen Internetdaten abgleichen.

00:03:28: Die Verabschiedung erfolgte unter Zeitdruck, da das Verfassungsgericht eine Neuregelung bis Ende Juni gefordert hatte.

00:03:34: Während in Minister Schuster das Gesetz als ausgewogenen Kompromiss verteidigt, kritisieren Opposition und Bürgerrechtsorganisation den Aufbau einer umfassenden Überwachungsinfrastruktur – der Chaos Computer Club warnt vor großem Missbrauspotenzial durch die neuen KI-gestützten Überwachungstechnologien.

00:03:55: Die US-Großbank JP Morgan sieht zahlreiche Warnsignale an den Finanzmärkten rund um künstliche Intelligenz.

00:04:03: In einer Analyse beschreibt die Bank eine aktuelle, übertriebene Begeisterung der Investoren.

00:04:08: Seit dem Start von ChatGPT Ende Treiben demnach nur zweiundvierzig KI-Unternehmen im US-Lightindex S&P fivehundert bis zu achtzig Prozent der Gewinne, Erträge und Investitionen des gesamten Index.

00:04:25: Kim Scheurenbrand von The Decoder mit den Einzelheiten.

00:04:28: Besonders auffällig findet die Bank, die Entwicklung bei Halbleiter-Aktien.

00:04:32: Die Rally zeige technische Muster wie zuletzt während der Dotcom Blase.

00:04:37: Erstens seien Hedgefonds stark in Chip und Hardware Aktien investiert.

00:04:41: Zweitens an der koreanischen Börse stiegen auf kreditfinanzierte Käufe – dort werden unter anderem ein Großteil der Speicher für KI Systeme hergestellt.

00:04:50: Und drittens auch der Handel mit halbreiter Option durch private Anleger nehme zu.

00:04:55: Eine weitere Sorge sind gehebelte CHIP ETFs.

00:04:58: Das sind Indexfunks, die Kursbewegungen verstärken.

00:05:02: Ihr Einfluss auf die globalen Aktienmärkte habe sich seit Anfang im Jahr zwanzig verfünffacht.

00:05:08: Die zehn größten US-Aktien machen inzwischen rund vierzig Prozent der Marktkapitalisierung des S&P Five Hundred aus.

00:05:14: Viertausendfünfzehn waren es noch siebzehnt Prozent.

00:05:17: Auf der Chiphersteller NVIDIA Gerät zunimmt unter Druck.

00:05:21: Sein Anteil am Markt für KI-Beschleuniger, also spezielle Chips für KI Berechnungen, falle laut JP Morgan von Risiken sieht die Bank zudem bei den Einnahmen der führenden KI-Laborer wie OpenAI und Anthropic.

00:05:52: Ihre Umsätze stiegen zwar rasant, die Ausgaben für Rechenleistung seien aber enorm.

00:05:58: Steigende Preise für die KI Nutzungen könnten KI Firmen dazu bewegen auf günstiger Open Source Modelle umzusteigen.

00:06:05: Insgesamt schaffe KI damit laut JP Morgan mehrere Schichten von Konzentrationsrisiken – sie betreffen die Märkte, die Infrastruktur und die globale Wirtschaft.

00:06:16: Danke schön, Kim.

00:06:18: Die US-Regierung hat die Sperre von Anthropics KI-Modell Claude Mythos teilweise aufgehoben – nicht etwa durch ein Dekret von Präsident Donald Trump sondern per Brief vom Handelsminister Howard Lattnick.

00:06:30: Darin stellt er fest, dass geeignete Sicherheitsvorkehrungen getroffen wurden um vertrauenswürdigen Partner den Zugang zu ermöglichen.

00:06:38: Diese Safeguards sollen verhindern, dass das KI- Modell nach einem Jailbreak gefährliche Aufgaben ausführt.

00:06:45: Ansropik unterliegt allerdings weiterhin als Supply Chain Risk strengen Exportkontrollen.

00:06:51: Nur etwa einhundert Firmen und Behörden sollen Zugang zu Mütters erhalten.

00:06:56: Berichte deuten darauf hin, dass auch die NSA das Modell für offensives Cybertag nutzen darf.

00:07:02: Das entschärfte Modell Fable V bleibt weiterhin gesperrt!

00:07:06: Die rechtliche Grundlage für diese strenge Regulierung der KI-Modelle ist unklar.

00:07:11: Zeirreiche Firmen unterstützen Anthropic in dessen Klage gegen die Einstufung als Sicherheitsrisiko und kritisieren das Vorgehen, als willkürlich.

00:07:21: Unter strengen Auflagen der US-Regierung durfte OpenAI dabei GPT-Fünf-Punkzechs veröffentlichen.

00:07:28: Diese neue KI Generation soll mit Anthropics Mythos Fünf konkurrieren!

00:07:32: Das System wurde ebenfalls für die breite Öffentlichkeit gesperrt, nur ausgewählte Kunden haben Zugriff.

00:07:39: GPT-Fünfpunkt sechs bietet verbesserte agentische Fähigkeiten in Programmierung, Biologie und Cybersicherheit sowie verstärkte Schutzmaßnahmen gegen Missbrauch.

00:07:48: Echtzeitklassifikatoren überwachen kontinuierlich die Antworten um Missbraucht zu verhindern – selbst bei Jailbreak versuchen!

00:07:56: Die neue Generation umfasst drei Modelle – Terror für den Alltagsgebrauch Luna für Schnelligkeit und Sol als Flaggschiff.

00:08:04: Sol Ultra erweitert Sol um zusätzliche Subagenten für höhere Leistung.

00:08:10: In Benchmark Tests übertrifft Sol das Konkurrenzprodukt Mythos V bei Programmieraufgaben.

00:08:15: Bei Cyber-Sicherheitstasks erreichen alle Modelle dieselbe Leistungen wie Mythos Preview benötigen aber nur ein Drittel der Toge!

00:08:23: Auch preislich unterbietet OpenAI die Konkurrenz deutlich mit zwei Dollar Fünfzig pro einer Million Input-Token gegenüber zehn Dollar bei Anthropik.

00:08:34: Die Baden-Württembergische Landesregierung plant, bei der Datenschutzbehörde vierzig Prozent der Stellen einzusparen – so steht es im Koalitionsvertrag!

00:08:43: Sie begründet diesen Schritt mit der föderalen Modernisierungsagenda, die eine Bündelung von Kompetenzen auf Bundesebene vorsieht.

00:08:51: Parallel will Grün-Schwarz allerdings den Einsatz von künstlicher Intelligenz zu Überwachungszwecken deutlich forcieren.

00:08:58: Im CT-Datenschutz-Podcast Auslegungssache sprach mein Kollege Holger Bleich und Heisejustizierer Jörg Heydrich mit Professor Tobias Kehbern.

00:09:08: Er ist der Landesbeauftragte für Datenschutz und Informationsfreiheit in Baden-Württemberg, hatte solche Einschnitte nicht erwartet.

00:09:21: Ich glaube gerade auch unser Haus, aber das machen andere Häuser mindestens genauso gut.

00:09:25: Die Beratung kostet Kapazität – das ist so!

00:09:30: Wahrscheinlich kann ich sogar manchen Bescheid schneller schreiben als eine ordentliche Beratungen zumachen.

00:09:35: und wenn man dann spart ja was heißt das?

00:09:38: Und dann muss man sich ehrlicherweise diesen ganzen Koalitionsvertrag durchlesen fällt ja schon auf, dass hier Bereiche polizeiliche Befugnisse also ganz viel mit KI.

00:09:53: Videoschutz lese ich hier.

00:09:55: Intelligente Videoüberwachung Ich lese BodyCams sollen ausgebaut werden.

00:10:00: Automatisierter Bildabgleich im Internet.

00:10:02: Also hier wird an einer Stelle nicht aufgerüstet sagen Aber also jedenfalls technisch neue Verfahren bei denen normalerweise das Bundesverfassungsgericht auch sagen würde, ja wenn hier hoch gerüstet wird dann muss es irgendwie eine Kompensation geben.

00:10:23: Auch bei der Aufsicht und das Gegenteil ist der Fall.

00:10:26: jetzt kann man natürlich sagen Ja betrifft nur in Anführungszeichen den nicht öffentlichen Bereich.

00:10:30: aber man muss das immer im Ganzen sehen.

00:10:31: was macht das mit einer Behörde?

00:10:33: Und die also der Datenschutz wird an dieser Stelle überhaupt nicht gestärkt sondern klein definiert.

00:10:40: Und die nächsten Fragen sind dann ja gut vierzig Prozent bei uns weg.

00:10:44: Die müssten dann wachsen, die dann auf bei BFDI.

00:10:48: oder verspricht man sich da irgendwelche Skaleneffekte?

00:10:50: und wenn ja ist das irgendwie belegt?

00:10:53: hat das irgendwann mal ausgerechnet?

00:10:55: Oder was ist eigentlich die Grundlage?

00:10:57: Das komplette Interview hört ihr in der aktuellen Folge des CT-Datenschutz Podcasts Auslegungssache.

00:11:03: Da berichtet Keva auch davon dass KI zu einer Flut von Beschwerden führt, die seine Behörde zusätzlich belasten.

00:11:12: Die Klagewelle gegen KI-Firmen reißt nicht ab – jetzt nehmen fast vierhundert US-Nachrichtenportale aus drei und dreißig Bundesstaaten Microsoft und OpenAI ins Visier!

00:11:24: Die Verlage werfen den Unternehmen vor ihre Inhalte ohne Erlaubnis für das Training von KI-Systemen wie Charge-GPT und Co-Pilot verwendet zu haben.

00:11:33: Laut Klageschrift haben die Konzerne systematisch und heimlich Webseiten durchsucht und Inhalte gespeichert, auch solche hinter Bezahl schranken.

00:11:42: Die Verlage sprechen von systematischen Deep-Stahl urheberrechtlich geschützter Artikel – sie fordern Schadenersatz und das Ende der Urheberrechtsverletzungen.

00:11:52: Die Klagenen argumentieren, dass Microsoft und OpenAI durch die KI-Modelle hunderte Milliarden Dollar Marktwert gewonnen haben während die Verlage nicht zerhielten!

00:12:02: OpenAI-Chef Sam Altmann hatte zuvor erklärt, es sei unmöglich, führende KI-Modelle ohne urheberrechtlich geschützte Materialien zu trainieren.

00:12:11: Diese Klage reiht sich nun in eine wachsende Zahl von juristischen Auseinandersetzungen um KI Training ein.

00:12:18: Zuvor verklagten bereits die New York Times, Encyclopedia Britannica und andere Medienunternehmen OpenAI wegen ähnlicher Vorwürfe.

00:12:27: Gleichzeitig geraten Nachrichtenverlage vonseiten Googles verstärkt unter Druck.

00:12:32: Verlage, die an KI-generierten Artikelübersichten und Audiobriefings teilnehmen möchten, müssen Google weitreichende Nutzungsrechte an ihren Inhalten einräumen.

00:12:42: Diese Rechte umfassen auch das Training von KI-Modellen.

00:12:46: Das Problem entsteht durch die Verknüpfung mit Google Showcase – einem bestehenden Lizenzprogramm.

00:12:52: Verlage erhalten dort Vergütungen für kuratierte Inhalte.

00:12:56: Google droht damit, Showcase auslaufen zu lassen.

00:13:00: Verlage müssen daher zum neuen KI-Programm wechseln, um ihre bisherigen Zahlungen zu behalten.

00:13:05: Damit wird die Situation für Nachrichtenmedien immer angespannter.

00:13:09: Googles AI Overviews beantworten Anfragen bereits direkt und resuzieren somit Websitebesuche – dadurch erodiert das werbebasierte Geschäftsmodell vieler Medien.

00:13:19: Die britische Wettbewerbsbehörde reagierte bereits und verpflichtete Google, Verlagen mehr Kontrolle über ihre Inhalte zu geben.

00:13:27: Langfristig müssen Verlage jedoch Wege finden, um ihre Abhängigkeit von Google zu reduzieren.

00:13:33: Ende Aprilen hatte OpenAI den neuen Bildgenerator GPT-Images II.null in ChatGPT integriert – er soll sich durch sein hohes Kontextverständnis auszeichnen!

00:13:44: Mein Kollege André Kramer von der CT hat jetzt mit der Produktleiterin Der Lee gesprochen und herausgefunden, dass sich nicht nur an der Leistung des Modells so einiges verändert hat….

00:13:55: OpenAI will ChatGPT zu einem Werkzeug für professionelle visuelle Kommunikation machen.

00:14:00: Das ist im April eingeführte Bildmodell, verarbeitet Bilder, Texte und Layouts gemeinsam.

00:14:04: Und dadurch kann ChatGPT nun nicht nur fotorealistische Motive erzeugen sondern auch infografischen Anleitungen Präsentationsfolien oder Plakate also alles mit lesbarem Text in einer konsistenten Gestaltung.

00:14:17: Laut Li war OpenAI vor allem darüber überrascht wie Nutzer die Technik inzwischen praktisch einsetzen.

00:14:25: sie berichtet von Eltern die individuell gestaltete Unterrichtsmaterial und Kinderbücher erstellen, oder von kleinen Unternehmen die Werbematerialien- und Bedienungsanleitungen und ihr komplettes Erscheinungsbild in Chatship IT gestalten.

00:14:41: Ein weiterer Wandel betrifft die Eingaben – jahrelang geilts!

00:14:44: Je länger und detaillierter der Promtausfeld ist, desto besser ist das Ergebnis.

00:14:49: Li überrascht, indem sie das Gegenteil empfiehlt.

00:14:51: Nutzer sollen ihre Anweisungen möglichst einfach halten.

00:14:55: Oft reicher eine kurze Beschreibung aus und noch hilfreicher sei ein Referenzbild dessen Stil und Motiv die KI übernehmen kann.

00:15:04: auch Die Bildbearbeitung soll präziser werden.

00:15:06: OpenAI arbeitet daran dass sich gezielt einzelne Bildbereiche verändern lassen ohne den Rest des Motifs um beabsichtig zu verändern.

00:15:14: Genau dieses Problem hatten viele KI-Bildgeneratoren bislang.

00:15:19: Details zu den Trainingsdaten und zum Umgang mit dem Thema Urheberrecht nannte Lee allerdings nicht.

00:15:26: Für die kommenden Jahre sieht OpenAI die Bildkai vor allem in professionellen Anwendungen, neben den bereits jetzt möglichen Marketingmaterialien und Infografiken nennt sie vor allen Dingen Architektur, Industriedesignung und Katzeichnung als mögliche Einsatzgebiete.

00:15:44: Ziel sei ein Werkzeug das visuelle Kommunikation ebenso selbstverständlich unterstützt wie heute das Schreiben von Texten.

00:15:52: Vielen Dank André!

00:15:54: Die Kryptobörse Coinbase hat ihre Software auf chinesische Standard-KI-Modelle umgestellt, um Geld zu sparen.

00:16:02: Laut CEO Brian Armstrong verbraucht das Unternehmen weiter mehr Token als früher – zahlt jetzt aber nur noch die Hälfte!

00:16:09: Dafür nutzt Coinbase unter anderem die Modelle GLM II.V und Kimi II.

00:16:14: VII.

00:16:15: Ein automatisches System leitet jeder Anfrage an das passende Modell weiter.

00:16:20: Dabei berücksichtigt es Aufgabe, Preis und Caching.

00:16:23: Ein besseres Caching habe die Trefferquote von fünf auf sechszig Prozent gesteigert.

00:16:29: Außerdem macht das Unternehmen den Verbrauch jeder Entwickler sichtbar, ohne ihn zu begrenzen – es gilt aber eine Zusatzregel!

00:16:36: Wer mehr ausgibt muss laut Armstrong auch mehr Wirkung nachweisen.

00:16:41: Coinbase ist damit kein Einzelfall.

00:16:43: Der CEO des Startups Lindy äußerte sich kürzlich ähnlich.

00:16:47: Das Datenunternehmen Snowflake testet chinesische Modelle als Alternative zu den teuren westlichen Modellen von OpenAI und Anthropic.

00:16:55: Für diese KI-Labore bedeutet das mehr Preisdruck – das kann im Umfeld anstehender Börsengänge in den USA ein zusätzliches Risiko sein!

00:17:05: Für die Zukunft prognostiziert, dass Marktforschungsunternehmen Gardner einen drastischen Kostenanstieg beim KI gestürzten Programmieren.

00:17:14: Bis in den Jahren bis zum Jahr, soll die Token-Kosten pro Entwicklerin den globalen Durchschnittslon von US-Dollar monatlich übersteigen.

00:17:22: Bereits heute zahlen sechs Prozent der Unternehmen über zwei Tausend Dollar pro Monat und Entwickler für KI-Token.

00:17:29: Der Hauptgrund liegt im raschen Übergang von Testphasen zur großflächigen Einführung von KI Coding Tools – viele Unternehmen unterschätzen dabei die finanziellen Auswirkungen des steigenden Tokenverbrauchs!

00:17:42: Denn Entwicklerinnen und Entwickler priorisieren eher Komfort- und Geschwindigkeit als Kosteneffizienz.

00:17:48: Problematisch ist auch die mangelnde Transparenz bei der Token-Abrechnung und fehlende Kostenoptimierungsfunktionen der Anbieter.

00:17:56: Unternehmen wie Uber berichten bereits von aufgebrauchten Jahresbudgets ohne klaren Nutzen.

00:18:02: Gardner

00:18:03: empfiehlt daher Token Schwellenwerte, automatisierte Überwachung und den gezielten Einsatz kleinerer Modelle für einfache Aufgaben.

00:18:13: Und die Hälfte der Nutzenen von Anthropics Cloud sagt, dass die KI bereits einen großen Teil ihrer Arbeit erledigen kann – das ist das Ergebnis einer Umfrage des KI-Unternehmens unter knapp zehntausend Cloudnutzerinnen und Nutzern.

00:18:27: Etwa ein Drittel können die KI bei dreißig bis sechzig Prozent ihrer Aufgabe einsetzen.

00:18:32: Jeder Siebte könne KI sogar über bis zu neunzig Prozent nutzen!

00:18:37: Mehr als ein Viertel der Befragten rechnen damit, dass KI den Großteil ihrer Arbeit in zwölfen Monaten übernehmen kann.

00:18:43: Ansropik betont aber das sich die Umfrage auf konkrete Aufgaben bezieht – etwa einen Text schreiben!

00:18:50: Arbeit sei jedoch mehr als die Summe aller Aufgaben.

00:18:54: Interessant ist auch die Einschätzung der eigenen Zukunft.

00:18:57: Berufseinsteiger sehen den höchsten Anteil an KI-fähigen Aufgaben und sorgen sich am meisten um ihren Arbeitsplatz Aber ausgerechnet die intensivsten Chlord-Nutzerinnen glauben hingegen, dass ihre eigenen Fähigkeiten an Wert gewinnen.

00:19:12: Die meisten befragten hoffen auf eine Zusammenarbeit mit der KI – sie wünschen sich das KI langweilige Routinearbeiten übernimmt und die Gewinne breit geteilt werden!

00:19:25: Das war das KI-Update von Heise Online vom neunundzwanzigsten Juni.

00:19:30: Ein neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr!