KI-Update kompakt: Trainingsdaten, OpenAI Astra, Fotografie, Sonnenstürme

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Streit um Daten- und Lizenzen fürs KI Training – OpenAI bremst Modellentwicklung aus!

00:00:24: KI bewirkt Kulturwandel in der Fotografie Und?

00:00:28: KI-Modell sagt Sonnenstürme früher vorher.

00:00:33: Künstliche Intelligenz braucht für das Training Daten, und zwar massenhaft.

00:00:39: Doch wem gehören diese Daten eigentlich?

00:00:42: Und wer muss wie viel dafür

00:00:44: bezahlen?!

00:00:45: Genau darum tobt gerade in Brüssel ein heftiger Streit – die europäische Tech-Industrie fordert einen unkomplizierten und rechtssicheren Zugang zu großen Datenmengen um wettbewerbsfähige KI-Modelle zu trainieren!

00:00:59: Demgegenüber steht die Forderung nach dem Schutz des Urheberrechts sowie einer fairen Vergütung.

00:01:05: Eine EU-Konsultation hat jetzt die tiefen Gräben zwischen beiden Positionen gezeigt, aber auch Kompromissansätze – Marco Pauli von Heise Online mit den Einzelheiten.

00:01:16: Die EU Kommission steht gerade vor einer der schwierigsten netzpolitischen Fragen unserer Zeit!

00:01:22: Wie lässt sich das Training von KI Systeme mit dem schutzgeistigen Eigentums vereinbaren?

00:01:28: Um das herauszufinden, hat die Kommission eine öffentliche Konsultation durchgeführt.

00:01:34: Dabei sind über vierhundert Stellungnahmen eingegangen von Tech-Konzernen, Kreativverbänden Forschungseinrichtungen und Verwertungsgesellschaften.

00:01:43: Im Mittelpunkt der Debatte steht das sogenannte Text-und Data Mining – kurz TDM.

00:01:49: Dabei geht es um das automatisierte Auslesen und analysieren großer Datenmengen.

00:01:54: Die europäische Urheberrechtslinie aus dem Jahr two-tosend neunzehn erlaubt das grundsätzlich auch für gewerbliche Zwecke, allerdings können rechte Inhaber widersprechen – also ein sogenanntes Opt out erklären!

00:02:08: Was damals als vernünftiger Kompromiss galt ist heute juristischer Zündstoff Denn das Training generativer KI-Systeme geht weit über das hinaus, was sich die Gesetzgeber damals vorgestellt haben.

00:02:21: Der Kreativsektor wirft KI Unternehmen nun vor, sich systematisch der Lizenzierung zu entziehen und sogar Raubkopien als Trainingsdaten zu nutzen.

00:02:31: Beim derzeitigen Opt-Out-Prinzip könnten Autorinnen und Autoren Künstlerinnen und Künstlern kaum kontrollieren, ob ihr Widerspruch überhaupt beachtet wird.

00:02:41: Gefordert wird deshalb eine Kehrtwende hin zu einem Opt insystem bei dem KI Unternehmen vorher ausdrücklich um Erlaubnis fragen müssten.

00:02:52: Die Tech-Industrie sieht das grundlegend anders.

00:02:54: Sie argumentieren, dass KI-Modelle keine Texte speichern sondern allgemeine Muster erlernen.

00:03:01: Eine verpflichtende Lizenzierung würde vor allem kleine Akteure treffen und großen Konzernen nützen.

00:03:08: Auch der IT-Verband BITCOM warnt davor Europas Wettbewerbsfähigkeit gegenüber den USA und China zu gefährden.

00:03:16: Trotz dieser verhärteten Positionen gibt es auch konstruktive Vorschläge.

00:03:21: Wikimedia Deutschland etwa schlägt vor, die Vergütungsmechanismen über Verwertungsgesellschaften einzuführen und die Datei Robots TXT als technischen Standard für Opt Outs festzulegen – eine kleine Textdatei wie ein digitales Stoppschild funktioniert mit dem Betreiber das automatisierte Auslesen ihrer Daten durch KI unkompliziert verbieten können.

00:03:46: Die Musikverwertungsgesellschaft GEMA plädiert dafür, nicht nur den Input also das Training zu regulieren sondern auch den Output.

00:03:54: Konkret fordert sie ein neues Verwertungsrecht für die kommerzielle Nutzung KI generierter Inhalte durch Dritte kombiniert mit kollektiven Lizenzen.

00:04:06: Die EU-Kommission muss nun aus diesen sehr unterschiedlichen Impulsen einen tragfähigen Mittelweg formen.

00:04:13: Vielen Dank Marco.

00:04:15: Wie wertvoll Trainingsdaten für KI-Entwickler sind, zeigt auch diese Geschichte.

00:04:20: Google hat sich für zehn Millionen Dollar – die Geschäftsdaten der Bankrotten Billigfluglinie Spirit Airlines gesichert!

00:04:28: Das Datenpaket enthält hunderte Millionen E-Mails und Chatnachrichten sowie Millionenzeilen Quellquote.

00:04:36: All das will Google anonymisiert für das KI-Training verwenden.

00:04:41: Dieses Vorgehen liegt in der Branche gerade im Trend.

00:04:44: KI-Unternehmen kaufen gezielt die Datenschätze insolventer Firmen, um ihre Modelle mit authentischen Geschäftsprozessen zu füttern.

00:04:52: Solche realen nicht öffentlichen Daten sind besonders wertvoll für das Training von KI-Agenten!

00:05:00: Und da Internetdaten weitgehend ausgeschöpft sind und um den Datenhunger trotzdem zu stillen, beschaffen sich KI-Firm inzwischen auch massenhaft Bücher für das Training ihrer Sprachmodelle.

00:05:12: Antiquare berichten von ungewöhnlichen nächtlichen Bestellungen aus Nordamerika die teilweise sechsstellige Gewinne brachten.

00:05:20: Die antiken Bücher werden allerdings häufig beim Scan zerstört da das Abtrennen der Buchrücken schneller und kostengünstiger ist als schon des Digitalisieren.

00:05:31: Anstropic bestätigte in Gerichtsdokumenten ein Project Panama zum destruktiven Scan aller Bücher weltweit.

00:05:39: Während das Vorgehen in Deutschland urheberrechtlich problematisch ist, kann die Buchzerstörung in den USA sogar rechtlich vorteilhaft sein, da sie als Formatwechsel statt als zusätzliche Kopie gewertet wird!

00:05:52: Der unstillbare Datenhunger treibt diese kontroverse Praxis also voran.

00:05:58: Das KI-Unternehmen OpenAI hat die Entwicklung seiner leistungsfähigsten KI-Modelle vorübergehend verlangsamt.

00:06:05: Der Grund soll sein, dass das kommende Modell Astra in internen Tests so starke Fähigkeiten im Bereich Cybersecurity erreicht, dass OpenAI die höchste Risikostufe seines eigenen Sicherheitsframeworks nicht mehr ausschließen kann.

00:06:19: – was das genau bedeutet?

00:06:22: Erklärt Max Schreiner von The Decoder.

00:06:24: Obmeer stoppte das Training seiner Modelle für zwei Wochen insbesondere das Reinforcement Learning, indem die Modelle in Umgebungen lernen etwa zu programmieren oder Werkzeuge zu benutzen.

00:06:33: Der größte dieser geplanten Trainingsanläufe der bleibt auch weiterhin angehalten.

00:06:38: Auch zahlreiche andere Prozesse sollen pausiert sein bis sie neue Sicherheitsanforderung erfüllen.

00:06:43: Ausklagebend waren gleich mehrere Ereignisse.

00:06:46: Neben den Ergebnissen zu Astra gab es ja auch diesen Sicherheitsvorfall auf der Plattform Hackingface, wo ein KI-Modell von OpenAI einprach.

00:06:54: Hinzu kam laut OpenAI auch schnelle Fortschritte in der eigenen Forschung.

00:06:59: Das Unternehmen hat seine Forschungsumgebungen deshalb stärker abgesichert – dazu gehören eine bessere Abschottung im Netzwerk und strengere Testumgebung für den Code der Modelle.

00:07:08: Ein neues Überwachungssystem soll außerdem bei verdächtigem Verhalten innerhalb von dreißig Minuten Alarm schlagen.

00:07:14: Der Aufwand dafür liegt bei etwa zwanzig Prozent des für die Überwachung eingesetzten Rechenbudgets.

00:07:20: Open AI will außerdem sein Sicherheitsregelwerk weiterentwickeln und mehr Geld in die Forschung stecken, damit sich die Modelle wie beabsichtigt verhalten.

00:07:29: Bekannt wurde zuletzt allerdings das Open AI das Team hinter diesem Regelwerk aufgelöst hat – Die Verantwortung soll aber auf andere Teams übergehen!

00:07:37: Kritiker dürften im Unternehmen erneut Angstmarketing vorwerfen, wie schon bei Anthropics Mythos-Meldungen.

00:07:43: So verschafft sich Open AI dann mehr Zeit und Aufmerksamkeit.

00:07:47: Allerdings hat auch das unabhängige staatliche AI Safety Institute ähnlich schädliches Verhalten von Modellen dokumentiert.

00:07:54: Es ist also davon auszugehen dass neben dem Marketing auch ganz ernst zu bedenken diesen Schritt ausgelöst haben.

00:08:01: Danke Max.

00:08:03: Derweil wurde OpenAI bei Umsatz und Profitabilität vom Konkurrenten Anthropic überholt.

00:08:10: Während OpenAIs Umsatz im zweiten Quartal um achtzehn Prozent auf sechs Komma sieben Milliarden Dollar wuchs, verdoppelte sich Anthropics-Umsatz auf elf Komma sechs Milliarden Dollar.

00:08:21: Damit zog das Unternehmen hinter dem Cloud Chatbot am ChatGPT Entwickler vorbei der den aktuellen Kai Boom ursprünglich ausgelöst hatte.

00:08:30: Besonders bemerkenswert ist dabei dass Anthropic im zweiten Quartal erstmals immerhin einen ganz knappen Gewinn erzielen konnte, während OpenAI Verluste von über zwölf Milliarden Dollar einfuhr.

00:08:44: Allerdings ist unklar ob diese Zahlen auch identisch berechnet werden – denn wichtige Hintergründe dazu fehlen!

00:08:51: Doch die Entwicklung allgemein zeigt wie sich die beiden wichtigsten KI-Unternehmen auseinanderentwickeln.

00:08:57: Während der Wirbel um ChatGPT von OpenAI merklich Anfahrt verloren hat, überzeugte Anthropic im Frühjahr mit Claude die Developer-Community und bekam viel Sympathie als es dem Pentagon die militärischen Nutzung der KI verweigerte.

00:09:13: Trotz sinkender Preise für KI-Modelle erwarten die Marktforscher von Gardner deutlich höhere Kosten für die Inferenz agentischer KI.

00:09:22: Bis zum Jahr zwanzig acht sagen sie eine Verfünffachung pro Agenten basiertem Workflow voraus.

00:09:30: Grund dafür sei ein Inferenzparadox – mit sinkenden Preisen sind laut Gardner nun auch komplexere KI-Workflows wirtschaftlich möglich und wenn Unternehmen diese Möglichkeiten nutzen, treibe das den Tokenverbrauch hoch und sorgt für steigende Gesamtkosten.

00:09:48: Aktuell stiegen die KI-Fähigkeiten deutlich schneller an als die Preise fallen können!

00:09:53: Und jede neue Generation von KI-Funktionen benötigt mehr und häufig auch teurere Token.

00:09:59: Ein verlässliches und wirtschaftlich tragfähiges Kostemodell pro Einheit ist derzeit nicht in Sicht, so das nüchterne Fazit des Senior Director Analysts bei Gardner Will Sommer.

00:10:10: Wer wettbewerbsfähige KI Produkte entwickeln will muss komplexe Ökosysteme aus mehreren Modellen aufbauen.

00:10:18: Mehr KI Nutzung bedeutet auch einen steigenden Stromverbrauch.

00:10:23: Der könnte nun durch effizientere Hardware abgefedert werden.

00:10:28: Dafür will Velora AI eine zukunftsträchtige Lösung gefunden haben – das Chip-Design-Startup hat eine Technik entwickelt, mit der die Stromaufnahme von KI Beschleunigern um die Hälfte reduziert werden soll und das ohne Leistungseinbußen.

00:10:43: Dieses Titan Core genannte Chip Design werde bereits in mehr als dreißig Millionen Microchips aus führenden Herstellungsprozessen eingesetzt!

00:10:52: Velora AI wurde vor vier Jahren von Tech-Experten gegründet, die vorher bei Qualcomm Marvel, Nvidia, Intel, Palo Alto Networks Apple und Google gearbeitet hatten.

00:11:02: Bei einer Finanzierungsrunde hat das Startup jetzt US-Dollar eingesammelt – der Wert der kalifornischen Firma übersteigt damit eine Milliarde Dollar!

00:11:12: Die Wirtschaftlichkeit bei der Rechenleistung ist nach Ansicht des Velora-AI-Chefs Rajiv Kamani wichtiger als neue KI-Modelle.

00:11:21: Effizientere Rechenleistung könnte auch ein Baustein sein, um eine Verschärfung des Klimawandels durch den KI-Hype abzuwenden.

00:11:29: Denn abgesehen von Unmengen an Elektronikschrott viel Lärm und einem immensen Wasserverbrauch liegt das wohl größter Problem nicht in den Rechenzentren selbst sondern in der dafür notwendigen Stromerzeugung.

00:11:42: Um diese zu sichern befinden sie sich in den USA derzeit neunundneunzig Gaskraftwerke im Bau oder sind zumindest geplant!

00:11:49: Sie sollen ausschließlich dem Betrieb von KI-Datenzentren dienen.

00:11:54: Sollten alle verwirklicht werden, schätzt Bloomberg NEF den CO² Ausstoß der neuen Kraftwerke auf dreihundertachzehn Millionen Tonnen pro Jahr – damit würden die Fortschritte aus der Reduktion der Kohleverstromung zunichte gemacht!

00:12:10: Allerdings ist es unwahrscheinlich dass alle neuneinzig Gaskraftwerke auch gebaut werden, denn es gibt immer stärkeren Gegenwind aus der Bevölkerung Aufgrund der explodierenden Strompreise.

00:12:22: KI verändert die Fotografie, das spüren Fotograferinnen und FotogRAFEN bereits im Alltag.

00:12:27: Weil Bildgeneratoren inzwischen mühelos technische Perfektionen liefern, verliert das markellose Foto seinen Wert!

00:12:34: Was der Umgang mit KI-Bildern über den Kulturwandel in der Fotografiefahrät erzählen Judy Hohmann und Henrik Fahrteuer in der aktuellen Folge des Podcasts Click Bum Flash – der CT-Photographie.

00:12:47: Jahrzehntelang wurde uns so Schärf- und Perfektion eingebläut.

00:12:50: Und jetzt mache ich dann mein Bild lieber kaputt?

00:12:53: Ja, natürlich!

00:12:53: Jahrzehnelang war eigentlich die Botschaft ein gutes Foto ist ein möglichst fehlerfreies Foto und das ändert sich einfach.

00:13:01: also wir haben durch KI und KI-Bildgenerierung einfach einen Kulturwandel und zwar stellenweise in ganz erheblichen.

00:13:11: perfekte Bilder sind einfach und schnell zu generieren.

00:13:15: Dadurch werden Bilder auch zunehmend fragwürdiger.

00:13:19: Also wenn man inzwischen ein Bild sieht, ein Foto sieht und glaubt Das ist wirklich echt, das kommt immer seltener vor.

00:13:26: Aber

00:13:27: wie soll ich denn das erreichen?

00:13:28: Gebe ich mir einfach keine Mühe?

00:13:30: Weil

00:13:30: wenn ich jetzt anfange, Imperfektion irgendwie zu simulieren dann ist es auch nicht ehrlich!

00:13:35: Es geht im Endeffekt um Glaubwürdigkeit und ich glaube dass Fotografen die sich mal mit einem KI-generierten Bild in die Nesseln setzen Auch ganz schnell einfach ihre Glaubwertigkeit tatsächlich verlieren.

00:13:47: ja Vielleicht

00:13:47: läuft das darauf hinaus, dass man mehr aus dem Moment heraus fotografiert und weniger versucht den perfekten Moment zu inszenieren.

00:13:54: Schwierig!

00:13:55: Also eine ganz wichtige Unterscheidung dabei ist es geht so mehr oder weniger um zufällige technische Schwäche Versus bewusst oder eben sinnvoll eingesetzte Imperfektion.

00:14:06: Ein Fehler, also ist halt dann interessant wenn er etwas über den Moment erzählt.

00:14:10: Wenn technische

00:14:11: Perfektionen jetzt nicht mehr das Alleinstellungsmerkmal ist was passiert da mit dem Kameramarkt?

00:14:15: Weil bisher hieß es ja auch immer Ja du brauchst noch eine bessere Ausrüstung und alles musste noch toller sein.

00:14:21: widerspricht sich das dann jetzt nicht?

00:14:23: Nee, also ich würde sagen auch hier wird es so gesehen einfach feiner.

00:14:28: Es differenziert sich noch ein bisschen aus.

00:14:30: KI verändert einfach Gründe warum Menschen Kameras kaufen.

00:14:34: Ich denke dass in Zukunft Kameras nicht mehr ausschließlich als Präzisionswerkzeuge wahrgenommen werden sondern eben stärker als kreatives und haptisches und letztendlich auch persönliches Instrument bzw Werkzeug.

00:14:48: Unseren Podcast, Klickbumflasch mit Judy Hohmann findet ihr auf der Plattform eurer Wahl oder natürlich bei heise.de slash Podcasts.

00:14:59: Eine Umfrage der Körberstiftung zeigt, dass sich viele Eltern im Umgang mit künstlicher Intelligenz unsicher fühlen!

00:15:06: Mehr als ein Viertel der Befragten schätzt die eigene Kompetenz bei KI-Anwendungen als gering ein – ebenso viele glauben nicht ihre Kinder bei der Nutzung von KI für Schulaufgaben gut unterstützen zu können.

00:15:18: Eine Mehrheit wünscht sich mehr Informationen darüber, wie man KI-generierte Bilder und Videos erkennt – gleichzeitig weiß über die Hälfte der Eltern nicht wo sie entsprechende Hilfe finden kann.

00:15:29: Die Ergebnisse verdeutlichen laut der Körperstiftung eine Wissenslücke und den dringenden Bedarf an niedrigschwelligen Bildungsangeboten um Eltern zu

00:15:38: unterstützen.".

00:15:40: Wohl auch mit den Sorgen der Eltern im Blick hat OpenAI eine spezielle Version seines Chatbots für Jugendliche zwischen dreizehn und siebzehn Jahren entwickelt.

00:15:49: ChatGBT for teens soll Teenagern helfen, kritisches Denken zu entwickeln und KI selbstbewusst zu nutzen.

00:15:57: Das System erkennt die Jugendlichen automatisch – und aktiviert dann den speziellen Modus mit strengeren inhaltlichen Beschränkungen.

00:16:04: Eltern?

00:16:05: können verschiedene Kontrollfunktionen einstellen, darunter Sperrstunden und spezielle Hausaufgabenzeiten.

00:16:12: Während dieser Zeiten wechselt der Chatbot in den Study Mode, der nicht direkt Antworten liefert sondern durch gezielte Fragen zum besseren Verständnis der Materie führt.

00:16:22: Parallel dazu gibt es für Lehrkräfte das bis zum nächsten Jahr kostenfreier Angebot ChatGPT for Teachers.

00:16:30: Im Wettbewerb um die KI-Führung hat das US-Verteidigungsministerium eine Reihe chinesischer Firmen auf eine schwarze Liste gesetzt.

00:16:38: Sie werden wegen Verbindungen zum chinesischen Militär als problematisch eingestuft.

00:16:44: Nun kooperiert das von der Familie des US-Präsidenten Trump unterstützte Kryptounternehmen World Liberty Financial mit dem in Hongkong ansässigen World Claw.

00:16:55: Die KI-Plattform bietet ihren US-Kunden aber Modelle von genau den chinesischen Techunternehmen an, wie nach Ansicht des Pentagon ein Risiko für die nationale Sicherheit darstellen.

00:17:06: Die Trumpfamilie profitiert nun finanziell von der Kooperation – da World Claw die Stablecoin von World Liberty als Zahlungsmittel akzeptiert.

00:17:16: Obwohl die Zusammenarbeit nicht illegal ist halten Fachleute sie für heuchlerisch.

00:17:21: Während die US Regierung vor chinesischer KI warmt?

00:17:24: Verdient der Präsident daran mit.

00:17:32: Ein KI-Modell des New Jersey Institute of Technology kann erste Hinweise auf solche Ereignisse nun viel früher erkennen als bisherige Technik, berichtet Martin Hollern von Heise Online.

00:17:51: stört werden können oder ausfallen können, wenn so ein Sonnensturm genau auf der richtigen Seite der Sonne und zur richtigen Zeit passiert dass die Auswirkungen dann die Erde treffen.

00:18:02: Gleichzeitig ist die Vorhersage solcher Sonnenströme immer noch ziemlich schwierig weil man die Prozesse nicht genau kennt die dazu führen und das teilweise ziemlich schnell gehen kann.

00:18:14: Ein Forschungsteam aus den USA hat jetzt erklärt dass sie einen KI-Modell trainiert haben viel schneller und korrekter vorhersagen kann, wann sich eine sogenannte aktive Region auf der Sonne bilden kann.

00:18:28: Das sind unter Umständen Vorläufer solcher Sonnenstimmen.

00:18:31: also das heißt nicht automatisch dass sich da welche entwickeln.

00:18:34: aber wenn sich welche entwickeln dann fast ausschließlich in so einer aktiven region und dieses KI-Modelle kann die Entstehung so einer Aktivenregion neun Stunden voraus vorhorsagen.

00:18:47: das sei deutlich schneller als bisherige Technik.

00:18:51: Jetzt gibt es aber ein paar Einschränkungen.

00:18:53: Es gibt immer noch zu viele Fehlermeldung, weswegen man das nicht einsetzen kann.

00:18:57: und wie gesagt die Schwierigkeit ist dass sich aus so einer aktiven Region nicht zwangsläufig einen Sonnenstrom entwickeln muss.

00:19:04: trotzdem meint das Forschungsteam, dass das ein wichtiger Meilenstall sei und dass das eine Grundlage bilden könnte künftig vorhersagen zu machen mit denen sich Betreiber von solchen Stromnetzen, Kommunikationsnetzten, Satellitenbetreiber usw.. besser drauf vorbereiten könnten, einfach weil sie ein bisschen mehr Vorwandzeit hätten.

00:19:23: Und was noch sehr spannend war, war dass die gesagt haben das dieses KI-Modell besser funktioniert hat mit mehr Signale es bekommen hat.

00:19:32: also je mehr Messdaten zur Sonne auch wenn Sie bestimmte Signale herausgefiltert haben von denen sie meinen, dass sie eigentlich nichts damit zu tun haben und nur die Vorhersage schweren dann hat das System schlechter funktioniert.

00:19:46: Also dass irgendwas in diesem Sie haben das Rauschen genannt, zu sein scheint was die KI zur Vorhersage benutzen kann.

00:19:53: All das ist natürlich jetzt Teil weiterer Forschung.

00:19:56: Das ist also alles noch nicht praxisbereit aber zeigt wie auch die KI-Technik weiterhin in der Wissenschaft eingesetzt werden kann um praktische Probleme zu lösen.

00:20:06: Danke Martin!

00:20:10: Das System analysiert Studien mit mehreren spezialisierten KI-Agenten, die verschiedene Aspekte wie Methodik, Statistiken und Originalität prüfen.

00:20:27: Kürzlich kürzte es die besten ein Prozent aller Bio-Wissenschaftsstudien des vergangenen Jahres!

00:20:33: Befürworter sehen daran eine Lösung für die Peer Review Krise.

00:20:38: Menschliche Gutachterin und Gutachter sind überlastet – Begutachtungen dauern oft Jahre.

00:20:44: Kritiker bemängeln jedoch die Intransparenz des Systems und befürchten eine weitere Reduzierung der Wissenschaft auf Metriken.

00:20:51: Die KI-Bewertungen seien nicht nachvollziehbar, da Algorithmus und Gewichtungen geheim bleiben.

00:20:57: Viele Forschende favorisieren einen Mittelweg – KI als Unterstützung bei menschlichen Peer Review!

00:21:04: Nicht als Ersatz.

00:21:07: Das war das KI-Update von Heise Online vom.

00:21:12: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.