KI-Update kompakt: OpenAI For-Profit, GitHub AgenHQ, Halluzinationen, Spesen

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: OpenAI schließt Umbau zur Gewinnorientierung ab.

00:00:22: GitHub startet Agent HQ.

00:00:25: Warum sind so viele Chatbot-Antworten falsch?

00:00:27: Und KI-Tools erleichtern Spesenbetrug.

00:00:32: Lange hat OpenAI daran gearbeitet, die eigene Struktur von Non-Profit zu For-Profit zu ändern, damit Investoren Geld zurückbekommen können.

00:00:43: Nach einer Einigung mit Microsoft ist das jetzt gelungen.

00:00:46: Martin Holland aus unserem heise online Newsroom mit den Einzelheiten.

00:00:52: OpenAI Foundation, also eine nicht-gewinnorientierte Stiftung, weiterhin die Kontrolle behält, und zwar indem sie unter anderem, der Anteil an OpenAI hält, aber das Unternehmen selbst Gewinn machen.

00:01:08: davon kann.

00:01:08: Das heißt vor allem, dass die Investoren, die schon seit Jahren sehr, sehr viel Geld in das KI-Unternehmen gesteckt haben, auch etwas davon zurückbekommen können.

00:01:18: Die jetzt vorgestellte Struktur sieht vor, dass Microsoft als größter Anteilseigner ein Prozentpunkt mehr behält, also siebenundzwanzig Prozent an OpenAI, aber die Foundation halt die Kontrolle.

00:01:34: Also die bekommen weitere Stimmanteile.

00:01:36: Der Rest sind dann weniger als fünfzig Prozent entfällt auf bestehende Investoren und Angestellte.

00:01:43: Und Open AI sagt selbst, dass das ein wichtiger Schritt ist, der auf dem Weg zur allgemeinen künstlichen Intelligenz vorgenommen werden.

00:01:52: musste.

00:01:53: Es war so, dass dieser Prozess eben so lange gedauert hat, weil es den Investoren und den Angesichts der milliardenschweren Investments wichtig war, dass das Geld eben nicht einfach nur in Richtung von Open AI fließt, sondern wenn dann potenziell auch einmal richtig viel Gewinn gemacht wird, davon etwas zurückkommen kann.

00:02:11: Dem Prozess selbst hat unter anderem Elon Musk top ediert.

00:02:14: Der hatte versucht, das zu verhindern.

00:02:17: Unter anderem hat er ein Übernahmeangebot gemacht und war richtig dagegen vorgegangen.

00:02:21: Das hat nun offensichtlich nicht gefruchtet.

00:02:25: Für Microsoft hat sich die Geschritte jetzt erst mal im Aktienmarkt ausgezahlt.

00:02:29: Die Aktien hat einen Sprung gemacht und Microsoft hat damit als zweiter Konzern der Geschichte die Marke von vier Billionen US-Dollar übertroffen, zusammen mit... OpenAI hat der Konzern vorher den Weg für diesen Schritt freigemacht, in dem neue Partnerschaftsregeln ausgehandelt wurden.

00:02:48: Es ist ja schon länger so, dass Microsoft einer der engsten Partner von OpenAI ist und von der Technik profitieren kann und OpenAI aber auch mit anderen Unternehmen zusammenarbeiten will.

00:02:59: Vielen Dank, Martin.

00:03:01: Nach verschiedenen Berichten und Klagen gegen Chat-GPTs-Umgang mit psychisch-labilen Menschen hat OpenAI das Verhalten des Chatbots bei psychischen Krisen überarbeitet.

00:03:13: Ziel ist, dass das Modell bei Themen wie Psychosen, Suizidgedanken oder emotionaler Abhängigkeit verlässlichere und regelkonformere Antworten gibt.

00:03:23: Dafür wurde das System auf Basis von über ein-tausend achthundert extern geprüften Testfällen neu feinjustiert.

00:03:30: Begleitet wurde die Anpassung von mehr als einhundertsiebzig Fachleuten aus Psychiatrie, Psychologie und Medizin.

00:03:38: Laut OpenAI sank der Anteil fehlerhafter oder unangebrachter Antworten je nach Thema um sechsundfünfzig bis achtzig Prozent.

00:03:47: Auch die Regelkonformität bei psychosembezogenen Inhalten, suizidalen Themen und bei emotionaler Abhängigkeit stieg in internen Tests.

00:03:56: GPT-Fünf liefert im Vergleich zu GPT-Four-O bis zu zweiundfünfzig Prozent weniger unerwünschte Antworten.

00:04:04: Zusätzlich verweist ChatGPT nun ausdrücklich auf Hilfsangebote und betont, keine reale Beziehung ersetzen zu können.

00:04:12: Die Änderung soll die Balance zwischen Empathie und Sicherheit warnen.

00:04:16: Das ist ein schwieriger Spagat, weil viele Nutzende gerade diese vermeintliche Nähe zur KI schätzen.

00:04:23: OpenAI geht davon aus, dass nur ein sehr kleiner Teil der Nutzerinnen und Nutzer solche speziellen Themen anspricht.

00:04:29: Bei rund achthundert Millionen aktiven Personen pro Woche könnten das jedoch bis zu eins Komma zwei Millionen sensible Gespräche sein.

00:04:39: Nvidia drückt künstliche Intelligenz stärker in die Netzwerkinfrastruktur.

00:04:44: Dazu ist der Chip-Konzern eine strategische Partnerschaft mit Nokia eingegangen.

00:04:49: Bereitsheit einiger Zeit bietet NVIDIA-Systeme für das sogenannte AI-RAN an.

00:04:54: Das steht für Artificial Intelligence Radio Access Network.

00:04:59: Sie sollen die Effizienz und Leistung von Funknetzwerken durch KI verbessern.

00:05:04: Diese AI-RAN-Systeme sind praktisch KI-fähige Computer, die gleichzeitig kabellos kommunizieren, KI-Prozesse verarbeiten und mobilen Funkverkehr leiten können.

00:05:15: Dabei wird die Datenverarbeitung näher an der Quelle statt in der Cloud durchgeführt, um Wartezeiten und Latensten zu reduzieren.

00:05:22: Laut NVIDIA ist dies insbesondere für das kommende Sechs-G-Netz wichtig, das sich durch KI-Anwendungen auszeichnen soll.

00:05:29: Nokia wird die Chips und Systeme in Seinsortiment aufnehmen, während NVIDIA Nokias Rechenzentrumsprodukte wie Switches für die eigene Infrastruktur einsetzen will.

00:05:40: Gleichzeitig steigt NVIDIA bei Nokia ein und übernimmt einhundertsechzig Millionen Aktien im Gesamtwert von knapp einer Milliarde US-Dollar.

00:05:48: Die Börse ist begeistert.

00:05:50: Der Aktienkurs Nokia zog um mehr als zwanzig Prozent an, NVIDIAs um knapp fünf Prozent.

00:05:56: GitHub will die Arbeit mit KI-Agenten zu einem festen Bestandteil der Softwareentwicklung machen.

00:06:02: Auf der Hauskonferenz UNIVERS, hat das Unternehmen die neue Plattform Agent HQ vorgestellt.

00:06:09: Sie erlaubt es, Systeme von Anbietern wie Anthropic, OpenAI, Google, Cognition und XAI direkt in GitHub zu integrieren, berichtet Kim Scheurenbrand von The Decoder.

00:06:20: Technisch baut Agent HQ auf den bestehenden GitHub Services und den KI-Funktionen des Co-Pilot-Ökosystems auf.

00:06:28: Im Mittelpunkt steht Mission Control, eine Art Kommandozentrale, die alle laufenden Agentenprozesse zusammenführt.

00:06:36: Entwicklerinnen und Entwickler sehen dort, welche Aufgaben ihre Agenten übernehmen, können sie priorisieren und freigeben.

00:06:42: Agent HQ soll darüber hinaus mit Markdown-Dateien für die Agenten arbeiten.

00:06:47: Diese enthalten maschinenlesbare Beschreibungen der Agentenrollen und Fähigkeiten direkt im Code Repository.

00:06:53: So können Projekte die Zusammenarbeit zwischen mehreren Agenten präzise definieren und dokumentieren.

00:06:58: Ein wichtiger Baustein ist die neue VS Code Integration.

00:07:02: Agent HQ erweitert die Entwicklerumgebung um einen sogenannten Plan Mode, der komplexe Abläufe in Einzelschritte gliedert.

00:07:10: Dieser Mechanismus erlaubt, dass mehrere Agenten parallel an unterschiedlichen Teilaufgaben arbeiten, etwa beim Erstellen, Testen und Dokumentieren von Code.

00:07:19: Dazu unterstützt das System den Zugriff auf das GitHub MCP Registry, eine Art Bibliothek, über die externe Dienste registriert und im Entwicklungsalltag eingebunden werden können.

00:07:29: Parallel stärkt GitHub seine Schnittstellen nach außen.

00:07:33: Coop-Halt wird direkt in Slack eingebunden, sodass sich Aufgaben oder Status-Meldungen automatisiert mit Code-Änderungen verknüpfen lassen.

00:07:40: Danke schön, Kim.

00:07:42: Der Halbleiter-Hiersteller Qualcomm will eigene KI-Beschleuniger auf den Markt bringen.

00:07:47: Damit richtet der US-Konzern sein Portfolio neu aus.

00:07:51: Qualcomm ist der weltweit größte Anbieter von Modemchips, mit denen Smartphones eine Verbindung zu drahtlosen Datennetzen herstellen können.

00:07:59: Angesichts des weltweiten KI-Booms nimmt der Chipbauer nun auch große KI-Rechenzentren ins Visier und positioniert sich als Konkurrent zu den Weltmarktführern NVIDIA und AMD.

00:08:11: Qualcoms neue Generation von KI-Beschleunigern, AI-二hundert und AI-zweihundertfünfzig, wurden für eine verbesserte Speicherkapazität und die Ausführung von KI-Anwendungen entwickelt, nicht für das Training großer Sprachmodelle.

00:08:26: Sie basieren auf den KI-Komponenten in Qualcomm's Smartphone-Chips, den sogenannten Hexagon Neuro Processing Units.

00:08:34: Die Rechenzentrums-Chips sollen jeweils im nächsten und übernächsten Jahr auf dem Markt kommen und werden in einem System erhältlich sein, dass ein komplettes, flüssigkeitsgekühltes Server-Rack füllt.

00:08:44: Die KI-Chips und andere Komponenten können jedoch auch separat verkauft werden, insbesondere an Kunden wie Hyperscaler, die es vorziehen, ihre eigenen Racks zu entwerfen.

00:08:54: Einer der ersten Kunden für Qualcoms neue KI-Chips ist Humane.

00:08:58: Das Saudi-Arabisches Startup hat gerade sein erstes KI-Betriebssystem Humane I angekündigt.

00:09:04: Im Gegensatz zu bisherigen Betriebssystemen soll es auf Sprache basieren.

00:09:08: Statt Apps und Icons auf dem Bildschirm auszuwählen, soll der oder die Nutzende den Computermittels Sprache steuern.

00:09:15: Und es soll nichts weniger sein als eine Alternative zu Windows und MacOS, kündigte Humane CEO Tarek Amin beim Fortune Global Forum in Riad an.

00:09:25: Microsoft entwickelt Windows zu einem KI-First-Betriebssystem, wobei der Co-Pilot in allen Bereichen in den Vordergrund rückt, um mit dem System zu interagieren.

00:09:35: Auch das deutsche Start-up Aleph Alpha hat mit Faria AI bereits einen KI-Betriebssystem auf den Markt gebracht.

00:09:41: Es soll leicht in bestehender IT-Umgebungen integrierbar sein.

00:09:45: Wie genau nun das Betriebssystem von Humane aufgebaut sein wird, ist bisher unbekannt.

00:09:51: Humane gibt es erst seit diesem Mai.

00:09:53: Das Startup wird vom Königreich Saudi-Arabien direkt unterstützt.

00:09:57: Neben dem Betriebssystem gehören auch andere KI-Dienste sowie die KI-Infrastruktur in das Portfolio des Startups.

00:10:04: Gemeinsam mit Qualcom ist bereits der Horizon Pro PC entstanden, der beim Snapdragon Summit im September vorgestellt wurde.

00:10:13: Wenn KI-Chatbots Fragen zu Nachrichten beantworten sollen, steckt in jeder dritten Antwort ein Fehler.

00:10:20: Über diese Studie haben wir bereits am Montag berichtet.

00:10:23: Doch wieso ist das eigentlich so?

00:10:26: Warum entstehen Halluzinationen?

00:10:28: Und wieso ist es nach wie vor ein so großes Problem, dass die KI-Anbieter offenbar nicht in den Griff bekommen?

00:10:34: Das erklärt Eva Maria Weiß von Heise Online.

00:10:37: Ein Drittel der erwachsenen Menschen in Großbritannien glaubt KI-Antworten.

00:10:43: Bei den unter thirty-Jährigen sind es sogar mehr als die Hälfte der Befragten aus einer weiteren Studie, die auch von der BBC beauftragt wurde.

00:10:52: Und das macht zunächst einmal das Problem der Halluzination wirklich deutlich.

00:10:57: Und es wird sogar noch ein bisschen dramatischer, denn in dieser Umfrage gaben die Menschen auch an, dass sie nicht bloß die KI-Modelle für die Fehler verantwortlich machen würden, wenn sie diese dann entdecken, sondern sie würden auch den verlängenden Quellen die Schuld geben, also den Inhalte erstellen und damit zum Beispiel den Medien den Verlagen,

00:11:20: obwohl

00:11:21: diese für Halluzinationen ja nun wirklich überhaupt nichts können.

00:11:25: Aber das Wissen um die Funktionsweise von KI-Modellen scheint eben noch immer sehr begrenzt zu sein.

00:11:31: Halluzinationen können auf verschiedene Weise entstehen.

00:11:35: Zum einen können in den Trainingsmaterialien schon einfach falsche Informationen stecken.

00:11:40: Und die lernt das KI-Modell daneben.

00:11:43: Und das kann auch Auswirkungen auf ganz viele angrenzende Bereiche haben.

00:11:47: Denken wir daran, dass KI-Modelle neuronale Netze sind.

00:11:51: In diesen Netzen geht es auch um Nähe, um Nähe und Zusammengehörigkeiten und Wahrscheinlichkeiten, die dann zusammen für den Output sorgen.

00:12:00: Da ist sehr viel Spielraum für falsche Verbindungen.

00:12:04: KI-Modelle sind außerdem bestrebt, immer eine Antwort zu geben.

00:12:08: Und sie wollen richtig liegen.

00:12:10: Das klingt sehr menschlich, es ist aber einfach im System so angelegt.

00:12:14: Denn es hilft auch, dass die Antworten besonders gut sind.

00:12:18: Nur sind sie deshalb eben auch manchmal besonders falsch oder zumindest seltsam.

00:12:22: Wir können uns das ein bisschen wie eine Multiple-Choice-Aufgabe vorstellen.

00:12:26: Die KI macht lieber irgendwo ein Kreuz statt gar kein Kreuz zu machen, denn irgendwo ein Kreuz erhöht ja die Wahrscheinlichkeit, richtig zu liegen.

00:12:35: Und besser wäre es eigentlich, häufig zu sagen, ich weiß die Antwort nicht.

00:12:40: Doch dafür müsste man das gesamte Lernen oder die Art des Lernens eines KI-Modells verändern.

00:12:47: Eine Lösung für das Problem der Halluzinationen ist offenbar wirklich noch weit entfernt.

00:12:53: Die Autoren der Studie fordern daher, dass KI-Anbieter dieses Problem priorisieren müssten.

00:12:59: Und außerdem sollten Regulierer nochmal über die Verantwortlichkeit bei Falschinformationen nachdenken.

00:13:06: Bisher sind KI-Modellanbieter ja nicht dafür verantwortlich machbar, dass ihre Modelle eben vielleicht manchmal Quatsch erzählen.

00:13:16: Und bekanntermaßen brauchen wir offenbar eine Medien- und eine KI-Kompetenz.

00:13:20: Und das bedeutet nicht, dass jeder gleich Entwickler werden muss, sondern dass eben nur ein Grundverständnis für die Funktionsweise manchmal ausreichen würde, um vielleicht nicht alles einfach so zu glauben.

00:13:34: Vielen Dank Eva.

00:13:36: Anthropic hat seinen Assistenten Claude mit neuen Funktionen für die Finanzbranche ausgestattet.

00:13:42: Eine Excel-Erweiterung, neue Datenanbindungen und vordefinierte Analyse-Fähigkeiten sollen Analystinnen und Analysten bei Aufgaben wie Cashflow-Modellen und Unternehmensbewertungen unterstützen.

00:13:54: Die Beta-Version Claude for Excel basiert auf Sonnet-Für.Fünf und ist derzeit für ausgewählte Geschäftskunden verfügbar.

00:14:02: Sie kann Tabellen analysieren, verändern und kommentieren.

00:14:06: Neue Schnittstellen bieten Zugriff auf Echtzeitinformationen von Anbietern wie Moody's und der London Stock Exchange Group.

00:14:13: Hinzu kommen sechs spezialisierte Agentenfunktionen, darunter Werkzeuge für Due Diligence-Auswertungen und Branchenanalysen.

00:14:21: Damit geht Anthropic in Konkurrenz zu ähnlichen Funktionen von Microsoft mit Co-Pilot oder ChatGPT.

00:14:28: Bei all diesen Systemen sind allerdings keine eindürtigen Fehlerraten im Kontext alltäglicher Büroarbeit bekannt.

00:14:36: Unter anderem wegen des Vormarschs der künstlichen Intelligenz suchen Unternehmen nach Wegen Geld zu sparen.

00:14:43: Amazon setzt nun im großen Stil den Rotstift bei Bürojobs an.

00:14:48: Der weltgrößte Online-Händler streicht rund vierzehntausend Arbeitsplätze in der Verwaltung.

00:14:53: Das Unternehmen erklärte den Abbau in einer Mitteilung mit Änderungen der Organisation.

00:14:59: Unter anderem das Wall Street Journal berichtete Unterberufung auf.

00:15:02: informierte Personen, dass von dem Abbau insgesamt bis zu dreißigtausend Jobs in mehreren Wellen betroffen sein könnten.

00:15:10: Amazon verwies in der Mitteilung darauf, dass gleichzeitig neue Arbeitsplätze in anderen Bereichen geschaffen würden.

00:15:16: Die meisten betroffenen Beschäftigten sollen zu dem neunzig Tage Zeit bekommen, sich im Unternehmen nach anderen Positionen umzusehen.

00:15:24: Inwiefern Jobs in Deutschland von den Kürzungen betroffen sind, ist noch unklar.

00:15:30: KI-Tools erfreuen sich bei Arbeitnehmern zunehmender Beliebtheit, auch beim Spesenbetrug.

00:15:37: Unternehmen stellen eine Zunahme gefälschter Belege fest.

00:15:43: Künstliche Intelligenz wird nicht nur für sinnvolle Aufgaben genutzt.

00:15:47: Das ist nichts Neues.

00:15:48: Doch jetzt wird sie zunehmend auch für Spesenbetrug verwendet und das Problem wird größer.

00:15:53: Die Financial Times berichtet jetzt von einer besorgniserregenden Entwicklung.

00:15:57: Arbeitgeber und Dienstleister stellen fest, dass immer mehr gefälte Spesenbelege eingereicht werden.

00:16:02: Der Grund?

00:16:03: Die bildgenerativen Fähigkeiten von Chatbots wie ChatGPtease mittlerweile so gut, dass gefälschte Quittungen kaum noch vom Original zu unterscheiden sind.

00:16:12: Konkrete Zahlen zeigen das Ausmaß.

00:16:14: Die KI-Finanzplattform AppXen hat ihre Daten ausgewertet und festgestellt, im September waren vierzehn Prozent der betrügerischen Belege KI generiert.

00:16:23: Im Vorjahr null, kein einziger.

00:16:26: Besonders brisant, der Anstieg begann mit der Veröffentlichung von GPTVO.

00:16:30: Finanzexperten aus den USA und Großbritannien berichten, dass dreißig Prozent der befragten Unternehmen eine Zunahme feststellen.

00:16:36: Der Schaden geht dabei in die Millionen.

00:16:38: Was früher nach Photoshop Kenntnisse oder kostenpflichtige Dienste erforderte, klappt heute mit ein paar Prompts.

00:16:45: Die Qualität der Fälschung ist beeindruckend oder erschreckend, je nachdem, wie man es sieht.

00:16:50: Die Belege zeigen realistische Papierfalten, detaillierte Artikel-Listen und passen sogar zu echten Speisekarten.

00:16:57: Die Unternehmen wehren sich natürlich, sie setzen ebenfalls KI-Tools ein, um die Fälschungen zu entlarven.

00:17:02: Diese Software prüft Metadaten gleich Zeiten ab und sucht nach Ungereimtheiten bei Personalnamen und Reiseinformationen.

00:17:10: Ein Katz- und Mauspiel im digitalen Zeitalter.

00:17:13: Das Verständnis für Spesenbetrug ist erschreckend hoch.

00:17:15: Laut einer SAP-Erhebung haben dreinfünfzig Prozent der deutschen Arbeitnehmer nichts gegen Spesenbetrug einzuwenden.

00:17:22: Bis zu einem Betrag von hundertsechs Euro hielten, ist viele für akzeptabel, auch mal eine falsche Abrechnung einzureichen.

00:17:28: Die Begründung?

00:17:29: Man wolle unbezahlte Überstunden ausgleichen oder Homeoffice mehr Ausgaben kompensieren.

00:17:34: Doch Vorsicht, Spesenbetrug ist kein Kavaliersdelikt.

00:17:37: Es erfüllt die Straftatbestände für Betrug und Urkontfälschung und kann sogar zur fristlosen Kündigung führen.

00:17:44: Danke, Malte.

00:17:46: Persönliche Geschichten und Erfahrungen von Überlebenden des Holocaust sollen für nachkommende Generationen auf Dauer als Stimme für die Ewigkeit gesichert werden.

00:17:57: Dazu entsteht in Essen auf dem UNESCO-Welterbe Zollverein ein neuer Ort der Erinnerung mit moderner Hologrammtechnik und künstlicher Intelligenz.

00:18:07: Originalaufnahmen von Zeitzeuginnen und Zeitzeugen werden dort photorealistisch als dreidimensionales Hologramm dargestellt.

00:18:15: Eine direkte Begegnung und lebendige Interaktion mit ihnen soll ermöglicht werden, erklärt das Nordrhein-Westfälische Kulturministerium.

00:18:23: Als Basis dienen Antworten der heute neunzigjährigen Holocaust-überlebenden Eva Weil und weitere Gespräche, die das Exilarchiv der Deutschen Nationalbibliothek bereits vor einigen Jahren mit zwei Zeitzeugen geführt hat.

00:18:38: Mit Hilfe von KI können Besucherinnen und Besucher diesen drei Menschen Fragen stellen.

00:18:43: Die KI ermittelt dann die passende Originalantwort aus allen Antworten, die die Zeitzeugen zuvor im Interview gegeben haben, sodass es zu einer direkten Interaktion zwischen Fragesteller und Holocaust-Überlebenden kommen kann.

00:18:58: Der Ort der Erinnerung soll im Januar am offiziellen Gedenktag für die Opfer des Nationalsozialismus eröffnet werden.

00:19:07: Das war das KI-Update von Heise Online vom neunundzwanzigsten Oktober, zwanzig, fünfundzwanzig.

00:19:12: Eine neue Folge gibt es nach dem Feiertag am Freitag wieder am Montag um fünfzehn Uhr.