KI-Update kompakt: Muse Glimmer, Zero-Days, KI-Denkprozesse, Jarvis-Wettbewerb

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:18: Meta veröffentlicht Muse Glimmer für Consumer Hardware.

00:00:22: KI findet mehr Zero Day Schwachstellen Forschende erkunden Denkprozesse von KI Chatbots und finden Passwörter Und MIT.

00:00:32: Studierende konstruieren Jet-Triebwerk mit KI.

00:00:36: Metta hat mit MuseGlimmer ein neues offenes KI-Sprachmodell vorgestellt, das gezielt für den Einsatz auf gewöhnlicher Consumer-Hardware entwickelt wurde.

00:00:46: Begleitet wurde die Veröffentlichung von einem sehr langen Schreiben von Metta-Chef Max Zuckerberg, der darin die künftige KI-Strategie seines Konzerns darlegt – Malte Kirchner aus dem heise online Newsroom mit den Einzelheiten!

00:01:01: Was wenn ein leistungsfähiges KI-Modell nicht mehr in der Cloud laufen muss, sondern einfach auf dem eigenen Rechner?

00:01:07: Genau das verspricht Meta mit seinem neuen Sprachmodell namens MuseGlimmer.

00:01:12: Die Metasuperintelligence Labs – also die Forschungsabteilung, die bei Meta an fortschrittlicher KI arbeitet – haben das Modell jetzt veröffentlicht und zwar offen!

00:01:22: Die Gewichte, also die trainierten Parameter des Modells stehen auf der Plattform Huggingface zum freien Download bereit sogar für kommerzielle Zwecke.

00:01:31: Das Besondere daran, MuseGlimmer soll auf einem ganz normalen Mac oder PC mit einer einzelnen handelsüblichen Grafikkarte laufen.

00:01:39: Damit eignete es sich vor allem für lokale KI-Agenten und für sogenanntes Function Calling – also das automatische Ansteuern von Programmfunktionen, für Codingaufgaben und auch dafür andere KI Ausgaben zu bewerten.

00:01:53: Möglich wird das durch einen technischen Kniff.

00:01:55: Meta komprimiert die Gewichte auf rund vier Bit Genauigkeit Aus.

00:02:00: über-fünfzig Gigabyte werden so unter zwanzig Gigabyte.

00:02:03: Das Modell passt damit erstmals in den Speicher eines gewöhnlichen Rechners.

00:02:08: Und wie schlägt sich MuseGlimmer im Vergleich?

00:02:10: Laut eigenen Benchmarks gut, besser als ähnlich große Modelle wie Gamma IV oder Quen three point sechs.

00:02:16: aber und das muss man dazusagen Hersteller.

00:02:19: eigene Vergleiche sind immer mit Vorsicht zu genießen.

00:02:22: Ob sich das an unabhängigen Tests bestätigt bleibt abzuwarten.

00:02:26: Begleitet wurde die Veröffentlichung von einem langen Grundsatzpapier von Mark Zuckerberg.

00:02:31: Darin geht es um nichts Geringeres, als sie Frage wer künftig Zugang zu sogenannter Superintelligenz haben wird und wer sie kontrolliert.

00:02:39: Zuckerberg's Antwort Je breiter KI-Fähigkeiten verteilt sind desto sicherer seien am Ende.

00:02:44: alle Offene Modelle sind für Meta also kein Geschenk an die Community sondern Ausdruck einer klaren Strategie Und diese hat auch einen wirtschaftlichen Kern.

00:02:53: Metapositioniert sich damit bewusst als Gegenentwurf zu Wettbewerbern, die auf geschlossene Modelle setzen und die aus Zuckerbergs Sicht eher Institutionen stärken als einzelne Menschen.

00:03:04: Dahinter dürfte vor allem eine stecken der Anspruch künftig die Standards in der Branche zu setzen.

00:03:10: Danke schön Malte!

00:03:12: Google erweitert sein Ask Maps Feature um agentische Fähigkeiten von Gemini.

00:03:19: Nutzerinnen können künftig über Google Maps Essen bestellen indem sie der KI mitteilen, was Sie bei welchem Restaurant zur mitnehmen möchten.

00:03:27: Google Maps sucht das passende Restaurant legt das gewünschte Essen in den Warenkorb und erstellt eine Übersicht zur Bestätigung.

00:03:35: Die KI kann über Personal Intelligence auf Nutzervorlieben zugreifen und favorisierte Restaurants sowie Ernährungsbedürfnisse berücksichtigen.

00:03:44: Zusätzlich soll die KI detaillierte Informationen zu Hotels und Events liefern, und Buchungen sowie Ticketkäufe aus der App heraus ermöglichen.

00:03:54: Die Funktionen sind zunächst auf die USA beschränkt – und funktionieren nur bei Restaurants, die mit Partnern wie Square, Toast oder künftig Uber Eats zusammenarbeiten.

00:04:04: Google will das Programm aber ausweiten!

00:04:08: Der KI-Musikdienst Suno führt Download Limits ein um gegen massenhaften Export generierter Titel vorzugehen.

00:04:16: Ab September dürfen kostenlose Nutzende nur noch sieben Songs insgesamt herunterladen, pro Abonnenten zwanzig monatlich.

00:04:25: Die Maßnahme soll böswillige Akteure am massenhaften Export hindern – allerdings bleiben die Beschränkungen inkonsequent.

00:04:34: Studioabonnentinnen sind von den Limits ausgenommen und zusätzliche Downloads lassen sich nachkaufen!

00:04:42: Während Suno also KI Spam eindämmen will, entwickelt es gleichzeitig noch effizientere Generierungs-Tools.

00:04:49: Das Unternehmen hat neue Modelle mit höherer Qualität angekündigt und betont dafür, mit Künstlerinnen und Künstlern zusammengearbeitet zu haben.

00:04:59: Dies könnte ein Versuch sein, Konflikte mit der klagenden Musikindustrie zu entschärfen.

00:05:05: Der Securitybereich ändert sich durch künstliche Intelligenz wo so schnell wie kaum ein anderer.

00:05:12: Backbounty-Programme werden mit Fehlerberichten nur so geflutet, User und Firmen leiden unter KI Angriffen.

00:05:20: Ben Schwahn sprach für heise Online mit Sandra Joyce der Chefin von Google Thread Intelligence über die aktuelle Bedrohungslage.

00:05:28: Das Auffinden schwerwiegender Sicherheitslücken mittels KI wird sich in den nächsten Monaten weiter verstärken.

00:05:36: Davon geht die Chefin von Google Thread Intelligence aus der Sicherheitsabteilung des Internetkonzerns.

00:05:42: Die Vize-Präsidentin Sandra Joyce sagte im Interview mit Heise online, dass sie mehr Zero Day Lücken als je zuvor erwarte, die mithilfe von KI entdeckt werden.

00:05:52: Über Zero Days lassen sich Systeme hacken weil es noch keine Schutzmaßnahmen gibt!

00:05:58: Angriffe erfolgten verstärkt sowohl von Regierungsinstitutionen als auch von Kriminellen.

00:06:03: Das Konzept der sogenannten Bug Bounty-Programme, bei den Sicherheitsexperten den Unternehmen lücken gegen eine Geldzahlung melden, werde derzeit auf die Probe gestellt, sagte Joyce.

00:06:15: Bugs seien aufgrund von KI leichter zu finden als je zuvor – es zeige sich aber, dass die Erkennung von Bedrohungsszenarien mit bewährten Methoden weiter helfe.

00:06:25: Google selbst habe hier ein tiefes Know-how.

00:06:29: Joyce selbst ist seit vielen Jahren im Cyber-Sicherheitsgeschäft und war unter anderem Soldatin bei der US Luftwaffe.

00:06:36: Die Google Sicherheitsabteilung Google Thread Intelligence hatte in den vergangenen Jahren schwerwiegende Lücken auch auf Konkurrenzsystem wie iOS entdeckt, die für massive Hackingkampagnen u.a.

00:06:48: gegen Menschenrechtsaktivisten und Journalisten verwendet wurden.

00:06:52: Es werde noch einiges auf die Menschen zukommen, wenn diese Bedrohungsakteure nun KI nutzen und mit KI auch angreifen", sagte Joyce.

00:07:07: Die Regierung argumentiert, dass KI lediglich ein unterstützendes Instrument sei – solange Menschen das Ergebnis fachlich prüfen.

00:07:30: Zur Wahrung des Datenschutzes nutzt der Bund hauptsächlich die interne Plattform KEPITS, die im Rechenzentrum des ITZ-Bund betrieben wird.

00:07:39: Diese ermöglicht die Verarbeitung selbst vertraulicher Dokumente ohne dass Daten an externer Anbieter abfließen.

00:07:47: Alle Ministerien setzen auf eine Qualifizierungspflicht!

00:07:51: Ohne vorherige Schulung darf niemand KI-Systeme nutzen.

00:07:55: Das Wirtschaftsministerium verlangt sogar einen mehrteiligen KI-Führerschein für den Systemzugriff.

00:08:01: Trotz dieser detaillierten Verwaltungsrichtlingen bleibt die Regierung bei konkreten Fragen zu ministeriellen KI-Texten, Auskunftsscheu und verweist auf interner Arbeitsabläufe.

00:08:14: Auch in der deutschen Justiz wird KI genutzt – wie intensiv ist allerdings weniger bekannt!

00:08:20: Ein Fall aus Hessen gibt jetzt Einblicke in die Praxis.

00:08:23: Der hessische Verwaltungsgerichtshof verwendete ChatGPT für die Recherche in einem Beschluss über ukrainischer Aufenthaltsrechte.

00:08:32: Verräterische Links mit der Endung source gleich chatgpt.com machten die KI-Nutzung nachvollziehbar, das Gericht wollte mit dem Chatboard offenbar schwer zugängliche georgische Rechtsquellen finden.

00:08:46: Dabei entstanden jedoch problematische Fehler.

00:08:49: ChatGPT lieferte falsche Quellenangaben, etwa zu einem georgischen Regierungsdekret.

00:08:55: Ein Link verwies auf einen Artikel aus dem falschen Jahr.

00:09:00: Das Gericht räumte die Fehler zwar ein – betonte aber das zusätzliche Quellen die Rechtslage bestätigen und dass Endergebnis korrekt sei!

00:09:08: Die richterliche Unabhängigkeit umfasse auch die Wahl der Arbeitsmittel so lange keine sensiblen Daten in externe Systeme eingegeben werden, betonte hessische VGH.

00:09:19: Der Fall verdeutlicht jedoch einmal mehr die Grenzen heutiger KI-Systeme für Recherchezwecke – und das nicht nur in der Justiz.

00:09:28: Amthropic führt für seine Cloudmodelle ein unsichtbares Wasserzeichen ein, um KI generierten Text erkennbar zu machen.

00:09:36: Die Kennzeichnung soll Bedeutung und Lesbarkeit nicht verändern aber beim Kopieren erhalten bleiben.

00:09:42: Damit will das Unternehmen Betrug im Bildungseinrichtungen und Diebstahl von Werken verhindern!

00:09:48: Das Wasserzeichen folgt EU-Vorgaben für mehr Transparenz beim KI Einsatz.

00:09:52: Alle Cloudmodelle ab August unterstützen die weltweite Kennzeichnung.

00:09:57: Allerdings gibt es Schlupflöcher, umfangreiche Bearbeitungen, Übersetzungen oder das Vermischen mit anderen Texten können das Wasserzeichnen unkenntlich machen.

00:10:08: Kritiker befürchten daher dass Menschen Texte ohne Wasserzeicher nun fälschlicherweise als garantiert menschlich einschufen könnten.

00:10:17: Dabei funktionieren statistische Wasserzeichenverfahren ungenau und können auch menschliche Texte als KI-Erzeugnisse brandmarken.

00:10:26: Der unsichtbare Stempel wird zweifellos ein Hemmnis sein, aber der Preis sei vermeintliche Sicherheit und das Risiko von Falschverdächtigungen.

00:10:36: Was ein KI-Modell intern Schluss folgert bekommt normalerweise niemand zu sehen!

00:10:42: Forschende haben die Verschlüsselung jetzt umgegangen und stießen dabei auf Zugangsdaten von Nutzenden.

00:10:49: Die Details hat Jonathan Kemper, von The Decoder.

00:10:53: Sicherheitsforscher haben in den Programmierschnittsstellen aller großen KI-Anbieter eine Schwachstelle gefunden.

00:10:58: Über die Lücke lassen sich die verschlüsselten Reasingprozesse der Modelle auslesen.

00:11:02: Betroffen sind OpenAI, Anthropic und Google.

00:11:06: Reasingmodelle erzeugen beim Lösen komplexe Aufgaben interne Schlussfolgerungen.

00:11:10: Diese Reasoning Tokens sehen Nutzer normalerweise nur als Zusammenfassung oder gar nicht.

00:11:15: Die Anbieter verschlüsseln die rohen Schritte zum Schutz von Nachahmungen durch andere KI-Unternehmen.

00:11:20: Ein Team vom Ellis Institute Tübingen und vom Max Planck Institut für intelligente Systeme hat diese Verschlüsselung umgang.

00:11:27: Die Denkspuren sind frei übertragbar, sie funktionieren über verschiedene Sitzungen, Nutzer und Modelle desselben Anbeters hinweg.

00:11:34: So kann Anthropics kleineres Modell Haiku das Reasoning des stärkeren Opus lesen!

00:11:39: Per Jailbreaking, also dem gezielten Aushebeln von Schutzmaßnahmen, brachten die Forscher das kleinere Modell dazu, die Schritte wörtlich zu transkribieren.

00:11:47: Bei OpenAI und Google klappte der selbe Trick!

00:11:50: Für Endnutzer ist die Lücke direkt gefährlich – wer Programmiersitzungen mit verschlüsselten Reasoning-Blocken öffentlich teilt, riskiert die Preisgabe persönlicher Daten.

00:12:00: Ein Scan von rund siebentausend öffentlichen Sitzung förderte zweiundsechzig Zugangsschlüsse, dreiendreißig E-Mailadressen und dreienträißig Passhörter zutage.

00:12:08: Aufwendig ist der Angriff nicht.

00:12:10: Das Dekodieren von Zehntausend Sitzungen kostete laut den Autoren etwa siebenhundertzwanzig US-Dollar.

00:12:16: Die extrahierten Daten zeigen auch, welcher Gedankenkette die Modelle folgen.

00:12:20: In einem Beispiel erkennt ein Model die Lösung eines Mathematikproblems und konstruiert die passende Rechnung rückwärts.

00:12:26: in der angezeigten Zusammenfassung taucht aber davon nichts auf.

00:12:29: Manche OpenAI-Modelle verfallen Entschleifen aus kontextlosen Begriffen wie Marinade oder Wächter absichtlich zu betrügen.

00:12:40: Ein Modell versuchte, ein Capture auszulesen und Schwachstellen einer Webseite zu winnen – erst als das scheiterte löste es die Aufgabe selbst!

00:12:47: Das Team hat den üblichen Meldeprozess durchlaufen, worauf die Anbieter bereits mehrere Probleme behoben haben.

00:13:02: GPT-Fünf.

00:13:03: sechs Cyber soll Verteidigern helfen, Schwachstellen zu finden bevor Angreifer, KI Werkzeuge im großen Stil nutzen.

00:13:12: Daybreak Blue richtet sich an defensiver Arbeit wie die Analysen von Schadsoftware und die Reaktion auf Sicherheitsvorfälle.

00:13:20: DayBreak Red zielt auch Forscherinnen und Forscher die Schwachstellen suchen und Penetrationstests durchführen.

00:13:27: Der Zugang erfordert daher auch eine Identitätsprüfung, Überwachung und rechtliche Erklärungen.

00:13:33: Über die Red Stufe läuft dann das Modell GPT-Fünf-Punktex-Cyber – es ist darauf trainiert, sicherheitsrelevante Anfragen zu beantworten, die andere Modelle blockieren!

00:13:44: In einem internen Benchmark liegt die Antwortquote bei ninety-fünf Prozent.

00:13:49: Das reguläre Modell mit aktiven Schutzmaßnahmen kommt nur auf eins Komma fünf Prozent.

00:13:55: In der Praxis fand das Modell bereits mehrere Schwachstellen in weitverbreiteten Anwendungen, die inzwischen behoben wurden.

00:14:03: NVIDIA hat mit Nimotron-Dreibhundfünf Lightning ein neues offenes KI-Modell herausgebracht – Mit rund dreißig Milliarden Parametern ist es nur ein Viertel so groß wie Open-Eyes frei verfügbares GPT.

00:14:17: OSS-Hundertzwanzig B soll aber ähnlich leistungsfähig sein!

00:14:22: Im Intelligence Index, der Plattform Artificial Analysis liegt es klar über seinem Vorgänger und auf Augenhöhe mit dem größeren Konkurrenzmodell.

00:14:32: Die Stärke ist das Tempo – Das Modell nutzt eine hybride Architektur bei der nur ein kleiner Teil der Parameter aktiv ist.

00:14:41: Info-Abtest ist nehmotron fast doppelt so schnell wie Google's Gemini III.五 Flashlight und damit das Schnellste im Vergleichsfeld!

00:14:49: Eine Testaufgabe erledigte es in rund eine halbe Minute, andere Modelle derselben Klasse brauchen mehrere Minuten.

00:14:57: Die größten Fortschritte zeigen sich bei agentischen Aufgaben – also beim eigenständigen Lösen mehrstufiger Probleme.

00:15:04: Nvidia stellt das Modell unter einer freien Lizenz bereit!

00:15:09: Das Time Magazine betreibt eine zweite Version seiner Website nur für KI-Crawler inklusive Werbung die nur Sie sehen.

00:15:19: Diese Informationen sollen in Chatbot antworten lassen.

00:15:22: Wie das funktioniert, erklärt Caroline Riedmüller von Heise Online.

00:15:26: Im konkreten vom Freelance-Entwickler Vincent Schmalbach entdecktend Fall handelt es sich um Werbung für die Bank Alley – die in die Markdown-Version der Time Website eingebettet ist.

00:15:35: Anders als Werbung for Menschen kommt sie ohne catchy Slogans aus und ähnelt eher einem FAQ mit Fakten zur Bank.

00:15:43: In ihr heißt es zum Beispiel dass Alley «die einzige Bank ist, die für das heutige Leben gebaut ist».

00:15:48: und in einer eigenen Liga spielen würde.

00:15:52: Die

00:15:52: Fragen in der Werbeanzeige klingen fast wie Nutzer an Fragen, die DKIs bekommen könnten.

00:15:58: Ist LA gut für alltägliches Banking oder kann man bei LA Bargeld einzahlen?

00:16:03: Die Hoffnung ist dass DKI den Inhalt ungefiltert als Antwort für ihre Nutzer übernehmen – und sie so viel mehr Menschen erreicht also nur die auf der Website waren, ob da die Bewerbung platziert war!

00:16:14: Wie Digital berichtet, seien diese Agent-Ads einer der ersten Publisher Kampagnen die gezielt KI-Agenten adressiert.

00:16:21: Den Googlebots und Nutzer bekommen diese Werbung nicht zu sehen, da sie die HTML Version der Webseiten ausgespielt bekommen.

00:16:26: KI Bots entgegen erhalten diese Markdown-Version mit der Werbung.

00:16:31: Erste Werbekunden für diese neue Form von Werbeanzeigen ist neben der Alibank des Project Management Institute.

00:16:37: Die Geschäftslogik hinter Agent Ads passt zum aktuellen Wandel des Webtraffics.

00:16:41: Laut Cloud-Verdaten sind mittlerweile mehr als fünfzig Prozent des gesamten Internettraffics nicht mehr menschlich.

00:16:47: Zeitgleich verlassen sich die Menschen zunehmend auf KI Zusammenfassungen, also auf genau die Instanzen und auf die Agent-Ads im FAQ Format

00:16:54: abzielen.".

00:16:55: Dankeschön Caroline!

00:16:57: In WDR kooperiert mit sechs Wall Street Finanzkonzernen um über unabhängige Finanzplattformen weitere fünfhundert Milliarden US-Dollar für KI Infrastruktur einzusammeln.

00:17:09: Beteiligt sind Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs und KKR.

00:17:15: Die Finanzkonstrukte sollen der Kundschaft Zugang zu knappen Rechenressourcen ermöglichen und den Aufbau von Rechenzentren finanzieren.

00:17:24: Davon sollen unter anderem KI-Labore und Startups profitieren, erklärte Nvidia CEO Jensen Wang.

00:17:31: Sein Unternehmen dürfte als wichtigster KI Hardwarehersteller davon am meisten profitieren!

00:17:36: Hoang versichert jedoch, es handele sich nicht um Kreislaufdeals sondern echte Nachfrage.

00:17:43: Rechenleistung sei zu einem Infrastrukturteil geworden wie Elektrizität oder Internet.

00:17:50: Die Finanzkonzerne sind überzeugt dass KI-Rechenleistungen bald zu einer finanzierbaren Anlageklasse wird.

00:17:58: Das chinesische KI Sadabmanes löst sich nach der gescheiterten Metaübernahme vollständig von dem US Konzern.

00:18:06: Ende August werden bestimmte Nutzerdaten gelöscht, die seit der geplanten Übernahme im Dezember entstanden sind.

00:18:13: China hatte den zwei Milliarden-Dollar-Deal immer prillblockiert – Die Regierung fürchtet den Verlust wertvollen Wissens und Technologie.

00:18:21: Manes gilt als Nachfolger von DeepSeek und hatte seinen Sitz nach Singapur verlegt um international zu expandieren.

00:18:28: Nun müssen betroffene Nutzern und Nutzer ihre Daten bis zur Löschung sichern!

00:18:33: Man ist versichert, dass diese Maßnahmen ausschließlich regulatorischen Auflagen geschuldet sind.

00:18:38: Es gab demnach weder eine Datenschutzverletzung noch einen Sicherheitsvorfall.

00:18:44: Mit der Jarvis Challenge wollte das MIT herausfinden ob sich ein Gas-Turbine Triebwerk für Flugzeuge mit Hilfe von künstlicher Intelligenz schneller entwickeln und bauen lässt als mit herkömmlichen Methoden.

00:18:58: Ob das den Studierenden gelangen?

00:19:00: Weiß Oliver Bündte von Heise Online.

00:19:02: Insgesamt sieben Teams mit ein dreißig Studierenden ist MIT weiter zu aufgefordert, ihre Konstruktionen innerhalb von vier Wochen zum Laufen zu bringen.

00:19:10: Die Teams hatten bei der Konstruzion den Auswahl der Materialien und der Konstruktionsart freie Hand.

00:19:16: Den meisten Studien entfielte es jedoch an dem nötigen Wissen über Gas-Turbine, Triebwerke und den theoretischen Grundlagen wertvoll über kompressible Strömungen und Thermodynamik.

00:19:25: Sie waren von den Lehrkräften dazu angehalten das nötige Wissen mit dem Einsatz von KI zu kompensieren.

00:19:31: Dazu setzen sie auf eine MIT-interne KI-Plattform namens PALAE die verschiedene große Sprachmodelle vereint.

00:19:38: Den Einsatz der KI konnten die Lehrkräfte dabei überprüfen, etwa welche Prompts in den Projekten verwendet wurden und wie hoch die Kosten für die KI Verwendung waren.

00:19:47: Die verschiedenen Teams setzten die KI unterschiedlich ein je nachdem welche Wissenslücken und Kompetenzen im Team bereits vorhanden war.

00:19:54: So verwendeten sie Pali etwa zur Zusammenfassung von Lehrbüchern, zum Erlernen der nötigen Konstruktionssoftware, zum Auffinden von Lieferanten und der Erstellung von Excel-Tabellen.

00:20:03: Außerdem setzen Sie KI dafür ein um spezifische Fragen zu beantworten, Referenzen aufzuspüren und zwischen verschiedenen Konstruktionsansätzen vergleichene Analysen durchzuführen.

00:20:13: Von den sieben Teams blieben zwei übrig deren Konstruktion funktionierten.

00:20:17: Das eine Team hatte KI intensiv eingesetzt, um Wissenslücken zu füllen, Architektur-Vergleicher und Kostennutzenanalysen zu erstellen.

00:20:25: Das andere Team setzte dagegen auf bereits vorhandenes Fachwissen und nutzte KI lediglich in einzelnen Bereichen, um etwa Konstruktionssoftware schneller zu erlernen.

00:20:34: Beide Teams gelangen es ihren Konstruktionen Lauftests zu unterziehen.

00:20:38: Das Triebwerk des Teams das weniger KI eingesetzt hat konnte alle Tests bewältigen – beim anderen Team versagte die Konstruzion weil der Rotor blockierte!

00:20:47: Das Ergebnis der Jarvis-Challenge ist, dass es nötig ist über genügend Fachwissen zu verfügen und KI gezielt und gewinnbringend einsetzen zu können.

00:20:55: Der Mensch ist der entscheidende Faktor, der von der KI vorgeschlagene Ergebnisse bewertet und entscheiden muss ob diese für weitere Entwicklungsschritte taublich sind oder nicht.

00:21:03: Entsprechend kann KI als Beschleuniger eingesetzt werden.

00:21:06: Beim Bau sicherheitskritischer physischer Systeme ist aber menschliche Handarbeit und menschlicher Verantwortung durch nichts zu

00:21:12: ersetzen.".

00:21:13: Danke Oliver!

00:21:15: Ein australischer Nutzer wollte eigentlich per KI nur einen Kursplatz im Fitnessstudio buchen.

00:21:22: Dann erlebte er, wie Claude über die Schnittstelle OpenClaw unerlaubt in das Fitnessstudiosystem eindrang und sich Zugang zu Funktionen verschaffte, die nicht vorgesehen waren.

00:21:32: Claude Buchte zunächst ein Kurs der erst in Wochen stattfinden sollte – obwohl das System keine Vorabreservierungen über längere Zeiträume erlaubte!

00:21:42: Auf Nachfrage manipulierte die KI eine Warteliste, indem sie einen anderen Teilnehmer entfernte um den Nutzer vorzurücken.

00:21:50: Die KI entdeckte dabei, dass die API keiner Autorisierungsüberprüfungen für das Stornieren fremder Reservierungen hatte – den entfernten Teilnehmer konnte Cloud also nicht wieder hinzufügen!

00:22:01: Der Vorfall reiht sich in eine Serie von KI-Systemen ein, die ihre Aufgaben vielleicht etwas zu ernst nehmen….

00:22:09: Er zeigt, sowohl wie wichtig verantwortungsvolle KI-Nutzung ist als auch die Notwendigkeit ordnungsgemäßer Sicherheitsmaßnahmen bei Webdiensten.

00:22:20: Das war das KI-Update von Heise Online vom zwölften August, für eine neue Folge gibt es Montags, Mittwochs und Freitag ab fünfzehn Uhr!