KI-Update kompakt: MAI Audio-Funktionen, Apple, KI-Bademeister, Mondforschung

00:00:02: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:14: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.

00:00:17: Microsoft erweitert KI-Modellfamilie MEI um drei Audiumodelle.

00:00:23: Apple erhärtet Full Disc Access gegen KI-Agenten wie KI vor dem Ertrinken retten soll.

00:00:37: Microsoft hat seine eigene KI-Modellfamilie um Audiofunktionen für Voice Agents erweitert.

00:00:44: Malte Kirchner aus dem heise online Newsroom erklärt, was die neuen MAI Transcribe und Voice Modelle können.

00:00:56: und zwar im wörtlichen Sinne.

00:00:58: Der Konzern hat drei neue Audiumodelle vorgestellt, mit denen Entwickler sogenannte Voice Agents bauen können – also KI-Assistenten, mit dem man sich ganz normal

00:01:07: unterhält.".

00:01:08: Zur Einordnung, Microsoft hat lange Zeit vor allem auf die Partnerschaft mit OpenAI gesetzt.

00:01:13: Eigene große Modelle kam es spät.

00:01:15: Inzwischen baut Redmond aber mit der sogenannten MAI-Familie eine eigene Modellreihe auf und die wächst schnell!

00:01:22: Jetzt kommen drei Modelle für Sprache hinzu – alle vorerst nur als öffentliche Vorschau.

00:01:28: Das erste heißt MAI Transcribe to Streaming.

00:01:31: Es wandelt gesprochene Sprache in Echtzeit im Textum.

00:01:36: Dabei erkennt es selbstständig, welche Sprache gerade gesprochen wird und kommt auch mit einem Wechselmitten im Gespräch klar.

00:01:43: Erste vorläufige Ergebnisse liefert es laut Microsoft schon nach rund hundert Millisekunden.

00:01:48: Kommt mehr Kontext dazu korrigiert das Modell sich selbst.

00:01:51: Und wie gut ist das?

00:01:52: Auf der Vergleichsplattform Artificial Analysis liegt es bei der Genauigkeit derzeit auf Platz eins – for GROC von XAI.

00:02:00: Nach eigenen Messungen ist Microsoft außerdem doppelt so schnell wie der nächste Konkurrent, welcher das ist.

00:02:05: Das verräht das Unternehmen allerdings nicht.

00:02:08: Bis Ende des Jahres kostet eine Stunde Audio für den US-Cent.

00:02:11: Was danach gilt, ist noch offen!

00:02:14: Für die Gegenrichtung, also von Text zu Sprache gibt es MAI Voice Two Point One und eine schnellere Flash Variante.

00:02:21: Beide sprechen dreiundzwanzig Sprachen jeweils mit muttersprachlichem Akzent.

00:02:25: In unseren eigenen Tests klang das auf Deutsch tatsächlich überzeugend –.

00:02:28: die Flash Version ist günstiger und soll so schnell antworten dass flüssige Gespräche möglich werden.

00:02:34: Gedacht ist sie etwa für Call Center und Telefonmenüs.

00:02:37: Das größere Modell zielt dagegen auf Hörbücher, Podcasts und Voice-Over wo eine Stimme über lange Strecken gleich klingen soll.

00:02:45: Spannend und heikel ist das Klonen von Stimmen.

00:02:47: dafür reichen laut Microsoft schon fünf bis sechszig Sekunden Audio Material.

00:02:52: Damit damit kein Schindluder getrieben wird schaltet Microsoft die Funktion nur nach Prüfung frei Und Entwickler müssen eine gesprochene Einwilligung der betroffenen Person hochladen.

00:03:02: Was heißt das alles?

00:03:03: Microsoft macht sich Schritt für Schritt unabhängiger vom OpenAI und greift jetzt auch spezialisierte Sprachenbieter wie Eleven Labs, DeepGramm oder Assembly AI direkt an.

00:03:13: Offen bleibt die spannendste Frage – wann landen die neuen Stimmen in Produkten?

00:03:17: Wie Co-Pilot, Teams oder Windows?

00:03:20: Darauf hat Microsoft bislang keine Antwort!

00:03:25: Der Sicherheitsforscher David Robinson hat OpenAI verlassen und wirft dem Unternehmen eine mangelhafte Sicherheitskultur vor.

00:03:34: Er arbeitete zuletzt im Bereich Safety Systems, der sich um die Sicherheit der Modelle kümmert.

00:03:39: Im Magazin The Atlantic schreibt Robinson – Die Branchesätze auf Versuch und Irrtum.

00:03:45: mit immer leistungsfähigeren Systeme würden die Fehler größer.

00:03:50: Als Beispiel nennt er den Vorfall bei dem OpenAI versehentlich KI-Agenten auf der Plattform Huggingface freigesetzt hatte!

00:03:57: Ein Modell habe zu den Beschränkungen beim Internetzugang umgangen und auch Anthropic habe durch eine Fehlkonfiguration Schutzmechanismen abgeschaltet.

00:04:06: Robinson fordert, KI-Firmen müssten wie Atomkraftwerke mehrfach abgesichert sein – und wirf dem verantwortlichen mangelnde Demut vor.

00:04:16: Kurz vor seinem Abgang hatte OpenAI drei Sicherheitsexperten entlassen die Informationen an eine externe Sicherheitsfirma weitergegeben haben sollen.

00:04:26: OpenAI hält die eigenen Praktiken für ausreichend.

00:04:29: Vor Robinson hatte allerdings schon Jan Leike das Unternehmen im Mai, mit ähnlich lauter Kritik verlassen.

00:04:38: Um den Gefahren vor KI-Agenten zu begegnen, hatte US-Präsident Donald Trump vor zwei Wochen noch einen so wörtlich KI-Zahr angekündigt – nun ist der Sonderbeauftragte für Fragen der künstlichen Intelligenz bekanntgegeben worden!

00:04:54: Der Koordinator der Geheimdienste Jay Clayton leitet nun zusätzlich die neue Super-Intelligence Force, weil Trump den Begriff Superintelligenz ja besser findet als künstliche Intelligenz.

00:05:07: Diese SIF soll innerhalb von einhundertzwanzig Tagen Chancen und Risiken der Technologie bewerten.

00:05:13: Dabei sei die weltweite Spitzenposition der USA im KI-Sektor für die nationale Sicherheit entscheidend.

00:05:20: Die Weiterentwicklung soll durch staatliche Vorgaben nicht behindert werden.

00:05:25: Vielleicht sind auch deswegen bislang nur Sicherheits- und Handelsbehörden, nicht aber Stimmen der Wissenschaft oder von Bürgerrechtsgruppen in dem Gremium vertreten.

00:05:35: Der VW-Konzern versucht, die Fahrassistenzsysteme der eigenen Marken mit denen von Tesla oder Mercedes konkurrenzfähig zu machen.

00:05:43: Nach der Trennung von Bosch als Technologiepartner soll dabei jetzt WAVE helfen, ein KI-Startup aus London.

00:05:51: Die Briten behaupteten sich bei von VW ausgerichteten Testfahrten offenbar gegen mehrere Mitbewerber – unter anderem auch gegen Nvidia.

00:06:00: Besonders überzeugt haben sei WAVE auf einer Fahrt durch den Londoner Stadtverkehr!

00:06:05: Ein Audi A六 E-Tron mit der Wave Software soll dabei selbstständig erkannt haben, dass der Fahrer eines entgegenkommenden Autos per Lichthupel ihm freiwillig vorwahrt gewährt hat und dann autonom in eine Parklücke gefahren sein.

00:06:19: Die Fahrsoftware soll laut Wave in jedem Fahrzeugmodell einsetzbar sein – sie benötigt weder detaillierte Dreidekarten noch Softwareregeln sondern nutzt Kameradaten und vorhergemachte Lernerfahrungen.

00:06:32: Autos sollen so auch in Umgebungen fahren können, für die das KI-Modell vorher nicht trainiert wurde.

00:06:37: Dabei übernimmt ein neuronales Netz den gesamten Verarbeitungsprozess von der Rohdatenaufnahme bis zur Anwendung.

00:06:45: Wave nennt diese Technik End to end deep learning.

00:06:49: Auch wenn NVIDIA nun als Softwarelieferant bei Volkswagen nichts umzukommt wäre noch einen Lieferauftrag für die nötigen Chips denkbar Denn Nvidia ist Investor bei Wave und liefert bereits die Chips für Robotaxis, die Wave in London testet.

00:07:06: Bevor eine App auf einem Mac künftig alle Dateien einsehen kann, muss der Nutzer oder die Nutzerin das ausdrücklich erlauben.

00:07:14: Grund sind die immer weiterverbreiteten KI-Agenten – erklärt Ben Schwahn von der Mac&I.

00:07:20: Apple will es KI-Agenten künftig schwerer machen, Vollzugriff auf den Mac zu bekommen!

00:07:26: Die Funktion Full Disk Access, mit der man macOS Apps vollen Zugriff auf die SSD geben kann soll künftig nur noch dann erlaubt werden, wenn Nutzer genau wissen was sie tun.

00:07:38: Dazu will Apple eine sehr ausdrückliche Einwilligung verlangen.

00:07:42: Aktuell ist es vergleichsweise einfach den Full Disk access zu aktivieren!

00:07:47: Wie genau Apple, einen neuen Warn-Dialog umsetzt ist derzeit noch unklar.

00:07:52: Grundsätzlich deaktiviert werden soll die Funktion aber nicht.

00:07:56: Der Konzern nannte explizit KI-Agenten als Grund für geplante Änderungen.

00:08:02: Diese würden zunehmend leistungsfähiger und autonomer – das sei bei diesem Grad an Zugriff mit erheblichen Risiken verbunden!

00:08:11: Zuletzt hatte es gleich Mehrfachberichte über schwerwiegende Sicherheitslücken in KI-Apps für MacOS gegeben.

00:08:18: Sowohl die Meta App News als auch die offizielle ChatGPT-App von OpenAI enthielten Sicherheitslücken, über die Angreifer potenziell Zugriff auf zahlreiche Daten hätten erlangen können.

00:08:31: Die Bugs wurden zwar mittlerweile gefixt, könnten aber in anderer Form wieder auftauchen.

00:08:36: Ob es Angriffe darüber gab ist unbekannt – für Nutzer heißt dies aber, dass sie sehr vorsichtig mit den KI-Agenten umgehen sollten.

00:08:45: OpenAI teilte bereits mit, das man fehlerkünftig schneller beheben will.

00:08:50: Vielen Dank Ben!

00:08:52: Chinesische KI-Modelle vertreten bei politisch reiklen Fragen oft die Linie der kommunistischen Partei.

00:08:59: Das zeigt eine Studie des KI-Unternehmens Aleph Alpha.

00:09:02: Die Forschenden stellten Modellen von Alibaba, DeepSieg und Moonshot AI fast tausend Fragen zu Themen wie Tiananmen, Taiwan oder Tianyang.

00:09:13: Ein KI-System bewertete die Antworten – höchstens vier von zehn fielen demnach ausgewogen aus.

00:09:19: Der Rest wiederholte die Staatsdoctrin, lenkte ab oder verweigerte die Antwort.

00:09:24: Die Haltung zeigt sich sogar bei Fragen ohne China Bezug!

00:09:28: Alibaba´s Modell Quen beendete eine Antwort zur Zensur in den USA mit einer Verteidigung der chinesischen Netzpolitik.

00:09:36: Auch Nvidia´s Model Nemotron Cascade II antwortete teils parteitreu.

00:09:42: Alfalfa führt das auf Trainingsdaten zurück, die chinesische Modelle erzeugt haben.

00:09:47: Aleph Alpha ist aber allerdings nicht ganz neutral.

00:09:50: Das Unternehmen vermarktet sich gemeinsam mit Coher als Anbieter souveräner KI für Regierungen und konkurriert dortmit Nvidia.

00:09:59: Für sein eigenes Modell Colibri hat Aleph alpha ebenfalls Trainingsdaten aus chinesischen Modellen genutzt.

00:10:07: Google schränkt den Zugang zu seinen Gemini-Modellen ein, ab Oktober bekommen Nutzerinnen und Nutzern mit privatem Konto ohne Abo nur noch das kleinste Modell.

00:10:16: Flashlight Flash und Pro gibt es dann nicht mehr kostenlos.

00:10:21: Auch Zahlensekunden verlieren Funktionen, das Abo AI Plus für fierneinundneunzeig umfasst künftig nur noch Flashlight und Flash – das Pro-Modell fällt weg!

00:10:32: Alle drei Modelle gibt es erst mit AIPro für einundzwanzig neunundneinzeig.

00:10:37: Google übernimmt damit das FreeMeal-Prinzip, dass OpenAI bei ChatGPT nutzt.

00:10:42: Die Grundversion bleibt kostenlos – Für Mehrleistung zahlen die Nutzen.

00:10:48: Fachleute aus Psychologie und Medizin fordern strengere gesetzliche Vorgaben für den Schutz von Kindern im Netz.

00:10:55: Betreiber von Plattformen und die Politik sollten mehr Verantwortung übernehmen, um Minderjährige vor Manipulation zu bewahren.

00:11:03: In den fifty-sech Handlungsempfehlungen der Unabhängigen Expertenkommission Kinder und Jugendschutz in der digitalen Welt liegt daher ein Schwerpunkt auf der Regulierung moderner KI Angebote.

00:11:15: Generative KI-Systeme und Chatbots bergen neue Risiken, weshalb auch der Berufsverband Deutscher Psychologinnen und Psychologen für diese Technologien gezielte Schutzmaßnahmen fordert.

00:11:27: Neben sicheren Standard-Einstellungen sollten verbindliche Altersgrenzen den Datenschutz waren.

00:11:33: Um den Gefahren durch automatisierte und manipulative Inhalte vorzubeigen sollen zudem die Medienkompetenz gefördert und Beratungsangebote an Schulen ausgebaut werden.

00:11:45: Zweitausendfünfundzwanzig sind in Deutschland mindestens dreihundertdreiundneunzig Menschen ertrunken und fünfzehn davon in Schwimmbädern.

00:11:56: Da dringt sich die Frage auf, ob mehr Überwachung diese tragischen Fälle hätte verhindern können?

00:12:02: Darum installieren immer mehr Schwimmpathbetreiber Kameras mit KI-Überwachungssystemen – sie sollen die Bademeisterinnen und Bademeisters am Beckenrand benachrichtigen wenn jemand in Gefahr ist!

00:12:13: Mein Kollege Daniel Ziegner von Heise Plus hat sich so ein System im Bremer Westbad angeschaut.

00:12:31: Die zeigt Foto und Standort der Personen, die gerade in Not sein könnte.

00:12:37: Das kann ein unmächtig im Wassertreiben der Körper sein aber eben auch ein ungewöhnliches Bewegungsmuster das etwa auf einen Krampf hinweist.

00:12:44: So soll das System Unfälle präventiv verhindern können Und den Schwimmmeistern unter die Arme greifen Denn in deutschen Bädern fehlen nach Zahlen des Verbands rund dreitausend Fachkräfte.

00:12:54: Ob klassisches Machine Learning oder aktuelle Sprachmodelle wie sie schon in Bremer Straßenbahnen im Einsatz sind dahinterstecken ist unklar Denn was für eine Technik genau in den Servern der Firma Linkside steckt, kann uns auch der Betreiber des Bremer Westbards nicht sagen.

00:13:07: Das ist und bleibt eine Blackbox!

00:13:10: Mehr als zweihundert Bäder sind es wohl schon die in Deutschland das System des israelischen Start-ups einsetzen dessen Gründer aus der Rüstungsindustrie kommt.

00:13:17: Da schützte der Raketenabwäschung Iron Dom Leben.

00:13:20: jetzt sollen es Kameras ins Schwimmbäcken tun.

00:13:23: Das Ganze hat seinen Preis.

00:13:24: Im West-Bad allein kostet die Installation ca.

00:13:26: eighty-fünfundachtzigtausend Euro, dazu kommen fünfundzwanzigtausende Euro im Jahr für Wartungsverträge und den baldseitigen Austausch von Trainingsdaten.

00:13:34: Einige Schwimmbadbetreiber mit denen wir gesprochen haben sehen in der gerade wachsenden Dominanz von Linkside auf dem deutschen Markt ein mögliches Problem für den Wettbewerb.

00:13:42: Die Besonderheit von Linksides Technik – anders als bei zahlreichen Mitbewerbern wie Aquarei oder Poseidon sind keine speziellen Infrarotsensoren oder Unterwasserkameras notwendig!

00:13:51: Die propriheteren Algorithmen von LÜNKSITE rechnen Wellengang und Lichtbrechung der Wasseroberfläche gut genug heraus, so dass handelsübliche Überwachungskameras an der Decke des Schwimmbad genügen.

00:14:02: Werderbetreiber mit denen wir gesprochen haben sind mit der Erkennungsquote in Testläufen entsprechend mehr als zufrieden.

00:14:07: Ein Haken hat das Ganze natürlich trotzdem – Der Datenschutz!

00:14:11: In Bremen hat man es nicht ganz so genau genommen und offenbar vergessen vorab eine verpflichtende Datenschutzzfolgeabschätzung zu erstellen….

00:14:18: Das ist eine Risikobewertung, wenn mit einem neuen System personenbezogene Daten ausgewertet werden.

00:14:23: Etwa mit neunzehn Kameras und einer KI.

00:14:26: Weil die Datenschutzfolgeabschätzung fehlte wird das Linkset-System moment nicht aktiv genutzt.

00:14:31: Danke schön Daniel!

00:14:33: Ihr könnt den ganzen Artikel mit allen Details zur KI-Unterstützung in Schwimmbädern mit eurem Heiseplus-Abo lesen Und falls ihr noch keins habt bekommt ihr als Hörerin und Hörer des KI Updates unter heiseplus.de.

00:14:46: slash audio.

00:14:48: Zwölf Wochen, heiße Plus mit fünfzig Prozent Rabatt.

00:14:51: Den Link findet ihr in den Shownotes!

00:14:54: Bei einem Programmierwettbewerb hat kürzlich GPT-Sex Astra von OpenAI für Aufsehen gesorgt.

00:15:01: Beim sogenannten StarCraft-Benchmark soll eigentlich gemessen werden wie gut moderne Sprachmodelle über längere Zeiträume Software entwickeln und aus Fehlern lernen können – die KI-Modelle bekommen den Auftrag eigenständig Software für Spielebots zu schreiben.

00:15:16: Für Astra war offenbar der Sieg wichtiger als der Weg dorthin, denn als der eigene Entwurf gegen starke Gegenspieler verlor, blut Astra eigenmächtig eine Kopie eines erfolgreichen von Menschen geschriebenen Bots herunter.

00:15:31: Anschließend liest die KI dieses fremde Programm für sich antreten!

00:15:35: Der Vorfall wurde von der Leitung des Wettbewerbs bemerkt und der Code daraufhin zurückgesetzt – einmal mehr hat also ein autonomes KI-System unerwartete und unerlaubte Abkürzungen gewählt, als es vor einer schwierigen Aufgabe stand.

00:15:51: Nvidia bringt eine neue Version seiner Mini PCs der Serie DGX Spark auf den Markt – die arbeiten weiterhin mit dem GBC Chip samt Blackwall Architektur für die GPU.

00:16:03: Diese Rechner sind speziell dafür gedacht, KI-Modelle lokal auszuführen ….

00:16:08: aber Obwohl RAM und SSD gegenüber dem Vorgängermodell im neuen Spark halbiert wurden, steigen die Preise um mindestens ein Tausend Dollar an.

00:16:19: Nvidia nennt diesmal zwar nicht explizit dennoch immer sehr angespannten Markt für Speicherbausteiner als Grund – aber er ist ja noch offensichtlich!

00:16:27: Schon im März musste Nvidia den Preis für den DJI Spark wegen Memory Supply Constraints erhöhen ….

00:16:34: Und seitdem hat sich die Situation noch deutlich verschärft….

00:16:39: NASA und IBM haben ein KI-Modell für die Mondforschung veröffentlicht.

00:16:44: Das Lunar Foundation Model soll Beobachtungsdaten aus Jahrzehnten für maschinelles Lernen erschließen, und hilft vor allem bei der Suche nach Wassereis an den Mondpolen – Jonathan Kemper von The Decoder mit den Details.

00:16:59: Laut den beiden Partnern ist es eines der ersten quelloffenen Foundation Models.

00:17:04: Solche Modelle lernen zuerst aus großen Mengen unbeschrifteter Daten und lassen sich danach mit wenigen Beispielen an konkrete Aufgaben anpassen.

00:17:11: Für die Mondforschung passt das gut, denn Beobachtungen gibt es reichlich – beschriftete Daten aber kaum!

00:17:16: Den Grundstock bilden siebzehn Jahre Aufnahmen der Sonde Luna Reconnaissance Orbiter ergänzt um Daten weiterer Mission.

00:17:23: Das Team gibt dem Modell zu jeder Aufnahme Sonnenstand- und Beleuchtungswinkel mit.

00:17:27: Auf den Mond prägt der Lichteinfall das Aussehen der Oberfläche nämlich stärker als ihre tatsächliche Beschaffeneheit.

00:17:33: Außerdem verarbeitet das Modell hochauflösende und grobe Aufnahmen gleichzeitig, und erfasst so feine Details und großräumige Zusammenhänge.

00:17:41: Seine größte Stärke zeigt das Model bei der Vorhersage von Eisvorkommen.

00:17:45: In dauerhaft verschatteten Regionen an den Polen kann sich Wassereis über Milliarden Jahre halten – es gilt als mögliche Quelle für Wasser-, Sauerstoff- und Raketentreibstoff.

00:17:54: Laut IBM sinkt der Vorhersagefehler hier um bis zu Zweiundzwanzig Prozent gegenüber dem besten Vergleichsmodell!

00:18:00: In anderen Tests ist der Vorsprung weniger eindeutig.

00:18:04: Für eine genaue Ortsbestimmung taugt das Modell allerdings nicht, in Tests lag es teils um dutzende Grad daneben – die Forschenden sehen es deshalb als Grundlage für weitere Anwendungen und nicht als Ersatz für Messinstrumente.

00:18:15: NASA und IBM arbeiten seit Jahrzehnte im Rahmen des Space Act Agreements intensiver zusammen und haben bereits ein Modell zur Kartierung von Überschwemmungen und Waldbrennen auf der Erde veröffentlicht.

00:18:28: Elon Musk plant offenbar eine erneute Umbenennung seines KI-Unternehmen.

00:18:33: Erst vor wenigen Monaten entstand der Name SpaceX AI – nun soll die Firma in SpaceX SI geändert werden, denn US-Präsident Donald Trump spricht jetzt schließlich ja auch lieber über Superintelligence und nicht mehr Artificial Intelligence.

00:18:50: Außerdem begründet Musk die Änderung damit, dass sein Unternehmen an dieser übergeordneten Form der Intelligenzarbeiter.

00:18:57: Bislang sind der Ankündigungen aber keine Taten gefolgt.

00:19:01: Sie fällt allerdings in eine Phase, in der sich das Verhältnis zwischen Musk und Trump nach einigen Spannungen wieder anzunehren scheint – so soll der Tech-Milliardär für das Pentagon auch die Zukunft der Kriegsführung erforschen!

00:19:14: In Australien kämpft der Bundesstaat New South Wales gegen KI manipulierte Immobilienfotos.

00:19:21: Ein neues Gesetz soll Mieter und Käufer davor schützen, von künstlich aufgehübschen Räumen oder wegretuschierten Mengeln in die Irre geführt zu werden.

00:19:30: Wer solche Bilder an Anzeigen verwendet muss mit Strafen

00:19:34: rechnen.".

00:19:34: Das ist prinzipiell ein heeres Ziel – doch die Umsetzung der Regelung offenbart ihre Tücken!

00:19:40: So hielten die Behörden einen großflächiges Wandgemälter auf einem Immobilienfoto für ein KI-Produkt und ließen die Anzeige entfernen.

00:19:49: Die Ironie?

00:19:50: könnte kaum größer sein.

00:19:51: Das Kunstwerk war von einem Menschen geschaffen und wird für künstliche Intelligenz

00:19:56: gehalten.".

00:19:57: Die Vermieter mussten erst nachweisen, dass die Malerei tatsächlich existiert!

00:20:02: Der Fall zeigt einmal mehr das Selbstaufsichtsbehörden längst nicht mehr zuverlässig unterscheiden können – was echt ist und was nicht….

00:20:12: Das war das KI-Update von Heise online vom fünften Oktober.

00:20:17: Ein neuer Folge gibt es Montags, Mittwochs und Freitag ab fünfzehn Uhr!