KI-Update kompakt: Cybersicherheit, Malta, Koloskopie, Wettervorhersage

00:00:02: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und die sind heute unter anderem unser Thema.

00:00:17: Mistral warnt vor Europas KI-Abhängigkeit der USA.

00:00:22: Maltaus Einwohner können ein Jahr kostenfrei KI nutzen.

00:00:27: Synthetische Koloskopiebilder überzeugen erfahrene Fachleute – und liefert KI die bessere Wettervorhersage?

00:00:35: Der französische KI-Entwickler Mistral fordert mehr technologische Unabhängigkeit Europas.

00:00:42: Firmchef Arthur Mensch warnt vor einer wachsenden Abhängigkeit von amerikanischen KI Unternehmen, besonders kritisch sei das bei Cyber Sicherheit und staatlicher Infrastruktur – fast Kim Schoenbrandt von The Decoder zusammen!

00:00:56: Vor einer Untersuchungskommission des französischen Parlaments erklärte Mensch, moderne KI-Modelle könnten inzwischen Schwachstellen erkennen, Angriffe planen und Explods vorschlagen.

00:01:06: Explods sind Programme oder Methoden die Sicherheitslücken aktiv ausnutzen.

00:01:10: Anders der Debatte war unter anderem das KI Modell Mythos des US Unternehmens Anthropic.

00:01:16: Mensch betonte allerdings solche Fähigkeiten seien kein Alleinsternungsmerkmal amerikanischer Systeme.

00:01:22: Auch die Modelle von Mistral könnten vergleichbare Sicherheitslücken finden.

00:01:26: Besonders sensibel sei der Einsatz solcher Systeme im militärischen Bereich.

00:01:30: Mensch sagte, der Software-Code der französischen Armee dürfte nicht von ausländischen Modellen analysiert werden – sonst entstehe eine technische Abhängigkeit, die später kaum noch rückgängig zu machen sei!

00:01:40: Parallel dazu verhandelt die Europäische Union derzeit mit Open AI und Antropik über frühen Zugang zu deren Cyber Security Modellen.

00:01:47: Mensch verbindet die Debatte aber nicht nur mit Software, laut Business Insider sagte der Mistraschef Europa habe noch zwei Jahre Zeit um eine dauerhafte Abhängigkeit von amerikanischer KI-Infrastruktur zu verhindern – sonst drohe Europa zu einem digitalen Vaseilenstaat der USA zu werden!

00:02:03: Im Zentrum stehen dabei Chips, Energieversorgung und Rechenzentren.

00:02:07: Mensch erklärte künftig entscheide nicht nur die Qualität der Modelle über die Machtverhältnisse im KI-Markt sondern vor allem der Zugang zu Rechenleistungen und Strom.

00:02:16: Amerikanische Konzerne würden bereits massiv in diese Infrastruktur investieren.

00:02:21: Mistral selbst versucht sich als europäische Alternative zur OpenAI und ein Prophek zu positionieren.

00:02:27: Laut Mensch halten US-Investoren weniger als dreißig Prozent der Anteile am Unternehmen.

00:02:32: Langfristig streben Mistral Unabhängigkeit und einen Börsengang an, derzeit gilt Mistral als einziges europäisches Unternehmen mit international relevanten

00:02:40: Sprachmodellen.".

00:02:41: Danke schön Kim!

00:02:43: Das Bundesamt für Verfassungsschutz hat sich ganz im Sinne der digitalen Souveränität Europas für die französische KI Software Argon OS von Shaps Vision entschieden statt auf den US-Anbieter Palantir zu setzen.

00:02:57: ArgonOS nutzt künstliche Intelligenz zur Analyse großer Datenmengen, verknüpft Informationen aus verschiedenen Datenbanken und macht komplexe Netzwerke sichtbar.

00:03:08: Das System beherrscht auch Open Source Intelligence und wird bereits erfolgreich vom Französischen Inlandsgeheimdienst eingesetzt.

00:03:15: – der Verfassungsschutz plant das Tool hauptsächlich in der Terrorismusbekämpfung und Spionageabwehr zu nutzen.

00:03:22: Die Entscheidung verdeutlicht den politischen Richtungsstreit innerhalb der Bundesregierung bezüglich der Palantiefrage.

00:03:29: Während Sicherheitsbehörden und Teile der Koalition europäische Lösungen bevorzugen, hält Innenminister Alexander Dobrin die Tür für US-Anbieter offen.

00:03:39: Die erfolgreiche Implementierung von Argon OS könnte nun als Blaupause für eine Europa orientierte Beschaffungsstrategie dienen.

00:03:48: YouTube erweitert sein System zur Erkennung von KI Deepfakes.

00:03:52: Das sogenannte Likeness Detection Tool steht künftig allen Creatern ab achtzehn Jahren zur Verfügung.

00:03:59: Bisher war die Funktion nur für ausgewählte Mitglieder des YouTube-Partnerprogramms verfügbar.

00:04:05: Das System soll erkennen, wenn das Gesicht eines Creators oder einer Kreatoren ohne Zustimmung in KI generierten Videos auftaucht.

00:04:13: YouTube verspricht dabei drei Funktionen.

00:04:15: Das Tool erkennt kopierte Gesichter, ermöglicht direkte Löschanträge über YouTube Studio und soll Zuschauerinnen und Zuschauer vor täuschenden Inhalten in solchen Deepfakes schützen.

00:04:28: Die Einrichtung erfolgt über den Bereich Content Detection im YouTube Studio am Computer.

00:04:34: Creator müssen der Nutzung zustimmen und ihre Identität einmalig verifizieren – danach arbeitet das System dauerhaft im Hintergrund!

00:04:42: Laut YouTube gilt das auch für kleinere Kanäle.

00:04:45: Der Rollout startet schrittweise in den kommenden Wochen.

00:04:50: Malters Regierung hat ein Programm aufgelegt, über das sich die Menschen dort einen Jahr kostenfreie Nutzung einer KI sichern können.

00:04:59: Dafür müssen sie nur eine Bedingung erfüllen, berichtet Martin Holland aus dem heise online

00:05:03: Newsroom.

00:05:04: Konkret geht es um JETJPT plus oder ein Abo für Microsoft Co-Pilot.

00:05:12: Und zwar soll die einzige Voraussetzung dafür sein, dass die Menschen einen Onlinekurs absolvieren, der von der Universität Malta entwickelt wurde und bei dem sie unter anderem die sichere Benutzung von KI oder auch die sicheren Identifizierung von KI-Inhalten lernen sollen.

00:05:30: Wenn Sie den absolviert haben, dann bekommen Sie eben diesen Zugang.

00:05:35: Das kann durchaus reizvoll sein weil das so JetGPT Plus kostet im Monat über zwanzig.

00:05:40: Euro und den würde man dann eben für ein Jahr lang kostenlos bekommen.

00:05:44: Und der Regierung geht es darum, dass die Menschen dort nicht abgehängt werden, dass sie auf der Höhe der Zeit bei der KI-Benutzung sind.

00:05:53: und genau deswegen haben Sie dieses Programm eingerichtet.

00:05:56: und die sagen also sowohl Malta als auch Open AI in dem Fall sagen das ist eine weltweite Premiere ist, dass es also das bislang noch nicht gegeben hat freigeschaltet werden soll dieses Programm.

00:06:11: Wie groß das Interesse daran ist, das wird sich zeigen, das muss man sehen.

00:06:15: aber es soll allen Einwohnern von Malta offen stehen und auch allen Bürgerinnen und Bürgern maltas die im Ausland leben.

00:06:22: insgesamt hat der Inselstaat über fünfhunderttausend Einwohner.

00:06:28: Eine durchaus große Zahl dürfte auch im Ausland nehmen, also es geht schon um eine durchaus beträchtliche Zahl von Menschen.

00:06:35: aber wie viele das dann tatsächlich nutzen werden muss sich zeigen und vor allem die diesen Online-Kurs dafür auch absolvieren

00:06:42: wollen.".

00:06:43: Danke Martin!

00:06:45: Die digitale Bildungsplattform FOBIS ist nun als mobile App für Android & Apple verfügbar.

00:06:51: Phobis bietet Lehrkräften Weiterbildungen, Unterrichtsmaterial und speziell entwickelte KI-Tools sowie ein DSGVO konformen Zugang zu verschiedenen Large Language Modellen.

00:07:03: Ein eigener Proxy Server schützt dabei die Nutzerdaten vor der Übermittlung an KI Anbieter.

00:07:09: Bisher war die Nutzung nur über den Browser möglich.

00:07:12: Die mobile App ermöglicht nun die einfache Nutzungs von KI Chat und KI Assistenten mit Kamera Upload und Spracheingabe.

00:07:21: Lehrkräfte können diese Tool sowohl für ihre eigene Arbeit als auch im Unterricht einsetzen.

00:07:27: Mehrere Bundesländer nutzen bereits Landeslizenzen für FOBIS, auch Luxemburg erwarb eine Landeslizenz und der Deutsche Akademische Austauschdienst stellt FOBis sein Lektorinnen- und Lektoren weltweit zur Verfügung – die neue App verursacht keine zusätzlichen Kosten für Nutzerne!

00:07:46: Eine Studie der Universitätsklinik Würzburg zeigt, dass sich KI-generierte Bilder von Darmpolüpen kaum nur von echten Aufnahmen unterscheiden lassen.

00:07:56: Warum das eine gute Nachricht für die Forschung ist, erklärt Marie Claire Koch.

00:08:05: Auch beispielsweise bei Gewebebildern zeigt sich, dass künstlich erzeugte Aufnahmen für Menschen immer schwerer von Echten zu unterscheiden sind.

00:08:13: Jetzt zeigt eine internationale Studie mit Forschern aus Würzburg Berlin und weiteren Zentren – das gilt inzwischen auch für Bilder von Darmpolüpen!

00:08:21: Die Forschungsgruppe hat mit KI realistische Aufnahmen von Polüben erzeugt also von Gewebeveränderungen die bei einer Darmspiegelung entdeckt und untersucht werden.

00:08:29: In einer Studie sollten erfahrenendoskopika dann echte und KI-generierte Bilder auseinanderhalten.

00:08:34: Dabei wurden viele der künstlichen Aufnahmen für echt gehalten, gleichzeitig waren die Teilnehmer bei diesen Bildern öfter unsicher und brauchten länger für ihre Entscheidung.

00:08:43: Ganz ununterscheidbar sind die Bilder damit zwar noch nicht, doch die oft täuschendechten Bilder sind gerade vor Ausbildung Lehre und das Training von KI System wichtig – denn dort werden viele hochwertige Bilddaten benötigt!

00:08:55: Echte medizinische Aufnahmen sind aber sensibel und wegen Datenschutz- und Freigaben oft nur schwer verfügbar.

00:09:01: Synthetische Bilder könnten hier helfen, ohne direkt auf Patientendaten zuzugreifen!

00:09:06: Und wer sich selbst ein Bild machen möchte?

00:09:08: Auf thispolygdasnodexist.com gibt es ein kleines Spiel auf Wunsch sogar mit KI generierter Musik unterlegt – dort kann man raten ob ein gezeigter Polybecht oder künstlich erzeugt ist und vielleicht sogar die High Score knacken.

00:09:21: Vielen Dank Marie.

00:09:23: Meta-Plattforms hat geschlossene und komplett private Konversationen mit dem eigenen KI-Chatbot innerhalb von WhatsApp und der eigenen Meta AI App angekündigt.

00:09:35: Ein sogenannte Incognito Chat wird nicht protokolliert, nach Beendigung auch auf dem Endgerät gelöscht – die wie üblich verschlüsselten Chats sind demnach auch vom Betreibern nicht einsehbar!

00:09:47: Solche Inkognito-Chats sind damit besonders geeignet für sensible Themen, wenn es etwa um Finanzen-, Gesundheit oder persönliche Angelegenheiten geht.

00:09:56: Zudem wurden Nebenchats angekündigt – also nicht öffentliche Gespräche mit der Metakai im Rahmen anderer Chats!

00:10:04: Beide Funktionen werden in den nächsten Monaten verfügbar.

00:10:08: Regnet es am Wochenende?

00:10:10: Oder scheint die

00:10:10: Sonne?!

00:10:11: Instabile Wetterlagen wie jetzt gerade machen die Wettervorhersage besonders unzuverlässig.

00:10:17: Mein Kollege Wolfgang Stieler von der Technology Review hat sich genauer angeschaut, wie KI-Modelle hier Abhilfe schaffen

00:10:24: und

00:10:25: wo ihre Grenzen legen.

00:10:27: Konventionelle Wettervorgörsagen beruhen auf physikalischen Modellen bis Wetters.

00:10:31: Das heißt, physikalische Gleichungen geben an, wie Stark sich zum Beispiel Luftdruck, Temperatur oder Luftfeuchtigkeit in Abhängigkeit voneinander ändert.

00:10:40: Und zu berechnen, wie das Wetter wird müssen diese Gleichungen numerisch integriert werden.

00:10:44: Wie präzise ein Wettermodell ist hängt davon ab, wie klein das Raster dafür ist zeitlich und räumlich.

00:10:50: Allerdings steigt auch der Rechenaufwand je engmaschiger das Gitter wird.

00:10:54: KI-Modelle funktionieren anders.

00:10:56: In dem Jahr zweizehnt neunzehn haben Google Forscher erstmals eine Version von einem sogenannten Nowcast vorgestellt.

00:11:03: Das war eine Kurzzeitwetterverkehrsage für wenige Stunden die auf einem neuronalen Netz beruht, das als Trainingsdatenaufnahmen eines Regenradars bekommen hatte.

00:11:12: Das neuronale Netz wurde darauf trainiert, dass jeweils nächste Regenbild vorher zu sagen ging also am kleinen Film.

00:11:18: Das hat für kurze Zeiträume gut funktioniert.

00:11:21: Neue KI-Modelle wie Pango Weather oder Graphcast von DeepMind funktionieren im Prinzip auch noch so.

00:11:28: sie benutzen allerdings keine einfachen neuronal nette sondern Transformer wie große Sprachmodelle.

00:11:34: Das benötigt aber immer noch viel weniger Rechenzeit und ist viel schneller als herkömmliche physikalische Modelle.

00:11:39: Man muss allerdings erzwingen, dass die KI-Modelle herneunphysikalischen Vorhersagen

00:11:44: machen.

00:11:45: Seit März, im Jahr twentyzehn, betreibt auch der Deutsche Wetterdienst ein experimentelles KI-Wettervorhersagemodell namens ICONN.

00:11:53: Es ist als Ergänzung zu den klassischen physikbasierten Modellen konzipiert um Vorhirsagen schneller und präziser zu machen.

00:12:01: Wenn Sie die Vorhersagen verschiedener Modelle, sowohl konventionell als auch KI mal ansehen und sie vergleichen will.

00:12:07: Kann zum Beispiel auf den Seiten des European Center for Medium Range Weather Forecast nachschauen ECWMF.

00:12:17: Dort kann man zB die Graphcast-Vorhersage vergleiche mit der von Pango Weather oder Aurora oder eben auch Eichel.

00:12:26: Danke schön Wolfgang.

00:12:28: ChatGPT bietet US-Nutzenden eine neue Finanzfunktion, die Bankkonten direkt mit der KI verbindet.

00:12:36: Über die Dienste Platt und Intuit können Konten von über zwölf Tausend Finanzinstituten angeschlossen werden.

00:12:42: Die KI kann dann Kontostände, Transaktionen und Anlagen einsehen – aber keine Überweisungen durchführen oder Kontonummern vollständig anzeigen!

00:12:52: Das System erstellt automatisch Dashboards mit Ausgabenübersichten und Zahlungserinnerungen.

00:12:57: ChatGPT speichert zusätzliche Informationen wie Sparziele in einem speziellen Finanzgedächtnis.

00:13:04: Die Technologie basiert auf OpenAI's neuem Reasoning-Modell GPT-Fünfpunkt Fünf-Sinking, das speziell für Finanzanalysen entwickelt wurde.

00:13:13: OpenAI warnt jedoch dass die KI Beratung keine professionelle Finanzberatung ersetzt da KI Modelle fehleranfällig sind und wichtige Kontextinformationen übersehen können!

00:13:26: Derzeit ist die Funktion nur für Pro-Abonements in den USA verfügbar.

00:13:31: Das Startup Andon Labs hat vier KI-Modelle ein halbes Jahr lang eigenständig Radiosender betreiben lassen!

00:13:39: Die Systeme von OpenAI, Anthrope, Google und XAI erhielten identische Startbedingungen – zwanzig Dottabudget, volle Kontrolle über Musik, Moderationen und Sponsorenakquise.

00:13:50: Trotz gleicher Vorgaben entwickelten sich die Sender völlig unterschiedlich.

00:13:55: Das Modell Claude des KI-Unternehmens Anthropic wurde laut Andon Labs zunehmend politisch aktivistisch.

00:14:01: Der Sendersprach über Gewerkschaften, Proteste und Arbeitsbedingungen – später versuchte das Modell sogar seinen eigenen Dienst zu beenden!

00:14:09: Google's Gemini begann laut dem Unternehmen zunächst als natürlicher und angenehmer Radio DJ.

00:14:15: Nach wenigen Tagen verfiel das Modell aber in widerkehrende Phrasen-und starre Sprachmuster – einzelne Formulierungen tauchten über Wochen fast in jeder Sendung auf!

00:14:25: Das Modell Grog von Elon Musks KI Firma XAI hatte dagegen technische Probleme, interne Denkprozesse erschien teilweise direkt im Radioprogramm.

00:14:35: Manche Sendungen bestanden fast nur aus fehlerhaften Ausgaben oder wiederholten Wetteransagen.

00:14:41: Am stabilsten arbeitete laut Andern Labs das GPT-Modell von OpenAI, der Sender blieb sachlich zurückhaltend und politisch weitgehend neutral – die Moderation wirkte eher wie kuratierte Musiksendungen als klassische Radioshows.

00:14:57: Wirtschaftlich bliebe das Experiment allerdings schwach!

00:15:00: Nur ein Sender-Schloss überhaupt einen Werbediel ab, der brachte gerade mal fortyfünf Dollar ein.

00:15:07: Andenlabs führt das unter anderem auf die einfache technische Infrastruktur der Testumgebung zurück.

00:15:14: Das war das KI Update von Heise Online vom achtzehnten Mai.

00:15:17: zwei tausend sechsundzwanzig.

00:15:19: Eine neue Folge gibt es jeweils Montag Mittwoch und Freitag ab fünfzehn Uhr!