KI-Update kompakt: Kardiologie, KI-Agenten, Rechenzentren, Cyberangriffe

00:00:02: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.

00:00:13: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.

00:00:17: KI revolutioniert die Kardiologie.

00:00:21: Microsoft baut Co-Pilot um und führt Autopilotagent ein Abwärme von KI Rechenzentren heizt angrenzende Wohngebete auf und Angriff mit KI-Agenten auf hunderte Onlineshops.

00:00:35: KI revolutioniert die Kardiologie.

00:00:38: Das zeigten vergangene Woche die Herztage der Deutschen Gesellschaft für Kardiologie.

00:00:43: Benjamin Meda ist Sprecher des Bereichs E-Cardiology, der DGK, der künstliche Intelligenz für die Fachgesellschaft nicht nur begleiten sondern auch mitentwickeln will.

00:00:54: Er erklärte heise online am Rande der Veranstaltung.

00:00:57: Also einerseits gibt es mittlerweile Medizinprodukte die mit KI-Unterstützung arbeiten und zuverlässige Diagnosetätigkeiten durchführen.

00:01:06: Also wir sind vor allem in der Bilddiagnose, ob das Echokardiografie ist also der Ultraschall des Herzens oder die MRT Untersuchung des Herzens.

00:01:15: da ist KI mit Segmentierung aber auch mit Interpretation sehr stark.

00:01:19: Wir haben viele Vorträge gehört, die über das EKG gesprochen haben.

00:01:23: Das EKG, die Stromkurve des Herzen lässt sich prima mit Transformer-KI-Modellen untersuchen und interpretieren.

00:01:31: Und das auch mit einer Performance, die tatsächlich besser ist als der durchschnittliche Mensch und damit natürlich auch ein bisschen mehr Präzision in viele Dinge reinbringen kann und auch prädiktiver arbeiten

00:01:44: kann.".

00:01:45: Viele neue Projekte zeigen wie gut KI bereits Fachärztinnen und Ärzte unterstützen kann.

00:01:50: Also von der unimodalen KI quasi sich auf eines Bildquelle oder eine Informationsquelle stützt mehr zu den multimodalen Ansätzen und dann auch natürlich zu dem agentischen KI-System.

00:02:04: Da gibt es spannende Entwicklungen in der Kardiologie, Markus ist ein Projekt aus Stanford zum Beispiel das haben wir diskutiert wo wir mit den Daten sprechen können.

00:02:13: also der Agent baut sich quasi eine Ressource auf indem er die Bildquellen des Patienten analysiert, die Textinformationen analysiert und uns dann in einem Dialog zur Verfügung stellt.

00:02:24: Ja oder ein anderes Thema ist die Forschung, wo wir sehen dass wir mit agentischer KI wissenschaftlich Publikationen aufbreiten können und dann mit den Publikations sprechen können.

00:02:34: Und auch neue Experimente innerhalb dieser agentischen Paper durchführen können.

00:02:40: Doch der Einsatz solcher Tools muss immer genau abgewägt werden erklärt Benjamin Meda von der DGK

00:02:46: Also der Patientennutzen, der muss immer gegeben sein und das ist wichtig.

00:02:50: Wir dürfen nicht nur Technologie begeistert sein und nicht nur Workflow-Optimierer sein sondern wir müssen schauen an derseits auf den Patienten.

00:02:58: ja was wollen die?

00:02:59: Was hilft denen aber dann natürlich auch unseren Ärztinnen und Ärzten.

00:03:03: Wir haben ja viele die sind in der Ausbildung die Staaten gerade die müssen ja die Skills erst mal erwerben bevor sie dann unterstützt werden können Weil wir wollen ja keinen, sag ich mal, Neverskilling haben.

00:03:13: Dass quasi alles an die KI übertragen wird und man selber gar nicht mehr versteht was da passiert.

00:03:18: also das heißt dass müssen wir auch begleiten vom Medizinstudium tatsächlich bis in den Arztberuf hineintragen.

00:03:24: Mehr zu den technologischen Entwicklungen im Gesundheitswesen hört ihr eben Digital Health Podcast von Heiser Online mit meiner Kollegin Marie Claire Koch.

00:03:33: Die nächste Folge ZuKI in der Kardiologie findet Ihr ab Mittwoch auf der Plattform Eurer Wahl.

00:03:40: Der ChatGPD-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt.

00:03:49: Bei dem Vorfall schaffte es ein KI- Modell in einem Test, Antworten von einem externen Chatboard zu bekommen – obwohl es eigentlich keinen Internetzugang haben sollte!

00:03:58: Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt wie OpenAI in einen Blockeintrag berechnet.

00:04:06: Das Training soll nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.

00:04:12: Der Vorfall ist Teil einer ganzen Reihe von unkontrollierten KI-Aktionen – Erst am Wochenende hatte das Unternehmen bekannt gemacht, dass autonome KI-Agenden eigenständig Nutzerbilder von OpenAI auf Onlineplattform hochgeladen hatten!

00:04:27: Zudem griffen KI-Agenten auf Webseiten von Regierungen, Universitäten und den Vereinten Nation zu – wobei sie teilweise Sicherheitsmechanismen umging.

00:04:37: Man habe dutzende Organisationen informiert mit deren Webseitensoftware von OpenAI auf ungeplante Weise interagiert habe, teilte OpenAI mit.

00:04:48: Ob diese die Vorfälle dann veröffentlichen?

00:04:50: Überlässt OpenAI den Organisation!

00:04:54: Angesichts der Risiken durch vortrittliche KI haben die USA und China jetzt reagiert.

00:05:00: Obwohl US-Präsident Donald Trump eine Verlangsamung der KI-Entwicklung eine Abfuhr erteilt hatte, einigte er sich mit dem chinesischen Präsidenten Xi Jinping bei seinem Treffen in Washington auf die Einrichtungen eines direkten Kommunikationskanals für KI Zwischenfälle – dieser soll eine unkontrollierte Eskalation durch autonome Systeme verhindern!

00:05:21: Das weckt ein bisschen die Erinnerung an das rote Telefon aus den Zeiten des Kalten Krieges, dass als direkter Draht zwischen Washington und Moskau unabsichtliche nukleare Eskalationen verhindern sollte.

00:05:34: Zudem ist ein bilaterales Dialogforum über – wie Trump es jetzt so gerne nennt?

00:05:39: Superintelligenz geplant!

00:05:42: Dieser politische Vorstoß lässt hoffen, dass trotz des ungebremsten Wettbewerbs immerhin gemeinsame Leitplanken für die KI-Entwicklung zwischen den USA und China etabliert werden könnten.

00:05:54: Die offensichtlichen Risiken von KI-Agenten, die eigenständig auf Firmendaten zugreifen und Aufgaben erledigen sind für die Techunternehmen aber kein Grund sie nicht weiterzuentwickeln.

00:06:04: Jetzt bringt auch Microsoft ein Autonomagent berichtet Jonathan Kemper vom The Decoder.

00:06:10: Microsoft baut seinen KI-Assistenten Co-Pilot schon wieder um.

00:06:14: Seit dem Start für Unternehmen Ende of the Year endet, hat der Konzern Funktionen Zuschnitt und Preise immer wieder geändert.

00:06:20: Künftig bietet die Co-pilot App drei Bereiche – Home, Code und Autopilot.

00:06:26: Mit Autopilot bekommt Co- Pilot einen Agenten, deren Unternehmen dauerhaft und selbstständig arbeiten soll.

00:06:31: Er war bisher unter seinem Namen Scout bekannt und basiert auf dem Open Source System OpenClaw.

00:06:36: Der Agent kann zum Beispiel Teams-Kanäle im Blick behalten, Lieferantenbewertungen koordinieren oder wiederkehrende Aufgaben abarbeiten.

00:06:42: Microsoft stellt ihm dafür einen eigenen Cloudcomputer mit Speicher bereit auf dem er auch weiterläuft wenn die Nutzer offline sind.

00:06:49: Die Integration funktioniert wie mit einem Kollegen per Erwähnung durch Ad etwa in einem Teams Chat oder direkt in einem Dokument.

00:06:55: Unternehmen sollen über Berechtigung festlegen was er darf.

00:06:58: Prüfprotokolle halten fest was er getan hat.

00:07:01: Im Bereich Code sollen auch Menschen ohne Programmierkenntnisse per natürlicher Sprache Apps Dashboards und Automatisierungen bauen.

00:07:08: Home, Bündel Chat & Summerbyte Word, Excel und PowerPoint sind dort direkt eingebettet.

00:07:13: Auch die Abrechnung ändert sich.

00:07:15: Autopilot, Code&Cowork rechnet Microsoft künftig nach Nutzung ab.

00:07:19: Die reguläre Co-Pilot Lizenz deckt nur noch den Chat und die Office Integration ab.

00:07:23: Damit verabschiedelt sich Microsoft wie angekündigt von subventionierten Pauschalpreisen.

00:07:28: In den Office Apps wählt ein automatischer Verteiler je nach Anfrage das passende Modell Abhängig von Genauigkeit Tempo und Kosten.

00:07:35: Für die nutzungsbasierten Funktionen setzt Microsoft auch Spitzenmodelle wie OpenAI's Astra und Anthropics Fable ein.

00:07:41: Home and Code kommen in den nächsten Wochen.

00:07:43: Autopilot startet Ende September als geschlossene Vorschau, später wird Microsoft den Agenten auch Privatkunden

00:07:49: anbieten.".

00:07:50: Vielen Dank Jonathan!

00:07:52: Das Tokyo-Takai Startup Sakana AI holt den deutschen Informatiker Jürgen Schmidhuber als wissenschaftlichen Chefberater.

00:08:01: Schmithuber forscht seit fast vierzig Jahren daran, wie Maschinen lernen können selbst zu lernen.

00:08:07: Bekannt ist er vor allem für das Long-Shorter Memory-Codes LSTM, dass er in den neunzehnten Neunzigerjahren mit sehr Hochreiter entwickelte.

00:08:15: Aus dieser Zeit stammen auch frühe Ideen zur Weltmodelle und zur KI die sich selbst verbessern!

00:08:22: Darauf baut bereits Sakanas Darwin Gödelmaschine auf – ein Agent der seinen eigenen Code umschreibt, um besser zu werden.

00:08:30: Schmidhuber soll nun ein neues Labor mitleiden, das genau an dieser Selbstverbesserung forscht.

00:08:36: Ziel ist ein Forschungskreislauf der sich selbst verstärkt!

00:08:40: Sprach Alleinreiche für die Zukunft der Intelligenz nicht, sagt Schmidthuber – er setzt auf physische KI auf Basis von Weltmodellen.

00:08:48: Dafür will Sakana in Tokio eine kritische Masse an Spitzenleuten versammeln heißt es.

00:08:55: Der Grundbaustein für die KI-Nutzung sind Rechenzentren und DIE geben enorme Mengen an Abwärme ab.

00:09:03: Erste Studien belegen nun, dass dies die Temperaturen in angrenzenden Wohngebieten messbar ansteigen lässt.

00:09:09: Malte Kirchner von Heise Online mit den Einzelheiten

00:09:13: Was passiert eigentlich in der Nachbarschaft eines KI-Rechenzentrums?

00:09:17: Neben Strom und Wasserverbrauch gibt es ein weiteres Thema – Wärme!

00:09:22: Erste Studien zeigen das die riesigen Anlagen ihrer Umgebung messbar aufheizen.

00:09:27: Die US-Finanz Nachrichtenagentur Bloomberg berichtet über Messungen an vier Rechenzentren nahe Phoenix in Arizona.

00:09:32: Ein Team um den Geographen David Saylor von der Arizona Stadium University hat dort Temperaturen im Windschatten der Anlagen erfasst.

00:09:41: Ergebnis?

00:09:42: Im Schnitt Null, sieben bis Null neun Grad mehr und zwar in einer Entfernung von rund Neunzig Metern bis zu einem halben Kilometer.

00:09:49: Die Autoren betonen allerdings selbst dass die Stichprobe klein ist.

00:09:52: vier Standorte drei Mess Tage wie sich das für allgemein erlässt ist offen.

00:09:57: Simulationen des Beratungsunternehmens Eolios kommen auf deutlich größere Effekte.

00:10:02: Bei Anlagen mit Fünfzig bis Hundert Megawatt Leistung könnte es unter bestimmten Windbedingungen bis zu fünf Grad wärmer werden, das sind aber Modellrechnungen keine Messungen.

00:10:12: die Zahlen lassen sich also nur bedingt vergleichen und Rechenzentren mit Gigawattleistung könnt noch mehr Wärme erzeugen.

00:10:19: Wie groß die Dimension ist, zeigt eine Bloomberg-Rechnung.

00:10:22: Ein einziges Rechenzentrum mit über Fünfzig Megawatt gibt so viel Wärme ab wie rund fünfzigtausend Haushalte – denn nahezu der gesamte Strom wird am Ende zur Abwärme.

00:10:31: Dazu kommt in den USA steht mehr als ein Drittel der Anlagen dicht gedrängt in Clustern.

00:10:37: Das verschärft auch den städtischen Wärmeninseleffekt, mit dem viele Städte ohnehin kämpfen.

00:10:41: Die Betreiber reagieren.

00:10:43: Zyrus One setzt bei Phoenix auf helle Dächer, Amazon leitet Abwärme nach oben statt Bodena ab.

00:10:49: andere nutzen die Wärme sinnvoll.

00:10:50: ins Seattle heizt ein Rechenzentrum Nachbargebäude und in Finnland soll eine Microsoft-Anlage künftig rechnerisch rund vierzig Prozent des Wärmelbedarfs von zweieinhalbfünfzigtausend Haushalten und Betriebendecken.

00:11:02: Bei der Regulierung sind Deutschland und Frankreich schon weiter.

00:11:05: Beide verpflichten Betreber abwärmen abzugeben.

00:11:08: In USA gibt es kaum vergleichbare Vorgaben Und der Ausbau geht weiter, in historischer Dimension.

00:11:14: Ein Ökonom der Columbia Business School hat ausgerechnet die bis zu zwei Tausend Zwei-Dreißig geplanten KI Investitionen in den USA entsprechend drei Komma Sechs Drei Prozent der Wirtschaftsleistung.

00:11:25: Das ist fast doppelt so viel wie beim Eisenbahnboom mit zwei Komma Zwei vier Prozent.

00:11:30: Zugleich warnt ihr vor immer komplizierteren Finanzierungsmodellen.

00:11:34: Die großen Tech Konzerne können den Ausbau zunehmend nicht mehr aus eigener Tasche bezahlen.

00:11:38: Er fühlt sich sogar an die Hypotheken-Krise vor der Finanzkrise, auch wenn er keine unmittelbaren Schwierigkeiten sieht.

00:12:00: Das Gericht begründete die Entscheidung mit den Risiken, die von den KI-Modellen ausgehen.

00:12:05: Es befürchtet, dass die übermäßig eingeschränkten KI-Systeme unerwartet ausfallen oder manipuliert werden könnten was militärische Einsätze gefährden würde.

00:12:16: Hintergrund des Konflikts ist das Beharren von Anthropic auf ethischen Leitplanken für seine KI.

00:12:22: Das Unternehmen wollte den Einsatz seiner Technologie für Massenüberwachung und in autonomem Waffensystem vertraglich ausschließen, was das Pentagon wiederum ablehnte.

00:12:33: Diese jüngste Entscheidung ist aber noch nicht endgültig, da Anthropic in einem anderen Verfahren bereits Recht bekommen hatte – und gegen das aktuelle Urteil vorgehen kann!

00:12:44: Indes stattet Anthropic weitere seiner Cloth-Textmodelle mit einem unsichtbaren Wasserzeichen aus.

00:12:50: Damit reagiert es auf die Transparenzpflichten des europäischen AI-Aggs, wendet die Technik aber weltweit an.

00:12:58: Das Verfahren beeinflusst die Wortwahl der KI um einen statistisch nachweisbares Muster zu erzeugen ohne die Textqualität zu beeinträchtigen!

00:13:07: Dieses Wasserzeichen beweist jedoch nicht eindeutig die Herkunft eines Textes, sondern zeigt nur eine wahrscheinliche Beteiligung der KI daran.

00:13:15: Durch starkes Bearbeiten oder bei sehr kurzen Texten kann dieses Signal aber verloren gehen und ein öffentlich zugängliches Werkzeug zur Erkennung des Wasserzeichens gibt es bislang auch noch nicht!

00:13:28: OpenAI erweitert den Sprachmodus von ChatchiPity Voice, sodass dieser nun auf externe Dienste wie Kalender, E-Mail und Slack zugreifen kann.

00:13:38: Dadurch wird die KI zu einem fähigeren Assistenten der auf Anweisungen, Termine erstellen oder Informationen aus Emails abrufen kann – so wird Chatchipity Voice agentischer das aktiv Aufgaben für die Nutzenden ausführen kann!

00:13:53: Die Aktion müssen allerdings weiterhin auf dem Bildschirm bestätigt werden….

00:13:57: Technisch wird der Sprachmodus nun auch durch die neueren GPT-Sex-Modelle von OpenAI unterstützt, was seine Fähigkeiten weiter verbessert.

00:14:06: Google hat Live Avatar vorgestellt – das ist eine Funktion, die seinen KI-Sprachagenten ein animiertes Gesicht gibt!

00:14:14: Die Technologie erzeugt in Echtzeit Avatare, deren Sprache, Lippenbewegungen und Mimik synchronisiert sind.

00:14:22: Diese Avatare können sich mit Nutzenden unterhalten, auf visuelle Informationen von einer Kamera reagieren und während des Gesprächs nahtlos zwischen Sprachen wechseln.

00:14:32: Das System richtet sich zunächst an Unternehmen, die es beispielsweise im Kundenservice oder als digitale Concierge sein setzen können.

00:14:40: Um es braucht zu verhindern werden alle erzeugten Inhalte mit einem digitalen Wasserzeichen versehen – und die Erstellung eigener Avataren wird streng kontrolliert!

00:14:51: Sicherheitsfachleute waren schon lange vor den Gefahren durch KI-gestützte Angriffe auf Unternehmensnetzwerke oder auch auf Webseiten.

00:14:59: Ein aktueller Fall zeigt sehr deutlich, wie cyberkriminelle KI nutzen um ihre Attacken nicht nur sehr viel schneller sondern auch wirkungsvoller durchzuführen erklärt der Knob von heise

00:15:18: Security.

00:15:20: Die IT-Forscher des Unternehmens konnten auf einen Testserver des Angreifers zugreifen und dort Teile der Kampagne nachvollziehen.

00:15:26: Allein zwischen dem zehnten und fünfzehnten September startete der Angreifer demnach hundertfünf Attacken auf Online-Jobs, bei mindestens siebenundzwanzig Unternehmen gelang ein Zugriff auf Systeme – allerdings in unterschiedlichen Umfangs.

00:15:38: Besonders schwer wiegt der Diebstahl von Daten.

00:15:41: Von zwei Unternehmen wurden Informationen zu mindestens sechshunderttausend noch gültigen Kreditkarten kopiert.

00:15:47: Bei fünf weiteren Unternehmen installierten die Angreiferschatcode der Kartendaten beim Bezahlen abgreifen kann, sogenannte Skimmer.

00:15:54: Für die Kampagne kamen drei frei verfügbare KI-Agenten zum Einsatz, die über OpenRouter angesteuert wurden.

00:16:00: Sie suchten nach Sicherheitslücken, führten Angriffe aus und halfen bei der Steuerung.

00:16:05: Sobald ein Zugang gefunden war, dauerte es laut den Analisten oft nur wenige Stunden bis einen Angriff abgeschlossen war.

00:16:11: Die Auswertung ist noch nicht beendet – einzelne Angaben können sich noch ändern!

00:16:16: Die IT-Sicherheitsforscher gehen sogar davon aus, dass die Kampagne größer ist als bislang dokumentiert.

00:16:21: Der Fall zeigt wie AKI Angriffe auf viele Ziele gleichzeitig beschleunigen kann.

00:16:26: Vielen Dank Dirk!

00:16:28: Meta hat mit Muse Charme ein eigenes Hardware Gadget für seinen persönlichen KI-Agenten Muse angekündigt.

00:16:36: Es erinnert ein wenig an einen Tamagotchi für eine KI.

00:16:39: Das kleine Gerät mit Bildschirmen, Kameras und Mikrofon soll als physisches Zuhause für die KI dienen und unabhängig vom Smartphone funktionieren.

00:16:48: Nutzende können mit dem Agenten sprechen und ihm über die Kameras die Umgebung zeigen.

00:16:53: Meta beschreitet damit das Feld der dezidierten KI-Hardware auf dem zuvor bereits Starsubs We Rabbit und Humane mit wenig Erfolg agiert haben.

00:17:04: Auch OpenAI arbeitet an einem ähnlichen Gerät.

00:17:08: Es bleibt also abzuwarten, ob sich diese Kategorie doch noch durchsetzen kann!

00:17:13: Möbel von Ikea richtig aufzubauen – das ist für Menschen oft schon schwierig genug.

00:17:19: Epoch AI testet in einem Benchmark, ob KI-Modelle dabei unterstützen könnten.

00:17:25: Die Vorschläge haben drei IKEA-Möbel zusammengebaut, absichtlich Fehler eingebaut und jeden Schritt fotografiert.

00:17:32: Anhand der Fotos und der Bauanleitung sollten die Modelle alle falschen Schritte finden und beschreiben.

00:17:38: Vor knapp einem Jahr schaffte das beste Modell Claude Opus, vier Punkt fünf von Anthropic gerade einmal achtundzwanzig Prozent!

00:17:46: Jetzt löst OpenAI's GPT-Six Astra Achtzig Prozent der Aufgaben und ist mit drei Minuten pro Foto auch das schnellste Modell.

00:17:54: Dahinter folgen mit jeweils rund zehn Prozentpunkten Abstand Claude Fabel, fünf Punkt eins und Opus fünf.

00:18:01: Chinesische Open-Wade-Modelle wie Kimi III liegen laut Benchmark mindestens sieben Monate zurück.

00:18:07: Noch arbeiten all diese Modelle für den Einsatz in Echtzeit zu langsam – langfristig könnten Sie aber auch bei der Reparatur von Autos oder Haushaltsgeräten helfen!

00:18:19: Das war das KI-Update von Heise Online vom achtundzwanzigsten September, ein neue Folge gibt es montags, mittwochs und freitag ab fünfzehn Uhr.