Die stärkste KI der Woche bleibt unter Verschluss — und wer Zugang bekommt, zählt für die Medizin mehr als das nächste Leistungsplus

Ein Modell sagt das Fünf-Jahres-Überleben von Spendernieren treffsicherer voraus als etablierte Scores — geprüft bisher nur an der eigenen Kohorte

Zwei Machine-Learning-Modelle sagen das Fünf-Jahres-Überleben transplantierter Spendernieren voraus. Die Kennzahl dafür ist die AUROC, die Fläche unter der ROC-Kurve: ein Maß, wie gut ein Modell zwischen späterem Transplantatverlust und -erhalt trennt; 0,5 entspräche dem Zufall, 1,0 wäre fehlerfrei. Das Modell mit Daten aus dem ersten Jahr nach der Transplantation erreichte 0,904, das rein präoperative 0,813; beide übertrafen den KDPI, einen etablierten Index für die Qualität der Spenderniere. Geprüft wurden sie bislang nur intern — an Daten aus derselben Quelle, an der sie trainiert wurden.

Warum das zählt: Bei Vorhersagemodellen fällt die Trefferquote in der eigenen Kohorte fast immer höher aus als später an einer fremden Klinik. Die Zahl, die über eine Einführung entscheidet, ist deshalb die externe, prospektive Prüfung — und die steht hier noch aus. Wer ein solches Modell beurteilt, sollte zuerst danach fragen, und weniger nach dem Wert aus der Entwicklungsarbeit.

Quelle: Renal Failure

Ein KI-Agent schreibt Arztbrief-Entwürfe vor: Der Burnout-Wert der Ärzt:innen sank messbar, die Zeitersparnis kaum — und das ist die eigentliche Erkenntnis

Diese Arbeit ist von Anfang Mai. Laut PubMed prüfte eine Stanford-Gruppe prospektiv MedAgentBrief, einen KI-Agenten auf Basis von Gemini 2.5 Pro, der nachts einen Entwurf für die Zusammenfassung des stationären Verlaufs schreibt — die Grundlage des Arztbriefs. Auf einer internistischen Station entstanden zu 384 Entlassungen 1.274 Entwürfe; in 57 Prozent der Fälle übernahmen die Ärzt:innen den KI-Text. Sie meldeten Auslassungen (25 Prozent) und Ungenauigkeiten (20 Prozent), selten frei Erfundenes (2 Prozent); 88 Prozent der unbearbeiteten Entwürfe stuften sie als ohne Schadenspotenzial ein, keinen als schwerwiegend. Der gemessene Burnout-Wert sank deutlich, von 1,75 auf 1,20 auf einer Skala bis 4 (p=0,03), während die Zeitersparnis klein und statistisch nicht gesichert blieb (median 10,7 auf 7,8 Minuten; p=0,13).

Warum das zählt: Die Entlastung kam offenbar nicht aus gesparter Zeit, sondern daraus, dass die erste Fassung schon dastand. Wer solche Werkzeuge allein an gesparten Minuten misst, übersieht, was sie tatsächlich abnehmen. Einschränkend bleibt es eine einarmige Pilotstudie an einem Zentrum; das Ergebnis kann natürlich auch der Neuheit geschuldet sein (z.B. fehlende Gewöhnung im Umgang mit KI-generierten Texten).

Quelle: JAMA Network Open

Anthropic hält sein stärkstes Modell wegen Cyber- und Biorisiken zurück — und macht damit den Zugang zur Frage, bei der Europa hinten steht

Anthropic veröffentlichte am 9. Juni Fable 5 für die allgemeine Nutzung. Das leistungsfähigere Schwestermodell Mythos 5 gab das Unternehmen ausdrücklich nicht frei: Modelle dieser Klasse übertreffen spezialisierte Programme beim Entwurf von Virus-Bausteinen — etwa bei adeno-assoziierten Viren, die in der Gentherapie als Genfähren dienen — und sie senken die Schwelle für Cyberangriffe. Anthropic stuft seine Modelle nach Risiko ab, vergleichbar mit den Sicherheitsstufen biologischer Labore; die stärkste Stufe bleibt vorerst eingeschränkt. Zugang erhalten zuerst Fachleute aus der IT-Sicherheit, später, gestaffelt, ausgewählte biomedizinische Forschungsgruppen.

Warum das zählt: Bei den fähigsten Modellen verschiebt sich die entscheidende Frage von der Technik zur Zuteilung — nicht was ein Modell kann, sondern wer es nutzen darf und nach welchen Kriterien. Für die Medizin ist das heikel, weil dieselbe Fähigkeit, die einen gefährlichen Erreger entwerfen könnte, auch bei der Entwicklung von Therapien hilft; die Grenze verläuft nicht zwischen guten und schlechten Werkzeugen, sondern zwischen den Händen, denen man sie anvertraut. Und europäische Kliniken stehen bei neuen Modellen ohnehin oft hinten an: In einer Branchenbefragung berichteten sechs von zehn europäischen Technologieunternehmen von verzögertem Zugang.

Quelle: Anthropic

Microsoft baut sieben eigene Modelle und ein Labor für Superintelligenz — neben der Genauigkeit verdient eine zweite Frage Gewicht: wem das klinische Modell gehört

Microsoft stellte am 8. Juni sieben selbst entwickelte Modelle vor und ein Labor, das ausdrücklich auf Superintelligenz zielt — Systeme, die den Menschen über viele Aufgaben hinweg übertreffen sollen. Parallel entwickelt der Konzern mit der Mayo Clinic ein Modell eigens fürs Gesundheitswesen. Damit rückt ein Anbieter, über dessen Infrastruktur schon ein großer Teil der Krankenhaus-IT läuft, näher daran, Modell, Rechenleistung und Vertrieb aus einer Hand zu liefern.

Warum das zählt: Wie gut ein Modell erkennt, bleibt die erste Frage — daran ändert sich nichts. Eine zweite kommt hinzu, die in Beschaffungsgesprächen seltener gestellt wird: Wem gehört das Modell, an wessen Daten wurde es trainiert, und wie aufwendig wäre ein Wechsel? Je mehr davon bei einem Anbieter liegt, desto schwerer wiegt die Abhängigkeit. Wer einkauft, sollte den Wechsel vertraglich offenhalten, solange er noch leicht fällt.

Quelle: Microsoft AI

Die EU-Kommission legt fest, wie KI-erzeugte Inhalte gekennzeichnet werden — ab August gilt die Pflicht, und sie betrifft auch maschinell verfasste Patiententexte

Die EU-Kommission veröffentlichte am 10. Juni ihren Verhaltenskodex zur Kennzeichnung maschinell erzeugter Inhalte. Er konkretisiert Artikel 50 des KI-Gesetzes, der verlangt, dass künstlich erzeugte Texte, Bilder und Töne als solche erkennbar sind. Vorgesehen sind ein einheitliches Kennzeichen (im Deutschen „KI“), eine Unterscheidung zwischen vollständig maschinell erzeugten und nur unterstützten Inhalten sowie technische Verfahren wie Wasserzeichen und maschinenlesbare Herkunftsangaben. Der Kodex ist freiwillig; die zugrunde liegende Transparenzpflicht greift ab dem 2. August.

Warum das zählt: Sobald ein Modell an Arztbriefen, Aufklärungstexten oder Patienteninformationen mitschreibt, stellt sich die Frage, was davon gekennzeichnet werden muss und wer dafür geradesteht. Im Klinikalltag ist die Grenze zwischen „unterstützt“ und „maschinell erzeugt“ fließend — und dort, wo sie gezogen wird, entscheidet sich, ob die Kennzeichnung Vertrauen schafft oder nur eine weitere Pflichtzeile wird.

Quelle: Europäische Kommission

Bewährte Bild-KI liegt ungenutzt, während ungeprüfte Sprach-KI millionenfach einzieht — Eric Topol über das, was klinische Leitung daraus folgern sollte

Dieser Essay ist vom 3. Mai. Der Kardiologe Eric Topol beschreibt einen Widerspruch: Für bildgebende KI gibt es belastbare Belege. Er nennt eine randomisierte Studie mit über 100.000 Frauen zur Mammografie und vier randomisierte Studien, in denen KI-Assistenz bei der Darmspiegelung mehr Adenome findet — gutartige, aber potenziell entartende Polypen. Im Alltag genutzt wird sie kaum. Umgekehrt strömt generative KI, deren Nutzen kaum geprüft ist, millionenfach in Praxen und Kliniken.

Klinische Brücke: Topols Punkt ist nicht, schneller oder langsamer zu werden, sondern genauer hinzusehen — das gut Belegte einführen und beim Unbelegten auf Belege bestehen, statt beides gleich zu behandeln. Für klinische Leitung heißt das, die Einführung an der Beweislage auszurichten, nicht an der Neuheit eines Werkzeugs.

Quelle: Eric Topol — Ground Truths

Drei Labore, ein Plan und ein Memorandum: eine Woche KI-Politik, sortiert von jemandem, der genau liest

Wenn in einer Woche gleich mehrere Spitzenmodelle erscheinen, lohnt jemand, der nicht der Ankündigung folgt, sondern dem Kleingedruckten. Der Analyst Zvi Mowshowitz ordnet die Strategiepapiere und politischen Signale, die parallel zu den Veröffentlichungen liefen — darunter ein Regierungs-Memorandum zur KI, Berichte über den Einsatz eines Spitzenmodells durch einen Geheimdienst und die Pläne eines Labors für den Umgang mit künftiger Superintelligenz. Seine eigene Bewertung des neuen Modells verschiebt er bewusst, bis er es einige Tage geprüft hat. Keine leichte Lektüre, aber die beste verfügbare Übersicht über die Kräfte, die mitentscheiden, unter welchen Regeln und für wen KI bald auch in der Klinik läuft. Eine Lektüre fürs Wochenende, für alle, die wissen wollen, was hinter den Schlagzeilen verhandelt wird.

Quelle: Zvi Mowshowitz

Zum Schluss: die leise Zahl der Woche

Die meistdiskutierte Maschine dieser Woche ist eine, die fast niemand von uns benutzen darf. Die nützlichste Zahl dagegen war unscheinbar: In der Stanford-Arbeit sank die Erschöpfung der Ärzt:innen, obwohl sie kaum Zeit sparten. Man denke an den Spruch “Zeit ist unsere zweitkostbarste Ressource, Aufmerksamkeit ist auf Platz eins.” Vielleicht liegt der Gewinn solcher Werkzeuge seltener im Tempo als darin, nicht mehr vor dem leeren Blatt zu sitzen. Eine bescheidene Aussicht — und vielleicht die ehrlichste, die diese Woche zu bieten hatte.