Ein Chatbot für Schwangere ohne Wirkung, eine Smartwatch gegen Bluthochdruck, KI-Prüfer für Arztbriefe

KI-Chatbot für Schwangere senkte Angst und Depression nach zwölf Monaten nicht

Ein Argument für Chatbots in der Schwangerenbetreuung liefert diese Studie nicht, ein Argument gegen sie nur mit Vorbehalt. Ein Team der University of Maryland, veröffentlicht in JAMA Network Open, teilte 400 Schwangere und Mütter von Säuglingen aus ethnischen Minderheiten in den USA per Los auf: Die eine Hälfte bekam Zugang zum KI-Chatbot „Rosie“, die andere jeden Monat ein Kinderbuch. Nach zwölf Monaten unterschieden sich Angst- und Depressionswerte nicht, die Differenzen lagen unter einem Skalenpunkt. Auch Notaufnahmebesuche, Nachsorge, Verhütung und Schlaf blieben gleich. Teilnehmerinnen, die bei Einschluss schwanger waren, berichteten in der Chatbot-Gruppe häufiger von Schwangerschaftskomplikationen (bereinigtes Ratenverhältnis 1,40). Das ist ein sekundärer, selbst berichteter Endpunkt, der in den Längsschnittanalysen nicht auftauchte; die Autor:innen mahnen selbst zur vorsichtigen Deutung.

Warum das zählt: Dieser Chatbot hatte eine geprüfte Wissensbasis und eine Sozialarbeiterin, die Alarme las, also mehr Sicherheitsnetz als die meisten Angebote im App-Laden. Wer Patientinnen eine solche App empfiehlt, kann sie als Informationsquelle nennen, sollte aber keine seelische Entlastung versprechen.

Quelle: JAMA Network Open

Smartwatch-KI erkannte 65,8 Prozent der Hypertonien ohne Manschette

Als Suchtest taugt die Uhr bedingt, als Diagnose nicht. Ein Team von Google Research mit Beteiligung des Beth Israel Deaconess Medical Center, veröffentlicht in Nature, ließ 196 Erwachsene ohne bekannte Herz-Kreislauf-Erkrankung und ohne Blutdruckmittel an fünf US-Zentren sieben Tage eine handelsübliche Smartwatch tragen. Ein Modell schätzte aus Pulswelle und Bewegung, ohne Kalibrierung mit einer Manschette, ob ein Bluthochdruck vorlag. Den Maßstab setzte die 24-Stunden-Messung. Die Uhr erkannte 65,8 Prozent der Betroffenen, eine einzelne Praxismessung 55,3 Prozent, beide bei einer Spezifität von 90,0 Prozent. In einer Untergruppe mit erhöhtem Praxiswert schnitt die mehrtägige Selbstmessung zu Hause mit 89,2 Prozent Sensitivität besser ab als die Uhr mit 78,4. Google nennt das selbst frühe Machbarkeitsforschung; die darauf gestützte Produktfunktion „Blutdrucktrends“ beschreibt der Konzern als Wellness-Angebot und ausdrücklich nicht als Suchtest auf Bluthochdruck.

Warum das zählt: Patient:innen werden mit solchen Meldungen in die Sprechstunde kommen, in beide Richtungen. Ein Alarm der Uhr ist ein Anlass für die Selbstmessung zu Hause, eine unauffällige Uhr ist kein Grund zur Entwarnung.

Quelle: NaturePaywall

KI-Konturierung von Kopf-Hals-Tumoren sparte in Aarhus keine Zeit

Bei Risikoorganen hat KI das Einzeichnen in der Bestrahlungsplanung bereits beschleunigt. Ein Team aus Aarhus, veröffentlicht in Radiotherapy and Oncology, prüfte nun das Tumorvolumen selbst. 83 Patient:innen mit Kopf-Hals-Tumor wurden per Los zugeteilt: 41 erhielten eine rein manuelle Konturierung, 42 eine mit Vorschlag eines im Haus entwickelten Segmentierungsmodells. Gemessen wurde, wie viel die verblindete interdisziplinäre Planungskonferenz nachzeichnen musste. Beim Primärtumor fand sich kein relevanter Unterschied, bei den Lymphknoten wurde nach KI-Vorschlag tendenziell mehr korrigiert. Konferenzdauer, Konturierzeit und empfundene Schwierigkeit blieben gleich, unerwünschte Ereignisse traten nicht auf. Die Autor:innen nennen ihre Studie explorativ, sie lief an einem einzigen Zentrum.

Warum das zählt: Was bei Risikoorganen Zeit spart, spart sie beim Tumorvolumen offenbar nicht von selbst. Wer eine Konturier-Software anschafft, sollte sich die Zeitersparnis getrennt für Risikoorgane und Tumorvolumen belegen lassen.

Quelle: Radiotherapy and OncologyPaywall

Sprachmodelle als Prüfer deutscher Kliniktexte übersahen 10,2 Prozent der Fehler

Wer Arztbriefe oder Zusammenfassungen von einem Sprachmodell schreiben lässt, braucht eine Qualitätsprüfung. Fachleute sind teuer, also lässt man häufig ein zweites Sprachmodell bewerten. Ein Team der Universitätsmedizin Essen und der FH Dortmund, veröffentlicht in npj Digital Medicine, prüfte sechs frei verfügbare Modelle in dieser Rolle, an vier deutschen Datensätzen aus der Routinedokumentation eines Universitätsklinikums: Zusammenfassungen von Befunden und Pflegeberichten, Entlassbriefe und Patientenbriefe zum molekularen Tumorboard. Ersetzte man das Expertengremium durch die Modelle, verschoben sich 57,2 Prozent der Einzelbewertungen. Standen zwei Entlassbriefe gegeneinander, kürten die Modelle in 41,7 Prozent einen anderen Sieger. 10,2 Prozent der klinischen Fehler blieben unbemerkt. Alle Modelle ließen sich von der Reihenfolge der Texte beeinflussen, keine Form der Anweisung war über alle Aufgaben verlässlich.

Warum das zählt: Ein Anbieter, der die Qualität seiner Texte mit einem zweiten Modell belegt, hat damit nach dieser Arbeit wenig gezeigt. Fragen Sie, ob Fachärzt:innen eine Stichprobe bewertet haben und wie viele klinische Fehler sie fanden.

Quelle: npj Digital Medicine

Lernmodell schlug den NEWS-Score fast nur bei Hochrisikopatient:innen

Lohnt ein Lernmodell anstelle des Frühwarnscores NEWS? Ein Team aus Kopenhagen und London, veröffentlicht in The Lancet Digital Health, verglich an 2.080.765 Aufenthalten in 15 dänischen Kliniken den NEWS mit einer vereinfachten Fassung und mit einem Modell aus dem Lernverfahren XGBoost, das zusätzlich Labor, Alter und Vorgeschichte aus der elektronischen Akte nutzt. Bewertet wurde der Nettonutzen: richtig erkannte Todesfälle binnen 24 Stunden, verrechnet mit den Fehlalarmen. Eine statistische Gewichtung glich aus, dass ein hoher Score Behandlungen auslöst, die den Verlauf verändern. Über alle Patient:innen gewann das Modell höchstens 1,9 richtige Erkennungen je 10.000. Bei einem ersten NEWS ab 7 waren es bis zu 78,1 je 10.000, bei einem NEWS bis 4 nur 0,9. Die Daten sind rückblickend; zwei der Autor:innen haben eine Ausgründung mit Patentanmeldung.

Warum das zählt: Der Zusatznutzen liegt dort, wo der Score ohnehin Alarm schlägt. Bevor ein Modell den NEWS im eigenen Haus ersetzt, lohnt die Frage, für welche Risikogruppe es ihn ergänzen soll.

Quelle: The Lancet Digital HealthPaywall

KI-Entwürfe für Patientennachrichten: Nutzung sank in Groningen auf 35 bis 40 Prozent

Das Universitätsklinikum Groningen hat GPT-4 über Microsofts Azure-Dienst in seine Epic-Akte eingebunden: Zu jeder Patientennachricht im Portal entsteht automatisch ein Antwortentwurf. Ein Team des Hauses, veröffentlicht in BMJ Open, wertete ein Jahr aus, März 2024 bis März 2025, 10.786 Nachrichten. Bei 42 Prozent der Nachrichten griffen die Behandelnden auf den Entwurf zurück, in gut der Hälfte dieser Fälle blieb ein wesentlicher Teil des Textes stehen. Dann ging die Bearbeitung schneller: im Median 140 Sekunden gegenüber 155 ohne Entwurf und 175, wenn vom Entwurf kaum etwas übrig blieb. Die Nutzung sank im Lauf des Jahres auf 35 bis 40 Prozent, höher in Orthopädie, HNO und Neurologie, niedriger in Onkologie, Rheumatologie und Gastroenterologie. In einer Befragung von 241 Behandelnden kritisierten viele Ton und fehlenden Zusammenhang.

Warum das zählt: Eine Beobachtungsstudie kann nicht trennen, ob der Entwurf die Arbeit beschleunigt oder ob einfache Nachrichten zugleich schneller und eher mit Entwurf beantwortet werden. Für eine Einführung zählt die Nutzung im zwölften Monat mehr als im ersten; fragen Sie Anbieter nach dieser Kurve.

Quelle: BMJ Open

Psychiater:innen fordern verbindliche Standards für KI in der Behandlung

Die Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) hat am 3. November ein Positionspapier zu KI veröffentlicht. Sie fordert verbindliche Standards für den Einsatz in der psychiatrisch-psychotherapeutischen Behandlung, ausgerichtet an der europäischen KI-Verordnung und an den Verfahren für Medizinprodukte, dazu erkennbare KI-Interaktion und sicheren Datenschutz. Als Risiken nennt sie Chatbots, die Nutzer:innen nach dem Mund reden, emotionale Abhängigkeit und unerkannte Suizidalität. ChatGPT und vergleichbare Modelle seien nicht für Menschen mit psychischen Erkrankungen konzipiert, sagt Peter Zwanzger von der DGPPN; ungeregelt genutzt könnten sie für diese Gruppe gefährlich sein. Am Tag zuvor hatte der Verbraucherzentrale Bundesverband eine Forsa-Umfrage unter 574 jungen Menschen vorgestellt: 28 Prozent der 14- bis 25-Jährigen sprechen mit Chatbots über Sorgen, Gesundheit oder therapeutische Fragen. In Tests gaben ChatGPT, Meta AI und My AI teils gefährliche Ernährungsratschläge.

Warum das zählt: Die Fachgesellschaft trennt allgemeine Chatbots von geprüften Anwendungen, ihre jungen Patient:innen nutzen beide längst nebeneinander. Fragen Sie in der Anamnese, ob und wofür jemand einen Chatbot nutzt.

Quelle: Deutsches Ärzteblatt

Ein KI-Agent fand neue Proteinkapseln und kostete sein Team zwei Wochen

Anthropics Biologielabor beschrieb am 4. November, wie Claude unter Anleitung des Teams nach Verwandten der Vault-Proteine suchte, großer Proteinkapseln in Zellen, deren Funktion bis heute unbekannt ist. Das Modell durchsuchte rund 15 Milliarden vorhergesagte Proteine, entwarf DNA-Konstrukte, schlug ein Reinigungsprotokoll vor und rechnete die Kryo-Elektronenmikroskopie. Von 44 Kandidaten bildeten sieben kapselartige Partikel, vier bestätigte die Mikroskopie. Anthropic nennt die Fehler selbst: Ein Zusatz im Nährmedium, den Claude empfohlen hatte, verhinderte die DNA-Aufnahme und kostete etwa zwei Wochen; eine frühe Rekonstruktion vermischte die Struktur mit ihrem Spiegelbild. Die Arbeit ist als Preprint eingereicht und nicht begutachtet, unabhängige Stimmen fanden wir nicht. Google DeepMind ließ am 3. November einen Agenten neue Makrozyklen nach dem Vorbild von Crizotinib und Lorlatinib entwerfen, in einer Stunde statt mehrerer Tage. Synthetisiert wurde nichts.

Warum das zählt: Beide Labore beschreiben Menschen, die einen schnellen Mitarbeiter anleiten, der gelegentlich mit großer Sicherheit falsch liegt. Wer in Klinik oder Forschung Agenten einsetzt, prüft deren Schritte so lange gegen, bis die typischen Fehler bekannt sind, wie bei einer neuen Kollegin in der Einarbeitung.

Quelle: Anthropic; Google DeepMind

OpenAI gibt sein Biologiemodell nur geprüften Forschenden frei

OpenAI hat am 30. Oktober die Systemkarte zu GPT-Rosalind-6 veröffentlicht, einem Modell für Biologie, Wirkstoffentwicklung und translationale Medizin. Es beruht auf denselben trainierten Gewichten wie das allgemeine Modell GPT-6 Astra. In einem Test zur medizinischen Chemie mit 99 Aufgaben erreichte es 49,6 Prozent, der Vorgänger 28,9. Als Einsatz nennt OpenAI unter anderem Vorhersagen zu Wirksamkeit und Toxizität von Wirkstoffen. Im eigenen Rahmen zur Risikobewertung stuft OpenAI das Modell bei biologischen und chemischen Gefahren auf die hohe Stufe ein, unterhalb der kritischen. Deshalb erhalten es nur zugelassene Kund:innen: Forschende, Institute, Firmen und Behörden, die eine Prüfung von Identität und Unternehmen durchlaufen. Unabhängige Einschätzungen zur Systemkarte fanden wir bis Redaktionsschluss nicht; alle Zahlen stammen von OpenAI.

Warum das zählt: Bei diesem Modell liegt die Sicherheitsvorkehrung vor allem im Zugang, die Bedingungen setzt der Hersteller. Forschungsgruppen an Kliniken, die solche Modelle nutzen wollen, sollten Nachweise über Institution und Zweck früh einplanen.

Quelle: OpenAI

Ein Mathematiker fordert, jede Arbeit so zu prüfen, als hätte KI mitgeschrieben

Am 6. Oktober veröffentlichte OpenAI über 700 Mathematikarbeiten, die seine Modelle erzeugt hatten. Der Mathematiker Frank Calegari antwortete am 1. November mit einem Gastbeitrag auf dem Blog von Terence Tao, einem der bekanntesten Mathematiker der Gegenwart. Seine Vorschläge: jede Arbeit so bewerten, als sei sie mit KI entstanden; Anerkennung für die Wahl der Frage und für die Erklärung geben, auch wenn das Ergebnis selbst maschinell erzeugbar wäre; Beweise maschinell nachprüfen lassen; in der Ausbildung mehr Breite verlangen, ohne das Handwerk aufzugeben; bei Berufungen das persönliche Gespräch wichtiger nehmen als die Publikationsliste. Viele Arbeiten, schreibt er, gehörten künftig gar nicht mehr in Fachzeitschriften. Rund 3.300 Wörter, ohne Formeln lesbar.

Warum das zählt: Die Medizin wird dieselben Fragen bei Doktorarbeiten, Facharztprüfungen und Fachzeitschriften beantworten müssen. Eine Weiterbildungskommission kann Calegaris Liste Punkt für Punkt gegen die eigene Ordnung legen.

Quelle: What's new (Blog von Terence Tao), Gastbeitrag Frank Calegari

Ein Entwickler baute einen Nintendo-Prozessor in ein Sprachmodell, nur zum Spaß

Drew Breunig hat den Prozessor der Spielkonsole NES in die Gewichte des Sprachmodells Qwen3.5-4B eingebaut, also in die Zahlen, aus denen das trainierte Modell besteht. Das Modell ist damit selbst der Emulator; Spiele wie Super Mario Bros laufen darauf, sehr langsam, wie Simon Willison am 30. Oktober notierte. Geholfen hat ihm dabei Claude Opus 5.5 von Anthropic. Breunigs Anweisung an das Modell hat er veröffentlicht. Sinngemäß: Lass es uns bauen, einfach aus Spaß, es darf ruhig langsam sein.

Quelle: Simon Willison