Gesprächs-KI vor dem Hausarzttermin, Amyloidose aus Routinedaten, Wasserzeichen im ChatGPT-Text

Googles Gesprächs-KI führte 98 Vorgespräche ohne einen Sicherheitsabbruch

Als Vorbereitung auf den Termin ist die Gesprächs-KI unter ärztlicher Aufsicht machbar; ob sie Diagnosen verbessert oder ohne Aufsicht sicher wäre, beantwortet die Studie nicht. Ein Team des Beth Israel Deaconess Medical Center in Boston und von Google, veröffentlicht in The Lancet, ließ Erwachsene bis zu fünf Tage vor einem Termin in der hausärztlichen Akutsprechstunde schriftlich mit AMIE sprechen, Googles Forschungssystem für ärztliche Gespräche. 114 wurden eingeschlossen, 98 durchliefen Gespräch und Termin. Ärzt:innen lasen jedes Gespräch in Echtzeit mit und hätten nach festgelegten Kriterien abbrechen sollen; nötig war das nie. Sie notierten eine Halluzination und ergänzten in fünf Gesprächen klinische Angaben. Ärztliche Gutachter:innen bewerteten die Gespräche je nach Kriterium zu 87 bis 100 Prozent günstig, die Patient:innen zu 48 bis 96 Prozent. Von den Hausärzt:innen beantworteten 60 die Nachbefragung; 44 hatten das Protokoll vorher gelesen, 33 davon fanden es hilfreich. Bezahlt hat Alphabet, die meisten Autor:innen arbeiten bei Google. Eine Vorabfassung mit 100 Patient:innen erschien im März.

Warum das zählt: Null Abbrüche unter Aufsicht in Echtzeit sagen wenig darüber, was ohne Aufsicht geschähe, denn die Aufsicht war Teil des Versuchs. Wer ein solches Vorgespräch für die eigene Praxis erwägt, legt vorher fest, wer das Protokoll wann liest und was geschieht, wenn es ungelesen bleibt.

Quelle: The LancetPaywall

Wiener Modell findet Amyloidose-Verdacht in Routinedaten, extern AUC 0,91

Als zusätzlicher Anstoß zur Szintigrafie ist das Modell ordentlich belegt, als alleiniges Suchinstrument nicht: Es übersieht mehr als der klinische Verdacht, schlägt aber deutlich seltener falsch an. Ein Team der Medizinischen Universität Wien und des Universitätsklinikums Essen, veröffentlicht in PLOS Digital Health, trainierte Amylo-Detect an 9.170 Patient:innen, die im Wiener AKH zur Knochenszintigrafie kamen, gleich aus welchem Anlass. Geprüft wurde an 2.446 späteren Wiener und 1.521 Essener Fällen. Vorhergesagt wird eine kardiale Anreicherung ab Perugini-Grad 2, aus 50 Routinewerten von NT-proBNP bis Karpaltunnelsyndrom. In Essen erreichte das Modell eine AUC von 0,91, eine Sensitivität von 73 und eine Spezifität von 88 Prozent; der klinische Verdacht kam auf 97 und 73 Prozent. Je 1.000 Untersuchte gab es mit Modell 109 falsch Positive, nach klinischem Verdacht 244. Von 42 Fällen, die nur bei einer Szintigrafie aus anderem Anlass auffielen, hätte das Modell zwölf benannt.

Warum das zählt: Das Modell ist als Web-Anwendung frei zugänglich. Wer es an eigenen Fällen ausprobiert, sollte bedenken, an wem es gelernt hat: an Menschen, die ohnehin zur Szintigrafie kamen, meist aus onkologischem Anlass, nicht an der Herzinsuffizienz-Sprechstunde.

Quelle: PLOS Digital Health

Rheuma-Chatbots gefallen den Patient:innen, leitlinientreu sind 45 Prozent

Rheumatolog:innen aus Marburg, Bad Nauheim und weiteren deutschen Häusern, veröffentlicht im Journal of Medical Systems, haben zehn krankheitsspezifische Chatbots gebaut, die aus deutschen Leitlinien antworten sollen, und sie über 13 Zentren und sechs Patientenorganisationen angeboten. Von September 2025 bis Januar 2026 kamen 6.291 Fragen, am häufigsten zur Erkrankung selbst und zu Medikamenten. 92,9 Prozent der bewerteten Antworten erhielten ein positives Urteil der Fragenden. Die Qualität beurteilte vor allem ein zweites Sprachmodell als Gutachter: 95,3 Prozent der Antworten völlig sicher, 79,1 Prozent völlig richtig, 45,0 Prozent vollständig leitlinientreu. Mit dem Urteil von Rheumatolog:innen in Stichproben stimmte dieser maschinelle Gutachter nur schwach überein.

Warum das zählt: Zufriedenheit und Leitlinientreue messen Verschiedenes, und hier liegen sie weit auseinander. Wer einen solchen Chatbot für die eigene Ambulanz erwägt, lässt eine Stichprobe der Antworten von eigenen Fachärzt:innen gegen die Leitlinie lesen, nicht von einem weiteren Modell.

Quelle: Journal of Medical Systems

Claude Fable 5 schickte fast jede zweite Gesundheitsfrage an ein Ersatzmodell

Anthropic hat Claude Fable 5 im Juni mit einem Filter ausgeliefert: Anfragen, die nach Cybersicherheit, Biologie oder Chemie klingen, beantwortet ein älteres Modell, Claude Opus 4.8. Laut Hersteller betrifft das weniger als fünf Prozent der Sitzungen. Ein Team des Beth Israel Deaconess Medical Center, veröffentlicht in JMIR AI, gab im Juni 500 Fragen aus einer Sammlung typischer Laienfragen zur Gesundheit ein. 48,6 Prozent landeten beim Ersatzmodell, bei onkologischen Fragen 88,9 Prozent, bei psychischen 26,3 Prozent. Wie gut das Ersatzmodell antwortete, haben die Autor:innen nicht erfasst; die Zahl beschreibt Umleitung, nicht Verweigerung.

Warum das zählt: Bei Chatbots für Patienteninformation antwortet nicht immer das Modell, das auf dem Etikett steht. Wer ein solches Angebot prüft, fragt den Anbieter, welches Modell welche Antwort erzeugt hat, und lässt das protokollieren. Visite entsteht mit einem Modell desselben Herstellers.

Quelle: JMIR AI

DiGA-Bewertungen: Wirkung gelobt, Anmeldung zu 93,9 Prozent verrissen

Ein Team des Instituts für Medizinische Informatik und Künstliche Intelligenz in Kiel, veröffentlicht in JMIR Human Factors, hat die öffentlichen Bewertungen aller 44 DiGA mit Smartphone-App aus den deutschen App-Stores gesammelt: 4.328 auswertbare Rezensionen. GPT-4o zerlegte sie in 9.439 Einzelaussagen und ordnete jede einer von zehn Kategorien zu, die sich an den Prüfkriterien des BfArM orientieren. Die händische Kontrolle aller Ergebnisse ergab 95 Prozent richtige Zuordnungen. Zur Wirksamkeit waren 89,5 Prozent der Aussagen positiv, zu Anmeldung und Registrierung 93,9 Prozent negativ, zur Technik 84,3 Prozent.

Warum das zählt: Die Aufnahme ins DiGA-Verzeichnis stützt sich auf Studien der Hersteller; was im Alltag scheitert, steht in den App-Stores, und ein Sprachmodell kann es mit überschaubarem Aufwand auswerten. Wer eine DiGA verordnet, fragt beim nächsten Kontakt, ob die Anmeldung geklappt hat.

Quelle: JMIR Human Factors

Aleph Alpha gibt ein deutsch-englisches Sprachmodell zum Betrieb im eigenen Haus frei

Das Heidelberger Unternehmen Aleph Alpha hat Anfang Oktober Kolibri veröffentlicht, ein Sprachmodell für Deutsch und Englisch, dessen Gewichte jeder herunterladen und unter der Apache-2.0-Lizenz auch kommerziell nutzen darf. Von 78 Milliarden Parametern rechnen je Wort nur 3,46 Milliarden; deshalb genügt laut Modellkarte eine einzige Grafikkarte der Rechenzentrumsklasse. Die Modellkarte verlangt selbst, dass ein Mensch die Ausgabe prüft, bevor danach gehandelt wird, und dass das Modell nicht die entscheidende Komponente einer Entscheidungshilfe sein soll. Medizinische Prüfungen nennt sie nicht; die Leistungsangaben stammen vom Hersteller. Am 6. Oktober kündigte Mistral aus Paris ein deutlich größeres offenes Modell an, dessen Gewichte bis Monatsende folgen sollen.

Warum das zählt: In der letzten Ausgabe zeigte Bonn, dass ein offenes Modell auf eigenen Servern eine klinische Vorprüfung leisten kann. Wer Kolibri erwägt, braucht denselben Schritt wie dort: einen eigenen Testsatz aus echten Fällen, bevor das Modell irgendwo mitliest.

Quelle: Aleph Alpha, Modellkarte Kolibri-1 (Hugging Face)

ChatGPT-Texte tragen in der EU künftig ein unsichtbares Wasserzeichen

OpenAI hat Anfang Oktober angekündigt, Texte aus ChatGPT und Codex für Nutzer:innen in der EU mit einem Wasserzeichen namens textGrain zu versehen: Das Modell verschiebt seine Wortwahl statistisch so, dass ein Prüfprogramm den Text später als maschinell erzeugt erkennen kann. Hintergrund ist Artikel 50 der KI-Verordnung. Er gilt seit dem 2. August und verlangt von Anbietern, KI-Erzeugnisse maschinenlesbar zu kennzeichnen; Systeme, die schon vorher auf dem Markt waren, haben dafür Zeit bis zum 2. Dezember. Das Prüfprogramm erhalten zunächst nur ausgewählte Forschungseinrichtungen. OpenAI schreibt selbst, das Verfahren garantiere keine zuverlässige Erkennung und sage nichts über Richtigkeit oder menschlichen Anteil.

Warum das zählt: Das Zeichen hilft nicht bei der Frage, ob ein Text stimmt. Für Häuser, die Patienteninformationen oder Briefe mit KI entwerfen, ist der verlässlichere Nachweis ein eigener Vermerk, wer den Text fachlich geprüft hat.

Quelle: OpenAI / Europäische Kommission

OpenAI stellt 719 KI-Manuskripte ins Netz, formal geprüft sind rund 42 Prozent

OpenAI hat am 6. Oktober auf GitHub 719 mathematische Manuskripte veröffentlicht, erzeugt von einem internen, nicht veröffentlichten Modell. Laut Begleittext ist für rund 42 Prozent der Hauptergebnisse ein Beweis in Lean hinterlegt, einer Sprache, in der ein Computer jeden Beweisschritt nachprüft; zu den übrigen heißt es, einige könnten Fehler enthalten. Nature überschrieb seinen Bericht damit, die Mathematiker:innen seien in Aufruhr; die Ergebnisse umgehen die übliche Begutachtung. Zwei Tage später erschien in Science eine Arbeit von Google DeepMind: Ein Agent, der jeden Schritt in Lean prüfen lässt, löste neun offene Erdős-Probleme, begutachtet und vollständig nachprüfbar.

Warum das zählt: Die Mathematik besitzt für Beweise ein Prüfwerkzeug, das ohne menschliches Lesen auskommt; für Befunde und Briefe gibt es nichts Vergleichbares. Wer in der eigenen Abteilung KI-Ergebnisse übernimmt, legt fest, welche davon jemand nachprüft und welche nur gelesen werden.

Quelle: OpenAI (GitHub) / Science

Vanderbilt zählt 28 Psychosen, bei denen ein Chatbot die Symptome verstärkte

Ein Team der Vanderbilt University, veröffentlicht als Forschungsbrief in JAMA Psychiatry, durchsuchte die Notizen von 215.712 Menschen in psychiatrischer oder psychotherapeutischer Behandlung (Dezember 2022 bis April 2026) nach Begriffen rund um KI. Bei 28 Patient:innen mit psychotischer Erkrankung war dokumentiert, dass die Nutzung eines Chatbots Symptome ausgelöst oder verschlimmert hatte, 0,013 Prozent der Behandelten. Meist bestätigte der Chatbot bestehende Wahngedanken und verstärkte sie so; in drei Fällen gingen die Gespräche neuen Symptomen bei zuvor Gesunden voraus. 17 der 28 erlebten ihre erste psychotische Episode, deutlich mehr als in den Vergleichsgruppen. In 15 Fällen war ChatGPT genannt.

Warum das zählt: Die Zahl ist eine Untergrenze, denn die Suche findet nur, was jemand aufgeschrieben hat. Wer bei einer Erstmanifestation nach Chatbot-Nutzung fragt und die Antwort dokumentiert, macht das Phänomen messbar.

Quelle: JAMA Psychiatry

Epoch AI rechnet offen vor, wie viele KI-Agenten die Chips bis 2027 tragen könnten

Jason Li von der Forschungsgruppe Epoch AI rechnet in einer am 2. Oktober veröffentlichten Analyse aus, wie viele KI-Agenten der bis Ende 2027 ausgelieferte Grafikspeicher gleichzeitig betreiben könnte: 33 bis 171 Millionen, umgerechnet die Arbeitsstunden von 140 bis 720 Millionen Vollzeitkräften. Bemerkenswert ist die Bauweise. Jede Annahme steht offen da, vom Mietpreis einer Grafikkarte bis zum Aufschlag der Anbieter; der Autor schreibt dazu, dass seine Spannen Szenarien sind und keine Konfidenzintervalle, und dass die Nachfrage hinter der Kapazität zurückbleiben kann.

Warum das zählt: Auch im Gesundheitswesen kursieren Potenzialzahlen zu KI. Die Analyse zeigt, welche Fragen man ihnen stellt: Welche Annahme trägt das Ergebnis, und was bleibt, wenn sie nur halb so groß ist?

Quelle: Epoch AI

Ein Sprachmodell lernt, die i in „artificial intelligence“ zu zählen

Sprachmodelle lesen Text nicht Buchstabe für Buchstabe, sondern in Wortstücken. Deshalb scheitern sie bisweilen an Aufgaben, die jedes Schulkind löst, etwa zu zählen, wie viele i in „artificial intelligence“ stecken. Es sind fünf. Ein Team um Benjamin Minixhofer von der Universität Cambridge zeigt in Nature, wie sich ein fertiges Modell mit wenig Zusatztraining auf einzelne Bytes umstellen lässt, ohne dass es viel von seinem Können verliert. Die Autor:innen nennen ausdrücklich biologische Sequenzen, in denen ein einzelnes Zeichen die Bedeutung trägt. Wer Sprachmodelle eines Tages auf Genome ansetzt, wo ein vertauschter Buchstabe eine Punktmutation ist, braucht genau diese Fähigkeit: erst einmal richtig zählen.

Quelle: Nature