Ein Sprachmodell schreibt funktionsfähige Virengenome — und zwei Studien, in denen die KI dort versagt, wo die Entscheidung schwerfällt

Ein neuronales Netz verbessert die Melanomdiagnose nicht — und erkennt bei kleinen Läsionen nur knapp die Hälfte

Hilft ein neuronales Netz beim Erkennen von Melanomen — und hilft es auch dort, wo die Diagnose schwerfällt? Diese Frage hat ein Team unter Leitung der Universitätshautklinik Heidelberg mit sieben weiteren Zentren in Italien, Griechenland und Deutschland untersucht (veröffentlicht im Journal der Deutschen Dermatologischen Gesellschaft, Epub 6. August).

Vorgelegt wurden 150 Läsionen, deren histologischer Befund feststand: 110 kleine, davon 70 Melanome und 40 Nävi, dazu 40 Melanome mit mehr als 5 mm Durchmesser. Jede Läsion wurde zweimal beurteilt — zuerst anhand von Dermatoskopie, Übersichtsaufnahme und klinischen Angaben, danach noch einmal, nachdem die Beurteilenden die Einschätzung des Netzes gesehen hatten.

Ohne diese Einschätzung erreichten die Dermatolog:innen eine Sensitivität von 71,8 Prozent (95%-Konfidenzintervall 62,8 bis 79,4) und eine Spezifität von 82,5 Prozent (68,1 bis 91,3). Mit ihr waren es 72,7 Prozent (63,7 bis 80,2) und 85,0 Prozent (70,9 bis 92,9). Kein Unterschied war statistisch belastbar (alle p > 0,180). Das Netz für sich genommen lag unter den Ärzt:innen, bei einer Sensitivität von 62,7 Prozent (53,4 bis 71,2).

Danach teilten die Autor:innen die Fälle nach Größe. Bei den Melanomen über 5 mm erkannte das Netz 87,2 Prozent (73,3 bis 94,4). Bei den kleinen 48,6 Prozent (37,3 bis 60,1). Der beste Wert der gesamten Arbeit entstand damit dort, wo die Diagnose ohnehin am leichtesten fällt.

Warum das zählt: Eine einzelne Kennzahl mittelt über alle Fälle, auch über die leichten. Sie sagt nichts darüber, wie ein Programm dort abschneidet, wo Sie es tatsächlich brauchen — und in dieser Arbeit liegen beide Werte weit auseinander, weil das Netz genau in der schwierigen Gruppe einbricht. Wenn ein Hersteller eine Zahl nennt, ist die nützliche Rückfrage deshalb nicht, wie hoch sie ist, sondern für welche Fälle sie gilt.

Quelle: Journal der Deutschen Dermatologischen Gesellschaft

Software misst die Muskelmasse im ohnehin vorhandenen CT — wer am wenigsten hat, stirbt nach dem Klappeneingriff häufiger

Das Planungs-CT vor einer TAVI liegt ohnehin vor. Ein Team der Paracelsus Medizinischen Privatuniversität Salzburg hat 470 dieser Aufnahmen nachträglich durch TotalSegmentator laufen lassen, ein frei verfügbares Programm aus Basel, das Organe und Gewebe im CT ohne manuelle Nachbearbeitung abgrenzt (veröffentlicht in Experimental Gerontology, Epub 7. August).

Gemessen wurden zwei Größen: das Volumen der Skelettmuskulatur und das intermuskuläre Fett. Beide wurden in geschlechtsspezifische Quartile eingeteilt, der Endpunkt war die Gesamtsterblichkeit.

In median 4,56 Jahren Nachbeobachtung (Interquartilsabstand 3,57 bis 5,99) starben 188 der 470 Patient:innen. Wer im untersten Quartil des Muskelvolumens lag, starb häufiger, und der Zusammenhang hielt der multivariablen Cox-Regression stand (Hazard Ratio 1,589; 95%-Konfidenzintervall 1,101 bis 2,294; p = 0,013). Das intermuskuläre Fett dagegen sagte nichts: Hazard Ratio 1,326 (0,865 bis 2,035; p = 0,196), auch nicht im gemeinsamen Modell mit dem Muskelvolumen.

Warum das zählt: Neu ist nicht, dass Sarkopenie die Prognose nach TAVI verschlechtert. Neu ist, dass die Messung keinen Arbeitsschritt mehr kostet — das Bild lag vor, die Auswertung läuft automatisch. Zugleich liefert dieselbe Segmentierung zwei Zahlen, von denen nur eine trägt. Welche das ist, entscheidet die Auswertung am eigenen Kollektiv, nicht der Anbieter.

Quelle: Experimental Gerontology

Ein Sprachmodell erhebt die Schwindelanamnese und trifft in vier von fünf Fällen die Facharztdiagnose — gemessen wurde der ganze Ablauf

Kann ein Sprachmodell die Anamnese bei Schwindel erheben? Ein Team der HNO-Klinik der Fudan-Universität Shanghai hat das in zwei Schritten geprüft (veröffentlicht im Journal of Medical Internet Research, Epub 7. August).

Zuerst am Schreibtisch: Zehn Sprachmodelle und fünf erfahrene HNO-Ärzt:innen bewerteten unabhängig voneinander 227 schriftliche Schwindelanamnesen. Die besten Modelle, Gemini-2.5-pro und o1, trafen in 69,6 Prozent der Fälle die richtige Erstdiagnose (95%-Konfidenzintervall 63,2 bis 75,5), die Mehrheitsentscheidung des Ärzt:innenpanels in 63,9 Prozent (57,3 bis 70,1). Der Abstand ist statistisch nicht belastbar (McNemar-Test, p > 0,10 für alle Modelle).

Dann im Betrieb: In fünf Schwindelambulanzen führte ein Tablet-Programm das Anamnesegespräch, begleitet von einer Pflegekraft. Es lief auf DeepSeek-R1 innerhalb der hauseigenen Infrastruktur, bekam ausdrücklich keine Untersuchungs- und keine Zusatzbefunde, und die behandelnden Ärzt:innen kannten seine Ausgabe nicht. Bei 140 von 176 Patient:innen stimmte seine Erstdiagnose mit der ärztlichen überein, also in 79,55 Prozent der Fälle (72,8 bis 85,2).

Nach Krankheitsbild aufgeschlüsselt reicht die Spanne von 97,73 Prozent beim benignen paroxysmalen Lagerungsschwindel (43 von 44) über 90,00 Prozent bei Morbus Menière (27 von 30) und 71,11 Prozent bei vestibulärer Migräne (32 von 45) bis 67,86 Prozent beim persistierenden postural-perzeptiven Schwindel (19 von 28). Die Autor:innen schreiben ausdrücklich, die Übereinstimmung beschreibe den pflegegestützten Ablauf und nicht den Agenten für sich genommen.

Warum das zählt: Zitiert werden wird die eine Zahl, 79,6 Prozent — und die Autor:innen sagen selbst, dass sie nicht dem Modell allein gehört. Aussagekräftiger ist ohnehin das Gefälle dahinter: Oben stehen die Diagnosen, bei denen die Anamnese fast schon die Diagnose ist, unten die, die sich erst über Kriterien und Verlauf ergeben. Das sagt Ihnen, wo ein solcher Ablauf Arbeit abnimmt und wo er sie nur verschiebt.

Quelle: Journal of Medical Internet Research

Bei Gesundheits-Chatbots wächst das Risiko mit der Gesprächsdauer — am größten ist es, wenn der Bot unterstützend klingt

Wie prüft man, ob ein Chatbot im Gespräch über psychische Beschwerden Schaden anrichtet? Ein Team des Max Planck UCL Centre for Computational Psychiatry and Ageing Research in London hat dafür ein Verfahren vorgelegt (veröffentlicht in Nature Medicine, Epub 7. August).

Es heißt SIM-VAIL und arbeitet so: Ein Programm spielt Nutzende mit jeweils festgelegter psychischer Verwundbarkeit und festgelegtem Anliegen, führt mit dem zu prüfenden Chatbot ein mehrschrittiges Gespräch und bewertet jede einzelne Antwort auf 13 klinisch begründeten Risikodimensionen. Ausgewertet wurden 810 solcher Gespräche mit neun Chatbots — von Anthropic, OpenAI, Google, xAI und Meta — über 30 Nutzendenprofile hinweg.

Bedenkliches Verhalten war den Autor:innen zufolge verbreitet, in neueren Modellen allerdings seltener. Es hing von Verwundbarkeit und Anliegen ab und häufte sich über die Gesprächszüge an; ein Eingreifen an frühen Eskalationspunkten verringerte es. Am höchsten war das Risiko dort, wo an sich unterstützendes Verhalten des Chatbots genau den Mechanismus verstärkte, der der simulierten Verwundbarkeit zugrunde lag. Konkrete Anteilswerte je Modell oder Dimension nennt die Zusammenfassung nicht; sie stehen im zahlungspflichtigen Volltext.

Warum das zählt: Ein Fehlverhalten, das sich erst über mehrere Gesprächszüge aufbaut, kann in einer Prüfung aus Einzelfragen gar nicht auftreten. Wer im eigenen Haus ein patientennahes Chatangebot bewertet — für die Terminvergabe, die Nachsorge, die psychosoziale Erstansprache —, misst mit einer Fragenliste also nicht die Größe, die hier auffällig wurde. Die passende Prüfeinheit ist das Gespräch, nicht die einzelne Antwort.

Quelle: Nature MedicinePaywall

OpenAI hält ein Modell wegen seiner Angriffsfähigkeit zurück — und gibt drei Tage später ein Angriffsmodell an geprüfte Verteidiger aus

Am 7. August teilte OpenAI mit, dass es ein noch unveröffentlichtes Modell namens Astra zurückhält. Der Grund: Das Unternehmen kann nicht mehr ausschließen, dass Astra in seinem internen Sicherheitsrahmen die Stufe „kritisch“ für Cybersicherheit erreicht. Diese Stufe beschreibt ein Modell, das ohne menschliche Hilfe in gehärteten realen Systemen funktionsfähige Angriffe auf bislang unbekannte Lücken findet und baut, oder das aus einer bloßen Zielvorgabe einen vollständigen Angriffsweg entwickelt. Endgültig eingestuft ist Astra nicht; OpenAI behandelt es während der weiteren Messungen so, hat die Entwicklung in abgeschottete Umgebungen verlegt, den Zugang beschränkt, den Schutz der Modellgewichte verstärkt und die Veröffentlichung aufgeschoben.

Am 10. August veröffentlichte dasselbe Unternehmen ein anderes Angriffsmodell, GPT-5.6-Cyber, und teilte sein Programm Daybreak in zwei Zugangsstufen. Blue gibt geprüften Verteidigern die allgemeinen Modelle, bei denen die Schutzmechanismen abgeschaltet sind, die sonst sicherheitsbezogene Anfragen abfangen — gedacht für Schwachstellensuche, Quellcodeprüfung, Schadsoftwareanalyse, Vorfallsbearbeitung und die Prüfung von Sicherheitsaktualisierungen. Red führt zu den eigens dafür trainierten Modellen und ist der einzige Weg zu GPT-5.6-Cyber. Wie groß der Unterschied zwischen den Stufen ist, zeigt OpenAIs eigene Messung an einer Sammlung heikler Anfragen, darunter Angriffsketten, Umgehung der Anmeldung und Rechteausweitung: GPT-5.6-Cyber bearbeitet 95,0 Prozent davon, das allgemeine Modell 1,5 Prozent, mit Blue-Zugang 2,0 Prozent. Mit dem neuen Modell fand OpenAI bislang unbekannte Lücken in V8, der JavaScript-Umgebung von Chrome; Google hat eine davon als CVE-2026-15903 geschlossen.

Warum das zählt: Beide Entscheidungen hängen nicht an der Fähigkeit des Modells, sondern an einer Prüfung von Personen — derselbe Anbieter hält die eine Fähigkeit zurück und gibt die andere an eine Liste aus. Krankenhäuser gelten in Deutschland als kritische Infrastruktur, kommen in diesen Programmen aber weder als Zielgruppe vor, noch hätten die meisten ein Team, das eine solche Aufnahmeprüfung bestehen würde. Für die Klinik-IT lautet die Frage an dieser Stelle also nicht, ob sich solche Software beschaffen lässt, sondern wer die Liste führt.

Quelle: OpenAI / Infosecurity Magazine

Eine erfundene Augenerkrankung lief von einem Preprint über vier Chatbots bis in eine begutachtete Zeitschrift

Anfang 2024 erfand eine Gruppe um Almira Osmanovic Thunström an der Universität Göteborg eine Krankheit. Sie nannte sie „Bixonimania“ und beschrieb sie als Lidhyperpigmentierung durch das blaue Licht von Bildschirmen. Zwei fingierte Preprints wurden hinterlegt. Dann wurde beobachtet, was geschieht.

Was geschah, ist in mehreren Berichten übereinstimmend festgehalten. Copilot bezeichnete den Zustand als interessante und relativ seltene Erkrankung. Gemini führte ihn auf Blaulichtexposition zurück und empfahl eine augenärztliche Vorstellung. Perplexity nannte eine Prävalenz von etwa einem Fall auf 90.000. ChatGPT fragte Nutzende nach ihren Symptomen und teilte ihnen mit, ob die Beschwerden dazu passten. Noch im selben Jahr zitierte eine Arbeit von Forschenden des Maharishi Markandeshwar Institute in Indien den fingierten Preprint und führte Bixonimania in der Zeitschrift Cureus als neu beschriebene periorbitale Melanose infolge blauen Lichts. Cureus zog die Arbeit am 30. März 2026 zurück; die Rücknahmenotiz nennt drei irrelevante Literaturangaben, darunter eine auf eine fiktive Erkrankung, weshalb die Redaktion kein Vertrauen mehr in Richtigkeit und Herkunft der Arbeit habe.

Francesco Branda und Massimo Ciccozzi von der Università Campus Bio-Medico in Rom nehmen den Fall in The Lancet Digital Health zum Anlass, über die erkenntnistheoretische Anfälligkeit von KI in der Medizin zu schreiben (Epub 7. August).

Warum das zählt: Erfunden hat die Krankheit ein Mensch, kein Modell. Bemerkenswert ist etwas anderes: Jede Station des Weges verhielt sich regelkonform. Ein Preprint-Server prüft keine Wahrheit, die Chatbots gaben wieder, was geschrieben stand, und das Begutachtungsverfahren prüfte die Literaturangaben auf Form, nicht auf Existenz. Eine Behauptung gewinnt Autorität dadurch, dass sie Stationen durchläuft — und keine dieser Stationen prüft, ob es die Sache gibt. Daraus folgt eine schmale, aber brauchbare Gewohnheit: Ein Begriff, den Sie nie gehört haben, angeboten mit einer Prävalenzzahl und ohne Primärquelle, die sich öffnen lässt, ist keine Lücke in Ihrem Wissen. Er ist eine Behauptung, die zu prüfen ist.

Quelle: The Lancet Digital HealthPaywall

Ein Klinik-Chatbot wurde abgeschaltet — in der Fallstudie kommt die Qualität des Modells kein einziges Mal vor

An einem großen staatlichen Maximalversorger lief ein Assistenzprogramm namens ChatAI, das klinische und organisatorische Auskünfte gab, ohne dass man dafür ins Intranet musste. Es wurde wieder abgeschaltet. Eine Arbeitsgruppe um Adrian Yeow (Singapore University of Social Sciences) hat rekonstruiert, warum (veröffentlicht im Journal of Medical Internet Research, Epub 10. August).

Grundlage sind 16 halbstrukturierte Interviews mit dem Einführungsteam und mit Beschäftigten, die mit dem System gearbeitet haben, dazu Sitzungsprotokolle. Ausgewertet wurde entlang eines etablierten Rahmens für soziotechnische Systeme (Davis und Kolleg:innen, 2014), der fünf Elemente unterscheidet: Ziele, Menschen, Prozesse, Technik und Infrastruktur.

Auf allen fünf Ebenen passten System und Haus nicht zusammen, und das begrenzte die Nutzung. Das Innovationszentrum der Klinik arbeitete die anfänglichen Unstimmigkeiten ab, doch neue regulatorische Vorgaben, Veränderungen der Infrastruktur und eine sich verschiebende Praxis der Beteiligten erzeugten laufend neue. Als schwierigsten Punkt heben die Autor:innen hervor, eine sich fortwährend verändernde Infrastruktur mit regulatorischen Anforderungen in Einklang zu halten.

Warum das zählt: In der gesamten Darstellung des Scheiterns kommt die Güte des Modells nicht vor. Das ist der verwertbare Teil. Eine Beschaffungsentscheidung, die nur fragt, wie gut ein System antwortet, hat die Frage nicht gestellt, an der dieser Fall entschieden wurde: ob das Haus in achtzehn Monaten noch zu dem System passt, wenn Infrastruktur und Regulierung sich beide bewegt haben. Anders als die Antwortqualität lässt sich das vorher nicht messen — nur vertraglich vorsehen.

Quelle: Journal of Medical Internet Research

Ein Sprachmodell hat Virengenome entworfen, 16 davon funktionieren — die Sicherheitsprüfung für DNA-Bestellungen kennt nur Bekanntes

Evo 1 und Evo 2 sind Genom-Sprachmodelle: dieselbe Architektur wie ein Sprachmodell für Text, trainiert auf DNA-Sequenzen statt auf Sätzen. Ein Team um Samuel King und Brian Hie (Stanford University, mit dem Arc Institute) hat sie vollständige Phagengenome entwerfen lassen, Vorlage war ΦX174 (veröffentlicht in Science, Epub 6. August).

Aus mehreren tausend Entwürfen gingen rund 300 in die Synthese. 16 der gebauten Phagen erwiesen sich als funktionsfähig, mit deutlich voneinander abweichenden Sequenzen. Die Kryo-Elektronenmikroskopie zeigte bei einem von ihnen ein Verpackungsprotein für die DNA, das evolutionär weit entfernt liegt. Und ein Gemisch der erzeugten Phagen überwand rasch Escherichia-coli-Stämme, gegen die ΦX174 nichts mehr ausrichtet — daraus leiten die Autor:innen einen Weg zu KI-erzeugten Phagentherapien gegen anpassungsfähige bakterielle Erreger ab. Evo 2 wurde nach Angaben der Gruppe ohne Viren trainiert, die Menschen, Tiere oder Pflanzen befallen.

In derselben Ausgabe ordnen Thomas Inglesby und Moritz Hanke vom Center for Health Security der Johns Hopkins University den Befund ein. Ihre Kernaussage: Die Möglichkeit, Virusgenome mit generativer KI zusammenzusetzen, ist da; die Rahmenbedingungen für einen sicheren Umgang damit fehlen. Sie fordern dreierlei. Anbieter synthetischer Nukleinsäuren sollten gesetzlich, nicht freiwillig, verpflichtet werden, Bestellungen auf bedenkliche Sequenzen zu prüfen. Es braucht dringend Prüfverfahren, die auch neu entworfene Sequenzen erkennen, weil KI-erzeugte Genome sich deutlich von den bisher beschriebenen unterscheiden. Und Gruppen, die ganze Genome entwerfen, sollten über die gesamte Projektdauer Fachleute für Sicherheit hinzuziehen. Dem Deutschen Ärzteblatt zufolge (7. August) verweisen sie für eine verpflichtende, europaweit einheitliche Prüfung auf den European Biotech Act.

Warum das zählt: Das heute übliche Verfahren gleicht eine Bestellung mit Datenbanken von Sequenzen ab, die es gibt. Eine Sequenz, die es noch nie gab, findet dort keine Entsprechung. Das ist keine Lücke, die sich durch eine strengere Anwendung der bestehenden Regel schließen ließe, sondern eine, die eine andere Art von Prüfung verlangt. Hinzu kommt: Therapeutischer Nutzen und Sicherheitsproblem sind hier nicht zwei Seiten einer Abwägung, sondern dieselbe Fähigkeit. Dass ein Modell Phagen entwerfen kann, die eine Resistenz überwinden, ist genau der Grund, aus dem das Verfahren geregelt gehört — und genau der Grund, aus dem niemand es unterlassen wird.

Quelle: SciencePaywall

Zum Schluss: 67,2 Prozent

Die Riemannsche Vermutung ist seit 1859 offen. Sie besagt, dass alle nichttrivialen Nullstellen der Zetafunktion auf einer bestimmten Geraden liegen; bewiesen ist das bis heute nur für einen Teil von ihnen. Am 10. August berichtete Anthropic, eine unveröffentlichte Forschungsfassung von Claude habe diesen Teil vergrößert, von 41,6 auf 67,2 Prozent. Bewiesen ist die Vermutung damit nicht.

Der Weg dorthin ist der berichtenswerte Teil: rund 650 versuchte Ansätze im ersten Durchgang, im zweiten etwa 60 parallel arbeitende Teilprozesse und 2.400 ausgeführte Befehle.

Geprüft wurde dreifach. Zwei Mathematiker des Unternehmens, Levent Alpöge und Ralph Furman, gingen die Arbeit durch. Claude erzeugte einen Beweis in Lean — einem Programm, das mathematische Schlüsse maschinell auf Lückenlosigkeit prüft — und dieser hielt der üblichen Validierung stand. Und zwei Zahlentheoretiker außerhalb des Unternehmens, Brian Conrey und Dan Goldston, sahen den Befund durch.

Der Satz am Ende der Mitteilung ist der, den man am ehesten weggelassen hätte: Anthropic erwartet nicht, dass die verwendeten Techniken zu einem Beweis der Riemannschen Vermutung führen. Ein Ergebnis, das drei Prüfungen übersteht, ist mehr wert als eines, das beeindruckt — und die Bereitschaft, den eigenen Befund gleich mit einzuordnen, ist die seltenere der beiden Leistungen.

Quelle: Anthropic