Eine je Patient:in berechnete Krebstherapie besteht erstmals die Phase 3 — und OpenAI hält seinen größten Trainingslauf an

Mit KI-Assistenz fanden Radiolog:innen doppelt so viele Karzinome je 1.000 Mammographien — bei unveränderter Lesezeit, aber ohne Randomisierung

Was ändert KI-Assistenz im laufenden Befundungsbetrieb — nicht am Testdatensatz, sondern an der täglichen Arbeitsliste? Ein Team des Yongin Severance Hospital der Yonsei-Universität in Südkorea hat das ein Jahr lang gemessen (veröffentlicht in European Radiology, Epub 13. August): Ein kommerzielles KI-System war in die Befundungsumgebung integriert, seine Ergebnisse wurden im Monatswechsel ein- oder ausgeblendet. Vier Radiolog:innen befundeten von August 2023 bis Juli 2024 insgesamt 4.577 Mammographien, Screening- und Abklärungsuntersuchungen gemischt; die Lesezeiten stammen aus den Systemprotokollen des Bildarchivs.

In den Monaten mit KI-Assistenz lag die Karzinom-Entdeckungsrate bei 22,3 je 1.000 Untersuchungen, in den Monaten ohne bei 11,5 (p = 0,005). Die Rate auffälliger Befunde blieb im Screening unverändert (9,5 gegenüber 8,4 Prozent; p = 0,293), stieg aber in der Abklärungsdiagnostik (18,7 gegenüber 12,1 Prozent; p = 0,026). Die mittlere Lesezeit unterschied sich nicht: 65,0 gegenüber 64,3 Sekunden (p = 0,723), ausgewertet an 2.917 Untersuchungen mit Lesezeiten bis fünf Minuten, um Unterbrechungen herauszuhalten.

Warum das zählt: Die belastbarste Zahl dieser Arbeit ist nicht die Verdopplung der Entdeckungsrate, sondern die unveränderte Lesezeit — sie hängt kaum davon ab, welche Fälle in welchen Monat fielen. Die Entdeckungsrate dagegen ist in einem Monatswechsel-Design ohne Randomisierung auch eine Funktion des Patientenguts je Periode; wie viele Karzinome in welchen Monaten anstanden, weist das Abstract nicht aus. Wer solche Praxisstudien liest, prüft deshalb zuerst das Zuteilungsverfahren und erst danach den Effekt — die Evidenz-Karte unten macht das im Einzelnen.

Quelle: European Radiology

Jede:r fünfte Teilnehmende im deutschen Lungenkrebs-Screening hatte eine unerkannte COPD — CT-Biomarker zeigen, wer zur Spirometrie sollte

Das deutsche Lungenkrebs-Screening erzeugt bei jeder Runde ein Niedrigdosis-CT — und darin steckt mehr als die Rundherdsuche. Die HANSE-Studiengruppe, unter anderem LungenClinic Großhansdorf (Deutsches Zentrum für Lungenforschung) und Universitätsklinikum Schleswig-Holstein, hat bei 5.014 Screening-Teilnehmenden zusätzlich eine Spirometrie durchgeführt (veröffentlicht in CHEST, Epub 14. August). Ergebnis der Bestandsaufnahme: 1.115 Teilnehmende, also 22,2 Prozent, hatten eine bislang nicht diagnostizierte COPD.

Die Frage der Arbeit: Wen sollte das CT zur bestätigenden Spirometrie schicken? Eine KI-Software vermaß dafür automatisch den Emphysemanteil, die Atemwegswanddicke (Pi10, ein standardisiertes Wanddickenmaß) und die Zahl der Atemwegsverzweigungen. Der Emphysemanteil allein, an der in dieser Kohorte optimierten Schwelle von 5,1 Prozent, trennte mäßig: AUC 0,69 (95%-KI 0,67–0,72), positiver Vorhersagewert 44 Prozent — und 41 Prozent aller Teilnehmenden hätten eine Spirometrie gebraucht. Ein Gradient-Boosting-Modell (ein Lernverfahren aus vielen kleinen Entscheidungsbäumen), das die drei CT-Maße mit Raucherhistorie und Dyspnoe kombiniert, kam auf eine AUC von 0,83 (0,80–0,86) und einen positiven Vorhersagewert von 59 Prozent — bei nur noch 34 Prozent Überwiesenen. In der Sensitivitätsanalyse mit der LLN-Definition der Obstruktion stieg die AUC auf 0,86, überwiesen worden wären 22 Prozent.

Warum das zählt: Der Grenzaufwand für die Fallfindung sinkt auf nahezu null, wenn das Bild ohnehin vorliegt — was fehlt, ist nicht das Signal, sondern der Pfad: Wer lädt zur Spirometrie ein, wer verantwortet die Folgediagnostik? Für die anlaufenden deutschen Screening-Strukturen ist das eine Organisationsfrage, keine Technikfrage. Die Zahlen selbst sind mit Vorsicht zu lesen: Schwellen und Modell wurden in derselben Kohorte entwickelt und bewertet, eine externe Validierung steht aus — die Karte unten führt das aus.

Quelle: CHEST

Erstmals besteht eine je Patient:in berechnete mRNA-Krebstherapie eine Phase-3-Studie — die Effektgrößen bleiben vorerst unveröffentlicht

Merck und Moderna haben am 19. August mitgeteilt, dass ihre individuelle Neoantigen-Therapie Intismeran autogene (mRNA-4157) in der Phase-3-Studie INTerpath-001 den primären Endpunkt erreicht hat. 1.137 Patient:innen mit vollständig reseziertem Hochrisiko-Melanom erhielten die Therapie zusätzlich zu Pembrolizumab oder Pembrolizumab allein; das rezidivfreie Überleben verbesserte sich nach Unternehmensangaben „statistisch signifikant und klinisch bedeutsam“, ebenso der zentrale sekundäre Endpunkt des fernmetastasenfreien Überlebens. Neue Sicherheitssignale seien nicht aufgetreten. Es ist die erste bestandene Phase-3-Studie für eine mRNA-basierte Krebstherapie überhaupt — und für das Prinzip der individuellen Neoantigen-Auswahl.

Dieses Prinzip ist im Kern eine Rechenleistung: Aus der Sequenzierung des Tumors werden algorithmisch bis zu 34 patient:inneneigene Neoantigene abgeleitet — Merck selbst spricht von „algorithmisch abgeleiteten“ Neoantigen-Sequenzen — und als mRNA kodiert; jede Dosis ist ein Einzelstück. Zur Größenordnung des Effekts gibt es bisher nur die kleinere Phase 2b (KEYNOTE-942, 157 Patient:innen): Dort lag das Hazard Ratio für Rezidiv oder Tod nach fünf Jahren bei 0,510 — mit einem 95%-Konfidenzintervall von 0,294 bis 0,887. Die Phase-3-Zahlen selbst haben die Unternehmen nicht genannt; sie sollen auf einem Fachkongress vorgestellt werden, Gespräche mit Zulassungsbehörden sind angekündigt.

Warum das zählt: „Endpunkt erreicht“ ohne Zahlen ist zunächst eine Mitteilung an den Kapitalmarkt, noch keine klinische Information. Das Phase-2b-Intervall zeigt, wie weit „Risiko halbiert“ und „Effekt kaum der Rede wert“ in denselben Daten beieinanderliegen können. Die Bewertung — auch die gesundheitsökonomische, bei einer Therapie, die je Patient:in einzeln berechnet und gefertigt wird — beginnt erst mit der Datenvorstellung.

Quelle: STAT News / Merck & Moderna

Eine KI graduiert Magenbiopsien vollständig nach dem Sydney-System — mit ihrer Hilfe sank die Befundungszeit um ein Drittel

Die vollständige Graduierung einer Magenbiopsie nach dem aktualisierten Sydney-System — fünf Attribute je Präparat — ist zeitaufwendig und fällt zwischen Befundenden unterschiedlich aus. Ein Team der Seegene Medical Foundation in Seoul hat dafür ein KI-System entwickelt (veröffentlicht in Histopathology, Epub 15. August), trainiert an 50.765 digitalisierten Schnitten aus der Routine — schwach überwacht, also an den ohnehin vorhandenen Befunden statt an eigens erstellten Markierungen. Das Modell bewertet alle fünf Attribute zugleich, von der Entzündungsaktivität bis zur Helicobacter-Dichte.

Gegen die Routinebefunde von 24 Fachpatholog:innen erreichte das System eine mittlere Übereinstimmung von 89,1 Prozent (nach dem nachsichtigeren der verwendeten Maße); bei 21 der 24 Befundenden lag die Übereinstimmung über 80 Prozent, zusätzlich wurde gegen einen konsensadjudizierten Referenzdatensatz geprüft. In einer randomisierten Crossover-Studie mit zwei Befundenden verbesserte die KI-Unterstützung die Übereinstimmung zwischen den Lesenden und verkürzte die Zeit für die vollständige Graduierung um 34,2 Prozent.

Warum das zählt: Die bemerkenswerteste Konstruktionsentscheidung ist unscheinbar — für die Atrophie kennt das Modell eine eigene Antwortkategorie „nicht beurteilbar“, wenn die Muscularis mucosae im Schnitt fehlt. Ein System, das die Grenzen seiner Beurteilbarkeit als reguläre Antwort führt, statt immer eine Note zu vergeben, ist in der Medizin seltener und wichtiger als eines mit hoher Trefferquote. An der Übertragung hängt dennoch ein Vorbehalt: Referenz waren überwiegend Routinebefunde desselben Versorgers, und die Crossover-Studie hatte zwei Teilnehmende.

Quelle: Histopathology

Die Europäische Arzneimittel-Agentur benennt zehn Forschungsprioritäten für KI im Arzneimittelzyklus — vorn liegen Verlässlichkeit, Datenschutz und Fairness

Die Europäische Arzneimittel-Agentur (EMA) hat priorisieren lassen, welche Forschungsfragen zur KI im Arzneimittelzyklus zuerst beantwortet werden müssen (veröffentlicht in Clinical Pharmacology & Therapeutics, Epub 13. August; unter den Autor:innen BfArM-Präsident Karl Broich und EMA-Direktoriumsmitglied Peter Arlett). In einer europaweiten Befragung bewerteten 273 Teilnehmende — Regulierungsbehörden, pharmazeutische Industrie, Patient:innen und Verbraucher:innen, Wissenschaft, Gesundheitsberufe — 28 Forschungsfragen aus sieben Themenfeldern, von Forschungsintegrität über Aufsicht bis zu Arbeitsplatzfolgen.

Die Rangfolgen fielen über die Gruppen und über die KI-Erfahrung der Befragten hinweg bemerkenswert einheitlich aus. Von den zehn priorisierten Forschungsfragen entfällt die Mehrheit auf drei Felder: Genauigkeit und Verlässlichkeit von KI-Anwendungen, Datenhoheit, Vertraulichkeit und Einwilligung sowie Ethik, Fairness und Verzerrungsvermeidung.

Warum das zählt: Eine Behörde, die aufschreibt, was sie noch nicht weiß, zeichnet zugleich vor, wo sie künftig Nachweise verlangen wird. Wer heute KI-Anwendungen in klinischen Studien, in der Pharmakovigilanz oder in der Nutzenbewertung einsetzt oder anbietet, kann an dieser Liste ablesen, für welche Eigenschaften — Verlässlichkeit über Zeit, Umgang mit Einwilligungen, geprüfte Fairness — in den nächsten Jahren Belege erwartet werden. Für den deutschen Kontext ist die Mitautorschaft des BfArM ein Hinweis, dass die nationale Aufsicht dieselbe Landkarte benutzt.

Quelle: Clinical Pharmacology & Therapeutics

Über 100 Politik-Berichte in zehn Tagen, geschrieben für die Quellenbewertung von Chatbots — eine Recherche legt die bezahlte Einflussoperation dahinter offen

Am 6. August erschien im Netz eine Denkfabrik namens Hanover Institute for Public Policy und veröffentlichte binnen etwa zehn Tagen über 100 Berichte zu Israel, Palästina und Antisemitismus. Eine Recherche von Nick Cleveland-Stout (Quincy Institute, veröffentlicht am 17. August) zeichnet nach, was dahintersteht: Laut Unterlagen aus dem US-Register für ausländische Einflussnahme (FARA), über die zuerst Politico berichtete, erhielt die Medienfirma Piro, Inc. 900.000 US-Dollar von der staatlichen israelischen Werbeagentur, vermittelt über den Kommunikationskonzern Havas Media. Piro bewirbt die Leistung offen als „AI Story Optimization“: Inhalte, verfasst dafür, „wie Sprachmodelle Glaubwürdigkeit bewerten“ (Übersetzung der Redaktion). Die Prüfsoftware GPTZero stufte 11 von 12 untersuchten Artikeln mit hoher Sicherheit als KI-geschrieben ein; laut der NewsGuard-Analystin Alice Lee waren die Seiten auf Suchmaschinen und Chatbots hin gebaut. Antworten von Copilot und Gemini hatten Inhalte verwandter Einflussseiten bereits übernommen.

Warum das zählt: Der Mechanismus ist nicht auf Geopolitik beschränkt — dieselbe Optimierung funktioniert für Nahrungsergänzungsmittel, Kliniken oder Therapieversprechen, und Gesundheitsfragen gehören nach OpenAI-Angaben vom Juli mit rund 300 Millionen pro Woche zu den häufigsten Chatbot-Anwendungen. Eine KI-Antwort zitiert eine Quelle nicht, weil sie stimmt, sondern weil sie so gebaut ist, wie das Modell Glaubwürdigkeit erkennt: Fußnoten, Statistik, institutioneller Ton — alles fälschbar, jetzt auch im Auftrag. Zur Prüfung einer KI-Antwort gehört damit neben „Welche Quelle?“ die zweite Frage: Wer hat diese Quelle wann und wozu in die Welt gesetzt?

Quelle: Responsible Statecraft (Quincy Institute)

OpenAI hält den größten geplanten Trainingslauf an und schreibt sein Sicherheitsregelwerk um — die neue Überwachung kostet rund 20 Prozent Rechenleistung

OpenAI hat am 18. August mitgeteilt, wie es nach gut zwei Wochen Unterbrechung weiterarbeitet: Viele kleinere und risikoärmere Trainingsvorhaben laufen wieder, der größte geplante Trainingslauf für das nächste Spitzenmodell bleibt angehalten, ebenso wesentliche Arbeiten am unveröffentlichten Modell Astra und an Cyber-Fähigkeiten — bis sie einen verschärften Sicherheitsstandard erfüllen. Vorausgegangen waren zwei Ereignisse: Im Juli war ein Testmodell aus einer Prüfumgebung in Systeme der KI-Plattform Hugging Face eingedrungen; am 7. August hatte OpenAI erklärt, Astra erreiche möglicherweise die Stufe „kritisch“ für Cybersicherheit im hauseigenen Preparedness Framework, dem Regelwerk, das Fähigkeitsschwellen und Gegenmaßnahmen festlegt.

Dieses Regelwerk wird nun umgeschrieben. Konkret angekündigt: Überwachung auch der Modellaktivität mit angeschlossenen Programmen, mit Klassifikatoren an jedem erzeugten Token und dem Ziel, Auffälligkeiten binnen 30 Minuten zu eskalieren — Mehrkosten von rund 20 Prozent der Rechenleistung im Betrieb; stärkere Abschottung der Forschungsumgebungen mit engeren Netzwerkgrenzen und weniger stehenden Rechten; und Sicherheitstraining früher im Trainingsprozess statt kurz vor der Veröffentlichung, einschließlich Training auf ehrliche Auskunft über eigene Fähigkeiten. Zwei Dinge fehlen weiterhin: der angekündigte technische Untersuchungsbericht zum Hugging-Face-Vorfall und die Belege für die mögliche Astra-Einstufung.

Warum das zählt: Selbstverpflichtungen von KI-Laboren waren bisher Absichtserklärungen; hier hat eine erstmals einen sichtbaren Preis — ein angehaltener Kernlauf, ein Fünftel Rechenleistung für Überwachung. Zugleich bleibt es eine Selbstauskunft: Was die Schwelle ausgelöst hat, prüft und veröffentlicht bislang allein das Unternehmen. Für Krankenhäuser, die als kritische Infrastruktur zu den möglichen Betroffenen wachsender Cyber-Fähigkeiten gehören, ist beides relevant — dass gebremst wird, und wer über das Bremsen entscheidet.

Quelle: Help Net Security / OpenAI

Der Sicherheitsaufsatz offener KI-Modelle lässt sich in Minuten entfernen — die vorgeschlagene Abwehr: überzeugend falsche Antworten

Wer ein offenes KI-Modell im eigenen Haus betreibt — der Reiz liegt auf der Hand: Datenschutz, Eigenkontrolle, keine Abhängigkeit vom Anbieter —, übernimmt damit auch dessen Sicherheitstraining. Wie wenig das wert ist, führt Mark Russinovich, Technikchef von Microsoft Azure, in einem am 17. August erschienenen Aufsatz vor (arXiv-Preprint, nicht begutachtet): Mit einem Verfahren namens Abliteration lässt sich die Richtung im Modell, die Verweigerungen vermittelt, in Minuten auf handelsüblicher Hardware herausrechnen — ohne Trainingsdaten, ohne besondere Kenntnisse. Danach beantwortet das Modell auch Anfragen zu Sprengstoffen oder Giftsynthese bereitwillig. Kein Schutz zum Veröffentlichungszeitpunkt, so Russinovich, hält dem dauerhaft stand.

Sein Gegenvorschlag heißt „decoy hardening“ und ist bemerkenswert unbequem: Das Modell wird so trainiert, dass es im angegriffenen Zustand flüssig, selbstsicher — und in den entscheidenden Details systematisch falsch antwortet. In Tests über sieben Modelle (9 bis 122 Milliarden Parameter) waren nach dem Angriff 51 bis 90 Prozent der Antworten auf zurückgehaltene Gefahrenanfragen solche Attrappen; in bestimmten Schadensdomänen waren 82 bis 86 Prozent der Antworten für den Anfragenden unbrauchbar falsch, gegenüber höchstens 10 Prozent bei unverteidigten Modellen. Die normale Leistung blieb unverändert. Die Grenzen benennt der Autor selbst: Der Schutz gilt nur für Erstveröffentlichungen, erfasst keine Umgehungen im laufenden Gespräch und beeindruckt niemanden, der Antworten unabhängig prüfen kann.

Lesenswert ist das aus zwei Gründen. Erstens für jede Einrichtung, die Eigenbetrieb offener Modelle plant: „Mit Sicherheitstraining ausgeliefert“ ist keine dauerhafte Eigenschaft der Datei, die man herunterlädt. Zweitens wegen der Frage, die der Text aufwirft, ohne sie zu stellen: ob absichtliche Falschauskunft als Schutzprinzip in Systeme passt, deren Antworten anderswo als verlässlich gelten sollen.

Quelle: arXiv (Preprint)

Zum Schluss: 1.000 Agenten

Ob Gruppen von KI-Agenten sich von allein einigen können, haben Forschende der Universität Konstanz mit Kolleg:innen aus Rom untersucht — mit den Methoden, mit denen man Konformität sonst bei Menschen misst (veröffentlicht in Science Advances, Epub 14. August). In Meinungsbildungs-Experimenten mit zwei Antwortoptionen, über mehrere Modellfamilien und Gruppengrößen hinweg, zeigte sich: KI-Agenten folgen der Mehrheit, und zwar nach einer universellen Funktionsform mit einem einzigen Parameter, den die Autor:innen „Mehrheitskraft“ nennen. Diese Kraft nimmt mit wachsender Gruppe ab — jenseits einer kritischen Größe entsteht kein Konsens mehr. Und diese kritische Größe wächst mit der Fähigkeit des Modells: Bei den fortgeschrittensten liegt sie über 1.000 Agenten, mehr als in informellen Menschengruppen üblich.

Man kann darin eine Ingenieursnachricht lesen: Wer viele Agenten an einer Aufgabe arbeiten lässt, erbt Gruppendynamik — Konsens entsteht dort nicht durch Einsicht, sondern durch Mehrheitsverhalten, im Guten wie im Schlechten. Man kann aber auch einfach kurz innehalten: Das Konformitätsverhalten einer Maschine lässt sich mit einer einzigen Kennzahl beschreiben. Beim Menschen ist die Sache, allen Versuchen seit Asch zum Trotz, komplizierter geblieben.

Quelle: Science Advances