KI im Gesundheitswesen: warum der eigentliche Wert in der Verifikation liegt

KI im Gesundheitswesen erzeugt heute mühelos flüssige Texte — und genau das ist das Risiko, denn aus fehlerhaften Rohdaten wird überzeugend formulierter, falscher Text. aiomics setzt auf den weniger offensichtlichen Wert: Verifikation. Im Verfahren Integros kontrollieren mehrere Modelle jede Angabe an ihrem Quelldokument, ehe sie in die Akte gelangt. Für eine Klinik liegt der nachhaltige Nutzen von KI deshalb seltener im schnelleren Erzeugen als im verlässlicheren Prüfen.

Der Druck, KI einzusetzen, ist real: Eine Blitzumfrage des Deutschen Krankenhausinstituts vom September 2025 beziffert den Dokumentationsaufwand auf rund drei Stunden pro Tag, mehr als ein Drittel der Arbeitszeit (Deutsches Krankenhausinstitut, 2025). Der naheliegende Reflex, das erstbeste Sprachmodell auf diese Last zu setzen, verschiebt das Problem allerdings: Ein Modell, das schnell schreibt, schreibt auch schnell etwas Falsches, wenn die zugrunde liegenden Daten nicht stimmen.

Wo der Wert von KI im Gesundheitswesen wirklich liegt

Das Erzeugen von Text wird zur Massenware — jedes Modell kann es, und es wird laufend billiger. Knapp ist etwas anderes: die Gewissheit, dass das Erzeugte stimmt. Wie groß die Lücke ist, zeigt eine Untersuchung von Notaufnahme-Zusammenfassungen, die ein Sprachmodell erstellt hatte: In 42 Prozent der Fälle fanden sich erfundene Inhalte, in 47 Prozent fehlten klinisch wichtige Angaben (Notaufnahme-Zusammenfassungen einer Sprach-KI, PMC 2025). Diese Auswertung betrifft ein einzelnes Modell in einem eng begrenzten Anwendungsfall und lässt sich nicht verallgemeinern. Sie markiert aber die Trennlinie zwischen Wert und Risiko: ob das Erzeugte gegen die Quelle geprüft wird.

Verifikation lässt sich nicht behaupten, sie muss belegt sein. Diese Prüfung übernimmt eine externe Stelle: Im EviDoc-Programm der Charité (EviDoc, AG CIDH) untersucht eine akademische Gruppe die Software unabhängig — nicht im Auftrag von aiomics, sondern nach den Standards der Implementation Science. Für eine Klinik, die KI einführt, wiegt ein solcher Beleg schwerer als eine selbst erstellte Anbieter-Studie.

Worauf sollte eine Klinik bei KI achten?

Auf drei Dinge. Erstens, ob das System das Erzeugte gegen die Quelle prüft und Widersprüche sichtbar macht, statt sie zu glätten. Zweitens, ob die Verarbeitung in der EU bleibt und unabhängig belegt ist. Drittens, ob der Mensch die Entscheidung behält — KI schlägt vor, die Ärzt:in verantwortet. aiomics ist nach diesen Grundsätzen gebaut. Der regulatorische Rahmen verstärkt sie: Die Datengovernance-Anforderungen nach Artikel 10 der EU-KI-Verordnung gelten ab dem 2. August 2026, und der Europäische Gesundheitsdatenraum macht geprüfte, strukturierte Daten zur Erwartung. Wer auf Verifikation setzt, richtet sich an dem aus, was ohnehin kommt.

Für die Patient:innen ist die Unterscheidung keine technische Feinheit. Eine plausibel formulierte, aber falsche Angabe in der Akte kann eine Behandlungsentscheidung in die Irre führen. KI, die prüft, schützt davor; KI, die nur erzeugt, verstärkt das Risiko in besonders überzeugender Form. Der Nutzen solcher Systeme bemisst sich deshalb weniger an dem, was sie schreiben können, als an dem, was sie zu garantieren vermögen.

KI im Gesundheitswesen wird nicht daran gemessen, wie gut sie formuliert, sondern wie verlässlich das ist, was sie formuliert. Der Wert liegt in der Prüfung — unauffälliger als die Texterzeugung, aber das Einzige, worauf im Ernstfall Verlass ist.