Arztbrief mit KI: was zwischen Entwurf und Unterschrift passieren muss

Donnerstag, 17:40 Uhr, eine internistische Station. Vier Entlassungen sind für morgen geplant, vier Briefe offen. Die Assistenzärztin öffnet das Entwurfswerkzeug, das ihr Haus seit ein paar Wochen pilotiert, und hat nach einer halben Minute einen Arztbrief-Entwurf auf dem Bildschirm: Anrede korrekt, Verlauf plausibel gegliedert, Diagnosen an der richtigen Stelle. Der Text liest sich, als hätte ihn jemand geschrieben, der den Fall kennt.

Genau diese Qualität ist der heikle Moment. Ein flüssiger, vollständig wirkender Text lädt dazu ein, ihn zu überfliegen. Und die wichtigste Fehlerklasse in solchen Entwürfen sieht man beim Überfliegen grundsätzlich nicht: Es sind die Sätze, die fehlen.

Auslassung schlägt Halluzination — die Zahlen

Zur Fehlerstruktur KI-generierter klinischer Texte gibt es inzwischen belastbare, peer-reviewte Evidenz. Eine Londoner Arbeitsgruppe hat 2025 in npj Digital Medicine 450 klinische Notizen mit knapp 13.000 Sätzen ausgewertet [1]: 1,47 Prozent der Sätze enthielten Halluzinationen, also erfundene Inhalte; 44 Prozent dieser Halluzinationen wurden als klinisch relevant eingestuft. Die Auslassungen lagen bei 3,45 Prozent der Quellsätze — mehr als doppelt so häufig.

Eine Untersuchung der University of California, San Francisco, zu Entlassdokumenten aus der Notaufnahme zeigt dasselbe Verhältnis [2]: 42 Prozent der GPT-4-generierten Zusammenfassungen enthielten Halluzinationen, 47 Prozent ließen klinisch relevante Informationen aus.

Die öffentliche Debatte über KI-Arztbriefe wird trotzdem fast ausschließlich über Halluzinationen geführt. Wer nur prüft, ob der Brief Erfundenes enthält, prüft damit die kleinere Fehlerklasse — und die leichter auffindbare. Eine erfundene Aussage steht im Text und kann beim Lesen stutzig machen. Eine ausgelassene Aussage steht nirgends. Um sie zu finden, müsste man wissen, was im Brief stehen müsste, und jede Quelle gegen den Entwurf abgleichen. Beim vierten Brief um 17:40 Uhr macht das niemand mehr systematisch. Wie schon die Zusammenführung zweier korrekter Befunde schiefgehen kann, haben wir an anderer Stelle beschrieben: Wie aus zwei richtigen Befunden eine erfundene Diagnose wird.

Dabei sind die Entwürfe tatsächlich gut. Eine Freiburger Arbeitsgruppe zeigte 2024 in JMIR Medical Informatics, dass 93,1 Prozent der von einem lokal betriebenen Sprachmodell generierten deutschen Arztbriefe mit minimaler Anpassung nutzbar waren [3]. Und die bislang größte publizierte Auswertung eines Ambient-KI-Einsatzes — 7.260 Ärzt:innen bei Kaiser Permanente, rund 2,5 Millionen Patientenkontakte — fand eine Zeitersparnis von etwa 2,1 Minuten pro Kontakt, bei zugleich hoher Zufriedenheit der Nutzenden [4].

Rund zwei Minuten pro Kontakt: Das ist die ehrliche Größenordnung der Zeitersparnis. Anbieter, die „Stunden pro Tag“ versprechen, haben die Studienlage gegen sich. Der Wert einer Arztbrief-KI entsteht an anderer Stelle — in der Vollständigkeit des Briefs, in den Verifikationskosten, die heute unsichtbar in Gegenlesen und Rückfragen stecken, und in der Dokumentation nach Feierabend, die entfällt.

Was zwischen Entwurf und Unterschrift stehen muss

Rechtlich ist die Lage klar: Der signierte Brief ist der Brief der Ärztin oder des Arztes, gleichgültig, wer oder was den Entwurf geschrieben hat. Damit verschiebt sich die Frage von der Generierung zur Prüfung — und dazu, ob diese Prüfung später belegbar ist.

Vier Schritte lassen sich unabhängig vom Anbieter benennen.

Erstens der Abgleich gegen die Quellen in beide Richtungen. „Stimmt, was im Brief steht?“ ist die eine Hälfte. Die andere: „Steht im Brief, was in den Quellen steht?“ Dieser zweite Teil — der Auslassungs-Check — ist manuell kaum leistbar, weil er jede Quelle vollständig gegen den Entwurf lesen müsste.

Zweitens deterministische Prüfungen, für die es kein Sprachmodell braucht: Abgleich der Medikation gegen die dokumentierte Liste, Konsistenz der Datumsangaben, keine Codes, die in keinem Katalog existieren.

Drittens eine erzwungene Freigabe: Ein Brief mit offenen Fragen oder fehlenden Pflichtangaben lässt sich gar nicht erst signieren — als Software-Eigenschaft, nicht als Dienstanweisung.

Viertens Beweisbarkeit. §630f BGB verlangt, dass Berichtigungen und Änderungen der Dokumentation erkennbar bleiben [5]. Für KI-gestützte Briefe heißt das: Entwurf, Änderungen und Freigabe müssen versioniert sein. Wer wann was geprüft hat, muss sich auch Jahre später zeigen lassen — spätestens dann, wenn der Medizinische Dienst oder ein Gericht fragt. Eine belegbare Prüfung macht aus dem KI-Werkzeug ein Haftungsargument für das Haus; eine unbelegbare macht es zum Risiko.

Warum kontextualisierte Generierung dabei anders altert als klassische Textbausteine, steht hier: Arztbrief: Textbausteine vs. kontextualisierte Generierung.

Wie aiomics die Pipeline baut

Bei aiomics ist heute die Basis-Generierung produktiv: ein kompetenter Erstentwurf aus der verifizierten, quellenverknüpften Patientenakte, in der jedes Feld seine Herkunft kennt. Der Ausbau zur vollständigen Prüf-Pipeline ist spezifiziert und in Entwicklung — die folgenden Bausteine sind sämtlich geplant und noch nicht released:

• Omission-Detektor (geplant): gleicht den Entwurf gegen die strukturierten Daten der Akte ab und zeigt ein „Nicht übernommen“-Panel. Auslassen bleibt möglich, wird aber eine dokumentierte Entscheidung.
• Generalprobe (geplant): eine adversariale Prüfung des Entwurfs aus vier Sichten — MD-Auditor:in, Gutachter:in, weiterbehandelnde Praxis, Patient:in — mit höchstens rund sieben Hinweisen pro Sicht, jeder mit Zitat und Korrekturvorschlag. „Keine Auffälligkeiten“ ist ein zulässiges Ergebnis; eine Prüfsicht, deren Hinweise regelmäßig folgenlos bleiben, wird entschärft.
• Maker-Checker-Freigabe (geplant): Die Finalisierung ist technisch blockiert, solange offene Marker im Text stehen. Vor der Signatur steht eine kurze Checkliste mit inhaltlichen Bestätigungen („Entlassdosis Apixaban geändert — bestätigen Sie 2×2,5 mg“).
• Reviewer-Diff (geplant): für die Oberärztin die Ansicht KI-Entwurf gegen Assistenz-Änderungen gegen aktuellen Stand, mit protokolliertem „i.V.“-Signieren.
• Stilprofil (geplant): lernt die Briefstimme des Hauses aus der Edit-Historie — gespeichert als lesbarer, editierbarer, löschbarer deutscher Text, nie als klinischer Inhalt.
• §630f-feste Versionierung (geplant): jede Version, jede Prüfung, jede Freigabe mit Zeitstempel und Signatur-Faksimile.

Was aiomics nicht behauptet: fehlerfreie Generierung. Die Zahlen oben gelten für Sprachmodelle generell, auch für unsere. Die Pipeline ist die Konsequenz daraus — sie soll die ärztliche Prüfung schneller machen und belegbar, ersetzen kann und darf sie sie nicht.

Woran Sie jeden Anbieter messen sollten

1. Zeigt das System, was es nicht übernommen hat? Wenn ein Anbieter nur über Halluzinationen spricht, fragen Sie nach der Auslassungsrate — sie ist nach der Studienlage die zwei- bis dreimal größere Fehlerklasse.
2. Hat jeder Satz eine nachvollziehbare Quelle, und ist Text ohne Quellenbeleg visuell unterscheidbar, damit die Aufmerksamkeit dorthin fließt, wo die Evidenz dünn ist?
3. Lässt sich ein Brief mit offenen Prüfpunkten signieren? Wenn ja, ist die Prüfung eine Empfehlung — und Empfehlungen fallen unter Zeitdruck zuerst.
4. Wie wird die ärztliche Prüfung dokumentiert? Versionierung im Sinne von §630f BGB, Zeitstempel, Rollen: Lässt sich in fünf Jahren noch belegen, wer den Brief geprüft und freigegeben hat?
5. Mit welcher Zahl wird die Zeitersparnis verkauft? Minuten pro Brief sind evidenzbasiert. Größere Versprechen sollten Sie sich vorrechnen lassen.

Wenn Sie diese fünf Fragen mit uns durchgehen möchten — auch ohne aiomics zu evaluieren —, schreiben Sie uns. Oder Sie lesen erst einmal mit: Visite, unser Brief zu Dokumentation und KI im deutschen Gesundheitswesen.

Quellen

1. Asgari E, Montaña-Brown N, Dubois M, et al. A framework to assess clinical safety and hallucination rates of LLMs for medical text summarisation. npj Digital Medicine. 2025;8:274. doi:10.1038/s41746-025-01670-7
2. Williams CYK, Bains J, Tang T, et al. Evaluating large language models for drafting emergency department encounter summaries. PLOS Digital Health. 2025;4(6):e0000899. doi:10.1371/journal.pdig.0000899
3. Heilmeyer F, Böhringer D, Reinhard T, Arens S, Lyssenko L, Haverkamp C. Viability of open large language models for clinical documentation in German health care: real-world model evaluation study. JMIR Medical Informatics. 2024;12:e59617. doi:10.2196/59617
4. Tierney AA, et al. Ambient artificial intelligence scribes: learnings after 1 year and over 2.5 million uses. NEJM Catalyst Innovations in Care Delivery. 2025. doi:10.1056/CAT.25.0040
5. § 630f BGB — Dokumentation der Behandlung. https://www.gesetze-im-internet.de/bgb/__630f.html