Negation, Lateralität, Dosis: die drei teuersten Detailfehler der KI-Dokumentation

Der Entwurf der Aufnahmenotiz ist zu neun Zehnteln tadellos. Anamnese vollständig, Verlauf schlüssig, Sprache sauber. Der Fehler steckt in einem einzigen Wort: Aus „Metoprolol wurde abgesetzt“ ist „Metoprolol wird fortgesetzt“ geworden. Ein Mensch verschreibt sich so nicht leicht; ein System, das aus einem halb verstandenen Satz den plausibelsten macht, schon.

Die klinisch teuersten Fehler generierter Dokumentation sind selten die spektakulären. Es sind Detailfehler in drei Klassen — Verneinungen, Seitenangaben, Zahlenwerte —, und sie haben gemeinsam, dass sie plausibel aussehen und flüssiges Gegenlesen überleben.

In Datenblättern tauchen diese Fehler selten prominent auf, weil wortbezogene Metriken sie verdünnen: Bei tausend Wörtern je Gespräch verschwindet ein gekipptes „kein“ in einer Wortfehlerrate von einem Prozent — die Metrik verwässert genau die Fehler, die am teuersten sind. Deshalb lohnt es sich, alle drei Klassen gezielt zu testen, mit Skript und Referenz. Wie das geht, steht bei jeder Klasse dabei.

Verneinungen: ein Wort trägt die ganze Bedeutung

Sprache markiert Verneinung sparsam. Ein „kein“ im Nebensatz, ein „nie“, ein „abgesetzt“ — geht das Wort verloren, kippt die Aussage ins Gegenteil, und der Satz bleibt grammatisch tadellos. Im Deutschen versteckt sich die Verneinung zudem oft in der Wortbildung („unauffällig“, „beschwerdefrei“, „ausgeschlossen“) oder kommt spät im Satz. Und sie wandert durch Berichtsketten: Ein „kein Anhalt für Rezidiv“, das sein „kein“ verliert, wird von jedem Folgedokument zitiert, das den Vorbefund übernimmt. In npj Digital Medicine ist ein Fall aus der Ära älterer Spracherkennung dokumentiert, in dem aus „kein Gefäßfluss“ in der Transkription ein unauffälliger Befund wurde; am Ende stand ein unnötiger Eingriff [1]. Die Technik ist seither besser geworden, die Fehlerklasse geblieben: In einer Analyse von Whisper-Transkripten enthielten rund ein Prozent erfundene Passagen, 38 Prozent davon mit Schadenspotenzial [2].

Verschärft wird das durch die Sprecherfrage. „Haben Sie Brustschmerzen?“ — „Nein.“ Ob dieses Nein als Patientenaussage ankommt, hängt an der Sprecherzuordnung; in einer Untersuchung sank die Genauigkeit der Rollenzuordnung von 95 auf 82 Prozent, sobald die Sprechertrennung fehlerhaft war [3]. Wie fragil das „Wer hat was gesagt“ technisch ist, haben wir in KI-Spracherkennung in der Klinik: Wer hat was gesagt? auseinandergenommen.

So testen Sie es: Schreiben Sie ein Skript mit zehn verneinten Aussagen in unterschiedlicher Form — explizit („keine Allergien“), elliptisch („Fieber? — Nein.“), als Absetzung („das nehmen wir seit März nicht mehr“), als verneinte Frage mit Antwort. Sprechen Sie es in realistischer Umgebung ein und zählen Sie, wie viele Verneinungen unverändert im Entwurf ankommen. Werten Sie getrennt aus, ob eine Verneinung fehlt oder ins Gegenteil gekippt ist — das zweite ist die gefährlichere Variante, weil der Satz vollständig aussieht. Zehn von zehn ist der Anspruch; alles darunter will erklärt sein.

Lateralität: links und rechts sind austauschbar plausibel

Ein vertauschtes „links“ produziert einen Satz, der genauso wahrscheinlich klingt wie der richtige. Beim Gegenlesen fällt er nur auf, wenn die Lesende den Fall kennt — der Text selbst gibt keinen Hinweis. Für KI-Scribes existieren zu Lateralitätsfehlern nach unserer Recherche keine belastbaren publizierten Raten; in den gängigen Fehlertaxonomien laufen sie als Unterfall der Detailfehler mit. Eine dünne Datenlage ist hier kein Entwarnungssignal — testen Sie selbst. Bei Dokumenten-KI kommt die Kopierketten-Dimension dazu: Eine vertauschte Seitenangabe im Vorbefund wird in Folgebriefen selten korrigiert, weil kaum jemand noch einmal am Bild prüft.

So testen Sie es: Bauen Sie in Testgespräche und Diktate systematisch Seitenangaben ein — fünfmal links, fünfmal rechts, dazu zwei Wechsel im selben Satz („links tastbar, rechts unauffällig“). Bei Dokumenten-KI: ein Befund mit mehrfachen, wechselnden Seitenangaben, danach der Abgleich der extrahierten Felder. Jede Vertauschung ist ein Befund erster Ordnung.

Zahlen: eine Silbe trennt 2,5 von 25

Dosen, Einheiten, Daten. Zwischen 2,5 und 25 Milligramm liegt akustisch fast nichts und klinisch der Faktor zehn. Eine Vergleichsuntersuchung über fünf Scribe-Plattformen fand im Mittel 13,9 Transkriptfehler je Encounter und eine Notiz-Fehlerrate von 26,3 Prozent [4]; in der CREOLA-Arbeit wurden 44 Prozent der gefundenen Halluzinationen als klinisch bedeutsam eingestuft [5]. Zahlenwerte gehören in beiden Fehlerwelten zu den häufigen Opfern: Sie sind kurz und informationsdicht, und ob 25 plausibel ist, weiß nur, wer den Fall kennt. Für Datumsangaben gilt dasselbe — ein verschobenes Aufnahmedatum kann in der Abrechnungsprüfung mehr kosten als jeder Stilfehler des Briefs.

So testen Sie es: Diktieren Sie eine Medikationsliste mit zwei Dosisänderungen, davon eine mit Kommazahl und eine mit Einheitenwechsel (Milligramm auf Mikrogramm), dazu zwei Datumsangaben im selben Satz. Vergleichen Sie den Entwurf Wort für Wort mit dem Skript. Für Dokumenten-KI gilt dasselbe mit einer eingescannten Medikationsliste mittlerer Papierqualität.

Der gemeinsame Nenner — und der Prüfplan

Alle drei Klassen entziehen sich dem normalen Gegenlesen, weil der fehlerhafte Text flüssig und plausibel bleibt. Die drei Skripte zusammen sind an einem Nachmittag eingesprochen und ausgezählt. Wiederholen Sie sie nach jedem größeren Update des Systems — Modellwechsel setzen Fehlerprofile neu zusammen, und der Test vom Frühjahr beweist nichts über die Version vom Herbst. Wie sich die drei Testroutinen in einen strukturierten Probebetrieb einbetten lassen — mit Stichprobe, Zählregeln und Abbruchkriterien —, steht in Probebetrieb klinischer KI: das 14-Tage-Prüfprotokoll.

In der Gesprächsdokumentation von aiomics ist das die Stelle, an der wir am wenigsten Vertrauen voraussetzen: Verneinende Segmente zu Medikation, Allergien und Diagnosen werden mit dem Originalzitat aus dem Transkript inline angezeigt, der Erhalt von Verneinungen wird als eigener Benchmark gemessen, und Sprecherzuordnungen unter 85 Prozent Konfidenz sind als unsicher markiert. Das ist produktiv im Einsatz — bewusst eng geschnitten auf das Aufnahmegespräch im Einzelsetting.

Wenn Sie die drei Testroutinen einmal an Ihrem eigenen Setting durchspielen wollen, schreiben Sie uns — auch ohne dass Sie aiomics evaluieren. Im Newsletter Visite sammeln wir regelmäßig, was die Evidenz zur KI-Dokumentation hergibt, Detailfehler eingeschlossen.

Quellen

1. Topaz M, Peltonen LM, Zhang Z. Beyond human ears: navigating the uncharted risks of AI scribes in clinical practice. npj Digital Medicine. 2025;8(1):569. doi:10.1038/s41746-025-01895-6.
2. Koenecke A, Choi ASG, Mei KX, Schellmann H, Sloane M. Careless Whisper: Speech-to-Text Hallucination Harms. In: Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT '24). New York: ACM; 2024. p. 1672–1681. doi:10.1145/3630106.3658996.
3. Untersuchung zur Rollenzuordnung in klinischen Gesprächstranskripten (BERT-basiert). https://pmc.ncbi.nlm.nih.gov/articles/PMC12632672/.
4. Anderson TN, Mohan V, Dorr DA, Ratwani RM, Biro JM, Gold JA. Evaluating the Quality and Safety of Ambient Digital Scribe Platforms Using Simulated Ambulatory Encounters. Mayo Clinic Proceedings: Digital Health. 2025;3(4):100292. doi:10.1016/j.mcpdig.2025.100292.
5. Asgari E, Montaña-Brown N, Dubois M, et al. A framework to assess clinical safety and hallucination rates of LLMs for medical text summarisation. npj Digital Medicine. 2025;8(1):274. doi:10.1038/s41746-025-01670-7.