Software-Auswahl: fünf Forderungen, mit denen Chefärzt:innen mitreden

Die Einladung kommt als Kalendertermin: „Marktsichtung KI-Dokumentation — fachliche Begleitung erbeten.“ 45 Minuten, zwischen Frühbesprechung und OP-Plan, im Anhang eine Anbieterpräsentation mit vierzig Folien. Die Verlockung ist, den Termin an den Oberarzt weiterzugeben, der „was mit IT“ kann. Der Fehler wäre es auch.

Denn Beschaffung wird entschieden — mit oder ohne ärztliche Stimme. Wenn die Ärztliche Direktion nicht am Tisch sitzt, entscheiden Preis, Referenzliste und Foliendesign. Dabei braucht es für die fachliche Mitsprache keine Ausschreibungskompetenz. Fünf Forderungen reichen. Sie sind herstellerneutral, in einer Besprechung formulierbar, und sie trennen Anbieter schneller als jede Featureliste.

Erstens: Jede Aussage zeigt ihre Quelle

Verlangen Sie, dass jeder generierte Satz — im Briefentwurf, im Kodiervorschlag, in der Zusammenfassung — auf die Stelle im Ausgangsmaterial zeigt, aus der er stammt. Per Klick, im Dokument selbst.

Die Begründung ist arithmetisch: Prüfen ohne Quellzeiger heißt Neurecherche. Wenn die Ärztin für jede Aussage selbst in der Akte suchen muss, frisst der Prüfaufwand die Ersparnis, und in der Praxis wird dann irgendwann ungeprüft übernommen. Ein Satz ohne Fundstelle ist im Zweifel eine Behauptung des Systems — und sollte im Dokument auch so aussehen: sichtbar anders als belegter Text.

Zweitens: Probebetrieb am eigenen Bestand

Fehlerraten aus Studien und Anbieterunterlagen sind untereinander kaum vergleichbar. Manche zählen nur faktische Erfindungen, andere auch Auslassungen und Inkonsistenzen; je nach Definition liegen die berichteten Raten moderner Systeme bei etwa ein bis drei Prozent — mit dem Zusatz der Autoren, dass im Gesundheitswesen auch kleine Prozentzahlen große Folgen haben können [1]. Die einzige Zahl, die für Ihr Haus zählt, entsteht in Ihrem Haus.

Fordern Sie deshalb einen befristeten Probebetrieb mit eigenem Fallmix: eigene Dokumenttypen, eigene Scanqualität, eigene Fachsprache — ein 14-Tage-Prüfprotokoll lässt sich vorab festlegen. Legen Sie vor dem ersten Tag fest, was gezählt wird: Auslassungen, Erfindungen, Verwechslungen von Personen oder Seitenangaben, jeweils getrennt. Legen Sie auch fest, wann abgebrochen wird — ein Abbruchkriterium, das vorab niemand nennen will, wird hinterher niemand anwenden. Und: Wer den Test am eigenen Bestand verweigert oder auf kuratierten Demo-Fällen besteht, hat die Frage damit beantwortet.

Drittens: Die Freigabe ist technisch erzwungen

Menschen übernehmen Vorschläge von Systemen, denen sie vertrauen — auch falsche. In einer Verordnungsstudie wechselten Ärzt:innen in 5,2 Prozent der Fälle nach einem falschen Systemrat von einer richtigen zu einer falschen Antwort [2]. In einem radiologischen Experiment fiel die Treffsicherheit selbst sehr erfahrener Befunder:innen unter falschen KI-Vorschlägen von 82 auf 45,5 Prozent — erhoben an Vignetten unter Experimentalbedingungen, aber ein deutlicher Hinweis, dass Erfahrung allein nicht schützt [3].

Deshalb genügt die Dienstanweisung „bitte sorgfältig prüfen“ nicht. Die Freigabe muss in der Software erzwungen sein: Kein Dokument verlässt das System ohne benannte ärztliche Freigabe, keine Sammelbestätigung über ganze Stapel, Änderungen bleiben nachvollziehbar. Fragen Sie wörtlich: „Gibt es einen Alles-übernehmen-Knopf?“ Die richtige Antwort ist nein.

Viertens: Der Datenpfad ist benennbar

Wo läuft die Verarbeitung — Region, Infrastruktur, Unterauftragsverarbeiter? Wird mit Ihren Daten trainiert, und steht der Ausschluss im Vertrag oder nur in der Broschüre? Welche Löschfristen gelten für Audio und Zwischenprodukte, und lässt sich die Löschung nachweisen?

Das klingt nach einer Aufgabe für das Justiziariat, betrifft aber den klinischen Alltag: Es sind die Gespräche Ihrer Patient:innen und die Akten Ihrer Abteilung. Ein Anbieter, der den Datenpfad nicht in fünf Sätzen beschreiben kann, kennt ihn entweder selbst nicht oder möchte ihn nicht beschreiben. Die Vertragsseite dieser Fragen ist eine eigene Disziplin — die typischen Schwachstellen in Auftragsverarbeitungsverträgen haben wir separat aufgeschrieben.

Fünftens: Der Exit ist beschrieben

Was passiert am Vertragsende? Verlangen Sie eine konkrete Antwort: Export aller Inhalte in offenen, weiterverwendbaren Formaten, Übergangsfristen für den Parallelbetrieb, eine Regelung für hausspezifische Vorlagen und Konfigurationen, die über Jahre entstanden sind. Gerade die Konfigurationen werden unterschätzt: Die Briefvorlagen, Checklisten und Formularzuordnungen, die eine Abteilung in zwei Jahren Betrieb aufbaut, sind der eigentliche Wert des Systems — und im schlechtesten Vertrag gehören sie niemandem. Je besser ein Werkzeug in den Alltag integriert ist, desto teurer wird ein ungeplanter Abschied — und desto wichtiger ist, dass der geplante möglich bleibt. Ein Anbieter, der seine eigene Ablösung durchdacht hat, denkt in den Zeiträumen eines Krankenhauses.

Was die Liste leistet

Keine der fünf Forderungen setzt technische Vorbildung voraus, und keiner kann ein seriöser Anbieter widersprechen. Interessant wird die Konkretion: „Zeigen Sie mir Satz und Quelle.“ „Lassen Sie uns am eigenen Bestand testen.“ „Zeigen Sie mir, wie die Freigabe erzwungen wird.“ „Beschreiben Sie den Datenpfad.“ „Beschreiben Sie den Exit.“ Wer diese fünf Sätze in die Beschaffungsrunde trägt, muss die Ausschreibung nicht führen — die Kriterien tun es.

Es gibt in dieser Runde auch niemanden, der die Rolle übernehmen könnte: Die IT prüft Schnittstellen, der Einkauf Preise und Vertragslaufzeiten, das Justiziariat Haftung und Datenschutz. Die Frage, ob ein Werkzeug im klinischen Alltag trägt — bei echten Fällen, unter Zeitdruck, mit müden Prüfer:innen —, beantwortet keine dieser Abteilungen. Sie bleibt ärztlich, ob sie gestellt wird oder ungestellt bleibt.

Und falls die 45 Minuten aus dem Kalendertermin nicht reichen: Sie reichen für die fünf Sätze.

Wenn Sie verfolgen wollen, wie sich Auswahlkriterien und Evidenzlage weiterentwickeln — in unserem Newsletter Visite sortieren wir beides, kurz und quellenbelegt.

Quellen

1. Topaz M, Peltonen LM, Zhang Z. Beyond human ears: navigating the uncharted risks of AI scribes in clinical practice. npj Digital Medicine. 2025;8(1):569. doi:10.1038/s41746-025-01895-6.
2. Goddard K, Roudsari A, Wyatt JC. Automation bias: empirical results assessing influencing factors. International Journal of Medical Informatics. 2014;83(5):368–375. doi:10.1016/j.ijmedinf.2014.01.001.
3. Dratsch T, Chen X, Rezazade Mehrizi M, et al. Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance. Radiology. 2023;307(4):e222176. doi:10.1148/radiol.222176.