Künstliche Intelligenz in der Klinik: Nutzen prüfen, gemeinsam entwickeln

Ein mögliches Ausgangsproblem: Eine Fachabteilung verbringt viel Zeit damit, Angaben aus Vorbefunden zusammenzutragen. Beschäftigte berichten über dieselben Suchwege, doppelte Eingaben und Korrekturen. Eine KI-Anwendung könnte dabei helfen. Für die Entscheidung fehlen zunächst konkrete Angaben: Welche Arbeit soll wegfallen? Welche Fehler kann die Anwendung verursachen, und wie werden sie erkannt und aufgefangen? Wer entwickelt die Anwendung mit, und woran wird ihr Nutzen gemessen?

Ein Beitrag in Management & Krankenhaus nennt Transparenz, ethische Prüfung, Priorisierung und Partnerschaften als Voraussetzungen für KI in der Klinik. Diese Begriffe brauchen eine Übersetzung in überprüfbare Anforderungen und verlässliche Zusammenarbeit. Ausgangspunkt: Beitrag vom August 2025.

Für uns beginnt sinnvoller KI-Einsatz im Krankenhaus mit einer klar umrissenen Aufgabe, bei der die bisherige Lösung spürbare Belastung verursacht. Eine engagierte Fachabteilung und ein geeigneter Entwicklungspartner können daran schrittweise arbeiten. Ob daraus eine tragfähige Anwendung entsteht, entscheidet sich an der verbleibenden Arbeit, der Qualität der Ergebnisse und den gesamten Kosten des Betriebs.

Priorisierung beginnt bei häufigen, belastenden und teuren Problemen

Besonders interessant sind Aufgaben, bei denen Beschäftigte regelmäßig mit einer unbefriedigenden Lösung arbeiten und die Klinik dadurch Aufwand, Verzögerungen oder vermeidbare Nacharbeit trägt. Die Unzufriedenheit liefert einen Ausgangspunkt für die Untersuchung. Anschließend muss sichtbar werden, wodurch sie entsteht.

Bei der Zusammenführung von Vorbefunden könnte die Fachabteilung beispielsweise über einen festgelegten Zeitraum erfassen:

• Wie viele Fälle den Arbeitsschritt tatsächlich benötigen.
• Wie viel Zeit Suche, Übertragung, Rückfragen und Prüfung jeweils beanspruchen.
• Welche Angaben häufig fehlen oder falsch zugeordnet werden.
• Bei welchen Berufsgruppen die Arbeit anfällt und wohin sie weitergereicht wird.
• Welche bereits verfügbaren Lösungen eingesetzt wurden und weshalb sie unzureichend helfen.

Für die Auswahl eines ersten Vorhabens verbinden wir diesen Leidensdruck mit drei weiteren Fragen: Lässt sich die Aufgabe ausreichend eingrenzen? Sind geeignete Daten und Vergleichsfälle zugänglich? Kann eine Fachabteilung die Entwicklung fachlich begleiten und deren Wirkung beurteilen?

Ein häufiges Problem mit messbarem Aufwand, zugänglichen Daten und einer engagierten Arbeitsgruppe kann deshalb Vorrang vor einem größeren, aber derzeit kaum bearbeitbaren Problem erhalten. Ein Bereich mit bereits gut funktionierender Software bietet unter Umständen weniger zusätzlichen Nutzen. Die schlechteste bestehende Lösung ist allerdings nur dann ein geeigneter Ausgangspunkt, wenn die Ursachen tatsächlich durch veränderte Abläufe oder Technik beeinflussbar sind.

Zur Prüfung gehört auch eine einfachere Alternative. Vielleicht beseitigen eine Schnittstelle, eine bessere Vorlage oder eine andere Aufgabenverteilung bereits einen großen Teil der Belastung. Ein fairer Vergleich berücksichtigt solche Verbesserungen. Er bewahrt davor, den Nutzen einer KI-Anwendung durch einen unnötig schwachen Vergleichsprozess zu überschätzen.

Was heute zur Bewertung medizinischer KI gehört

In der Forschung werden verschiedene Ebenen unterschieden: die technische Leistung eines Modells, seine Verwendung durch Menschen und die Folgen für Versorgung und Betrieb. Eine zuverlässige Bewertung verbindet diese Ebenen. Dafür gibt es bereits konkrete methodische Hilfen:

• FUTURE-AI beschreibt seit 2025 Empfehlungen über den gesamten Lebenszyklus, darunter lokale Prüfung, Gebrauchstauglichkeit, Robustheit, Benachteiligungen und fortlaufende Überwachung. Internationale Konsensleitlinie.
• FAIR-AI beschreibt einen organisatorischen Prüfprozess mit benannten Verantwortlichen, abgestufter Bewertung und einem Plan für den weiteren Betrieb. Veröffentlichung von 2025.
• DECIDE-AI benennt die Informationen, die bei frühen klinischen Erprobungen berichtet werden sollten, einschließlich der Zusammenarbeit zwischen Menschen und System sowie Änderungen während der Untersuchung. Berichtsleitlinie für frühe Erprobungen.
• TRIPOD-LLM konkretisiert die nachvollziehbare Beschreibung von Untersuchungen mit Sprachmodellen, etwa hinsichtlich Daten, Modellkonfiguration und aufgabenbezogener Bewertung. Berichtsleitlinie von 2025.

Diese Ansätze haben unterschiedliche Aufgaben. Die Berichtsleitlinien erleichtern das Nachvollziehen einer Untersuchung; ihre Anwendung bestätigt weder die Wirksamkeit eines Produkts noch die Güte jedes einzelnen Studiendesigns. Auch ein institutioneller Prüfprozess muss seine Entscheidungen auf geeignete Nachweise stützen.

Ein Beispiel verdeutlicht, weshalb die konkrete Anwendung zählt. In einer randomisierten Untersuchung mit 238 ambulant tätigen Ärzt:innen wurden zwei Systeme zur Gesprächsdokumentation mit der üblichen Arbeit verglichen. Ein System verringerte die gemessene Bearbeitungszeit in der Dokumentation um 9,5 Prozent gegenüber der Kontrollgruppe. Beim anderen ließ sich eine Verringerung statistisch nicht eindeutig nachweisen. Die kurze Untersuchung in einem US-amerikanischen Versorgungssystem liefert anwendungsspezifische Ergebnisse; sie erlaubt keine pauschale Aussage zur Entlastung deutscher Krankenhausabteilungen. Randomisierte Studie zur Gesprächsdokumentation.

Transparenz muss eine fachliche Prüfung ermöglichen

Für eine klinische Anwendung würden wir Transparenz an konkreten Unterlagen und Funktionen festmachen:

1. Der vorgesehene Einsatz ist beschrieben: Aufgabe, Patientengruppe, Nutzer:innen, erlaubte Aktionen und ausgeschlossene Anwendungen.
2. Die geprüfte Konfiguration ist identifizierbar: Modellversion, Datenquellen, Verarbeitungsschritte, Bedienoberfläche und Schulung.
3. Die Nachweise sind nachvollziehbar: untersuchte Fälle, Vergleichsverfahren, Bewertungsmaßstab, Fehlerarten und Unsicherheit der Ergebnisse.
4. Die Grenzen sind sichtbar: fehlende Eingaben, bekannte Schwächen, ungeeignete Situationen und der vorgesehene Umgang damit.
5. Zuständigkeiten sind geklärt: Wer darf Ergebnisse verändern, freigeben, einen Vorfall untersuchen oder den Einsatz unterbrechen?

Bei einem Entlassbriefentwurf lässt sich das direkt prüfen. Kann die prüfende Person eine übernommene Dosierung zur richtigen Ausgangsquelle zurückverfolgen? Wird ein Widerspruch zwischen zwei Dokumenten erkennbar? Ist ersichtlich, welche Unterlagen dem System fehlten? Ein angezeigter Quellenverweis muss seinerseits auf Richtigkeit und hilfreiche Zuordnung geprüft werden.

Die Forderung nach menschlicher Kontrolle wird erst mit einer Arbeitsbeschreibung überprüfbar: welche Person welche Angaben unter welchem Zeitdruck mit welchen Unterlagen kontrolliert. Eine zusätzliche Erklärung durch das Sprachmodell kann dabei hilfreich sein. Ihre Plausibilität belegt für sich genommen noch keine korrekte Verarbeitung.

Ethische Prüfung betrifft konkrete Folgen und deren Verteilung

Eine ethische Bewertung sollte dokumentieren, wer von einer Anwendung profitiert und wer zusätzliche Belastungen oder Risiken trägt. Dazu gehören Patient:innen ebenso wie Beschäftigte und nachgelagerte Versorgungsbereiche.

Bei einer Sprachdokumentation könnte beispielsweise untersucht werden, ob Dialekte, leise Stimmen oder überlappende Gespräche zu relevanten Fehlern führen. Bei verständlich formulierten Entlassinformationen wäre zu prüfen, ob Menschen mit unterschiedlichen Sprachkenntnissen die nächsten Schritte richtig verstehen. Solche Untersuchungen brauchen geeignete Fälle und eine ausreichende Datengrundlage. Wenige unauffällige Beispiele reichen für eine Aussage über Gleichbehandlung kaum aus.

Auch eine Verschiebung von Arbeit ist relevant. Wenn Ärzt:innen weniger schreiben, dafür Pflegekräfte zusätzliche Angaben nachtragen oder Patient:innen häufiger Rückfragen klären müssen, gehört dieser Aufwand in die Bewertung. Betroffene sollten mitbestimmen können, welche Belastungen gemessen und welche Alternativen erhalten werden.

Für uns gehören hierzu eine begründete Datennutzung, nachvollziehbare Verantwortlichkeiten und vorab vereinbarte Grenzen für schwerwiegende Risiken. Eine rechnerische Zeitersparnis kann das Überschreiten einer solchen Grenze nicht rechtfertigen. Entscheidungen und verbleibende Unsicherheiten müssen dokumentiert und bei neuen Erkenntnissen erneut geprüft werden.

Nutzen und Risiken anhand des vollständigen Arbeitsablaufs vergleichen

In unserer Arbeit zur Nutzen-Risiko-Bewertung setzen wir beim eingesetzten Gesamtsystem an: Software, Daten, Menschen, Prüfung und anschließende Arbeitsschritte. Die Bewertung soll zeigen, was sich gegenüber einer realistischen Alternative verändert.

Für eine Dokumentationsanwendung würden wir mindestens folgende Größen getrennt erfassen:

• Arbeitszeit vom Beginn der Vorbereitung bis zur fachlich freigegebenen Fassung, einschließlich Korrekturen.
• Klinisch relevante Auslassungen, erfundene Angaben, Widersprüche und falsche Zuordnungen.
• Fehler im ursprünglichen Entwurf sowie Fehler, die nach der Prüfung noch bestehen.
• Rückfragen und zusätzliche Arbeit in nachfolgenden Bereichen.
• Nutzung, Abbrüche und Gründe, weshalb Beschäftigte auf das bisherige Verfahren zurückgreifen.

Die Ergebnisse behalten zunächst ihre verständlichen Einheiten: Minuten pro Fall, relevante Fehler pro geprüfter Akte, zusätzliche Rückfragen und Kosten über einen festgelegten Zeitraum. Dazu gehört die Unsicherheit der Schätzung. Eine einzelne Gesamtpunktzahl kann Unterschiede zwischen diesen Folgen verdecken.

Der bisherige Ablauf wird nach denselben Maßstäben untersucht. Auch dort können Informationen fehlen, Zuordnungen misslingen und Übergaben verspätet erfolgen. Gleichzeitig braucht ein neues Verfahren Prüfungen auf zusätzliche Fehlerarten, die im bisherigen Ablauf seltener oder gar nicht vorkommen.

Vor Beginn des Vergleichs sollte feststehen, welche Verbesserung den Aufwand rechtfertigen würde und welche Fehlergrenzen einzuhalten sind. Wenn eine kleine Erprobung keinen schweren Fehler findet, bleibt offen, ob seltene Fehler zuverlässig ausgeschlossen wurden. Umfang und Dauer der Untersuchung müssen zu der Aussage passen, die später getroffen werden soll.

Auch Schutzmaßnahmen brauchen einen Wirksamkeitsnachweis

Ein verpflichtender Prüfschritt kann Fehler auffangen und zusätzliche Zeit beanspruchen. Eine Schulung kann den Umgang verbessern, ihre Wirkung kann im Alltag aber nachlassen. Deshalb würden wir zwei Fragen getrennt untersuchen: Verbessert der KI-gestützte Ablauf die bisherige Arbeit? Und verbessert eine zusätzliche Schutzmaßnahme diesen Ablauf weiter?

Bei einer Quellenprüfung vor der Freigabe wäre beispielsweise zu messen, welche relevanten Fehler tatsächlich erkannt werden, welche verbleiben und wie viel zusätzliche Zeit benötigt wird. Fehlerhafte Ausgaben lassen sich dafür zunächst in einer Simulation gezielt einsetzen. Für die Übernahme in die Versorgung braucht es anschließend eine zum Risiko passende Prüfung unter den vorgesehenen Bedingungen. Die beschriebenen Maßnahmen sind Prüfgegenstände; ihre Wirksamkeit darf nicht allein aus ihrer guten Absicht abgeleitet werden.

Eine Fachabteilung als Entwicklungspartner gewinnen

Bei neuartigen Anwendungen entstehen wichtige Anforderungen erst durch die gemeinsame Arbeit an konkreten Fällen. Eine Fachabteilung, die sich auf diese Rolle einlässt, braucht einen vereinbarten Entwicklungsauftrag und Zeit dafür.

Wir halten dafür folgende Zusammenarbeit für sinnvoll:

• Eine klinisch verantwortliche Person kann Ziele festlegen, Rückmeldungen bündeln und über den nächsten Erprobungsschritt mitentscheiden.
• Beschäftigte aus den betroffenen Berufsgruppen bringen normale Fälle, schwierige Ausnahmen und unpraktische Arbeitsschritte ein. Unterschiedliche Erfahrungen und Dienstsituationen werden berücksichtigt.
• Der externe Partner stellt erreichbare fachliche und technische Ansprechpartner:innen, erklärt Grenzen und bearbeitet Rückmeldungen bis zu einem überprüfbaren Ergebnis.
• Die Beteiligten arbeiten an einer gemeinsamen, priorisierten Aufgabenliste. Für jede Änderung wird festgehalten, welches Problem sie lösen und woran ihre Wirkung erkannt werden soll.
• Die Klinik plant geschützte Arbeitszeit ein. Beispielsweise können eine wöchentliche Fallbesprechung und eine gemeinsame Bewertung neuer Versionen alle zwei bis vier Wochen vereinbart werden.

Die Fachabteilung gestaltet dadurch Anforderungen, Prüffälle und Arbeitsabläufe mit. Der Entwicklungspartner übersetzt diese in eine Anwendung, die sich an realen Bedingungen messen lässt. Zugang zu Daten, Entscheidungsrechte, Aufwand, Vertraulichkeit und der Umgang mit Ergebnissen sollten vorab vereinbart sein.

Entwicklungsbereitschaft braucht sichtbare Fortschritte

Eine frühe Fassung kann zu viele Korrekturen benötigen, ungünstig formulieren oder sich umständlich bedienen lassen. Für solche Entwicklungsprobleme braucht die Zusammenarbeit Geduld. Gerade bei neuen Einsatzfeldern lässt sich die geeignete Lösung häufig erst durch wiederholtes Ausprobieren finden.

Vertrauen in den Prozess entsteht, wenn Schwierigkeiten früh benannt werden, Zuständigkeiten klar bleiben und aus einer Rückmeldung eine überprüfbare Verbesserung folgt. Die nächste Version sollte an bekannten Problemfällen und an bisher ungenutzten Fällen geprüft werden. So wird erkennbar, ob eine Änderung über das einzelne Beispiel hinaus hilft und ob sie an anderer Stelle neue Fehler verursacht.

Beide Seiten brauchen ein gemeinsames Zielbild und die Bereitschaft, Ergebnisse zu akzeptieren, die gegen eine gewünschte Lösung sprechen. Wiederholt sich derselbe Fehler ohne nachvollziehbare Aufarbeitung, fehlt die vereinbarte technische Unterstützung oder bleibt der Nutzen aus, sollte die Entwicklung angepasst oder beendet werden. Die Klinik übernimmt eine aktive Gestaltungsrolle; der Anbieter bleibt für seine Entwicklungs- und Qualitätsaufgaben verantwortlich.

Den Probebetrieb in überprüfbare Schritte gliedern

Wir schlagen vor, die Erprobung nach den offenen Fragen zu staffeln. Ein 2026 veröffentlichter wissenschaftlicher Ansatz beschreibt ebenfalls eine stufenweise Bewertung von technischer Leistung bis zum langfristigen Einsatz. Die folgende Übertragung auf eine klinische Entwicklungszusammenarbeit ist unsere praktische Einordnung. Stufenmodell für diagnostische und prognostische KI.

1. Ausgangslage und Ziel erfassen. Die Fachabteilung dokumentiert den bisherigen Ablauf, seine Belastung und den geeigneten Vergleich. Der erste Einsatzbereich wird eng begrenzt.
2. Vorhandene Fälle und Simulationen nutzen. Das System bearbeitet typische und schwierige Fälle. Vorgesehene Nutzer:innen prüfen mit der tatsächlichen Bedienoberfläche, ob sie Fehler erkennen und die Aufgabe bewältigen können. Entwicklungsfälle und spätere Prüffälle bleiben getrennt.
3. Im Hintergrund mitlaufen lassen. Das System verarbeitet aktuelle lokale Eingaben, während seine Ergebnisse noch keine Versorgungsentscheidungen beeinflussen. So lassen sich fehlende Daten, Verzögerungen und technische Ausfälle untersuchen. Die Wirkung auf menschliche Entscheidungen bleibt in dieser Phase offen.
4. Begrenzt im Alltag erproben. Für einen festgelegten Umfang gelten benannte Zuständigkeiten, ein funktionsfähiges Ersatzverfahren, aktive Fehlererfassung und eine Möglichkeit zum sofortigen Unterbrechen. Die erforderlichen organisatorischen, rechtlichen und ethischen Voraussetzungen werden vorher geklärt.
5. Vergleichend bewerten und über den weiteren Einsatz entscheiden. Der Untersuchungsaufbau richtet sich nach der behaupteten Wirkung. Wo möglich, helfen zeitgleiche Vergleichsgruppen und eine zufällige Zuteilung, Veränderungen der Fallzusammensetzung und der Arbeitsbelastung von der Wirkung der Anwendung zu trennen.
6. Änderungen und Betrieb weiter prüfen. Modellwechsel, andere Datenquellen oder neue Nutzergruppen lösen eine begründete Entscheidung darüber aus, welche Prüfungen wiederholt werden müssen.

Der Aufwand richtet sich nach Aufgabe und Risiko. Eine rein administrative Unterstützung braucht andere Nachweise als ein System, das Behandlungsentscheidungen beeinflusst. Eine Erprobung mit besonders engagierten Beschäftigten sollte außerdem später auf Personen mit anderen Vorerfahrungen ausgeweitet werden, bevor eine breite Einführung daraus abgeleitet wird.

Wirtschaftlichkeit anhand der verbleibenden Arbeit berechnen

Für einen dauerhaften Einsatz muss die Klinik den erwarteten Nutzen und den gesamten Aufwand plausibel gegenüberstellen können. Zur Kostenseite gehören Lizenz und Anbindung, aber auch klinische Entwicklungszeit, Schulung, Korrekturen, Qualitätssicherung, Betrieb und ein möglicher Wechsel auf ein anderes Verfahren. Mit CHEERS-AI gibt es seit 2024 eine Berichtsleitlinie, die eine nachvollziehbare Darstellung gesundheitsökonomischer Bewertungen von KI-Anwendungen unterstützt. Leitlinie für wirtschaftliche Bewertungen.

Ein vereinfachtes Rechenbeispiel, ohne Bezug zu gemessenen Produktleistungen: Bei 500 Vorgängen im Monat sinkt die vollständige Bearbeitungszeit von 18 auf 12 Minuten. Das ergibt zunächst 50 Stunden Entlastung. Benötigt die Fachabteilung monatlich weitere zehn Stunden für Betreuung und Qualitätssicherung, verbleiben 40 Stunden.

Für die wirtschaftliche Entscheidung ist anschließend zu klären, wie diese Zeit tatsächlich genutzt werden kann. Werden Überstunden vermieden, zusätzliche Aufgaben innerhalb der vorhandenen Arbeitszeit erledigt oder Wartezeiten verkürzt? Eine freigewordene Stunde führt bei unverändertem Personaleinsatz zunächst zu zusätzlicher Kapazität. Eine zahlungswirksame Einsparung entsteht erst, wenn Ausgaben tatsächlich entfallen.

Die Rechnung sollte auch bei geringerer Nutzung, höherem Korrekturaufwand oder längerer Einführung geprüft werden. Entlastung, vermiedene Kosten und zusätzliche Kapazität dürfen dabei nicht mehrfach für denselben Effekt angesetzt werden. Erlösfolgen benötigen eine eigene, zur jeweiligen Versorgung und Vergütung passende Betrachtung.

Während der Entwicklung kann zunächst der Lerngewinn ein begrenztes Budget rechtfertigen. Dafür sollte feststehen, welche offene Frage beantwortet werden soll und wann über weitere Mittel entschieden wird. Für den dauerhaften Betrieb braucht es anschließend eine belastbare Aussicht auf einen Nutzen, der die gesamten Aufwände rechtfertigt.

Woran sich ein geeigneter Entwicklungspartner erkennen lässt

Für die Auswahl würden wir eine begrenzte gemeinsame Arbeitsphase nutzen. Der Partner erhält rechtmäßig bereitgestellte, geeignete Beispielfälle und eine klar beschriebene Aufgabe. Anschließend lässt sich beobachten, welche Rückfragen er stellt, wie offen er Fehlversuche erklärt und ob eine überarbeitete Fassung auf neuen Fällen besser funktioniert.

Zusätzlich würden wir prüfen, ob klinisches Verständnis, technische Umsetzung und Qualitätsarbeit verbindlich besetzt sind. Dazu gehören erreichbare Verantwortliche, nachvollziehbare Versionsänderungen, ein gemeinsames Fehlerprotokoll und eine klare Vereinbarung über Datenzugriff und Beendigung der Zusammenarbeit. Ein geeigneter Partner kann erklären, welche Erkenntnisse bereits belastbar sind und was erst gemeinsam untersucht werden muss.

Für den Start empfehlen wir eine kurze schriftliche Vereinbarung: Aufgabe und bisherige Belastung, beteiligte Personen, verfügbare Arbeitszeit, erste Prüffälle, Vergleichsmaßstab, Erfolgskriterien, Unterbrechungsgründe und Termin der nächsten Entscheidung. Sie macht aus der Bereitschaft zur Zusammenarbeit einen konkreten Arbeitsauftrag.

Wir entwickeln bei aiomics selbst Software für klinische Dokumentation. Unsere Perspektive ist deshalb auch die eines Entwicklungspartners. Die vorgeschlagenen Prüfschritte beschreiben unseren Ansatz zur Bewertung; ihre Darstellung ist kein Nachweis der Wirksamkeit einer bestimmten Anwendung.

Stand der Quellenprüfung: 12. Oktober 2026. Die zitierten Leitlinien und Studien sind gezielt ausgewählte Grundlagen. Weiterführend: unabhängige Bewertung klinischer KI und Nachweise bei der Beschaffung von Dokumentationssoftware.