Schatten-KI in der Abteilung: führen statt verbieten

Beim Gegenlesen der Briefe fällt der Chefärztin auf, dass die Entwürfe eines PJlers seit einigen Wochen bemerkenswert rund klingen. Auf freundliche Nachfrage kommt eine freundliche Antwort: „Ich lass das zum Glätten durch ChatGPT laufen.“ Auf dem privaten Handy, mit dem privaten Konto. Am Tisch nicken zwei Assistenzärzt:innen. Es ist offenbar keine Ausnahme.

Der erste Reflex ist ein Verbot per Rundmail. Sein Effekt ist aus anderen Bereichen der Klinik-IT bekannt: Die Nutzung wird dadurch erfahrungsgemäß kaum seltener, nur unsichtbarer — und damit der Führung entzogen.

Warum es Schatten-KI gibt

Die Werkzeuge lösen ein echtes Problem. Angestellte Ärzt:innen verbringen nach dem MB-Monitor 2024 des Marburger Bundes im Schnitt rund drei Stunden pro Tag mit Verwaltung und Dokumentation; eine Erhebung des Deutschen Krankenhausinstituts aus demselben Jahr kommt ebenfalls auf knapp drei Stunden [1]. Wer um 19 Uhr noch vier Briefe vor sich hat und ein Werkzeug kennt, das aus Stichpunkten flüssigen Text macht, benutzt es. Dass das Haus kein geprüftes Werkzeug anbietet, ändert daran wenig; es verlagert die Nutzung in private Konten, wo niemand sie sieht.

Für die Abteilungsleitung ist das zunächst eine Information über den Bedarf — und erst danach ein Compliance-Fall. Wer die Reihenfolge umdreht und mit der Sanktion beginnt, verliert beides: den Einblick in die tatsächliche Nutzung und die Chance, sie zu gestalten.

Was tatsächlich auf dem Spiel steht

Patientendaten in privaten Konten: Ein Konsumenten-Konto eines KI-Diensts ist kein Ort für Patientendaten. Wo die Eingaben verarbeitet werden, ob sie für das Training weiterverwendet werden, wer sie später zu sehen bekommt — all das liegt außerhalb der Kontrolle des Hauses und seiner Verträge. Diese Regel braucht keine Paragrafenkette; sie muss nur ausnahmslos gelten.

Ungeprüfte Qualität: Die Fehlerforschung zu KI-generierten klinischen Texten zeichnet ein konsistentes Bild. In einem zweimonatigen Realbetrieb mit 7.545 KI-erstellten Notizen fanden sich in der systematisch geprüften Stichprobe Auslassungen in 18 Prozent und Halluzinationen in 11,5 Prozent der Notizen [2]. Das dominante Risiko ist das Fehlende, und es ist schwerer zu sehen als das Erfundene. Der Wissenschaftliche Beirat der Bundesärztekammer formuliert die Konsequenz: KI-Ergebnisse sind nicht unkritisch zu übernehmen; die Verantwortung bleibt ärztlich [3].

Die stille Rechtspflicht: Seit dem 2. Februar 2025 verlangt Art. 4 der KI-Verordnung von Betreibern, die KI-Kompetenz des Personals sicherzustellen; die Deutsche Krankenhausgesellschaft weist zudem auf eine mögliche persönliche Haftung von Entscheidungsträgern hin [4]. Eine Abteilung, in der KI faktisch längst im Einsatz ist, ohne dass jemand geschult wurde, steht bei dieser Pflicht schlecht da — ob die Nutzung „privat“ lief, dürfte dabei wenig trösten.

Das Playbook

1. Ist-Aufnahme ohne Sanktion

Zwei Wochen, anonym, drei Fragen: Welche Werkzeuge werden genutzt, wofür, wie oft? Wer die Antworten mit Konsequenzen verknüpft, bekommt keine ehrlichen. Das Ergebnis fällt erfahrungsgemäß breiter aus als erwartet — und genau deshalb ist es Führungsinformation: Es zeigt, wo die Dokumentationslast am höchsten ist und welche Aufgaben die Mitarbeiter:innen als automatisierbar empfinden.

2. Wenige, klare Regeln

Drei Regeln, die jede:r auf dem Flur aufsagen kann, wirken stärker als eine dreißigseitige Richtlinie: Keine Patientendaten in private Konten, ohne Ausnahme. KI-Entwürfe werden vor Übernahme gegen die Quelle geprüft. Wer ein neues Werkzeug einsetzen will, fragt vorher — und bekommt schnell eine Antwort, sonst erodiert die Regel.

3. Eine sichere Alternative im Haus

Ein Verbot ohne Alternative hält ungefähr so lange, wie der Dienst ruhig bleibt. Die Anforderungen an die Alternative sind dieselben wie an jedes klinische Werkzeug: Verarbeitung in der EU, vertraglich geregelt, Entwürfe mit Quellenbezug, ärztliche Prüfung als fester Schritt. So baut aiomics seine Dokumentenerstellung: Entwürfe, deren Aussagen auf die Quelle in der Akte verlinken, mit ärztlicher Freigabe vor jeder Nutzung — live in deutschen Reha-Kliniken; erweiterte Prüfschritte wie ein Omission-Detektor, der Auslassungen gegen die Akte abgleicht, sind geplant. Warum Verifikation der tragfähigere Ansatz ist als immer flüssigere Generierung, begründet der Beitrag „KI im Gesundheitswesen: Verifikation statt Generierung“.

4. Schulung, die den Namen verdient

Art. 4 der KI-Verordnung verlangt sie ohnehin; nützlich wird sie, wenn sie am eigenen Material stattfindet: echte Briefe, echte Fehlerklassen, Prüfheuristiken für Auslassungen, Verneinungen, Zahlen und Zuschreibungen. Unser CME-zertifizierter Kurs zur KI-Kompetenz (3 CME-Punkte, Ärztekammer Hessen) ist ein Format dafür.

5. Betriebsrat und Datenschutz früh einbinden

Wer die geduldete Privatnutzung durch ein Hauswerkzeug ersetzt, betritt die Mitbestimmung: Stellt der Träger das Werkzeug selbst bereit, ist §87 BetrVG regelmäßig eröffnet. Das Arbeitsgericht Hamburg hat 2024 entschieden, dass die bloße Erlaubnis privater ChatGPT-Konten gerade kein Mitbestimmungsrecht auslöst (Beschluss vom 16.01.2024 – 24 BVGa 1/24) [5] — die Schatten-Konfiguration ist also ausgerechnet die mitbestimmungsfreie. Was bei der geordneten Einführung auf Sie zukommt, steht im Beitrag zur KI-Einführung mit Betriebsrat.

Woran Sie nach drei Monaten messen

1. Die Ist-Aufnahme lässt sich wiederholen, und die Antworten verschieben sich vom Privatgerät zum Hauswerkzeug.
2. Die Regeln sind ohne Nachschlagen zitierfähig — fragen Sie in der Frühbesprechung.
3. Es existiert ein dokumentierter Weg, neue Werkzeuge vorzuschlagen, und er wurde mindestens einmal genutzt.
4. Die Schulungsquote der Abteilung ist belegbar — das ist zugleich der Nachweis für Art. 4.

Schatten-KI ist am Ende ein Führungsthema mit günstiger Ausgangslage: Die Motivation der Mitarbeiter:innen zeigt in dieselbe Richtung wie das Interesse des Hauses — es fehlt meist nur der geordnete Weg. Wenn Sie für die Ist-Aufnahme in Ihrer Abteilung eine Vorlage möchten, schreiben Sie uns. Laufende Einordnungen liefert unser Newsletter Visite.

Quellen

1. Marburger Bund. MB-Monitor 2024 (Befragung von 9.649 angestellten Ärzt:innen, Herbst 2024): im Schnitt rund drei Stunden pro Tag für Verwaltung und Dokumentation. https://www.marburger-bund.de/bundesverband/themen/marburger-bund-umfragen/mb-monitor-2024-hohe-belastung-unzureichende ; Deutsches Ärzteblatt. DKI-Umfrage: Jeden Tag drei Stunden Bürokratie. 01.10.2024. https://aerztestellen.aerzteblatt.de/de/redaktion/dki-umfrage-jeden-tag-drei-stunden-buerokratie
2. Taylor SL, et al. Quality of Clinical Notes Created by Ambient Listening Generative AI: Pragmatic Prospective Pilot Study. JMIR Medical Informatics. 2026;14:e86474. doi:10.2196/86474
3. Bundesärztekammer, Stellungnahme des Wissenschaftlichen Beirats „Künstliche Intelligenz in der Medizin“, 14.01.2025. https://www.bundesaerztekammer.de/fileadmin/user_upload/wissenschaftlicher-beirat/Veroeffentlichungen/KI_in_der_Medizin_SN_neu.pdf
4. Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4; Deutsche Krankenhausgesellschaft, Positionspapier „Nutzung von Künstlicher Intelligenz (KI) im Krankenhaus“, 23.10.2025. https://www.dkgev.de/fileadmin/default/Mediapool/1_DKG/1.3_Politik/Positionen/2025-10-23_DKG-Positionspapier_KI_im_Krankenhaus.pdf
5. ArbG Hamburg, Beschluss vom 16.01.2024 – 24 BVGa 1/24. Besprechung: Legal Tribune Online. https://www.lto.de/recht/hintergruende/h/arbg-hamburg-24bvga-1-24-chatgpt-einsatz-arbeit-beteiligung-betriebsrat

Quellen abgerufen im Juli 2026.