Klinische Co-Piloten und Agenten: Eine sachliche Unterscheidung

Im Pitch-Tisch der Klinik-Geschäftsführung liegt die Unterlage einer Klinik-IT-Plattform. Auf Folie zwei steht „KI-Co-Pilot für die Dokumentation“. Drei Folien später steht in derselben Unterlage „autonomer Agent für die Aufnahme-Vermittlung“. Die Sätze fallen ohne Übergang. Die Ärztliche Direktion fragt zurück, was der Unterschied sei — und der Anbieter sagt: dieselbe Plattform, zwei Funktionen. Künstliche Intelligenz (KI) ist der Träger der Bewegung; sie wechselt im Pitch nicht ihre Modell-Architektur, sondern ihre Aufgabe. Im Co-Pilot-Modus liefert sie einen Vorschlag, den ein Mensch prüft. Im Agenten-Modus führt sie einen Schritt aus, den ein Mensch nachher findet. Die zwei Sätze klingen ähnlich; sie verlangen aber eine andere Verantwortungs-Architektur darunter.

Diese Begriffs-Vermischung ist im Klinik-IT-Diskurs nicht selten. Der internationale Tech-Diskurs hat „Co-Pilot“ und „Agent“ in den letzten zwei Jahren zu Marketing-Vokabular gemacht; der deutsche Klinik-Beschaffungs-Tisch übernimmt die Begriffe ohne den technischen Beipackzettel. Eine Pitch-Unterlage, die in derselben Folge beide Begriffe synonym führt, beschreibt zwei verschiedene Architektur-Klassen mit einem gemeinsamen Sprachmodell darunter — und macht den Unterschied unsichtbar, der für die ärztliche Direktion am Ende der Verantwortungs-Spur liegt. Die sachliche Trennung ist daher kein akademisches Anliegen, sondern ein Werkzeug der Beschaffungs-Disziplin.

Zwei Architektur-Klassen, ein Sprachmodell

Die internationale Engineering-Diskussion trennt die zwei Architektur-Klassen klar. Beiträge aus Microsoft Research 2023 bis 2026 beschreiben den Co-Pilot als Assistenz-Architektur — eine Schicht, die generative Vorschläge in eine Mensch-Bestätigungs-Schleife einläuft, sodass jede Aussage in der Hand einer prüfenden Person endet. Forschungs-Beiträge aus Anthropic Research im gleichen Zeitraum beschreiben Agent-Architekturen als Schichten, in denen das Sprachmodell nicht mehr antwortet, sondern handelt — Tool-Use, Multi-Step-Reasoning, autonome Aufgaben-Schließung innerhalb definierter Regeln. Der Co-Pilot endet jeden Schritt am Menschen; der Agent schließt Schritte selbstständig ab. Beide Architekturen sitzen auf einem Large Language Model (LLM); der Modell-Kern ist gemeinsam, die Schicht darüber ist es nicht. Microsoft Research und Anthropic Research sind Anbieter-eigene Forschungs-Linien; sie sind nicht peer-reviewed Standards, aber sie tragen die Engineering-Sprache, die in den Pitch-Unterlagen ankommt.

Die akademische Einordnung trägt diese Trennung weiter. Die AI-Index-Reports des Stanford Institute for Human-Centered Artificial Intelligence (Stanford HAI) 2024 und 2025 ordnen die Reife agentischer Architekturen in regulierten Domänen wie Healthcare als heterogen ein und beschreiben die Verantwortungs-Schichten zwischen assistiver und autonomer KI als unterschiedliche Architektur-Klassen mit unterschiedlichen Anforderungen an Eingangsdaten, Modell-Stabilität und Audit-Tauglichkeit. Original-Beiträge in npj Digital Medicine 2024 bis 2026 zeigen, dass die Stabilität klinisch verwertbarer Sprachmodell-Aussagen strukturell an der Vollständigkeit und Konsistenz der Quell-Daten hängt. Eine assistive Architektur kann mit einer Quell-Daten-Lücke leben, weil die prüfende Person die Lücke vor der Übernahme sieht. Eine agentische Architektur, die die Lücke nicht sieht, schreibt sie in der zweiten oder dritten Schritt-Aussage als Faktum fort. Diese Befunde stammen aus internationalen Settings; sie sind nicht 1:1 auf eine deutsche Klinik übertragbar. Die strukturelle Beobachtung „Substrat-Qualität prägt Architektur-Tragfähigkeit“ trägt jedoch über die Settings hinweg, weil sie an der Engineering-Mechanik hängt.

Die Verantwortungs-Spur

Die strukturelle Konsequenz der zwei Architektur-Klassen ist eine andere Verantwortungs-Spur. Beim Co-Pilot endet jeder generative Schritt in einer Schwelle, an der eine prüfende Person die Aussage übernimmt, anpasst oder ablehnt. Die Aussage existiert in der Akte erst nach dieser Übernahme; vorher ist sie ein Vorschlag, der in einem definierten Kontext vorliegt. Beim Agenten endet der Schritt in einer ausgeführten Operation: eine Anfrage abgelehnt, ein Profil gebaut, eine Eignungs-Prüfung abgeschlossen. Die ärztliche Direktion findet die Operation nachher in der Audit-Spur und prüft die Begründung — die Aktion ist zu diesem Zeitpunkt aber bereits passiert. Die Verantwortung trägt die Direktion in beiden Architekturen; nur sitzt sie an unterschiedlichen Stellen der Zeitachse. Im Co-Pilot-Modus prüft sie jede einzelne Aussage vor der Übernahme; im Agenten-Modus prüft sie die Architektur und die Eskalations-Schwellen vor dem Pilot-Betrieb. Die Aufmerksamkeits-Last ist eine andere, der Audit-Anspruch auch.

Editorial- und Review-Beiträge in NEJM AI 2024 bis 2026 betonen, dass die Eskalations-Schwelle einer agentischen Architektur — die Stelle, an der die Plattform abbricht und an die ärztliche Direktion zurückgibt — keine triviale Engineering-Wahl ist. Eine Schwelle, die zu hoch sitzt, lässt die Plattform zu lange handeln, bevor ein Mensch eingreift; eine Schwelle, die zu niedrig sitzt, hebt die Effizienz-Vorteile auf, weil der Agent ständig zurückgibt. NEJM AI Editorials sind kuratierte Synthese-Beiträge, keine peer-reviewed Original-Studien; die Beobachtung selbst ist in der peer-reviewed Linie aus npj Digital Medicine strukturell repliziert. Die operative Folge: eine agentische Plattform, die die Eskalations-Schwelle nicht versions-fest dokumentiert, beschreibt nicht ihre Verantwortungs-Spur — sie beschreibt nur ihren Hauptpfad. Im Co-Pilot-Modus entfällt dieses Schwellen-Problem nicht; es verschiebt sich aber in die laufende Übernahme-Entscheidung jeder einzelnen Aussage und ist damit für die prüfende Person sichtbar.

Was die ärztliche Direktion in der Pitch-Diskussion fragt

In der Pitch-Diskussion zwischen Klinik-Geschäftsführung, ärztlicher Direktion und Klinik-IT-Leitung lässt sich die Trennung mit drei Fragen sichtbar machen, die unabhängig vom Plattform-Etikett tragen. Erstens: An welcher Schwelle wartet die Plattform auf eine ärztliche Übernahme, und an welcher Schwelle schließt sie den Schritt selbstständig ab? Eine ehrliche Antwort zerlegt eine Plattform-Funktion entweder in Co-Pilot-Schicht oder in Agent-Schicht — nicht in „beides gleichzeitig“. Zweitens: Welche Audit-Spur-Felder sind pro Schritt versions-fest dokumentiert — Eingangsdaten, Modellversion, Entscheidungs-Stand, Begründungs-Pfad? Eine assistive Architektur dokumentiert Vorschläge und Übernahmen; eine agentische dokumentiert die Entscheidungs-Logik pro autonomem Schritt zusätzlich. Drittens: An welcher Eskalations-Schwelle bricht die Plattform ab und gibt an das ärztliche Team zurück, statt fortzusetzen — und wo ist diese Schwelle dokumentiert? Diese drei Fragen übersetzen die Architektur-Klassen-Trennung in eine Pitch-Diskussion, die die Verantwortungs-Spur sichtbar macht.

Die regulatorische Hintergrund-Linie ergänzt das Bild, ohne die Architektur-Wahl vorzugeben. Der Management-System-Standard ISO/IEC 42001:2023 für Künstliche Intelligenz beschreibt Auditierbarkeit, Eingangsdaten-Disziplin und Eskalations-Pfade als Anforderungen an die Plattform-Verantwortung; er trennt nicht zwischen Co-Pilot und Agent, weil beide dieselbe Auditierbarkeit benötigen. Die Anforderung wird in einer agentischen Architektur jedoch dichter, weil die autonomen Schritte sich multiplizieren und jede Schritt-Logik versions-fest zu dokumentieren ist. Die Europäische Verordnung über Künstliche Intelligenz (EU AI Act) ordnet Klinik-KI-Systeme typischerweise in die Hochrisiko-Klassifikation des Annex III ein und verlangt Auditierbarkeit, Risiko-Management und Aufsicht durch eine natürliche Person; die operative Übersetzung in die Architektur-Wahl bleibt der Klinik-IT-Disziplin überlassen. Wie die einzelne Plattform unter diese Klassifikation fällt, ist anwendungs-spezifisch und in diesem Stück nicht zu klären. Die Begriffs-Trennung Co-Pilot/Agent ist die Vor-Frage zur regulatorischen Frage; ohne die Trennung ist die regulatorische Diskussion über Auditierbarkeit am Pitch-Tisch nicht sauber zu führen.

Die Marketing-Sprache wird die zwei Begriffe in der nächsten Pitch-Generation weiter mischen. Das ist eine Eigenschaft des Diskurses, kein Defekt einer einzelnen Plattform. Die Disziplin, die im Beschaffungs-Gespräch trägt, ist die Begriffs-Trennung — als Werkzeug, nicht als Polemik. Eine Pitch-Unterlage, die die drei Fragen substantiell beantwortet, beschreibt ihre Architektur-Klasse und ihre Verantwortungs-Spur. Eine, die ausweicht, nutzt das Vokabular, ohne die Schwelle zu zeigen. Der Unterschied zwischen Co-Pilot und Agent ist nicht der Reifegrad der Plattform; er ist die Frage, an welcher Schwelle die Maschine die Verantwortung an einen Menschen zurückgibt. Im Klinik-Prozess ist diese Schwelle keine technische Detail-Frage. Sie ist die Architektur-Wahl selbst.