Die „Selbst-beigebracht“-Falle: Warum Python lernen die moderne Ärztin nicht rettet

An einem Sonntagmorgen sitzt eine Assistenzärztin, die ich kenne, an ihrem Küchentisch, noch halb im Kasack vom Samstagsdienst, und arbeitet sich durch die dritte Lektion eines Python-Kurses im Netz. Das Pharmakologie-Lehrbuch, das sie für Montag eigentlich bräuchte, liegt ungeöffnet neben dem Laptop. Sie ist weder faul noch verwirrt: Sie hat Angst. Sie hat zugesehen, wie Vorhersagemodelle und Sprachsysteme auf die Stationen kamen, während ihre eigene Ausbildung dazu fast nichts gesagt hat, und sie hat daraus den vernünftigen Schluss gezogen, dass sie sich das Programmieren selbst beibringen muss, um nicht abgehängt zu werden.

Damit hat sie zur Hälfte recht. Die medizinische Ausbildung in Europa hat nur zögerlich aufgenommen, was die klinische Praxis längst verändert, und diese Lücke ist real. Doch das Mittel, das sie gewählt hat, ist das falsche. Sie lernt die Syntax der Maschine, wo sie die Sicherheit des Werkzeugs lernen müsste.

Die fehlgeleitete Sorge

Unter all dem liegt die Angst, überflüssig zu werden. Es lohnt, bei der Ökonomie ehrlich zu sein, denn sie weist nicht dorthin, wo die Angst sie vermutet. Eine Ärztin, die mittelmäßigen Code schreibt, ist kein Gewinn. Es gibt ein tiefes und günstiges Angebot an professionellen Entwickler:innen, die bessere Software schneller schreiben, als eine Ärztin es am Wochenende je lernen wird.

Der Vorsprung der Ärztin lag nie im Bauen. Er liegt im Kontext. Die Gefahr vor uns ist nicht, dass eine Ärztin kein neuronales Netz zusammensetzen kann. Die Gefahr ist, dass sie nicht erkennt, wann das Netz sich irrt.

Behandeln Sie das Modell wie ein Medikament

Für diese Energie gibt es eine bessere Form, und sie ist jeder Klinikerin längst vertraut. Hören wir auf, künstliche Intelligenz als ein Problem der Informatik zu behandeln, und beginnen wir, sie als ein Problem der Pharmakologie zu sehen.

Wir verordnen täglich Propofol und Lithium, ohne die leiseste Vorstellung davon, wie sich diese Substanzen im Labor synthetisieren ließen. Wir setzen sie sicher ein, weil wir etwas ganz anderes gelernt haben: ihre Indikationen, ihre Kontraindikationen, ihre Nebenwirkungen und die Lagen, in denen eine vernünftige Dosis zur gefährlichen wird. Genau das ist die Kompetenz, die eine Ärztin vor einem Modell braucht. Wofür wurde dieses System trainiert? Und, wichtiger noch: Wo versagt es?

Die Versagensmuster sind konkret und erlernbar. Ein Modell trägt den Abdruck der Population, an der es trainiert wurde, und verschlechtert sich still, sobald die Patientin vor Ihnen dieser Population nicht gleicht. Die klinische Welt, aus der es gelernt hat, entfernt sich mit der Zeit von ihm, wenn sich Praxis und Krankheitsbilder ändern — und seine Zuversicht entfernt sich nicht mit. Manche seiner Fehler sind nicht einmal sichtbar: eine Messung, die auf dunklerer Haut ungenauer abliest, ein Etikett, das im Datensatz etwas anderes bedeutete als auf Ihrer Station. Nichts davon verlangt von Ihnen, eine einzige Zeile Code zu schreiben. Alles davon verlangt, dass Sie das Modell lesen wie ein Medikament.

Unverblümt gesagt: Wer ein Modell bauen, aber seine Versagensmuster nicht benennen kann, ist gefährlich. Wer die Versagensmuster benennen, aber das Modell nicht bauen kann, ist genau das, was die Station braucht.

Die Grenze kartieren, nicht die Kiste

Weil die Universitäten zögern, werden Sie sich eine Weile selbst unterrichten müssen. Setzen Sie diese knappe Aufmerksamkeit klug ein. Der Sinn, die Blackbox zu öffnen, liegt nicht darin, ihre innere Verdrahtung zu verstehen — Sie werden die Entwickler:innen nicht überflügeln, und Sie müssen es nicht. Der Sinn liegt darin, den Rand der Kiste zu finden: die Grenze, jenseits derer ihre Kompetenz endet und Ihr Urteil übernehmen muss.

Wenn eine jüngere Kollegin also fragt, ob sie programmieren lernen solle, ist die ehrliche Antwort meist: nein. Die Antwort lautet: Lernen Sie zu prüfen. Begegnen Sie einer Software-Vorhersage mit derselben Skepsis wie einem pharmazeutischen Verkaufsgespräch. Fragen Sie, wie hoch die Number Needed to Harm wäre, wenn Sie ihr blind folgten. Fragen Sie, ob das Modell abgedriftet ist, seit es zuletzt jemand geprüft hat. Fragen Sie, ob ein Ergebnis eine echte Herleitung ist oder eine selbstbewusste Erfindung.

Wir brauchen keine Amateurprogrammierer:innen im weißen Kittel. Wir brauchen Ärzt:innen, die die Grenzen ihrer Werkzeuge lesen können und die im entscheidenden Augenblick wissen, wann sie sie übergehen müssen. Diese Fähigkeit ist älter als jeder Algorithmus — und sie ist noch immer die, auf die sich die Patientin verlässt.