S1 bis S4: Ein Risiko-Rahmen für medizinische KI-Autonomie
Ein neues vierstufiges Klassifizierungssystem ordnet medizinische KI nach Autonomiegrad und Risiko ein – ein praktikables Werkzeug, um KI-Tools in der eigenen Praxis systematisch zu bewerten.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
Wer in den letzten Jahren KI-Tools für Diagnostik, Dokumentation oder Therapieentscheidungen eingeführt hat, kennt das Problem: Es gibt kaum eine einheitliche Sprache, um zu beschreiben, wie viel Entscheidungsgewalt ein System eigentlich hat. Ein Chatbot, der Patientenfragen beantwortet, wird in denselben Sätzen diskutiert wie ein Algorithmus, der Insulindosen anpasst – obwohl beide völlig unterschiedliche Risiken tragen. Genau hier setzt ein neues, in NEJM AI vorgestelltes vierstufiges Klassifizierungssystem an: Es ordnet medizinische KI-Anwendungen entlang der Stufen S1 bis S4 ein – gestaffelt nach dem Grad der Autonomie, den ein System ausübt, und dem daraus resultierenden Risiko für Patientinnen und Patienten.
Warum ein eigenes Autonomie-Modell nötig ist
Bestehende Regulierungsrahmen wie die Risikoklassen der Medical Device Regulation (MDR) oder die Risikokategorien des EU AI Act orientieren sich vor allem am Einsatzzweck und am potenziellen Schaden eines Produkts. Was dabei oft zu kurz kommt, ist die Frage, wie stark ein System aus dem menschlichen Entscheidungsprozess herausgelöst ist. Ein Bildanalyse-Tool, das lediglich eine Auffälligkeit markiert, unterscheidet sich fundamental von einem System, das eigenständig eine Diagnose stellt und eine Therapie einleitet – auch wenn beide formal derselben MDR-Klasse zugeordnet sein könnten. Das S1-bis-S4-Modell schließt diese Lücke, indem es Autonomie als eigenständige Bewertungsdimension einführt.
Die vier Stufen im Überblick
Das Grundprinzip: Je weniger ein Mensch im konkreten Einzelfall prüft, bevor eine KI-Ausgabe patientenrelevante Konsequenzen hat, desto höher die Stufe – und desto höher die Anforderungen an Absicherung, Überwachung und Haftungsklarheit.
Auf der niedrigsten Stufe S1 stehen Systeme mit reiner Unterstützungsfunktion: Sie liefern Informationen oder Vorschläge, die vollständige Entscheidung und Verantwortung bleiben aber bei der Ärztin oder dem Arzt – etwa eine KI, die Literaturzusammenfassungen für die Sprechstunde erstellt. Auf S2-Niveau greift die KI bereits aktiver in Arbeitsabläufe ein, etwa durch Priorisierung von Befunden oder automatisierte Warnhinweise, verlangt aber weiterhin eine bewusste ärztliche Prüfung vor jeder folgenreichen Handlung. S3 beschreibt Systeme, die innerhalb vordefinierter, eng begrenzter Spielräume selbstständig handeln – etwa Algorithmen, die Medikationsdosen in engen, vorab festgelegten Grenzen anpassen, mit definierten Eskalationspunkten für den Menschen. Auf der höchsten Stufe S4 stehen Systeme, die weitgehend autonom Entscheidungen treffen und umsetzen, ohne dass ein Mensch jeden Schritt kontrolliert – ein Szenario, das in der klinischen Praxis heute noch die Ausnahme ist, regulatorisch aber bereits mitgedacht werden muss.
Was das für Ihre Praxis oder Klinik bedeutet
Der praktische Wert dieses Rahmens liegt nicht in der akademischen Einordnung, sondern darin, dass er eine konkrete Prüffrage für jedes KI-Tool im eigenen Betrieb liefert: Auf welcher Stufe bewegt sich dieses System tatsächlich – und deckt sich das mit der Art, wie wir es einsetzen?
Für die Praxis empfehle ich drei Schritte:
1. Inventur der eingesetzten KI-Tools. Erfassen Sie systematisch, welche Systeme in Diagnostik, Dokumentation, Abrechnung oder Therapieplanung im Einsatz sind, und ordnen Sie jedes davon vorläufig einer der vier Stufen zu.
2. Abgleich mit der tatsächlichen Nutzung. Häufig verschiebt sich die faktische Autonomie eines Tools im Praxisalltag nach oben, ohne dass dies bewusst entschieden wurde – etwa wenn KI-Vorschläge aus Zeitgründen ungeprüft übernommen werden. Das ist ein stiller Sprung von S1/S2-Nutzung zu S3-Risiko, ohne dass die entsprechenden Absicherungen mitgewachsen sind.
3. Dokumentierte Einsatzgrenzen festlegen. Legen Sie schriftlich fest, welche Entscheidungen ein System treffen darf und welche zwingend ärztlicher Freigabe bedürfen. Das ist nicht nur aus Patientensicherheitsgründen sinnvoll, sondern auch mit Blick auf Haftungsfragen und die Dokumentationspflichten, die sich aus MDR und EU AI Act ergeben.
Fazit
Ein Klassifizierungssystem allein verändert keine klinischen Abläufe. Aber es gibt Praxen und Kliniken ein Vokabular an die Hand, mit dem sich Diskussionen über KI-Einsatz präziser führen lassen – gegenüber Kolleginnen und Kollegen, gegenüber Aufsichtsbehörden und nicht zuletzt gegenüber sich selbst, wenn es um die Frage geht, wie viel Kontrolle man tatsächlich noch ausübt, sobald ein System einmal eingeführt ist. Wer heute KI-Tools evaluiert, sollte sich die S1-bis-S4-Frage stellen, bevor die nächste Investitionsentscheidung ansteht.