Die menschliche Aufsicht gem. Art. 14 KI-VO: Mensch-zentrierte KI

Der Art. 14 KI-VO legt Regeln für den Einsatz von KI-Systemen fest – insbesondere bei solchen, die als hochrisikobehaftet eingestuft werden. Ein zentrales Element dieser Regulierung ist die menschliche Aufsicht. Sie stellt sicher, dass trotz Automatisierung und algorithmischer Entscheidungsfindung stets eine angemessene Kontrolle durch Menschen gewährleistet bleibt: eine „Mensch-Maschine-Schnittstelle“. Damit ist der Sinn des Artikels 14 KI-VO festzuhalten, dass es in erster Linie darum geht, menschenzentrierte KI unter ethischen Leitlinien zu fördern. KI-Systeme dürfen die menschliche Autonomie niemals unterminieren. (1)

Kritische Stimmen meinen aber, dass es nicht in allen Fällen möglich sein kann, dass Menschen dieser Aufsicht immer hundertprozentig zuverlässig nachkommen könnten. Es werde dahingehend ein inkorrektes Sicherheitsgefühl vermittelt. (2)

Artikel 14 KI-VO verpflichtet Anbieter und Betreiber hochriskanter KI-Systeme dementsprechend dazu, technische und organisatorische Maßnahmen mit menschlicher Aufsicht zu ergreifen. Ziel ist es, Risiken für Gesundheit, Sicherheit und Grundrechte-Verstoß frühzeitig zu erkennen beziehungsweise von Beginn an zu unterbinden.

Das gilt insbesondere für KI-Systeme, die zum Beispiel biometrische Daten zur Gesichts- und Emotionserkennung verwenden, also hochriskante Systeme. Hier sind die Aufsichtsanforderungen zunehmend wichtig – ausgenommen, sie werden beispielsweise für die Strafverfolgung eingesetzt. (3)

Die menschliche Aufsicht kann dabei verschiedene Formen annehmen – etwa durch

• direkte Echtzeitüberwachung,
• regelmäßige Kontrolle und Reflexion der Ausgaben des KI-Systems sowie durch
• Unterbrechung oder Deaktivierung – etwa in Form eines Stopp-Mechanismus.

Wichtig ist: Die menschliche Aufsicht darf nicht nur formell vorhanden sein. Sie muss „wirksam“ sein. Das bedeutet: Die mit der Aufsichtsaufgabe betraute Person muss über ausreichende KI-Kompetenzen – inklusive Know-how über die Bias-Problematik – und die nötigen Befugnisse verfügen, um eingreifen zu können, wenn das KI-System fehlerhaft arbeitet oder unvorhergesehene Entscheidungen trifft.

Die menschliche Aufsicht nach Art. 14 KI-VO ist somit ein essenzielles Schutzinstrument. KI darf nicht unkontrolliert agieren, sie muss unter bewusster, sachkundiger, menschlicher Kontrolle bleiben – und damit im Sinne der Menschen wirken, nicht gegen sie.

(Quellenangaben:
1 Vgl.: BeckOK KI-Recht/Buchner KI-VO Art. 14 Rn. 8-11
2 Vgl. ebd. Art. 14 Rn. 31, 32
3 Vgl. ebd. Art. 14 Rn. 1-64)