Menschliche Aufsicht, die sich tatsächlich bauen lässt.

Hochrisikosysteme müssen so entwickelt werden, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können. Dazu gehört, die Fähigkeiten und Grenzen des Systems zu verstehen, den Automatisierungs-Bias im Blick zu behalten, die Ausgabe richtig zu deuten und entscheiden zu können, die Ausgabe nicht zu verwenden oder den Betrieb zu unterbrechen.

Das Unterbrechen ist ein Aufruf, auf den Ihr Agent wartet. Pushary hält den Lauf an, legt einer benannten Person eine einzige zugespitzte Frage auf das Gerät, das sie bei sich trägt, und gibt deren Entscheidung zurück. Das Übersteuern der Ausgabe ist eine reguläre Antwort und kein Sonderfall.

Hochrisikosysteme müssen die automatische Aufzeichnung von Ereignissen über ihre Lebensdauer technisch ermöglichen, in einem Umfang, der dem Zweck des Systems angemessen ist.

Jede Entscheidung wird in ein dauerhaftes Ledger geschrieben: die Frage in der Form, in der die Person sie gesehen hat, die gewählte Option, ihre Identität und der Zeitstempel. Das ist abfragbar und exportierbar, und aufgelöste Entscheidungen gehen als signierter Webhook in Ihren eigenen Nachweisspeicher.

Betreiber von Hochrisikosystemen müssen die menschliche Aufsicht natürlichen Personen übertragen, die die erforderliche Kompetenz, Schulung und Befugnis haben, und dafür sorgen, dass diese Personen die nötige Unterstützung erhalten.

Die Aufsicht richtet sich über die ID, die Sie ohnehin für diese Person führen, an einen konkreten Menschen und nicht an einen gemeinsamen Kanal. Zwei Freigebende für dieselbe Handlung sind zwei unabhängige Aufrufe mit zwei separat zurechenbaren Ledger-Einträgen.

Anbieter müssen dafür sorgen, dass Menschen erfahren, wenn sie mit einem KI-System interagieren, sofern das nicht ohnehin offensichtlich ist, und dass synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar gekennzeichnet werden. Betreiber müssen Deepfakes offenlegen sowie KI-erzeugten Text, der zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, sofern nicht eine Person die redaktionelle Verantwortung dafür trägt. Diese Pflichten gelten seit August 2026 und stehen neben dem Hochrisiko-Regime.

Das ist nicht unser Teil, und das sagen wir lieber deutlich, statt etwas anderes anzudeuten. Die Kennzeichnung Ihrer eigenen Modellausgaben gehört zu dem System, das sie erzeugt. Pushary sitzt am Freigabeschritt, und das ist eine andere Pflicht. Die Unterscheidung lohnt sich, denn die Transparenzpflichten gelten bereits, während ein großer Teil des Hochrisiko-Zeitplans das noch nicht tut.

Der Anhang listet die als hochriskant eingestuften Anwendungsfälle auf, darunter Beschäftigung, wesentliche private und öffentliche Dienstleistungen, Kreditwürdigkeit sowie Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung.

Ob Ihr Produkt in den Anwendungsbereich fällt, ist eine rechtliche Frage zu Ihrem Anwendungsfall und keine technische. Sie sollte geklärt sein, bevor irgendetwas auf dieser Seite für Sie relevant wird.