Menschliche Aufsicht nach EU-KI-Verordnung, direkt in Ihrem Agenten

Hochrisikosysteme müssen so entwickelt werden, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können. Dazu gehört, die Fähigkeiten und Grenzen des Systems zu verstehen und den Automatisierungsbias im Blick zu behalten. Dazu gehört auch, die Ausgabe richtig zu deuten und entscheiden zu können, die Ausgabe nicht zu verwenden oder den Betrieb zu unterbrechen.

Unterbrechen wird zu einem Aufruf, auf den Ihr Agent wartet. Pushary hält den Lauf an und schickt einer benannten Person eine kurze, klare Frage auf das Gerät, das sie bei sich trägt. Dann gibt Pushary ihre Wahl zurück. Übersteuern ist eine der Antworten, die sie wählen kann, genau wie Annehmen.

Hochrisikosysteme müssen die automatische Aufzeichnung von Ereignissen über ihre Lebensdauer technisch ermöglichen, in einem Umfang, der dem Zweck des Systems angemessen ist.

Pushary speichert jede Entscheidung: die Frage so, wie die Person sie gesehen hat, die gewählte Option, wer geantwortet hat und den Zeitpunkt. Pushary bewahrt jede Entscheidung für das Verlaufsfenster Ihres Tarifs auf (90 Tage bei Partner Launch, 365 bei Partner Growth). Sie können sie abfragen und exportieren. Mit einer Callback-URL geht jede Antwort außerdem als signierter Webhook an Ihren eigenen Server, damit Sie eine eigene Kopie haben.

Betreiber von Hochrisikosystemen müssen die menschliche Aufsicht natürlichen Personen übertragen, die die erforderliche Kompetenz, Schulung und Befugnis haben, und dafür sorgen, dass diese Personen die nötige Unterstützung erhalten.

Jede Frage geht über die ID, die Sie ohnehin für diese Person führen, an einen bestimmten Menschen und nicht an einen gemeinsamen Kanal. Sollen zwei Personen dieselbe Aktion freigeben, sind das zwei getrennte Aufrufe und zwei gespeicherte Entscheidungen, jede ihrer eigenen Person zugeordnet.

Anbieter müssen dafür sorgen, dass Menschen erfahren, wenn sie mit einem KI-System interagieren, sofern das nicht ohnehin offensichtlich ist. Sie müssen außerdem dafür sorgen, dass synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar gekennzeichnet werden. Betreiber müssen Deepfakes offenlegen. Sie müssen auch KI-erzeugten Text offenlegen, der zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, sofern nicht eine Person die redaktionelle Verantwortung dafür trägt. Diese Pflichten gelten seit August 2026 und gelten unabhängig von den Hochrisiko-Pflichten.

Das löst Pushary nicht, und das sagen wir lieber offen. Die Kennzeichnung Ihrer eigenen Modellausgaben gehört zu dem System, das sie erzeugt. Pushary setzt beim Freigabeschritt an, und das ist eine andere Pflicht. Der Unterschied ist wichtig: Die Transparenzpflichten gelten bereits, ein großer Teil des Hochrisiko-Zeitplans noch nicht.

Der Anhang listet die als hochriskant eingestuften Anwendungsfälle auf. Dazu gehören Beschäftigung, wesentliche private und öffentliche Dienstleistungen, Kreditwürdigkeit sowie Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung.

Ob Ihr Produkt in den Anwendungsbereich fällt, ist eine rechtliche Frage zu Ihrem Anwendungsfall und keine technische. Klären Sie sie, bevor irgendetwas anderes auf dieser Seite für Sie wichtig wird.