Das Aufsichts-Kit

KI-Vorschläge prüfen, bevor sie Ihre Daten ändern.

Mit dem Aufsichts-Kit prüft ein Mensch jeden Modellvorschlag, bevor Änderungen übernommen werden. Übernommene Änderungen werden protokolliert und lassen sich zurücknehmen. Sie können das Protokoll auf nachträgliche Manipulationen prüfen. Vor jedem Modellaufruf prüft das System, welche Inhalte das Modell erhalten darf. Alles läuft in Ihrer eigenen Umgebung.

Ein Agent bereitet einen Vorschlag vor. Ein Mensch prüft ihn, und die Entscheidung wird protokolliert.

Sie installieren die Bibliotheken, die ab November 2026 unter der MIT-Lizenz erscheinen, und nutzen Ihre bestehende Postgres-Datenbank. Wir hosten das Kit nicht und verarbeiten Ihre Daten nicht. Auch das Modell können Sie in Ihrer eigenen Umgebung betreiben.

Read this in English

Wie es funktioniert

Vom Vorschlag zur dokumentierten Entscheidung

01
Inhalte einstufen
Vor jedem Modellaufruf werden Inhalte als öffentlich, intern oder vertraulich eingestuft. Vertrauliche Inhalte bleiben bei einem Modell in Ihrer Umgebung. Interne Inhalte werden vor einer externen Übermittlung geschwärzt. Zu jedem Aufruf wird eine Prüfsumme des gesendeten Inhalts gespeichert, nicht der Inhalt selbst.
02
Vorschlagen
Das Modell liefert einen typisierten Vorschlag für bestehende Datensätze. Er enthält die geplanten Änderungen, die aktuellen Werte, den Urheber und die Person oder Organisation, in deren Auftrag er handelt. Das Modell schreibt nicht direkt in die Datenbank.
03
Entscheiden
Eine zuständige Person prüft den Vorschlag in Ihrer Anwendung. Sie kann ihn bearbeiten, einzelne Änderungen übernehmen oder ihn ablehnen. Hat sich der zugrunde liegende Datensatz inzwischen geändert, wird das vor der Übernahme angezeigt.
04
Festhalten
Ein über Hashes verkettetes Protokoll erfasst jede übernommene Änderung, ihren Urheber und Auftraggeber. Die Rücknahme einer Änderung erzeugt einen neuen Eintrag; frühere Einträge bleiben erhalten. Der jeweils letzte Hash wird regelmäßig außerhalb der Datenbank gesichert. So fällt bei der nächsten Prüfung auch eine komplett neu geschriebene Kette auf.

Für wen

Softwareanbieter und regulierte Betreiber

Softwareanbieter, deren KI an regulierten Entscheidungen beteiligt ist

Wenn Ihr Produkt KI bei Personalauswahl, Bildung, Kredit, Versicherung oder dem Zugang zu Leistungen einsetzt, fragen Ihre Kunden, wie Menschen die Entscheidungen beaufsichtigen und was das System protokolliert.

Die Pflichten für Hochrisiko-Systeme nach Anhang III der KI-Verordnung, darunter die automatische Protokollierung (Art. 12) und die menschliche Aufsicht (Art. 14), gelten ab dem 2. Dezember 2027. Das Datum stammt aus der Änderung von 2026.

Menschliche Prüfung und ein Änderungsprotokoll, das nachträgliche Manipulationen erkennbar macht, als Teil Ihres Produkts.

Regulierte Betreiber, bei denen Beauftragte persönlich unterschreiben

In der kritischen Infrastruktur und im Finanzsektor wird neue Software geprüft, bevor sie in Betrieb geht. Informationssicherheits- und Datenschutzbeauftragte sammeln dazu Anbieternachweise und erstellen vor der Freigabe jeweils eine Bewertung.

§ 30 BSIG zählt Sicherheit in der Lieferkette und sichere Beschaffung zu den Mindestmaßnahmen; nach § 38 muss die Geschäftsleitung sie billigen und überwachen. DORA verlangt ein Register der IKT-Drittdienstleister. Die DSGVO verlangt Verträge zur Auftragsverarbeitung, ein Verarbeitungsverzeichnis und bei hohem Risiko eine Datenschutz-Folgenabschätzung.

Ein Modell trägt die Nachweise zusammen und verknüpft jede Aussage mit ihrer Quelle. Die verantwortliche Person prüft und unterschreibt das Ergebnis. Das Kit läuft in Ihrer Umgebung; auch das Modell können Sie dort betreiben.

Ihre Rechtsberatung kann beurteilen, ob Ihr System als Hochrisiko-System gilt und bei welchen Pflichten das Kit Sie unterstützen kann. Wir übernehmen die technische Umsetzung und leisten keine Rechtsberatung.

Was es heute gibt

Die Pakete

Jedes Paket hat eine eigene Dokumentation zu Verwendung und Grenzen. Wir können darauf die Anwendung für Ihren Workflow aufbauen.

@octabits-io/proposal
Definiert typisierte Vorschläge für bestehende Datensätze, einschließlich bisheriger Werte und Urheber der Änderungen. Unterstützt teilweise Übernahme, die Prüfung zwischenzeitlicher Datenänderungen, Anwendung und Rücknahme sowie die Speicherung bis zur Entscheidung.
@octabits-io/agent-ui
Verwaltet den Zustand der Prüfung unabhängig vom UI-Framework, mit Anbindungen für Vue und React. Die Prüfansicht wird in Ihre Anwendung integriert.
@octabits-io/agent-ledger
Protokolliert Aktionen von Agenten, deren Auftraggeber und die Möglichkeiten zur Rücknahme. Die Einträge bilden eine nur erweiterbare Hash-Kette in Postgres. Jede Speicherimplementierung durchläuft dieselben Konformitätstests.
@octabits-io/disclosure
Prüft Inhalte vor Modellaufrufen. Eine Lint-Regel lässt den Build fehlschlagen, wenn ein Aufruf diese Prüfung umgeht.
@octabits-io/server
Stellt den Prüfablauf über MCP bereit. Werkzeuge, die Daten ändern, müssen einen Vorschlag zurückgeben, sofern der Host direkte Schreibzugriffe nicht ausdrücklich erlaubt. Jeder Aufruf wird mit der Identität des Aufrufers protokolliert.
octaflow
Führt mehrstufige Workflows auf Postgres aus und speichert ihren Fortschritt dauerhaft. Die Modellanbindung nutzt standardmäßig einen Anbieter mit Sitz in der EU und unterstützt auch selbst betriebene Modelle.

Der Auftrag

Umsetzung in Ihrem System

In Ihrem bestehenden System

Ein KI-Workflow in Ihrem System: prüfbar, protokolliert, rückgängig zu machen.

Wir setzen einen Workflow um, in dem ein Modell einen Vorschlag zur Prüfung vorbereitet, etwa eine Anbieterbewertung, eine Datenänderung oder ein Dokument zur Unterschrift. Mit dem Aufsichts-Kit ergänzen wir eine Prüfansicht, ein über Hashes verkettetes Änderungsprotokoll mit Rücknahmefunktion und Prüfungen der Inhalte, die an das Modell gehen. Der Workflow läuft in Ihrer Umgebung auf Ihrer Postgres-Datenbank. Der Anwendungscode gehört Ihnen.

Ergebnis: Ein lauffähiger Workflow in Ihrer Umgebung mit Tests und einer Dokumentation der zulässigen Datenzugriffe des Modells. Wir messen die Bearbeitungszeit pro Fall und wie viel die Prüfer an den Vorschlägen ändern. So können Sie die Ergebnisse bewerten.
Dauer: 8–10 Wochen
Preis: Festpreis nach dem ersten Gespräch; anschließend Betreuung nach Bedarf

Der Anwendungscode gehört Ihnen und läuft in Ihrer Umgebung. Wir setzen den Workflow um, pflegen die Bibliotheken und übernehmen auf Wunsch die weitere Betreuung.

Noch nicht

Was das Kit noch nicht kann

Automatisch erzeugte Dokumentation aus Protokoll und Aufzeichnungen zu den Modellaufrufen. Diese Dokumentation erstellen wir derzeit im Rahmen der Umsetzung von Hand.
Speicherung des vollständigen Inhalts von Modellaufrufen für eine festgelegte Dauer. Das Kit speichert derzeit nur eine Prüfsumme. Ob vollständige Inhalte aufbewahrt werden müssen, ist je Installation zu klären. Diese Funktion ist noch nicht umgesetzt.
Eine fertige Anwendung. Wir setzen den Workflow für jeden Kunden mit dem Kit in dessen eigener Codebasis um.

Sprechen Sie mit uns über Ihren Ablauf

Beschreiben Sie kurz, was das Modell vorbereiten soll, wer das Ergebnis prüft und wie der Prozess heute abläuft. Dann besprechen wir, welchen Ablauf wir zuerst umsetzen.

mail@dk2.eu Kontakt