Governance
Agentische Systeme handeln. Damit stellt sich die Frage, was sie selbst entscheiden dürfen, wer freigibt und wie nachvollziehbar bleibt, was geschieht.
Wie weit darf ein Agent selbstständig handeln?
Im Nakoa Brain richten wir die Autonomie an der Reversibilität aus. Was sich jederzeit zurücknehmen lässt, etwa ein Gebot innerhalb eines Korridors, darf der Agent selbst tun; alles darüber hinaus braucht eine Freigabe. Eingeführt haben wir das erst, als deutlich über 90 Prozent der Entscheidungen in diesen Korridoren lagen.
Mehr dazu: Reversibilität als Leitplanke für Autonomie
Wer gibt frei?
Governance regelt, wer welche Entscheidungen freigibt und wie sie nachvollziehbar bleiben. Im Nakoa Brain prüfen und genehmigen die Berater alle Aktionen, bevor sie live gehen.
Mehr dazu: Die Foundation entscheidet über den Erfolg der KI-Adoption
Wie bleibt nachvollziehbar, was ein Agent tut?
Indem jeder Schritt protokolliert und geprüft wird. So wird sichtbar, wo Ergebnis und Frage auseinanderlaufen, und wir können gezielt verbessern. Vertrauen entsteht dort, wo nachvollziehbar ist, was geschieht; bei einer systemkritischen Schnittstelle haben wir uns deshalb für eine lesbare, workflow-basierte Lösung entschieden.
Mehr dazu: Beobachtbarkeit vor Kontrolle einbauen · Das Innere des Wandels
Wie wird ein Ergebnis geprüft, bevor es weitergeht?
Durch Verifikation: in der Softwareentwicklung das Code-Review, im Machine Learning Evaluationen, im Nakoa Brain zum Beispiel ein Validator, der eine Prognose auf einer zu kurzen Zeitreihe als unsicher kennzeichnet und diesen Vorbehalt weitergibt.
Mehr dazu: Prognose mit Vorbehalt
Offen: Wie verändern sich Freigaben, wenn ein System über Monate verlässlich arbeitet – wächst der Spielraum mit, und wer entscheidet darüber?
Diese Positionen sind ein Arbeitsstand. Wo siehst du es anders? Schreib mir auf LinkedIn oder an helge@steimann.de.