Anfangs ließen wir den Agenten „bei Unsicherheit eskalieren”. Das klang vernünftig, war aber unbrauchbar: Mal eskalierte er zu früh und machte sich nutzlos, mal zu spät und richtete Schaden an.
Die Lösung war, Übergabe als beobachtbaren Zustand zu definieren – konkrete Bedingungen, bei denen die Verantwortung an den Menschen wechselt. „Unsicherheit” ist kein Zustand, den ein Agent zuverlässig erkennt. Eine überschrittene Schwelle schon.