Wir behandeln Vertrauen in Agents, als wäre es dasselbe wie Vertrauen in Kolleginnen und Kollegen. Es ist nicht dasselbe – und der Unterschied liegt nicht in der Höhe, sondern in der Form der Kurve.
Menschliches Vertrauen ist träge
Einem Menschen vertrauen wir schrittweise. Ein Fehler zerstört das Vertrauen selten vollständig, weil wir ein Modell der Person haben: wir verstehen, warum sie irrte, und passen unsere Erwartung an. Vertrauen ist hier ein gleitender Mittelwert über viele Beobachtungen.
Vertrauen in Agents ist sprunghaft
Bei einem Agenten ist die Kurve anders. Solange er funktioniert, steigt das Vertrauen schnell – oft schneller, als gerechtfertigt ist, weil Konsistenz wie Kompetenz aussieht. Aber ein einziger gravierender Fehler kann das Vertrauen schlagartig kollabieren lassen, weil wir kein Modell warum haben. Der Agent wird vom verlässlichen Werkzeug zur Blackbox.
Konsequenz für die Architektur
Wer diese Asymmetrie ernst nimmt, verteilt Verantwortung anders. Nicht: Wie viel können wir dem Agenten überlassen? Sondern: Wie sieht das System aus, wenn das Vertrauen schlagartig kollabiert – und wer fängt es auf? Robuste Mensch-Agent-Systeme sind nicht die mit dem höchsten Vertrauen, sondern die, die einen Vertrauensbruch überleben.