Im dem Gespräch mit einem früheren Monolith-Kollegen kam ein zweiter Punkt, der mich seitdem beschäftigt.
Ich habe einen früheren Kollegen gefragt, warum seine KI-Workflows von den Analysten tatsächlich genutzt werden — während anderswo teure Systeme ungenutzt liegen bleiben.
Seine Antwort hatte nichts mit dem Modell zu tun.
Er baut Oberflächen, in denen der Nutzer jede einzelne Entscheidung des Systems sehen kann. Jeder Zwischenschritt wird gespeichert. Jeder Selbst-Check ist einsehbar. Der Analyst kann jedes Element kommentieren, korrigieren, neu laufen lassen.
Das kostet ihn deutlich mehr Entwicklungsaufwand. Aber es erzeugt das, woran die meisten KI-Einführungen scheitern: Vertrauen.
Beim Zuhören ist mir etwas aufgefallen, das er selbst gar nicht erwähnt hat.
Genau diese Eigenschaften — dokumentierte Entscheidungen, nachvollziehbare Abläufe, prüfbare Historie — sind das, was das deutsche Recht ohnehin verlangt. Das Bundesarbeitsgericht hat 2024 klargestellt: Geschäftsgeheimnisschutz setzt gelebte, dokumentierte Maßnahmen voraus. Und die KI-Kompetenzpflicht aus Art. 4 der KI-Verordnung verlangt Steuerung statt Wildwuchs.
Das heißt: Der Mechanismus, der Adoption erzeugt, und der Mechanismus, der Rechtsschutz erzeugt, sind derselbe.
Nachvollziehbarkeit.
Governance fühlt sich an wie das, was KI-Projekte bremst. Sie ist das, was sie überleben lässt.
Wo könnt ihr heute lückenlos nachvollziehen, was eure KI-Systeme entschieden haben — und wo nicht?