Als Customer Success Engineer bei Monolith AI habe ich viele Teams gesehen, die KI auf ihre eigenen Daten loslassen wollten. Manche Tools haben sich durchgesetzt. Andere waren nach drei Wochen wieder verschwunden.
Der Unterschied lag fast nie am Modell.
Die Tools, die blieben, hatten eines gemeinsam: Ihr Ergebnis ließ sich gegen etwas außerhalb des Modells prüfen. Eine Norm. Eine Formel. Ein Grenzwert aus der Auslegung. Der Ingenieur musste der KI nicht vertrauen — er konnte nachrechnen.
Die Tools, die verschwanden, lieferten plausible Antworten. Klang richtig, klang fundiert. Aber niemand konnte sagen, woran man sich orientieren sollte, wenn man unsicher war. Also hat es niemand mehr genutzt, sobald die Neugier vorbei war.
Genau dasselbe Prinzip gilt für den Umgang mit sensiblen Engineering-Daten in KI-Tools.
Ein Befund wie »diese Eingabe ist riskant« überzeugt niemanden. Ein Befund wie »diese Eingabe fällt unter eine Geheimhaltungsklausel, und mit der Eingabe in ein öffentliches Tool ist der Schutz in diesem Moment gebrochen« lässt sich nachvollziehen — Zeile für Zeile, Gesetzestext für Gesetzestext.
Das ist der Grund, warum ich in Audits nie mit einer Risikoeinschätzung aus dem Bauch arbeite. Jeder Befund hängt an etwas, das außerhalb meiner Meinung steht — einer Klausel, einem Paragrafen, einer Norm. Wer mir nicht vertrauen will, muss es nicht. Er kann es nachprüfen.
Bei einem einzelnen Tool merkt man den Unterschied kaum. Bei einer ganzen Engineering-Organisation, die KI einführen will, entscheidet genau das, ob das Projekt nach drei Monaten noch lebt oder in der Schublade liegt.
Vertrauen in KI entsteht nicht durch ein gutes Gefühl.
Es entsteht durch Nachprüfbarkeit.
Woran würden eure Ingenieure eine KI-Empfehlung erkennen, der sie nicht vertrauen müssen, weil sie sie nachrechnen können?