Ein Gespräch mit einem Data-Engineering-Lead letzte Woche hat mir eine Facette von Schatten-KI gezeigt, über die noch kaum jemand spricht.
Bisher denkt fast jeder beim Thema an: Ein Ingenieur tippt etwas in ChatGPT.
Es gibt aber eine zweite, stillere Variante. Sobald ein Unternehmen anfängt, KI-Agenten zu bauen – also Systeme, die selbstständig auf Datenquellen wie SharePoint, ERP oder ein Labormanagement-System zugreifen – braucht dieser Agent dauerhaften Zugriff. Und dieser Zugriff wird in der Praxis oft breiter vergeben, als es die Sensibilität der Daten erlauben würde.
Der Grund ist banal. Die meisten bestehenden Berechtigungsstrukturen wurden gebaut, bevor irgendjemand an Agentic AI gedacht hat. Es gibt selten eine feingranulare Freigabe pro Projekt oder Geheimhaltungsstufe – meistens nur »Zugriff« oder »kein Zugriff«. Wer den Agenten anbindet, bekommt praktisch oft einen Generalschlüssel, weil die feingranulare Alternative zu aufwändig wäre.
Für ein vertrauliches Projekt bedeutet das: Ein Agent, der eigentlich nur eine Planung automatisieren soll, kann technisch auch auf Unterlagen zugreifen, die eigentlich als angemessen geschützt gelten sollten. Die Geheimhaltungsmaßnahme, auf die sich der rechtliche Schutz stützt, ist damit faktisch ausgehöhlt – nicht durch einen unvorsichtigen Mitarbeiter, sondern durch die Architektur selbst.
Das ist kein Nutzungsproblem. Das ist ein Konstruktionsproblem, das man vor dem ersten Agenten lösen muss, nicht danach.
Wie feingranular ist bei euch der Zugriff, den ein KI-Agent auf eure Systeme bekommen würde – schon heute, bevor er überhaupt gebaut ist?