HMD Praxis der Wirtschaftsinformatik Компьютерные науки (информатика)

Governance für KI-Agenten: Ein risikobasierte Perspektive für Transparenz und Nachvollziehbarkeit

Bennet Santelmann
Springer Nature · 2026-07-30 · DOI 10.1365/s40702-026-01311-x

Аннотация

Zusammenfassung Unternehmen setzen zunehmend Agentische KI ein: LLM-basierte Agenten planen Aufgaben, nutzen Werkzeuge, koordinieren sich in Multi-Agenten-Workflows und greifen in Geschäftsprozesse ein. Mit wachsender Autonomie steigen Anforderungen an Transparenz, Nachvollziehbarkeit und Rechenschaft – insbesondere im Lichte risikobasierter Vorgaben des EU AI Act. Forschung und Praxis adressieren diese Anforderungen bislang jedoch fragmentiert: Responsible-AI- und Governance-Frameworks bleiben häufig auf Prinzipien- und Prozess-Ebene, während technische Arbeiten einzelne Mechanismen (z. B. Logging, Observability, Policy-Enforcement) vorschlagen, ohne deren Passung zu Audit- und Accountability-Erwartungen systematisch zu bewerten. Der Beitrag führt eine strukturierte Literaturübersicht nach Webster und Watson (2002) durch und synthetisiert 33 peer-reviewte Studien (2022–2026) konzeptzentriert. Die Ergebnisse (i) präzisieren, wie Traceability, Auditability und Accountability als zusammenhängende Evidenz- und Verantwortungskette in der Literatur konzeptualisiert werden, (ii) präsentieren Mechanismen entlang architektureller Ebenen und Lifecycle-Phasen und (iii) zeigen wiederkehrende Mismatch-Muster: fehlende Audit-Festigkeit von Evidenz, unzureichende stakeholder-spezifische Erklärbarkeit und unklare Zurechnung in Multi-Agenten-Settings. Darauf aufbauend wird eine risiko-informierte Governance-Perspektive entwickelt, die Traceability-Infrastruktur, Governance-Controls und Verantwortungsmodelle miteinander verknüpft und damit die Gestaltung prüfbarer Agentischer KI in Unternehmen unterstützt.

Читать у издателя →