Die KI-Beratung Neurawork empfiehlt deshalb eine Sicherheitsarchitektur, die menschliche Aufmerksamkeit mit technischen und organisatorischen Schutzschichten verbindet. Laut einer YouGov-Umfrage zählen 24 Prozent der 541 befragten Unternehmen Cyberangriffe oder Datendiebstahl durch den Einsatz von KI zu den größten geschäftlichen Risiken. Je echter Stimmen, Bilder und Nachrichten wirken, desto weniger dürfen Unternehmen wichtige Entscheidungen von einem einzigen Kommunikationsweg abhängig machen, empfiehlt Neurawork.

Schulungen, Rückrufverfahren und das Vier-Augen-Prinzip sind zentrale Bestandteile der Sicherheitsstrategie. Zugleich können Stress, Zeitdruck oder professionell vorbereitete Täuschungsversuche zu Fehlentscheidungen führen. Deshalb sollten Unternehmen ihre Prozesse so gestalten, dass eine manipulierte Nachricht allein keine Überweisung, keinen Datenabfluss und keinen umfassenden Systemzugriff auslösen kann. Neurawork nennt dafür fünf zentrale Bausteine.

1. Sensible Daten kontrolliert verarbeiten: Vertrauliche Kunden-, Mandanten- und Unternehmensdaten sollten in kontrollierten Umgebungen verarbeitet werden. Unternehmen brauchen Transparenz darüber, wo Daten liegen, wie sie verarbeitet werden und wer darauf zugreifen darf.
2. Rechte konsequent begrenzen: KI-Systeme und KI-Agenten sollten ausschließlich die Berechtigungen erhalten, die sie für ihre konkrete Aufgabe benötigen. Ein System zur Dokumentenanalyse braucht beispielsweise keine Rechte zum Versand von E-Mails, zur Änderung von Bankverbindungen oder zum Löschen von Dateien.
3. Kritische Aktionen menschlich freigeben: Zahlungen, Stammdatenänderungen, die Weitergabe vertraulicher Informationen und neue Zugriffsrechte sollten definierte Freigabeschritte durchlaufen. So bleibt bei besonders sensiblen Vorgängen eine menschliche Kontrollinstanz eingebunden.
4. KI-Agenten in Governance einbinden: KI-Agenten können Daten analysieren und Prozesse vorbereiten. Ihr Handlungsspielraum sollte jedoch durch dokumentierte Zuständigkeiten, Rollen- und Rechtekonzepte und durch Grenzen für automatisierte Entscheidungen festgelegt sein.
5. Aktivitäten protokollieren und überwachen: Unternehmen sollten nachvollziehen können, welche Daten ein KI-System verarbeitet, welche Aktionen ausgelöst und welche Schritte freigegeben wurden. Protokollierung und Überwachung helfen dabei, ungewöhnliche Vorgänge früh zu erkennen und Vorfälle im Nachgang zu rekonstruieren.

IT-Governance von Prof. Dr. Christopher Rentrop Die digitale Transformation verstärkt den Einfluss der Informationstechnologie auf den Unternehmenserfolg erheblich. Damit erhöhen sich auch die Anforderungen an das Führungssystem der IT in den Unternehmen. Hier gilt die einfache Weisheit: Ein ungeeignetes Managementsystem bringt in der Regel schlechtere Entscheidungen mit sich. Wie Sie zielorientiert bestimmen, wer im Unternehmen wie auf IT-relevante Entscheidungen einwirken soll, zeigt Ihnen Christopher Rentrop mit viel Übersicht: Grundlegende Ziele und Erfolgsfaktoren der IT-Governance Gestaltungselemente der IT-Governance: Strukturen und Prozesse, Entscheidungsrechte, relationale Mechanismen u.a. COBIT als Rahmenwerk der IT-Governance Spezifische Entscheidungsdomänen, Handlungsfelder und Verantwortlichkeiten Management, Weiterentwicklung und Erfolgsmessung der IT-Governance Eine prägnante Orientierungshilfe, die Sie Schritt für Schritt zu einer organisationsgerechten Ausgestaltung des Führungssystems der IT leitet.