Zu dieser Einschätzung kommt Dr. Harald Schönfeld, Geschäftsführer von United Interim, einer Community für Interim Manager mit Sitz in der Schweiz. Nach seiner Beobachtung stoßen Interim Manager in Unternehmen oft auf eine „um sich greifende Schatten-KI“.

Teilweise würden längst KI-Tools wie ChatGPT im großen Stil für E-Mails, Kundenbriefe, betriebliche Analysen oder Zusammenfassungen für das Management eingesetzt. Für die Firmen könne das Probleme etwa in Bezug auf Compliance, Datenschutz, Datensicherheit und Schutz von Betriebsgeheimnissen aufwerfen, ohne dass sich die Führungsspitze dessen bewusst ist.

Auf Basis von Gesprächen mit Interim Managerinnen und Managern, die an KI-Projekten in der Wirtschaft beteiligt sind, schätzt Schönfeld, dass mehr als die Hälfte aller Büroangestellten in Deutschland „in der einen oder anderen Form“ KI im Arbeitsalltag einsetzt. Je höher die Position, desto stärker sei die KI-Nutzung.

„An der Firmenspitze wird häufig die enorme Gefahr übersehen, die heute schon durch den teilweise breitflächigen KI-Einsatz an vielen Büroarbeitsplätzen heranwächst“, sagt Schönfeld. Beispielsweise verstoße das Hochladen von Kundendaten gegen die Datenschutz-Grundverordnung, die Generierung neuer Texte verrate anhand vorhandener Dokumente unbeabsichtigt Betriebsgeheimnisse, die KI-Nutzung als Grundlage für Bewertungen oder Entscheidungen führe zu ethisch bedenklichen Ergebnissen, ohne dass es zunächst auffalle.

Die aktuelle KI-Regulierung der Europäischen Union durch den AI Act laufe bei Schatten-KI weitgehend ins Leere. „Wenn die Marketingabteilung Kundendaten in eine KI hochlädt, um darauf basierend gut formulierte Anschreiben an die Kundschaft zu verschicken, mag dies zwar keinen Verstoß gegen den AI Act darstellen, aber sicherlich gegen die Datenschutz-Grundverordnung. Und wenn die HR-Abteilung Bewerberprofile durch die KI prüfen und bewerten lässt, verstößt dies über den AI Act hinaus gegen weitere Rechtsgrundsätze“, nennt Schönfeld als Risiken.

Bitkom hat jetzt einen Leitfaden veröffentlicht, der auf die wesentlichen rechtlichen Fragen beim Einsatz generativer Künstlicher Intelligenz in Unternehmen eingeht. Nach einer Einführung in die technischen Grundlagen und Anwendungsmöglichkeiten generativer KI erörtern die Autorinnen und Autoren rechtliche Aspekte bei der Beschaffung von Künstlicher Intelligenz und geben eine Checkliste dazu an die Hand.

ChatGPT in der Unternehmenspraxis von Wolfhart Fabarius Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius.