Künftig müssen KI-Anwendungen je nach Risiko, das von ihnen ausgeht, unterschiedlich hohe Anforderungen erfüllen, nennt der TÜV-Verband als zentralen Aspekt. Es sei positiv, dass auch besonders leistungsstarke KI-Basismodelle nicht von der Regulierung ausgenommen sind. Dazu zählt auch General Purpose AI wie ChatGPT. Über diesen Punkt war bis zum Schluss der Verhandlungen kontrovers diskutiert worden. Der Druck von Lobbys und Unternehmen, General Purpose AI nicht zu regulieren, sei enorm gewesen, heißt es aus Verhandlungskreisen. Nun sollen diese Grundlagenmodelle in zwei Risikoklassen eingeteilt werden und besondere Pflichten erfüllen, etwa bei der Weitergabe von Informationen, bei der Risikoanalyse und beim Dokumentieren der Daten, mit denen die KI trainiert wird.

Der jetzt verabschiedete AI Act teilt KI-Anwendungen in vier Risikoklassen ein. Die große Mehrheit der KI-Anwendungen wird als niedriges Risiko eingestuft, für die keinerlei Anforderungen gelten. KI-Systeme mit einem nicht akzeptablen Risiko wie Social-Scoring-Systeme werden dagegen komplett verboten. KI-Systeme mit einem begrenzten Risiko wie einfache Chatbots müssen bestimmte Transparenz- und Kennzeichnungspflichten erfüllen. Für KI-Anwendungen mit einem hohen Risiko, zum Beispiel in kritischen Infrastrukturen, in Bewertungssystemen im Personalwesen und für die Beurteilung der Kreditwürdigkeit, gelten strengere Sicherheitsanforderungen. Dazu zählen die Anforderungen in Bezug auf Nachvollziehbarkeit, Risikomanagement und Cybersicherheit.

Inwiefern KI im öffentlichen Raum etwa bei der Strafverfolgung zum Einsatz kommen darf, wurde kontrovers diskutiert. Das EU-Parlament wollte automatisierte Gesichtserkennung verbieten, doch viele Mitgliedsstaaten stemmten sich gegen ein mögliches Verbot. Die biometrische Identifizierung soll nun grundsätzlich möglich sein, wenn auch in engen Grenzen.

„Diese EU-Verordnung wird eine Blaupause für die weltweite Regulierung sein“, kommentiert die Wirtschaftskanzlei CMS den Abschluss des AI Acts. Die Anforderungen an die Dokumentation stiegen enorm. Mittelfristig würden sich die Anbieter durchsetzen, die Compliance-by-Design berücksichtigen. Die übrigen würden vom Markt verschwinden.

fab

ChatGPT in der Unternehmenspraxis Autor: Wolfhart Fabarius Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius.