Als erste staatliche Institution stellt sich die Europäische Union der Herausforderung, Richtlinien und Vorschriften im Umgang mit Künstlicher Intelligenz zu schaffen. Der gewählte risikoorientierte Ansatz zielt darauf ab, sowohl Gefahren abzuwenden als auch die Entwicklung von Innovationen zu fördern. Der Artificial Intelligence Act ergänzt dabei die EU-Datenschutz-Grundverordnung (EU-DSGVO). Durch die Risikoorientierung strebt die EU ein ausgewogenes Verhältnis zwischen wirtschaftlichen Chancen, technologischem Fortschritt und dem Schutz der Bürgerrechte an.

Der AI Act unterscheidet zwischen verschiedenen Anwendungsbereichen, darunter

• solche mit geringem oder vernachlässigbarem Risiko (wie erkennbare Chatbots),
• verbotene Anwendungen (z. B. biometrische Kategorisierungen anhand sensibler Merkmale, das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras, algorithmische Bewertungssysteme, Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie der Einsatz von KI, um menschliche Verhaltensweisen und Schwächen auszunutzen),
• Hochrisiko-KI-Systeme, bei denen besondere Verpflichtungen, insbesondere bezüglich Dokumentation, Datenschutz und Transparenz, Voraussetzungen sind, um die Sicherheit, Gesundheit oder die Grundrechte in der EU zu schützen. Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden.

Für Verstöße sind hohe Sanktionen vorgesehen.

Unternehmen müssen sicherstellen, dass bei der Nutzung und Speicherung von Daten die ordnungsgemäße Kategorisierung gewährleistet ist und diese nur für zulässige Zwecke verwendet werden. Selbst vermeintlich kleine Automatisierungsvorgänge können unter den Anwendungsbereich des AI Act fallen.

Die Spezialisten der ETL consit GmbH helfen und beraten bei allen Fragen zu diesem Thema, von der KI-Strategie über den Datenmanagementprozess bis zu Einzelfragen bei Dokumentation, Transparenz und Kontrollverfahren.