Die europäische KI-Verordnung (EU AI Act) ist seit August 2024 in Kraft und wird stufenweise wirksam. Für Unternehmen, die KI nutzen, sind aktuell vor allem diese Punkte relevant:
- KI-Kompetenz (Art. 4)
- Art. 4 gilt seit dem 2. Februar 2025. Seit dem Digital Omnibus (Verordnung (EU) 2026/1744) müssen Arbeitgeber die KI-Kompetenz ihrer Beschäftigten fördern und dokumentieren. Ein bestimmtes Niveau je Person oder ein Zertifikat ist nicht vorgeschrieben, nachvollziehbare Schulung und Dokumentation sind aber sinnvoll.
- Verbotene Praktiken
- Bestimmte Anwendungen, etwa manipulative Systeme oder Social Scoring, sind seit Februar 2025 untersagt.
- Transparenz
- Wer Menschen mit KI interagieren lässt, etwa per Chatbot oder Voice Agent, muss darauf hinweisen. Das gilt auch für bestimmte KI-erzeugte Inhalte.
- Hochrisiko-Systeme
- Anwendungen etwa in Personalauswahl oder Kreditwürdigkeitsprüfung unterliegen strengen Anforderungen. Der Digital Omnibus hat diese Pflichten auf den 2. Dezember 2027 (eigenständige Systeme, Anhang III) und den 2. August 2028 (KI in regulierten Produkten) verschoben.
Die meisten mittelständischen Anwendungsfälle wie Textentwürfe, Wissenssuche oder Prozessautomatisierung fallen nicht in die Hochrisiko-Klasse. Das sollte man aber dokumentiert begründen können, statt es nur anzunehmen.