Die KI-Verordnung: Neue Compliance-Anforderungen für Unternehmen 

Mit der Verordnung (EU) 2024/1689 über künstliche Intelligenz („KI-Verordnung“ bzw. „AI Act“) hat die Europäische Union erstmals einen umfassenden Rechtsrahmen für die Entwicklung, den Vertrieb und den Einsatz von KI-Systemen geschaffen. Ziel der Verordnung ist es, Innovationen zu fördern und gleichzeitig Risiken für Sicherheit, Gesundheit und Grundrechte zu minimieren. Da Künstliche Intelligenz zunehmend in betrieblichen Prozessen eingesetzt wird, gewinnt die KI-Verordnung auch für Unternehmen mit etablierten Managementsystemen an Bedeutung. 

Die Anforderungen der Verordnung richten sich nicht nur an Entwickler von KI-Systemen, sondern unter bestimmten Voraussetzungen auch an Unternehmen, die KI-Anwendungen nutzen. Insbesondere bei sogenannten Hochrisiko-KI-Systemen bestehen umfangreiche Pflichten hinsichtlich Risikomanagement, Dokumentation, Transparenz und menschlicher Aufsicht. Darüber hinaus gelten bereits seit Februar 2025 Vorschriften zu verbotenen KI-Praktiken sowie Anforderungen an die KI-Kompetenz von Beschäftigten, die mit KI-Systemen arbeiten. 

Für Unternehmen empfiehlt es sich daher, frühzeitig zu prüfen, in welchen Bereichen KI-Anwendungen eingesetzt werden und welche rechtlichen Anforderungen sich hieraus ergeben. Neben spezialisierten KI-Lösungen sollten dabei auch generative KI-Anwendungen berücksichtigt werden, die beispielsweise für Recherchen, Texterstellung, Übersetzungen oder die Auswertung von Dokumenten genutzt werden. 

Aus Sicht von Managementsystemen kann die KI-Verordnung verschiedene bestehende Prozesse berühren. So kann es sinnvoll sein, den Einsatz von KI-Systemen im Rahmen der Compliance-Bewertung zu erfassen, Verantwortlichkeiten festzulegen und erforderliche Schulungen zu dokumentieren. Unternehmen, die bereits über etablierte Managementsysteme nach DIN EN ISO 14001, DIN EN ISO 50001 oder DIN EN ISO 9001 verfügen, können dabei auf bestehende Strukturen zur Ermittlung rechtlicher Anforderungen, zur Kompetenzsicherung und zur Dokumentenlenkung zurückgreifen. 

Auch wenn die KI-Verordnung für viele Unternehmen keine unmittelbaren Hochrisiko-Pflichten auslösen wird, sollte sie als neues Compliance-Thema in bestehende Prozesse zur Bewertung rechtlicher Anforderungen aufgenommen werden. Eine frühzeitige Auseinandersetzung mit den Regelungen hilft, Haftungsrisiken zu minimieren und den verantwortungsvollen Einsatz von Künstlicher Intelligenz im Unternehmen sicherzustellen.