Das Regelwerk wird einige KI-Anwendungen wie algorithmisches Social Scoring und ausbeuterische Praktiken verbieten und strenge Regeln für andere KI-Systeme festlegen, die in Situationen eingesetzt werden, die als „hochriskant“ gelten, etwa in der Bildung, am Arbeitsplatz oder bei der Verwaltung kritischer Infrastrukturen.
Die fortschrittlichsten KI-Modelle, die als „Allzweckmodelle“ bezeichnet werden, müssen eine Reihe spezifischer Verpflichtungen zur Schadensbegrenzung und zum Testen einhalten. Ihre Einhaltung wird von einer neu geschaffenen Einheit innerhalb der Europäischen Kommission durchgesetzt: dem AI Office.
Das Gesetz wurde erstmals im Jahr 2021 vor der Explosion generativer KI-Tools wie ChatGPT von OpenAI konzipiert; Der Entwurfsprozess wurde durch schwelende Spannungen zwischen europäischen Gesetzgebern und EU-Regierungen, darunter Frankreich und Deutschland, getrübt, da befürchtet wurde, dass eine strenge Regulierung Europas Fortschritt im globalen Wettlauf um die Vorreiterrolle im Bereich der KI behindern könnte. Weitere Streitpunkte waren die Möglichkeit eines umfassenden Verbots der Gesichtserkennungstechnologie – das im endgültigen Text begrenzt, aber nicht verboten ist – und die Struktur des AI Office selbst.
Thierry Breton, Binnenmarktchef der Europäischen Kommission und Ansprechpartner bei den nächtlichen Dreierverhandlungen mit Regierungen und Parlamentariern, sagte im Anschluss an die Abstimmung: „Europa ist jetzt ein globaler Standardsetzer für vertrauenswürdige KI.“
Der EU-Rat wird den Text voraussichtlich im April offiziell verabschieden, wobei das darin enthaltene Verbot Ende 2024 in Kraft tritt und die Regeln für Allzweck-KI Anfang 2025 in Kraft treten. Der Rest des Gesetzes wird ab 2026 in Kraft treten.
In der Zwischenzeit wird ein von der Bretagne geförderter „KI-Pakt“ Unternehmen dabei helfen, sich durch freiwillige Verpflichtungen und Zusagen auf die Einhaltung der Vorschriften vorzubereiten.