Am 2. Februar 2025 ist die KI-Verordnung der EU in Kraft getreten. Diese Verordnung ist die weltweit erste umfassende gesetzliche Regelung für Künstliche Intelligenz. Zur Bewältigung der mit dem Einsatz von KI einhergehenden Herausforderungen waren aus Sicht der EU-Kommission gesetzgeberische Maßnahmen nötig geworden, um einen gut funktionierenden Binnenmarkt für KI-Systeme zu ermöglichen.

Der Einsatz von KI-Systemen bringt einige Vorteile. Dennoch müssen Grundrechte, Sicherheit und Gesundheit bewahrt werden. Die KI-Verordnung der EU verbietet deshalb bestimmte Arten von Anwendungen, die Grundrechte verletzen. Das schließt KI-Systeme ein, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen. Auch KI-basierte Emotionserkennung am Arbeitsplatz, ungezielte Auswertung von Gesichtsbildern oder Bewertung des sozialen Verhaltens gehören zu den verbotenen Praktiken.

Die Einführung von KI-Systemen verspricht große gesellschaftliche Vorteile, mehr Wirtschaftswachstum und Innovation und eine gesteigerte weltweite Wettbewerbsfähigkeit der EU. In bestimmten Fällen können jedoch die besonderen Merkmale bestimmter KI-Systeme neue Risiken in Bezug auf die Sicherheit der Nutzer – auch ihre körperliche Unversehrtheit – und die Wahrung der Grundrechte mit sich bringen. Einige leistungsstarke und weitverbreitete KI-Modelle könnten sogar systemische Risiken bergen.

Dies führt zu Rechtsunsicherheit und – mangels Vertrauens – zu einer möglicherweise langsameren Verwendung von KI-Technik durch Behörden, Unternehmen und Bürger. Unterschiedliche Regulierungsmaßnahmen nationaler Behörden könnten zu einer Fragmentierung des Binnenmarkts führen.

Zur Bewältigung dieser Herausforderungen waren gesetzgeberische Maßnahmen nötig geworden, um einen gut funktionierenden Binnenmarkt für KI-Systeme zu ermöglichen, der sowohl die Vorteile als auch die Risiken angemessen berücksichtigt.

Mehr zur EU KI Verordnung finden Sie hier.