Regulierung künstlicher Intelligenz: Artificial Intelligence Act der EU

Der Einsatz von Künstlicher Intelligenz soll künftig in der EU mit dem sogenannten AI-Act geregelt werden, um den möglichen Gefahren dieser Technologie zu begegnen. Auch wenn diese Maßnahme aufgrund der unvorhersehbaren Zukunft der KI eher als ein “Work in Progress” betrachtet werden sollte, ist das Regelwerk heute als ein klarer Sieg für die Grundrechte der Europäerinnen und Europäer zu werten. Industrieverbände weisen allerdings daraufhin, dass durch eine solche regulatorische Maßnahme die Innovations- und Wettbewerbsfähigkeit erheblich eingeschränkt wäre. Betroffen wären nicht nur europäische Unternehmen, sondern grundsätzlich alle, die ihre Produkte in Europa vertreiben wollen. Wer Produkte in der EU vermarkten will, bei denen die KI Anwendung findet, sollte daher die Entwicklung solcher regulatorischen Maßnahmen fest im Auge behalten.

Gegenstand der vorläufigen Einigung | Die wichtigsten Änderungen

Im Vergleich zum ursprünglichen Kommissionsvorschlag lassen sich die wichtigsten neuen Elemente der vorläufigen Einigung wie folgt zusammenfassen:

• Überarbeitung des Governance-Systems mit bestimmten Durchsetzungsbefugnissen auf EU-Ebene,
• Erweiterung der Liste der Verbote, jedoch mit der Möglichkeit, den Strafverfolgungsbehörden – vorbehaltlich bestimmter Schutzvorkehrungen – zu erlauben, im öffentlichen Raum biometrische Fernidentifizierung einzusetzen,
• Neue Schutzmaßnahmen zur besseren Sicherung von Rechten: Die Betreiber von Hochrisiko-KI-Systemen verpflichten sich vor der Inbetriebnahme eines KI-Systems, eine Folgenabschätzung in Bezug auf die Grundrechte durchzuführen.

Neuerungen des Governance-Systems

Aufgrund der neuen Vorschriften für GPAI-Modelle werden auf EU-Ebene neue Strukturen und Ämter errichtet. Diese sollen eine effektive Umsetzung und Überwachung der neuen Vorschriften für GPAI-Modelle auf EU-Ebene gewährleisten.

Errichtung des Amtes für Künstliche Intelligenz (KI-Amt)

Die Hauptaufgaben des sogenannten KI-Amtes liegen primär in der Überwachung fortschrittlicher KI-Modelle, der Förderung von Standards und Testverfahren sowie der Durchsetzung der EU-Vorschriften in allen Mitgliedstaaten. Unterstützt wird das KI-Amt durch ein wissenschaftliches Gremium unabhängiger Experten, welches beratend tätig ist und vor allem bei der Bewertung und Klassifizierung von Basismodellen sowie der Einschätzung von Sicherheitsrisiken.

Ausschuss für Künstliche Intelligenz (KI-Ausschuss)

Weiterhin wurde der Ausschuss für Künstliche Intelligenz (KI-Ausschuss) gegründet. Dieser besteht aus den Vertretern der EU-Mitgliedstaaten und soll als Koordinierungsplattform und Beratungsorgan für die Eu-Kommission fungieren.

Beratungsforum für Interessenträger

Interessenträger wie Vertreter der Industrie, KMU, Start-ups, Zivilgesellschaft und Hochschulen/Wissenschaft sollen im Rahmen des Beratungsforums dazu beitragen, technisches Fachwissen zu generieren und dem KI-Ausschuss beratend zur Seite stehen.

Beschlossene Sanktionen bei Verstößen gegen das KI-Gesetz

Auch die Höhe der zu zahlenden Geldstrafen hat sich im Vergleich zum ursprünglichen Kommissionsvorschlag erheblich verändert. So wurden die Geldbußen für Verstöße gegen das KI-Gesetz im Falle eines Verstoßes als Prozentsatz des weltweiten Jahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr bzw. als im Voraus festgelegter Betrag festgelegt – je nachdem, welcher Betrag höher ist. Nach dieser Rechnung ergäbe das 35 Mio. € bzw. 7 % für Verstöße im Zusammenhang mit verbotenen KI-Anwendungen, 15 Mio. € bzw. 3 % für Verstöße gegen die im KI-Gesetz vorgeschriebenen Verpflichtungen und 7,5 Mio. € bzw. 1,5 % für die Bereitstellung von Fehlinformationen. Start-ups sind jedoch nicht davon betroffen, für sie sind verhältnismäßigere Obergrenzen vorgesehen.

Ausblick: Wie geht es mit dem Entwurf zum AI-Act weiter?

Nach der vorläufigen Einigung wird in der nächsten Zeit die Arbeit auf fachlicher Ebene fortgesetzt, um die Einzelheiten der neuen Verordnung fertigzustellen. Anschließend muss der Vorsitz den Vertretern der Mitgliedstaaten (AStV) den Kompromisstext zur Billigung vorlegen. Der gesamte Entwurf muss dann noch vom Rat und vom Parlament bestätigt und von den Rechts- und Sprachsachverständigen überarbeitet werden, bevor er von den beiden gesetzgebenden Organen förmlich angenommen wird. Das KI-Gesetz soll sodann 2 Jahre nach seinem Inkrafttreten zur Anwendung kommen. Angesichts der weitreichenden Konsequenzen für potentiell Betroffene ist eine frühzeitige Klärung aller rechtlichen Fragen im Themenkomplex KI bzw. AI empfehlenswert.

Als multidisziplinäre Full-Service-Kanzlei, in deren Kompetenzbereich das IT-Recht fällt, halten wir Sie gern auf dem Laufenden, was die Regelungen zum Einsatz der Künstlichen Intelligenz und deren praktische Umsetzung betrifft. Sollten Sie weitere Fragen haben, so zögern Sie nicht uns zu kontaktieren.