Es war ein langer Weg: Am gestrigen 21. Mai 2024 haben die Mitgliedsstaaten der Europäischen Union nun im Europäischen Rat den AI-Act gebilligt. Er kann nun in Kraft treten, sobald er im EU-Amtsblatt veröffentlicht wurde. Doch was bedeutet das genau? Einen kurzen Überblick dazu bietet die IHK Region Stuttgart.

Was ist der AI-Act?
Der AI-Act (Artificial Intelligence Act) ist ein Gesetz, mit dem die Europäische Union Künstliche Intelligenz (KI) regulieren will.
Welches Ziel hat der AI-Act?
Mit dem Gesetz sollen die gesetzlichen Bestimmungen über den Umgang mit Künstlicher Intelligenz EU-weit vereinheitlicht werden. Das Potenzial Künstlicher Intelligenz ist enorm und birgt für die Wirtschaft und Gesellschaft große Vorteile – von der besseren Ressourcennutzung bis zur Verbesserung von Prognosen und der Personalisierung von Dienstleistungen. Gleichzeitig bergen diese KI-Faktoren, die einen sozioökonomischen Nutzen erbringen, aber auch neue Gefahren und Nachteile für die Gesellschaft. So können KI-Systeme, die mit unzureichenden oder falschen Daten gespeist oder trainiert werden, zu falschen Ergebnissen kommen und Fehlentscheidungen treffen. Mit dem AI-Act will die EU erreichen, dass die Entwicklung von KI im Einklang mit den Werten, Grundrechten und Prinzipien der EU geschieht. „Die Vorschriften sollen die Entwicklung, den Einsatz und die Nutzung von menschenzentrierten, vertrauenswürdigen KI-Systemen in der EU regeln und Gesundheit, Umwelt, Sicherheit, Grundrechte und Demokratie vor schädlichen Folgen schützen“, heißt es dazu vom EU-Parlament.
Für wen ist der AI-Act wichtig? Und für wen nicht?
• Anbieter (auch aus Drittländern), die KI-Systeme in der Europäischen Union in Verkehr bringen oder in Betrieb nehmen
• Nutzer von KI-Systemen innerhalb der EU
• Anbieter und Nutzer von KI-Systemen außerhalb der EU, wenn das vom System hervorgebrachte Ergebnis in der EU verwendet wird
Es gibt auch Ausnahmen, die nicht vom AI-Act betroffen sind:
• KI-Systeme für ausschließlich militärische Zwecke
• Internationale Organisationen die KI-Systeme für die Strafverfolgung in Zusammenarbeit mit der EU oder mindestens einem Mitgliedstaat nutzen
• Forschungs- und Entwicklungsaktivitäten zu KI-Systemen
• Open-Source-Software unterliegt im Allgemeinen nicht der Regulierung, es sei denn, es handelt sich um verbotene oder hochriskante KI-Systeme
Wie wird KI im Rahmen des AI-Act definiert?
KI-Systeme müssen laut AI-Act mit einer der gängigen KI-Techniken entwickelt worden sein und „[…] im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen [können], die das Umfeld beeinflussen, mit dem sie interagieren.“
Welche KI ist vom AI-Act betroffen?
Das Gesetz ist darauf ausgelegt, nur KI-Systeme mit hohem Risiko für die Allgemeinheit strengen Vorschriften zu unterlegen oder zu verbieten. Für die meisten KI-Systeme gilt dies nicht. Für sie gibt es keine Vorschriften oder nur Transparenzpflichten. Anhand von vier Risikogruppen wird bestimmt, welche Vorschriften für welche KI-Systeme gelten. In welche Kategorie ein KI-System fällt, lässt sich mit dem EU AI Act Compliance Checker herausfinden.
Vier Risikoklassen
Der AI-Act unterscheidet vier verschiedene Risikoklassen, die jeweils mit unterschiedlichen rechtlichen Vorgaben verknüpft sind. Je größer das potenzielle Risiko bei der Verwendung eines KI-Systems ist, desto umfangreicher sind die damit verbundenen rechtlichen Anforderungen. Dazu gehören Risikobewertungen, Dokumentationspflichten, EU-Konformitätserklärungen sowie die Überwachung durch den Betreiber.
Unterstützung für KMUs und Startups
Um europäische Start-ups und KMUs bei der Entwicklung konformer KI-Systeme zu unterstützen, sollen sogenannte KI-Reallabore entstehen. In ihnen sollen KI-Systeme unabhängig und unter Regulierungsaufsicht entwickelt und getestet werden können, bevor sie auf den Markt kommen. Die KI-Reallabore sollen alle relevanten Akteure – öffentliche und private, einschließlich notifizierter Stellen, Normungsorganisationen und Forschungseinrichtungen – einbeziehen und für KMUs und Startups grundsätzlich kostenfrei sein.
red