EU AI Act Der EU AI Act ist ein Gesetz der Europäischen Union, das Regeln für den Umgang mit künstlicher Intelligenz (KI) festlegt. Ziel ist es, Risiken zu minimieren, Sicherheit zu garantieren und Vertrauen in KI-Systeme zu schaffen. Das Gesetz unterscheidet dabei zwischen verschiedenen Risikostufen – von geringem bis hin zu unvertretbarem Risiko.
Ein zentrales Prinzip des Gesetzes ist: Je höher das Risiko für die Grundrechte, Gesundheit oder Sicherheit, desto strenger die Vorschriften. Systeme mit "unvertretbarem Risiko", wie z. B. KI zur sozialen Bewertung von Personen (Social Scoring), werden ganz verboten. Andere, wie KI in der Bildung oder im Gesundheitswesen, unterliegen strengeren Prüf- und Transparenzpflichten.
Wer legt die Risikostufen fest?
Die Einordnung der KI-Systeme in Risikoklassen erfolgt durch die Europäische Kommission auf Grundlage des Gesetzes und wird regelmäßig aktualisiert. Dabei orientiert man sich an der Funktion des Systems, dem Einsatzbereich und dem möglichen Einfluss auf Menschen. Zusätzlich können nationale Behörden, etwa in Deutschland die Bundesnetzagentur oder die Datenschutzaufsicht, unterstützend bei der Überwachung und Durchsetzung mitwirken. Beispiel für Deutschland:
Ein KI-System, das Bewerbungen bei der Jobsuche automatisch vorsortiert – wie es bei manchen großen Unternehmen in Deutschland eingesetzt wird – fällt unter den EU AI Act. Wenn dieses System diskriminierend arbeitet, z. B. Bewerbungen aufgrund des Geschlechts oder der Herkunft benachteiligt, ist das ein hohes Risiko. Solche Systeme müssen nach dem Gesetz besonders geprüft und dokumentiert werden, damit sie fair und nachvollziehbar bleiben.
Bei Verstößen gegen den EU AI Act drohen teils erhebliche Sanktionen und Geldbußen – ähnlich wie bei der Datenschutz-Grundverordnung (DSGVO). Ziel ist es, sicherzustellen, dass sich Unternehmen und Behörden an die Regeln halten und verantwortungsvoll mit KI umgehen.
Konsequenzen bei Verstößen im Überblick:
-
Bußgelder
Je nach Schwere des Verstoßes können Strafen von bis zu:
-
35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist) verhängt werden – z. B. bei Verwendung verbotener KI-Systeme.
-
20 Millionen Euro oder 4 % des weltweiten Umsatzes bei Verstößen gegen Vorschriften für Hochrisiko-Systeme (z. B. unzureichende Sicherheitsmaßnahmen oder fehlende Transparenz).
-
10 Millionen Euro oder 2 % des Umsatzes bei Verstößen gegen Dokumentations- oder Mitwirkungspflichten.
-
Anordnung zur Einstellung der Nutzung
Die Behörden können den weiteren Einsatz eines rechtswidrigen KI-Systems untersagen oder den Rückruf des Produkts anordnen.
-
Image- und Vertrauensverlust
Insbesondere für Unternehmen kann ein Verstoß auch zu Vertrauensverlust bei Kundinnen und Kunden sowie zu Reputationsschäden führen.
-
Haftung und Schadensersatz
Wenn durch ein KI-System ein Mensch zu Schaden kommt (z. B. durch Diskriminierung oder falsche Entscheidungen), kann das Unternehmen haftbar gemacht werden – auch zivilrechtlich.
| 
Ein gemeinsames Wissensglossar entwickeln