Question 1

Was ist der EU AI Act?

Accepted Answer

Der EU AI Act ist die Verordnung (EU) 2024/1689 über Künstliche Intelligenz und der erste umfassende Rechtsrahmen für KI in der Europäischen Union. Er regelt das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und verfolgt einen risikobasierten Ansatz.

Question 2

Was ist der Unterschied zwischen EU AI Act, KI-Verordnung und KI-Gesetz?

Accepted Answer

EU AI Act und KI-Verordnung bezeichnen dasselbe europäische Regelwerk. Das deutsche KI-Gesetz (KI-Durchführungsgesetz) wird die KI-Verordnung in Deutschland flankieren und insbesondere Zuständigkeiten, Marktüberwachung und nationale Besonderheiten regeln. Daneben bleiben DSGVO, BDSG sowie arbeits- und urheberrechtliche Vorschriften anwendbar.

Question 3

Für wen gilt der EU AI Act?

Accepted Answer

Der EU AI Act gilt für Anbieter, Betreiber, Einführer und Händler von KI-Systemen sowie für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Er gilt auch für Unternehmen mit Sitz außerhalb der EU, wenn sie KI-Systeme in der EU in Verkehr bringen oder deren Ergebnisse in der EU verwendet werden.

Question 4

Ab wann gilt der EU AI Act?

Accepted Answer

Der EU AI Act tritt schrittweise in Kraft. Verbotene KI-Praktiken und die Pflicht zur KI-Kompetenz nach Art. 4 KI-VO sind besonders früh anwendbar. Pflichten für General Purpose AI und für Hochrisiko-KI-Systeme folgen in weiteren Stufen. Unternehmen sollten frühzeitig prüfen, welche Übergangsfristen für ihre konkreten KI-Anwendungen gelten.

Question 5

Welche Risikoklassen kennt der EU AI Act?

Accepted Answer

Der EU AI Act unterscheidet zwischen verbotenen KI-Praktiken, Hochrisiko-KI-Systemen, KI-Systemen mit Transparenzpflichten, KI-Modellen mit allgemeinem Verwendungszweck (mit und ohne systemisches Risiko) sowie KI-Anwendungen mit minimalem Risiko.

Question 6

Was sind verbotene KI-Praktiken?

Accepted Answer

Verbotene KI-Praktiken sind besonders gravierende Anwendungen, etwa bestimmte manipulative Techniken, das Ausnutzen besonderer Schutzbedürftigkeit, Social Scoring durch Behörden, ungezielte Erfassung von Gesichtsbildern aus dem Internet oder bestimmte Formen biometrischer Kategorisierung. Diese Anwendungen dürfen weder angeboten noch eingesetzt werden.

Question 7

Was ist ein Hochrisiko-KI-System?

Accepted Answer

Hochrisiko-KI sind KI-Systeme, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben können. Dazu gehören bestimmte KI-Anwendungen in den Bereichen Personal, Bildung, Kreditwürdigkeit, kritische Infrastruktur, Strafverfolgung, Migration oder als Sicherheitsbauteil bestimmter Produkte. Anbieter und Betreiber unterliegen besonders strengen Pflichten.

Question 8

Welche Pflichten haben Anbieter von Hochrisiko-KI?

Accepted Answer

Anbieter müssen unter anderem ein Risikomanagementsystem einrichten, Anforderungen an Daten-Governance und Trainingsdaten einhalten, technische Dokumentation erstellen, Logging ermöglichen, Transparenzinformationen bereitstellen, menschliche Aufsicht ermöglichen sowie Genauigkeit, Robustheit und Cybersicherheit gewährleisten. Vor Inverkehrbringen ist regelmäßig eine Konformitätsbewertung durchzuführen.

Question 9

Welche Pflichten haben Betreiber von Hochrisiko-KI?

Accepted Answer

Betreiber müssen Hochrisiko-KI bestimmungsgemäß einsetzen, die Anweisungen des Anbieters befolgen, menschliche Aufsicht sicherstellen, Eingabedaten in ihrem Verantwortungsbereich kontrollieren, Protokolle aufbewahren, Betroffene informieren und Vorfälle melden. In bestimmten Fällen ist eine Grundrechte-Folgenabschätzung (FRIA) erforderlich.

Question 10

Was ist eine Grundrechte-Folgenabschätzung (FRIA)?

Accepted Answer

Die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO ist eine strukturierte Bewertung der Auswirkungen eines Hochrisiko-KI-Systems auf Grundrechte. Sie ist insbesondere von Einrichtungen des öffentlichen Rechts und bestimmten privaten Akteuren vor der erstmaligen Nutzung bestimmter Hochrisiko-KI-Systeme durchzuführen.

Question 11

Was bedeutet KI-Kompetenz nach Art. 4 KI-VO?

Accepted Answer

Nach Art. 4 KI-VO müssen Anbieter und Betreiber sicherstellen, dass Personen, die mit Betrieb und Nutzung von KI-Systemen betraut sind, über ausreichende KI-Kompetenz verfügen. Maßgeblich sind die konkrete Tätigkeit, die eingesetzten Systeme und die betroffenen Personen. Schulungs- und Sensibilisierungskonzepte sind in der Praxis ein zentraler Baustein der Umsetzung.

Question 12

Was sind General Purpose AI Modelle (GPAI)?

Accepted Answer

General Purpose AI Modelle sind KI-Modelle mit allgemeinem Verwendungszweck, die für eine Vielzahl unterschiedlicher Aufgaben verwendet werden können, etwa große Sprach- oder Bildmodelle. Für ihre Anbieter gelten besondere Pflichten, insbesondere zu technischer Dokumentation, Informationen für nachgelagerte Anbieter sowie Urheberrecht und Trainingsdaten.

Question 13

Wann gilt ein GPAI-Modell als systemisch riskant?

Accepted Answer

Ein GPAI-Modell mit systemischem Risiko liegt vor, wenn es besonders leistungsfähig ist und erhebliche Auswirkungen auf den EU-Markt haben kann. Maßgeblich sind insbesondere die für das Training aufgewendete Rechenleistung und weitere durch die Verordnung definierte Kriterien. Solche Modelle unterliegen zusätzlichen Pflichten zu Modellbewertung, Risikoanalyse und Berichterstattung.

Question 14

Welche Transparenzpflichten enthält der EU AI Act?

Accepted Answer

Transparenzpflichten bestehen etwa, wenn Personen mit einem KI-System interagieren (z. B. Chatbots), bei Emotionserkennung, biometrischer Kategorisierung oder bei der Erzeugung von Deepfakes und KI-generierten Inhalten. Nutzer und Betroffene müssen erkennen können, dass sie mit KI interagieren oder dass Inhalte künstlich erzeugt oder manipuliert wurden.

Question 15

Wie verhält sich der EU AI Act zur DSGVO?

Accepted Answer

Der EU AI Act ergänzt die DSGVO, ersetzt sie aber nicht. Werden mit KI personenbezogene Daten verarbeitet, gelten die Anforderungen der DSGVO unverändert weiter, etwa zu Rechtsgrundlage, Transparenz, Betroffenenrechten und Datenschutz-Folgenabschätzung. Beide Regelwerke sollten in der Praxis integriert geprüft werden.

Question 16

Welche Bußgelder drohen bei Verstößen gegen den EU AI Act?

Accepted Answer

Verstöße gegen verbotene KI-Praktiken können mit Bußgeldern bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet werden. Andere Verstöße können bis zu 15 Mio. EUR oder 3 % des Umsatzes betragen, Verstöße im Zusammenhang mit unrichtigen Angaben bis zu 7,5 Mio. EUR oder 1 %. Hinzu kommen mögliche zivilrechtliche Ansprüche.

Question 17

Welche Aufsichtsbehörden sind in Deutschland zuständig?

Accepted Answer

Die nationale Aufsichtsstruktur wird durch das deutsche KI-Gesetz konkretisiert. Voraussichtlich wirken mehrere Behörden zusammen, insbesondere im Bereich Marktüberwachung, Datenschutz und sektorale Aufsicht. Wir beobachten die Entwicklung und beraten Unternehmen zur jeweils zuständigen Behörde sowie zu Auskunfts- und Mitwirkungspflichten.

Question 18

Was müssen Unternehmen jetzt tun, um sich auf den EU AI Act vorzubereiten?

Accepted Answer

Sinnvolle erste Schritte sind eine KI-Inventarisierung, die Risikoklassifizierung der eingesetzten KI-Systeme, die Klärung der eigenen Rolle als Anbieter oder Betreiber, der Aufbau einer AI Governance mit KI-Richtlinien, die Sicherstellung der KI-Kompetenz der Mitarbeitenden sowie die Anpassung von Verträgen mit KI-Anbietern. Wir entwickeln dafür praxistaugliche Roadmaps.

Question 19

Gilt der EU AI Act auch für kleine und mittlere Unternehmen?

Accepted Answer

Ja. Der EU AI Act gilt grundsätzlich unabhängig von der Unternehmensgröße. Für KMU und Start-ups sind allerdings bestimmte Erleichterungen vorgesehen, etwa bei der Konformitätsbewertung und beim Zugang zu Reallaboren (AI Regulatory Sandboxes). Trotzdem sollten auch KMU frühzeitig prüfen, welche Pflichten sie konkret treffen.

Question 20

Wie unterstützt @legal bei der Umsetzung des EU AI Act?

Accepted Answer

Wir begleiten Unternehmen von der KI-Inventarisierung über die Risikoklassifizierung bis zum Aufbau einer praxistauglichen AI Governance. Dazu gehören Vertragsgestaltung mit KI-Anbietern, KI-Richtlinien, Schulungskonzepte zur KI-Kompetenz, Datenschutz- und Grundrechte-Folgenabschätzungen sowie die Vertretung in aufsichtsbehördlichen Verfahren rund um den EU AI Act und das KI-Gesetz.

EU AI Act & KI-Verordnung

Spezialwissen, das im Detail entscheidet.

EU AI Act umsetzen: Rechtssicherer Einsatz Künstlicher Intelligenz im Unternehmen

Was wir konkret für Sie tun.

Einordnung & Compliance unter dem EU AI Act

Pflichten für Hochrisiko-KI & Transparenz

KI-Governance, Verträge & Behördenverfahren

Vertieft. Geordnet. Durchdacht.

Antworten, bevor Sie fragen.

Persönliche Mandatsführung.

Hendrik Schade

Markus Timm

Aktuelle Beiträge & Insights zum Thema.