EU AI Act (2021)
Contents
EU AI Act (2021)#
Diese Seite: zusammenfassendes Paste & Copy aus den Dokumenten des EU AI Act, Stand Vorschlag 2021
Suche auf https://eur-lex.europa.eu/ nach “ARTIFICIAL+INTELLIGENCE ACT”:
Backlink: https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52021PC0206
Dokument 1#
Brüssel, den 21.4.2021, COM(2021) 206 final, 2021/0106 (COD), https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52021PC0206
5.2. Ausführliche Erläuterung einzelner Bestimmungen des Vorschlags (S.14ff)#
5.2.1. ANWENDUNGSBEREICH UND BEGRIFFSBESTIMMUNGEN (TITEL I#
Titel I enthält den Gegenstand der Verordnung und den Anwendungsbereich der neuen Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI- Systemen. Er enthält auch die Begriffsbestimmungen, die in diesem Rechtsinstrument durchweg verwendet werden.
5.2.2. VERBOTENE PRAKTIKEN IM BEREICH DER KÜNSTLICHEN INTELLIGENZ (TITEL II) (14)#
Titel II enthält eine Liste verbotener KI-Praktiken. Die Verordnung verfolgt einen risikobasierten Ansatz, bei dem zwischen Anwendungen von KI unterschieden wird, die ein i) unannehmbares Risiko, ii) ein hohes Risiko und iii) ein geringes oder minimales Risiko darstellen. Die Aufstellung der verbotenen Praktiken in Titel II umfasst alle KI-Systeme, die als unannehmbar gelten, weil sie Werte der Union, beispielsweise Grundrechte, verletzen.
5.2.3. HOCHRISIKO-KI-SYSTEME (TITEL III)#
Titel III enthält spezifische Vorschriften für KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen. Entsprechend dem risikobasierten Ansatz sind solche Hochrisiko-KI-Systeme auf dem europäischen Markt zugelassen, sofern sie bestimmten zwingend vorgeschriebenen Anforderungen genügen und vorab eine Konformitätsbewertung durchgeführt wird.
Kapitel 1: Einstufungsregeln; Hauptkategorien:#
Sicherheitskomponenten von Produkten, die einer VorabKonformitätsbewertung durch Dritte unterliegen
sonstige eigenständige KI-Systeme, die ausdrücklich in Anhang III genannt werden und sich vor allem auf die Grundrechte auswirken
.
* Artikel 6: Klassifizierungsvorschriften für Hochrisiko-KI-Systeme
* Artikel 7: Änderungen des Anhangs III
Kapitel 2: rechtliche Anforderungen Hochrisiko-KI-Systeme#
Daten, Daten-Governance
Dokumentation und das Führen von Aufzeichnungen,
Transparenz und Bereitstellung von Informationen für die Nutzer,
menschliche Aufsicht,
Robustheit, Genauigkeit und Sicherheit
.
* Artikel 8: Einhaltung der Anforderungen
* Artikel 9: Risikomanagementsystem
* Artikel 10: Daten und Daten-Governance
* Artikel 11: Technische Dokumentation
* Artikel 12: Aufzeichnungspflichten
* Artikel 13: Transparenz und Bereitstellung von Informationen für die Nutzer
* Artikel 14: Menschliche Aufsicht
* Artikel 15: Genauigkeit, Robustheit und Cybersicherheit
Kapitel 3: horizontale Pflichten#
für Anbieter von Hochrisiko-KI-Systemen
für Nutzer
und andere Beteiligte entlang der KI-Wertschöpfungskette (z.B. Einführer, Händler, Bevollmächtigte)
.
* Artikel 16: Pflichten der Anbieter von Hochrisiko-KI-Systemen
* Artikel 17: Qualitätsmanagementsystem
* Artikel 18: Pflicht zur Erstellung der technischen Dokumentation
* Artikel 19: Konformitätsbewertung
* Artikel 20: Automatisch erzeugte Protokolle
* Artikel 21: Korrekturmaßnahmen
* Artikel 22: Informationspflicht
* Artikel 23: Zusammenarbeit mit den zuständigen Behörden
* Artikel 24: Pflichten der Produkthersteller
* Artikel 25: Bevollmächtigte
* Artikel 26: Pflichten der Einführer
* Artikel 27: Pflichten der Händler
* Artikel 28: Pflichten der Händler, Einführer, Nutzer oder sonstiger Dritter
* Artikel 29: Pflichten der Nutzer von Hochrisiko-KI-Systemen
Kapitel 4: Einbeziehung notifizierter Stellen als unabhängige Dritte in die Konformitätsbewertungsverfahren#
Kapitel 5: Konformitätsbewertungsverfahren im Einzelnen#
Hochrisiko-KI-Systeme … Anhang III … ein neues Rechtsbefolgungs- und Durchsetzungssystem … Damit eigenständige Hochrisiko-KI-Systeme mittels interner Prüfungen bewertet werden können, muss die Einhaltung aller Anforderungen der Verordnung vorab vollständig, wirkungsvoll und sorgfältig dokumentiert werden, ferner gilt es, robuste Qualitäts- und Risikomanagementsysteme zu befolgen und eine Beobachtung nach dem Inverkehrbringen zu gewährleisten. (S.16f)
5.2.4. TRANSPARENZPFLICHTEN FÜR BESTIMMTE KI-SYSTEME (TITEL VI)#
Titel IV befasst sich mit spezifischen Manipulationsrisiken bestimmter KI-Systeme.
Transparenzpflichten gelten für Systeme, die
i) mit Menschen interagieren,
ii) zur Erkennung von Emotionen oder zur Assoziierung (gesellschaftlicher) Kategorien anhand biometrischer Daten eingesetzt werden oder
iii) Inhalte erzeugen oder manipulieren („Deepfakes“).
Artikel 52: Transparenzpflichten für bestimmte KI-Systeme
5.2.5. MAẞNAHMEN ZUR INNOVATIONSFÖRDERUNG (TITEL V)#
Titel V wurde im Hinblick auf das Ziel aufgenommen, einen innovationsfreundlichen, zukunftstauglichen und widerstandsfähigen Rechtsrahmen zu schaffen. Hierzu werden die nationalen zuständigen Behörden aufgefordert, Reallabore einzurichten und die grundlegenden Bedingungen für die Leitung, Aufsicht und Haftung festzulegen. KI- Reallabore bieten, auf der Grundlage eines mit den zuständigen Behörden vereinbarten Testplans, für eine begrenzte Zeit kontrollierte Testumgebungen für innovative Technologien. Titel V enthält zudem Maßnahmen zur Reduzierung des Verwaltungsaufwands für KMU und Start-ups.
* Artikel 53: KI-Reallabore
* Artikel 54: Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
* Artikel 55: Maßnahmen für Kleinanbieter und Kleinnutzer
5.2.6. LEITUNG UND DURCHFÜHRUNG (TITEL VI, VII UND VII)#
Titel VI enthält Vorgaben für die Leitungsstrukturen auf Unionsebene und nationaler Ebene.
Titel VII soll durch die Einrichtung einer unionsweiten Datenbank für eigenständige Hochrisiko-KI-Systeme, die sich vor allem auf die Grundrechte auswirken,
Titel VIII enthält die Beobachtungs- und Meldepflichten für die Anbieter von KI-Systemen
Kapitel 1: Beobachtung nach dem Inverkehrbringen#
* Artikel 61: Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme
Kapitel 2: Austausch von Informationen über Vorfälle und Fehlfunktionen#
* Artikel 62: Meldung schwerwiegender Vorfälle und Fehlfunktionen
Kapitel 3: Durchsetzung#
* Artikel 63: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
* Artikel 64: Zugang zu Daten und zur Dokumentation
* Artikel 65: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene bergen
* Artikel 66: Schutzklauselverfahren der Union
* Artikel 67: Konforme KI-Systeme, die ein Risiko bergen
* Artikel 68: Formale Nichtkonformität
5.2.7. VERHALTENSKODIZES (TITEL IX)#
Titel IX enthält die Grundlagen zur Schaffung von Verhaltenskodizes, die Anbietern von KI- Systemen, die kein hohes Risiko darstellen, Anreize geben sollen, die zwingend vorgeschriebenen Anforderungen an Hochrisiko-KI-Systeme (nach Titel III) freiwillig anzuwenden.
freiwillige Verpflichtungen beispielsweise im Hinblick auf
ökologische Nachhaltigkeit,
Zugang für Personen mit Behinderungen,
Beteiligung von Interessenträgern an Entwurf und Entwicklung von KI-Systemen
Diversität des Entwicklungsteams
5.2.8. SCHLUSSBESTIMMUNGEN (TITEL X, XI UND XII)#
Titel X … Vertraulichkeit der Informationen und Daten … auch Maßnahmen, mit denen durch wirksame, verhältnismäßige und abschreckende Strafen bei Verstößen gegen die Bestimmungen eine effiziente Durchführung der Verordnung gewährleistet werden soll.
Titel XI … enthält die Regeln für die Ausübung der Befugnisübertragung und der Durchführungsbefugnisse.
Titel XII enthält die Pflicht der Kommission, regelmäßig zu bewerten, ob Anhang III aktualisiert werden muss, und regelmäßig Berichte über die Bewertung und Überprüfung der Verordnung vorzulegen.
Dokument 2#
Brüssel, den 21.4.2021, COM(2021) 206 final, ANNEXES 1 to 9,
ANHANG I: TECHNIKEN UND KONZEPTE DER KÜNSTLICHEN INTELLIZENZ gemäß Artikel 3 Absatz 1 (S.1)
Veranstaltung etki, WS 2023: Komplett klausurrelevent
a) Konzepte des maschinellen Lernens mit
beaufsichtigtem,
unbeaufsichtigtem und
bestärkendem Lernen
unter Verwendung einer breiten Palette von Methoden,
einschließlich des tiefen Lernens (Deep Learning);
b) Logik- und wissensgestützte Konzepte, einschließlich
Wissensrepräsentation,
induktiver (logischer) Programmierung,
Wissensgrundlagen,
Inferenz- und Deduktionsmaschinen,
(symbolischer) Schlussfolgerungs- und Expertensysteme;
c) Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden.
ANHANG II: LISTE DER HARMONISIERUNGSRECHTSVORSCHRIFTEN DER UNION
ANHANG III: HOCHRISIKO-KI-SYSTEME GEMÄẞ ARTIKEL 6 ABSATZ 2 (S.5)
Veranstaltung etki, WS 2023: Komplett klausurrelevent
ANHANG IV: TECHNISCHE DOKUMENTATION GEMÄẞ ARTIKEL 11 ABSATZ 1 (S.8)
Veranstaltung etki, WS 2023: Komplett klausurrelevent
ANHANG V: EU-KONFORMITÄTSERKLÄRUNG (S.10)
ANHANG VI: KONFORMITÄTSBEWERTUNGSVERFAHREN AUF DER GRUNDLAGE EINER INTERNEN KONTROLLE (S.11)
ANHANG VII: KONFORMITÄT AUF DER GRUNDLAGE DER BEWERTUNG DES QUALITÄTSMANAGEMENTSYSTEMS UND DER BEWERTUNG DER TECHNISCHEN DOKUMENTATION (S.12)
ANHANG VIII: BEI DER REGISTRIERUNG DES HOCHRISIKO-KI-SYSTEMS GEMÄẞ ARTIKEL 51 BEREITZUSTELLENDE INFORMATIONEN (S.15)
ANHANG IX: RECHTSVORSCHRIFTEN DER UNION ÜBER IT-GROẞSYSTEME IM RAUM DER FREIHEIT, DER SICHERHEIT UND DES RECHTS (S.16)