Rechtsgebiet
Künstliche Intelligenz
Vor jeder Pflicht steht die Einstufung des Systems in die Kategorien der KI-VO. Diese unterscheidet verbotene Praktiken, Hochrisiko-Systeme und alles Übrige. Daneben stehen die Modelle mit allgemeinem Verwendungszweck als eigene Kategorie. Ebenfalls relevant ist die Rolle als Anbieter oder Betreiber.
Vor jeder Pflicht steht die Einstufung
Welche Pflichten ein System auslöst, entscheidet sich nach dessen Einstufung unter der KI-VO. Die Verordnung ordnet nicht nach Technik und nicht nach Anbieter, sondern nach dem Risiko der Verwendung.
Drei der vier Einträge ordnen ein System nach seinem Risiko. Der dritte ist keine Klasse, und dort verrutscht die Einordnung meistens.
Drei Klassen für Systeme, daneben die Modelle
Verbotene Praktiken
Art. 5 Abs. 1 KI-VO zählt sie abschließend auf, darunter die soziale Bewertung und die Ableitung von Emotionen am Arbeitsplatz. Hier gibt es keine Abwägung und keine Einwilligung, sondern ein Verbot.
Hochrisiko-Systeme
Nach Art. 6 Abs. 1 KI-VO das Sicherheitsbauteil eines Produkts, nach Absatz 2 die Anwendungsfälle des Anhangs III, etwa Beschäftigung und Kreditwürdigkeit. Absatz 3 nimmt ein System unter vier Bedingungen wieder heraus, aber nie, wenn es ein Profiling vornimmt. Für ein solches System kommen auf Anbieter und Betreiber eigene Pflichten hinzu, die nach Art. 16 und Art. 26 KI-VO ungleich ausfallen.
Modelle mit allgemeinem Verwendungszweck
Diese Kategorie betrifft nicht ein System, sondern das Modell darunter, und sie liegt neben den Klassen. Art. 51 KI-VO stuft ein Modell mit allgemeinem Verwendungszweck als solches mit systemischem Risiko ein, wenn es Fähigkeiten mit hohem Wirkungsgrad hat. Nach Art. 51 Abs. 2 KI-VO wird das ab einer Trainingsmenge von mehr als 10 hoch 25 Gleitkommaoperationen angenommen. Art. 53 KI-VO belegt die Anbieter solcher Modelle mit eigenen Pflichten, von der technischen Dokumentation bis zur Strategie zur Einhaltung des Urheberrechts. Wer ein solches Modell nur in ein eigenes System einbaut, wird davon nicht Modellanbieter.
Alles Übrige
Keine besonderen Pflichten aus den Risikoklassen. Für ein System nach Anhang III, das nicht hochriskant sein soll, verlangt Art. 6 Abs. 4 KI-VO die Dokumentation dieser Bewertung vor dem Inverkehrbringen. Die Einstufung ist damit selbst eine Unterlage und keine Überlegung. Die KI-Kompetenz nach Art. 4 KI-VO gilt auch hier, das Datenschutzrecht ohnehin.
Ein Modell mit allgemeinem Verwendungszweck bringt seine Pflichten deshalb in jedes System mit, gleich welche Klasse dieses System hat.
Transparenzpflichten hängen an der Verwendung
Neben die Kategorisierung tritt Art. 50 KI-VO. Die Vorschrift knüpft nicht an das System, sondern an die Art seiner Verwendung an. Die folgenden Beispiele zeigen, wann Transparenzpflichten zu beachten sind.
Ein Chatbot beantwortet Kundenanfragen
Der Anbieter stellt sicher, dass erkennbar ist, dass eine Person mit einem KI-System interagiert, es sei denn, das ist ohnehin offensichtlich. Art. 50 Abs. 1 KI-VO.
Ein System erzeugt oder bearbeitet Bilder
Der Anbieter kennzeichnet die erzeugten oder veränderten Inhalte maschinenlesbar als künstlich. Art. 50 Abs. 2 KI-VO.
Ein System erkennt Emotionen im Kundengespräch
Der Betreiber informiert die betroffenen Personen über den Einsatz des Emotionserkennungssystems. Art. 50 Abs. 3 KI-VO.
Ein Video wird mit KI verändert
Der Betreiber legt offen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Art. 50 Abs. 4 KI-VO.
Rollenwechsel in der KI-VO als Stolperstein für Pflichten bei Hochrisiko-Systemen
Ob ein Betrieb Anbieter oder Betreiber ist, wird als Eigenschaft des Vertragspartners gelesen. Nach der Verordnung ist es die Folge des eigenen Handelns.
Zwei Rollen, ein Übergang
| Betreiber | Merkmal | Anbieter |
|---|---|---|
| Wer ein System in eigener Verantwortung verwendetArt. 3 Nr. 4 KI-VO. Die private Nutzung ist ausgenommen. | Wer es ist | Wer entwickelt oder entwickeln lässt und unter eigenem Namen bereitstelltArt. 3 Nr. 3 KI-VO. Das Entwickeln selbst ist nicht nötig. |
| Bleibt Betreiber, solange nichts davon geschieht | Wodurch die Rolle kippt | Eigener Name, wesentliche Veränderung oder neue ZweckbestimmungArt. 25 Abs. 1 KI-VO, für Hochrisiko-Systeme. |
| Er bleibt Anbieter | Was mit dem bisherigen Anbieter geschieht | Er gilt nicht mehr als AnbieterArt. 25 Abs. 2 KI-VO. Die Pflichten wandern vollständig mit. |
Die dritte Zeile ist die folgenreiche. Wer die Rolle übernimmt, übernimmt sie ganz. Der bisherige Anbieter steht dafür nicht mehr ein.
Wer die Rolle wechselt, übernimmt damit den Pflichtensatz des Anbieters.
Die Datenschutz-Grundverordnung bleibt nach Art. 2 Abs. 7 KI-VO unberührt. Jede dieser Fragen hat deshalb eine zweite Seite. Die betrachten wir zuerst.
Praxisfragen dazu
Einstufung und Rolle
Risikoklasse der KI-VO
Ein System gilt nach Art. 6 Abs. 1 KI-VO als hochriskant, wenn es Sicherheitsbauteil eines Produkts nach Anhang I ist, oder nach Absatz 2, wenn es unter einen der acht Bereiche des Anhangs III fällt, etwa die Kreditwürdigkeitsprüfung nach Nummer 5 Buchstabe b.
Transparenzpflichten nach Art. 50 KI-VO
Art. 50 KI-VO verteilt vier Pflichten auf zwei Adressaten.
KI datenschutzkonform einsetzen
Training und Nutzung sind zwei Verarbeitungen mit je eigener Rechtsgrundlage.
Pflichten mit Querschnittswirkung
Die KI-Richtlinie im Betrieb
Nach dem EuGH haftet eine juristische Person auch für Verstöße, die eine Person im Rahmen der unternehmerischen Tätigkeit begeht.
KI-Kompetenz nach Art. 4 KI-VO
Art. 4 KI-VO verlangt ein ausreichendes Maß an KI-Kompetenz und nennt fünf Umstände, an denen sich das Maß bemisst.
KI-Governance
Die Rollen sind nicht frei zu verteilen, weil mehrere Vorschriften ihren Adressaten selbst benennen.
Einsatz einzelner Systeme
Microsoft 365 Copilot
Nach dem EuGH darf eine Vorschrift nach Art. 88 Abs. 1 DSGVO die Bedingungen des Art. 6 DSGVO nicht bloß wiederholen.
ChatGPT
Die Stelle, die die Aufgabe stellt, entscheidet über Zweck und Mittel und ist damit nach Art. 4 Nr. 7 DSGVO verantwortlich, auch wenn das Konto privat ist.
Claude
Der bei der Einführung festgelegte Zweck begrenzt nach Art. 5 Abs. 1 Buchst.
Transkription und Besprechungsassistenten
Die Aufnahme des nichtöffentlich gesprochenen Wortes ist nach § 201 Abs. 1 Nr. 1 StGB strafbar, wenn sie unbefugt erfolgt.
Besondere Einsatzfelder
KI und Mitbestimmung
Für § 87 Abs. 1 Nr. 6 BetrVG genügt die objektive Eignung zur Überwachung, vorausgesetzt die Daten lassen sich einzelnen Beschäftigten zuordnen.
KI in der öffentlichen Verwaltung
Der zweite Unterabsatz des Art. 6 Abs. 1 DSGVO schließt die Interessenabwägung für Behörden in Erfüllung ihrer Aufgaben aus, sodass die Rechtsgrundlage aus dem Fachrecht kommen muss.
Häufige Fragen
Ab wann gilt die KI-VO?
Gestaffelt. Nach Art. 113 KI-VO gilt sie seit dem 02.08.2026, die Kapitel I und II mit den verbotenen Praktiken und der KI-Kompetenz bereits seit dem 02.02.2025. Art. 6 Abs. 1 KI-VO mit den Pflichten für Sicherheitsbauteile greift erst ab dem 02.08.2027. Wer heute prüft, prüft also nicht alles zugleich.
Wir nutzen nur ChatGPT. Sind wir Anbieter?
In der Regel nicht. Wer ein System unverändert und unter fremdem Namen verwendet, ist Betreiber nach Art. 3 Nr. 4 KI-VO. Anbieter wird ein Betrieb nach Art. 25 Abs. 1 KI-VO erst, wenn er ein Hochrisiko-System mit dem eigenen Namen versieht, es wesentlich verändert oder seine Zweckbestimmung ändert.
Unser System ist nicht hochriskant. Was ist zu tun?
Die Einstufung dokumentieren und die Querschnittspflichten erfüllen. Nach Art. 6 Abs. 4 KI-VO ist die Bewertung vor dem Inverkehrbringen zu dokumentieren. Die KI-Kompetenz nach Art. 4 KI-VO gilt ohne Rücksicht auf die Klasse. Dazu tritt das Datenschutzrecht, das nach Art. 2 Abs. 7 KI-VO unberührt bleibt.
Dürfen wir Emotionen im Kundengespräch auswerten?
Am Arbeitsplatz und in Bildungseinrichtungen ist die Ableitung von Emotionen nach Art. 5 Abs. 1 Buchst. f KI-VO verboten, außer aus medizinischen oder Sicherheitsgründen. Außerhalb dieser Bereiche greift das Verbot nicht, wohl aber Art. 50 Abs. 3 KI-VO mit seiner Informationspflicht und das Datenschutzrecht.
Kontaktieren Sie uns!
Wir haben Ihr Interesse geweckt? Sie haben Fragen? Sie möchten ein unverbindliches Angebot? Wir freuen uns auf Ihre Nachricht!
Kontakt aufnehmenAlternativ können Sie um einen Rückruf bitten.