Rechtsfrage

KI datenschutzkonform einsetzen

Training und Nutzung sind zwei Verarbeitungen mit je eigener Rechtsgrundlage. Beim Einsatz eines fremden Modells schuldet der Verantwortliche nach der Stellungnahme des Europäischen Datenschutzausschusses eine eigene Prüfung, ob es rechtmäßig entwickelt wurde. Und die Rollen Anbieter und Betreiber der KI-VO decken sich nicht mit Verantwortlichem und Auftragsverarbeiter.

Zwei Rollenbegriffe in einem Vertrag

Die Fachabteilung will ein Sprachmodell für die Auswertung von Kundenanfragen einsetzen. Der Anbieter legt einen Auftragsverarbeitungsvertrag vor und bezeichnet sich in seinen Unterlagen als Anbieter im Sinne der KI-VO. Ob damit die Rechtsgrundlage geklärt ist und ob die beiden Bezeichnungen dasselbe meinen, steht offen.

Training und Nutzung sind zwei Verarbeitungen

Worauf sich die Verarbeitung stützt, ist zweimal zu beantworten. Die erste Antwort betrifft eine Verarbeitung, die im eigenen Betrieb gar nicht stattgefunden hat. Ein Modell entsteht aus Daten, der Einsatz erzeugt weitere.

Drei Verarbeitungen, drei Grundlagen

Training des Modells
Beim Anbieter, meistens gestützt auf Art. 6 Abs. 1 Buchst. f DSGVO. Der Europäische Datenschutzausschuss verlangt dafür die dreistufige Prüfung aus Interesse, Erforderlichkeit und Abwägung.
Eingabe und Ausgabe im Betrieb
Im eigenen Betrieb, mit eigener Grundlage. Sie folgt dem Zweck, für den das Werkzeug eingesetzt wird, nicht aber dem Werkzeug.
Weiterverwendung der Eingaben
Nutzt der Anbieter die Eingaben zur Verbesserung, ist das eine dritte Verarbeitung zu einem anderen Zweck. Sie braucht eine eigene Grundlage bei demjenigen, der sie vornimmt.

3 von 3

Diese Bewertung fällt in der Praxis fast immer aus, weil sie in keiner Anbieterunterlage vorgesehen ist. Sie lässt sich gleichwohl führen, und zwar aus öffentlich zugänglichen Angaben zur Herkunft der Trainingsdaten, aus den Modellkarten des Anbieters und aus laufenden Verfahren gegen ihn.

Zwei Verordnungen, zwei Rollensysteme, keine Deckungsgleichheit

Wer welche Rolle hat, wird seit dem Geltungsbeginn der KI-VO mit zwei Begriffspaaren beantwortet. Die beiden Paare bezeichnen verschiedene Dinge. Die eine Ordnung fragt nach dem Inverkehrbringen, die andere nach der Entscheidung über Zwecke und Mittel.

Dieselbe Stelle, zwei Einordnungen

KI-VO	Merkmal	Datenschutzverordnung
InverkehrbringenArt. 3 Nr. 3 KI-VO. Anbieter ist, wer entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt.	Anknüpfung	Zwecke und MittelArt. 4 Nr. 7 DSGVO. Verantwortlicher ist, wer über sie entscheidet, unabhängig von Vertrieb und Marke.
BetreiberArt. 3 Nr. 4 KI-VO. Die Stelle, die das System in eigener Verantwortung verwendet.	Die einsetzende Stelle	VerantwortlicherSie entscheidet über den Zweck des Einsatzes und ist damit für die Verarbeitung verantwortlich.
Anbieter	Der Modellanbieter	Kommt darauf anAuftragsverarbeiter, soweit er nach Weisung verarbeitet. Eigener Verantwortlicher, soweit er die Eingaben zu eigenen Zwecken nutzt.
Durch eigenes ZutunNach Art. 25 Abs. 1 KI-VO gilt ein Betreiber als Anbieter, wenn er ein Hochrisiko-System wesentlich verändert oder die Zweckbestimmung eines Systems so ändert, dass es zu einem Hochrisiko-System wird.	Wechsel der Rolle	Durch ZweckbestimmungNach Art. 28 Abs. 10 DSGVO gilt ein Auftragsverarbeiter als Verantwortlicher, wenn er Zwecke und Mittel bestimmt.

Für den Vertrag folgt daraus, dass die Bezeichnung als Anbieter nichts über die datenschutzrechtliche Rolle aussagt. Beide Einordnungen sind getrennt vorzunehmen. Der Vertrag hat beide abzubilden.

Fünf Punkte, die der Vertrag beantworten muss

Speicherung der Eingaben

Ob und wozu Eingaben gespeichert werden, mit einer Frist und nicht mit einer Absichtserklärung. Ohne Frist lässt sich weder ein Löschkonzept führen noch ein Auskunftsersuchen beantworten.

Verwendung zum Training

Ob Eingaben zum Training verwendet werden und ob sich das abschalten lässt. Geschieht es, ist das eine Verarbeitung zu einem anderen Zweck. Der Anbieter entscheidet insoweit selbst über Zwecke und Mittel.

Unterauftragnehmer und Orte

Welche Unterauftragnehmer eingesetzt werden und wo diese verarbeiten. Davon hängt ab, ob Kapitel V der Verordnung einschlägig ist. Die Antwort ändert sich bei diesen Diensten häufiger als der Vertrag.

Unterstützung bei Betroffenenrechten

Wie der Anbieter bei einem Auskunftsersuchen unterstützt, solange Eingaben noch vorliegen. Art. 28 Abs. 3 Buchst. e DSGVO verlangt diese Unterstützung. Bei einem Sprachmodell ist sie technisch voraussetzungsvoll.

Angaben zur Herkunft der Trainingsdaten

Welche Angaben er zur Herkunft der Trainingsdaten macht. Davon hängt ab, ob sich die eigene Bewertung nach der Stellungnahme 28/2024 überhaupt führen lässt.

So unterstützen wir Sie beim Einsatz von KI

Die beiden Fragen lassen sich in einer Sitzung mit der Fachabteilung und dem Einkauf beantworten, wenn zuvor drei Angaben vorliegen. Erstens der Zweck des Einsatzes in einem Satz, denn daraus folgt die Rechtsgrundlage. Zweitens die Aussagen des Anbieters zu Speicherung und Training, aus seinen Unterlagen und nicht aus dem Vertriebsgespräch. Drittens die öffentlich verfügbaren Angaben zur Herkunft der Trainingsdaten. Aus diesen drei ergeben sich Rollen, Vertragsergänzungen und die Bewertung nach der Stellungnahme.

Häufige Fragen

Ist ein trainiertes Modell anonym?

Nicht ohne Weiteres. Nach der Stellungnahme 28/2024 des Europäischen Datenschutzausschusses können mit personenbezogenen Daten trainierte Modelle nicht in allen Fällen als anonym gelten. Anonym sind sie erst, wenn sowohl die Wahrscheinlichkeit einer unmittelbaren Extraktion als auch die eines Erlangens über Abfragen unerheblich ist.

Ist der Anbieter eines Sprachmodells unser Auftragsverarbeiter?

Nur, soweit er nach Weisung verarbeitet. Nutzt er die Eingaben zu eigenen Zwecken, etwa zur Verbesserung des Modells, entscheidet er insoweit selbst über Zwecke und Mittel und ist dafür eigener Verantwortlicher. Nach Art. 28 Abs. 10 DSGVO gilt er sogar als Verantwortlicher, wenn er das unter Verstoß gegen die Verordnung tut.

Braucht der Einsatz eine Folgenabschätzung?

Häufig ja. Sie ist nach Art. 35 Abs. 1 DSGVO durchzuführen, wenn die Verarbeitung voraussichtlich ein hohes Risiko zur Folge hat. Die Listen der Aufsichtsbehörden nach Absatz 4 nennen den Einsatz von KI in mehreren Fallgruppen. Sie ist vor der Verarbeitung durchzuführen und damit vor der Einführung.

Ersetzt die Konformität nach der KI-VO die datenschutzrechtliche Prüfung?

Nein. Beide Verordnungen gelten nebeneinander und verfolgen verschiedene Ziele. Eine Konformitätsbewertung sagt etwas über das System aus, nicht über die Rechtmäßigkeit der Verarbeitung, die mit ihm erfolgt.

Weitere Fragen aus diesem Bereich

Kontaktieren Sie uns!

Wir haben Ihr Interesse geweckt? Sie haben Fragen? Sie möchten ein unverbindliches Angebot? Wir freuen uns auf Ihre Nachricht!

Kontakt aufnehmen

Alternativ können Sie um einen Rückruf bitten.