AI law
Neue Transparenzpflichten für interaktive KI-Systeme
by Redaktion
Die KI-Verordnung (KI-VO) schreibt ab dem 2. August 2026 neue Transparenzpflichten vor. Zu den wichtigsten zählen die Anforderungen aus Art. 50 KI-Verordnung. Art. 50 Abs. 1, Abs. 5 KI-VO verlangen von Anbietern bestimmter KI-Systeme die Unterrichtung darüber, dass ein Mensch mit einem KI-System und gerade nicht mit einem anderen Menschen interagiert, im Rahmen der Konzeption und Entwicklung sicherzustellen. Damit soll verhindert werden, dass Menschen bei der Interaktion mit KI-Systemen, welche ihrerseits menschliches Verhalten imitieren, der naheliegenden Fehlvorstellung aufsitzen, es handele sich in Wahrheit um einen anderen Menschen. Die Informationspflicht wird nur erfüllt, wenn die Informationen bereits vor oder wenigstens zu Beginn der ersten Interaktion in klarer und eindeutiger Weise sowie barrierefrei bereitgestellt werden.
Für welche KI-Systeme gilt diese Transparenzpflicht?
Diese Pflicht erstreckt sich gegenständlich nur auf KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind. Damit ist einerseits klar, dass „intelligente“ bzw. „intelligent wirkende“ Systeme, welche die Definition eines KI-Systems nach Art. 3 Nr. 1 KI-VO nicht erfüllen, aus dem Anwendungsbereich der Norm herausfallen. Andererseits ist die Pflicht auf solche KI-Systeme beschränkt, deren subjektive Zwecksetzung auf eine Interaktion mit Menschen ausgerichtet ist, sodass KI-Systeme zur Maschine-Maschine-Kommunikation nicht erfasst sind.
Die Voraussetzungen erfüllen und damit der Transparenzpflicht unterliegen tun jedenfalls Chatbots, sofern sie mit Hilfe von sog. Natural Language Processing (NLP)-Verfahren natürliche Sprache verarbeiten.
Wer ist Adressat: Anbieter:innen von KI-Systemen
Adressat der Pflicht sind nicht etwa die Betreiber:innen, sondern die Anbieter:innen von KI-Systemen. Dies spiegelt sich schon darin wider, dass die Sicherstellung der Transparenzanforderung schon im Stadium der Entwicklung mitgedacht werden muss. Als Anbieter:in gilt ausweislich Art. 3 Nr. 3 KI-VO, wer ein KI-System entwickelt bzw. entwickeln lässt und es anschließend in Verkehr bringt bzw. selbst in Betrieb nimmt.
Ausnahme von der Pflicht
Allerdings formuliert die KI-Verordnung selbst noch eine Ausnahme von der Transparenzpflicht. Sie gilt nicht, wenn der Einsatz eines KI-Systems „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ ist. Bei Chatbots dürfte diese Ausnahme regelmäßig nicht einschlägig sein. Anders dürfte dies bei KI-Systemen aussehen, die mit einer physischen Erscheinungsform verbunden sind. Als Beispiel kann ein Pflegeroboter angeführt werden, der durch sein eindeutig von einem Menschen abweichendes optisches Erscheinungsbild von den allermeisten Menschen zweifelsfrei als nicht-menschlich identifiziert können werden sollte.
Weitere Transparenzanforderungen und verbleibende Rechtsunsicherheit
Neben den speziell an KI-Systemen Anstoß nehmenden Pflichten können sich Transparenzanforderungen auch zusätzlich aus weiteren gesetzlichen Vorschriften wie dem Datenschutzrecht ergeben.
Zusätzlich wird die Einhaltung gesetzlicher Vorgaben durch die Rechtsunsicherheit erschwert, welche aus der noch fehlenden behördlichen und gerichtlichen Entscheidungspraxis resultiert.
Daher ist künftigen Anbieter:innen von KI-Systemen zu raten, sich rechtzeitig Rat bei Expert:innen zu suchen, die über ausreichend technologisches Verständnis verfügen, um die technischen Anforderungen mit den komplexen rechtlichen Rahmenbedingungen in Einklang zu bringen.