Transparenzpflichten für KI

Mit ihrer KI-Verordnung hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für den Einsatz und die Entwicklung der Künstlichen Intelligenz – KI (engl.: artificial intelligence – AI) geschaffen. Sie will dadurch einerseits neue Lösungen und Anwendungen der KI unterstützen, andererseits aber einen Schutz gegen die Risiken der neuen Technologie aufbauen. Die KI-Verordnung gilt seit August 2024; einzelne Teile traten aber später in Kraft.

Mit Wirkung ab 1. August 2026 müssen Anbieter und Betreiber von KI-Systemen bestimmte Transparenzpflichten einhalten. Davon betroffen sind ● KI-Systeme, die unmittelbar mit Menschen interagieren (wie Chatbots oder KI-Agenten). Diese müssen sich ab dem ersten Kontakt in klarer und unmissverständlicher Weise zu erkennen geben. Die Nutzer sollen dadurch erfahren, dass sie es nicht mit echten, lebendigen Gesprächspartnern zu tun haben, und ihre Entscheidungen und Bewertungen darauf einrichten können.

Transparenz ist auch geboten, wenn Menschen mit KI-erzeugten Inhalten konfrontiert werden. ● So müssen Anbieter von KI-Systemen, die synthetisch erzeugte Texte, Bilder, Videos oder Audio-Inhalte (Musik, Sprache) ausgeben, dafür sorgen, dass diese in einer maschinenlesbaren Weise als künstlich erzeugt oder verändert gekennzeichnet werden. Davon gibt es Ausnahmen, z.B. für Quellcode oder für den Austausch innerhalb geschlossener Produktionskreisläufe. Eine Kennzeichnung ist ebenfalls erforderlich für ● KI-Inhalte in Bild, Video oder Ton, die realen Personen, Gegenständen oder Orten täuschend ähnlich  nachempfunden sind (sogenannte Deepfakes). Sind sie Teil eines offensichtlich künstlerischen, kreativen oder satirischen Werks, genügt es, sie so zu kennzeichnen, dass es die Aufführung oder Betrachtung des Werks nicht beeinträchtigt. ● KI-generierte oder -bearbeitete Texte, mit denen die Öffentlichkeit über allgemein interessierende Themen informiert wird, müssen gekennzeichnet werden, es sei denn, sie wurden nachträglich durch einen Menschen geprüft oder redaktionell kontrolliert und es wird eine redaktionell verantwortliche Person benannt. ● Werden Menschen einer KI-gestützten Emotionserkennung unterzogen oder nach biometrischen Merkmalen sortiert, müssen sie darüber informiert werden. Für Zwecke der Strafermittlung und -verfolgung gelten Ausnahmen.

Um die KI-Kennzeichnung zu erleichtern, hat die EU-Kommission eine Reihe von Symbolen entwickelt, die zu diesem Zweck genutzt werden können. Die Transparenzpflicht kann aber auch mit anderen Mitteln erfüllt werden.