KI-Kennzeichnungspflicht

Die KI-Kennzeichnungspflicht ist die Vorschrift der KI-Verordnung, die am sichtbarsten in den Alltag eingreift – sie betrifft nicht nur Hochrisiko-Systeme, sondern gerade die Anwendungen, die überall im Einsatz sind: Chatbots im Kundenservice und Werkzeuge, die Texte und Bilder erzeugen.

Vier Fälle, zwei Adressaten

Art. 50 unterscheidet danach, ob die Pflicht den Anbieter des Systems oder seinen Betreiber trifft. Für die meisten Unternehmen ist die zweite Gruppe einschlägig.

Interaktion mit Menschen. Systeme, die für den unmittelbaren Umgang mit Menschen bestimmt sind, müssen so gestaltet sein, dass die Person erkennt, dass sie es mit einer KI zu tun hat. Diese Pflicht trifft den Anbieter – Sie als Betreiber müssen aber prüfen, ob der Hinweis vorhanden und verständlich ist.

Die Ausnahme: Wenn es aus den Umständen offensichtlich ist, bedarf es keines Hinweises. Auf einen Chatbot mit menschlichem Namen und Porträtbild trifft das nicht zu.

Erzeugte oder veränderte Inhalte. Anbieter von Systemen, die Text, Bild, Ton oder Video erzeugen, müssen die Ausgabe in einem maschinenlesbaren Format markieren, sodass sie als künstlich erzeugt erkennbar ist. Für Sie heißt das: Werkzeuge, die das nicht leisten, erfüllen ihre Anbieterpflichten nicht – das gehört in die Prüfung, siehe KI-Werkzeuge prüfen.

Deepfakes. Wer Bild-, Ton- oder Videoinhalte einsetzt, die echten Personen, Orten oder Ereignissen ähneln, ohne es zu sein, muss offenlegen, dass sie künstlich erzeugt oder verändert wurden. Diese Pflicht trifft den Betreiber – also Sie, wenn Sie solche Inhalte veröffentlichen.

Texte zu Angelegenheiten von öffentlichem Interesse. Wer veröffentlichte Texte zu solchen Themen mit KI erzeugt oder verändert, muss das offenlegen – es sei denn, der Inhalt wurde einer menschlichen Überprüfung unterzogen und jemand trägt die redaktionelle Verantwortung.

Emotionserkennung und biometrische Kategorisierung. Betreiber müssen die betroffenen Personen über den Einsatz informieren. Am Arbeitsplatz ist Emotionserkennung ohnehin nach Art. 5 verboten; siehe KI im Personalwesen.

Wie eine Kennzeichnung aussehen muss

Die Verordnung verlangt, dass die Information klar und erkennbar spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung erfolgt und den Anforderungen an Barrierefreiheit genügt.

Daraus folgt für die Praxis:

  • Nicht im Kleingedruckten. Ein Hinweis in den Nutzungsbedingungen erfüllt die Pflicht nicht.
  • Vor der Interaktion, nicht danach. Beim Chatbot also im ersten Fenster, nicht in der Fußzeile.
  • Verständlich. „Powered by AI” ist kein Hinweis, den jeder versteht. „Sie schreiben mit einem automatischen Assistenten. Für ein Gespräch mit einer Person klicken Sie hier.” ist einer.
  • Bei Inhalten sichtbar am Inhalt, nicht auf einer Übersichtsseite.

Was das für alltägliche Anwendungen bedeutet

Chatbot im Kundenservice: Hinweis im ersten Fenster, dazu ein Weg zu einem Menschen. Das ist ohnehin gute Praxis.

Texte, die mit KI-Unterstützung entstehen: Für gewöhnliche Geschäftskorrespondenz, Angebote und interne Unterlagen greift die Pflicht nicht – sie zielt auf veröffentlichte Inhalte zu Angelegenheiten von öffentlichem Interesse. Wo eine redaktionelle Verantwortung übernommen und der Text geprüft wurde, entfällt sie ohnehin.

Bilder in Werbung und auf der Website: Erzeugte Bilder, die keine realen Personen oder Ereignisse nachahmen, fallen nicht unter die Deepfake-Regel. Sobald eine Ähnlichkeit zu realen Personen entsteht, schon – und dann ist neben der Kennzeichnung auch das Persönlichkeitsrecht zu bedenken.

Synthetische Stimmen in Telefonanlagen: Interaktion mit Menschen, also Hinweis zu Beginn.

Zum Zeitpunkt

Die Verordnung tritt gestaffelt in Kraft; die Transparenzpflichten gehören zu den später wirksam werdenden Teilen. Den Geltungsbeginn im Einzelnen nennt Art. 113 – prüfen Sie den Stand, bevor Sie eine Frist im Kalender vermerken.

Unabhängig davon empfiehlt sich die Umsetzung früher: Eine Kennzeichnung kostet einen Satz, und ihr Fehlen fällt jedem Besucher auf, der sich damit auskennt.

Kontakt

Sie betreiben einen Chatbot oder veröffentlichen erzeugte Inhalte? Dann ist das die Vorschrift, die Sie zuerst betrifft.