--- title: "KI-Kennzeichnungspflicht: was Art. 50 KI-VO verlangt" description: "Chatbots, erzeugte Inhalte und Deepfakes sind zu kennzeichnen. Wen die Pflicht trifft, welche Ausnahmen es gibt und wie eine Kennzeichnung aussehen muss." canonical: "https://www.dsb-datenschutz.de/ki-compliance/wissen-ki-kennzeichnungspflicht/" --- # KI-Kennzeichnungspflicht Die **KI-Kennzeichnungspflicht** ist die Vorschrift der KI-Verordnung (KI-VO), die am sichtbarsten in den Alltag eingreift – sie betrifft nicht nur Hochrisiko-Systeme, sondern gerade die Anwendungen, die überall im Einsatz sind: Chatbots im Kundenservice und Werkzeuge, die Texte und Bilder erzeugen. ## Vier Fälle, zwei Adressaten [Art. 50](https://www.dsb-datenschutz.de/ki-compliance/verordnung-artikel-50/) unterscheidet danach, ob die Pflicht den Anbieter des Systems oder seinen Betreiber trifft. Für die meisten Unternehmen ist die zweite Gruppe einschlägig. **Interaktion mit Menschen.** Systeme, die für den unmittelbaren Umgang mit Menschen bestimmt sind, müssen so gestaltet sein, dass die Person erkennt, dass sie es mit einer KI zu tun hat. Diese Pflicht trifft den **Anbieter** – Sie als Betreiber müssen aber prüfen, ob der Hinweis vorhanden und verständlich ist. Die Ausnahme: Wenn es aus den Umständen offensichtlich ist, bedarf es keines Hinweises. Auf einen Chatbot mit menschlichem Namen und Porträtbild trifft das nicht zu. **Erzeugte oder veränderte Inhalte.** Anbieter von Systemen, die Text, Bild, Ton oder Video erzeugen, müssen die Ausgabe in einem **maschinenlesbaren Format** markieren, sodass sie als künstlich erzeugt erkennbar ist. Für Sie heißt das: Werkzeuge, die das nicht leisten, erfüllen ihre Anbieterpflichten nicht – das gehört in die Prüfung, siehe [KI-Werkzeuge prüfen](https://www.dsb-datenschutz.de/ki-compliance/wissen-ki-tools-dsgvo-konform/). **Deepfakes.** Wer Bild-, Ton- oder Videoinhalte einsetzt, die echten Personen, Orten oder Ereignissen ähneln, ohne es zu sein, muss offenlegen, dass sie künstlich erzeugt oder verändert wurden. Diese Pflicht trifft den **Betreiber** – also Sie, wenn Sie solche Inhalte veröffentlichen. **Texte zu Angelegenheiten von öffentlichem Interesse.** Wer veröffentlichte Texte zu solchen Themen mit KI erzeugt oder verändert, muss das offenlegen – es sei denn, der Inhalt wurde einer menschlichen Überprüfung unterzogen und jemand trägt die redaktionelle Verantwortung. **Emotionserkennung und biometrische Kategorisierung.** Betreiber müssen die betroffenen Personen über den Einsatz informieren. Am Arbeitsplatz ist Emotionserkennung ohnehin nach [Art. 5](https://www.dsb-datenschutz.de/ki-compliance/verordnung-artikel-5/) verboten; siehe [KI im Personalwesen](https://www.dsb-datenschutz.de/ki-compliance/wissen-ai-in-hr/). ## Wie eine Kennzeichnung aussehen muss Die Verordnung verlangt, dass die Information **klar und erkennbar** spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung erfolgt und den Anforderungen an Barrierefreiheit genügt. Daraus folgt für die Praxis: - **Nicht im Kleingedruckten.** Ein Hinweis in den Nutzungsbedingungen erfüllt die Pflicht nicht. - **Vor der Interaktion, nicht danach.** Beim Chatbot also im ersten Fenster, nicht in der Fußzeile. - **Verständlich.** „Powered by AI" ist kein Hinweis, den jeder versteht. „Sie schreiben mit einem automatischen Assistenten. Für ein Gespräch mit einer Person klicken Sie hier." ist einer. - **Bei Inhalten sichtbar am Inhalt**, nicht auf einer Übersichtsseite. ## Was das für alltägliche Anwendungen bedeutet **Chatbot im Kundenservice:** Hinweis im ersten Fenster, dazu ein Weg zu einem Menschen. Das ist ohnehin gute Praxis. **Texte, die mit KI-Unterstützung entstehen:** Für gewöhnliche Geschäftskorrespondenz, Angebote und interne Unterlagen greift die Pflicht nicht – sie zielt auf veröffentlichte Inhalte zu Angelegenheiten von öffentlichem Interesse. Wo eine redaktionelle Verantwortung übernommen und der Text geprüft wurde, entfällt sie ohnehin. **Bilder in Werbung und auf der Website:** Erzeugte Bilder, die keine realen Personen oder Ereignisse nachahmen, fallen nicht unter die Deepfake-Regel. Sobald eine Ähnlichkeit zu realen Personen entsteht, schon – und dann ist neben der Kennzeichnung auch das Persönlichkeitsrecht zu bedenken. **Synthetische Stimmen** in Telefonanlagen: Interaktion mit Menschen, also Hinweis zu Beginn. ## Zum Zeitpunkt Die Verordnung tritt gestaffelt in Kraft; die Transparenzpflichten gehören zu den später wirksam werdenden Teilen. Den Geltungsbeginn im Einzelnen nennt [Art. 113](https://www.dsb-datenschutz.de/ki-compliance/verordnung-artikel-113/) – prüfen Sie den Stand, bevor Sie eine Frist im Kalender vermerken. Unabhängig davon empfiehlt sich die Umsetzung früher: Eine Kennzeichnung kostet einen Satz, und ihr Fehlen fällt jedem Besucher auf, der sich damit auskennt. ## Kontakt Sie betreiben einen Chatbot oder veröffentlichen erzeugte Inhalte? Dann ist das die Vorschrift, die Sie zuerst betrifft. - Telefon: [+49 6188 99 04 36](tel:+496188990436) - E-Mail: [office@dsb-datenschutz.de](mailto:office@dsb-datenschutz.de) - Kontaktformular: [Anfrage senden](https://www.dsb-datenschutz.de/kontakt/#schreiben-sie-uns) - [KI-Beauftragter](https://www.dsb-datenschutz.de/ki-compliance/ki-beauftragter/)