Artikel 22 DSGVO: Automatisierte Entscheidungen im Einzelfall einschließlich Profiling
(1) Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.
(2) Absatz 1 gilt nicht, wenn die Entscheidung
a) für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Verantwortlichen erforderlich ist,
b) aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten, denen der Verantwortliche unterliegt, zulässig ist und diese Rechtsvorschriften angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person enthalten oder
c) mit ausdrücklicher Einwilligung der betroffenen Person erfolgt.
(3) In den in Absatz 2 Buchstaben a und c genannten Fällen trifft der Verantwortliche angemessene Maßnahmen, um die Rechte und Freiheiten sowie die berechtigten Interessen der betroffenen Person zu wahren, wozu mindestens das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gehört.
(4) Entscheidungen nach Absatz 2 dürfen nicht auf besonderen Kategorien personenbezogener Daten nach Artikel 9 Absatz 1 beruhen, sofern nicht Artikel 9 Absatz 2 Buchstabe a oder g gilt und angemessene Maßnahmen zum Schutz der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person getroffen wurden.
Wo KI-Systeme an Artikel 22 stoßen
Entscheidungen, die ausschließlich automatisiert ergehen und rechtliche Wirkung entfalten, sind grundsätzlich unzulässig. Mit dem Einsatz von KI in Bewerberauswahl, Kreditvergabe und Vertragsprüfung ist die Vorschrift aus ihrem Nischendasein herausgetreten. Entscheidend ist das Wort „ausschließlich”: Eine menschliche Kontrolle, die den Vorschlag des Systems nur bestätigt, genügt nicht – verlangt ist eine eigene inhaltliche Prüfung durch jemanden mit der Befugnis, anders zu entscheiden. Artikel 22 gilt neben der KI-Verordnung, nicht an ihrer Stelle.
Erwägungsgrund 71 nennt die automatisierte Ablehnung einer Bewerbung ausdrücklich als Beispiel und beschreibt die geeigneten Garantien: Unterrichtung, Recht auf Eingreifen einer Person, Darlegung des eigenen Standpunkts und Anfechtung der Entscheidung.