Der EuGH hat in einem aktuellen Urteil ausgeführt, unter welchen Rahmenbedingungen der Schufa-Score verwendet werden darf. Was bedeutet das für den Einsatz von KI-Systemen insgesamt?

Der EuGH hat entschieden, dass „Scoring“ als eine von der DSGVO grundsätzlich verbotene „automatisierte Entscheidung im Einzelfall“ anzusehen ist, sofern Banken ihre Entscheidung maßgeblich auf den Score-Wert stützen.

Was besagt Art. 22 DSGVO? „Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.“

Unternehmen die Schufa-Scores nutzen müssen also entweder:
- darauf achten, dass Schufa-Score nicht maßgeblich ist für Entscheidung
- oder Einwilligung des Betroffenen einholen.
Die Behörden in Deutschland sind in Abstimmung zu gemeinsamer Begriffsauslegung der „Maßgeblichkeit“

Was hat das mit KI-Systemen zu tun?
Dies bedeutet für den Einbau von KI-Systemen in Unternehmen, dass an die Maschine grundsätzlich keine für den Betroffenen maßgebliche Entscheidung ausgelagert werden kann. Es braucht ein menschliches Korrektiv; auch bei Einwilligung muss der Betroffene die Möglichkeit behalten, seinen eigenen Standpunkt darlegen zu können.

Zusammengefasst:
- Score-Wert darf nicht maßgeblich für Entscheidung bei Kreditvergabe sein
- Dies hat auch Auswirkungen auf den Einbau von KI-Systemen
- Der Mensch muss das letzte Wort haben

Referent: Dr. Sebastian Kraska, IITR Datenschutz GmbH, https://www.iitr.de

Weiterführende Links:
// EuGH-Entscheidung: „automatisierte Entscheidung im Einzelfall“: https://curia.europa.eu/jcms/upload/d...
// EuGH-Entscheidung Volltext: https://curia.europa.eu/juris/liste.j...
// Artikel 22 DSGVO: //www.iitr.de/eu-dsgvo/22
// „Das letzte Wort hat der Mensch“ siehe DS-Aufsicht Hamburg: https://datenschutz-hamburg.de/news/a...
// Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit hat eine Checkliste zum Einsatz LLM-basierter Chatbots veröffentlicht. Mehr auf: https://datenschutz-hamburg.de/filead...

Kapitel für die schnellere Navigation:

0:00 Begrüßung Café Datenschutz
0:27 EuGH: Urteil zum Scoring
0:47 §22 DSGVO - Einzelfallentscheidung und Profiling
1:19 Was bedeutet das konkret für Unternehmen in der Praxis?
1:59 Was bedeutet das für KI-Systeme?
3:01 Fazit und Zusammenfassung
4:14 News: Hamburgische Beauftragte für Datenschutz und Informationsfreiheit hat eine Checkliste zum Einsatz LLM-basierter Chatbots veröffentlicht