Big Data: Präzise Prognosen mit rechtlichem Risiko

Über welche Produkte soll ein Kunde im Newsletter des Unternehmens informiert werden? Wird er den vollen Preis bezahlen oder nur zuschlagen, wenn er einen Gutschein über 100 Euro erhält? Soll dem Kunden ein Ratenkauf angeboten werden oder ist das Ausfallrisiko zu groß? Fragen wie diese können heutige Big-Data-Systeme mit verhältnismäßig hoher Treffsicherheit beantworten. Sie können vielfach voll automatisiert bessere Entscheidungen treffen, als dies ein Mensch könnte. Rechtlich ist die Vollautomatisierung von Entscheidungen jedoch nur eingeschränkt zulässig. [...]

Unter Big Data wird die automatisierte Auswertung von außerordentlich großen unstrukturierten Datenmengen verstanden. Ziel ist dabei zB die präzisere Vorhersage von Kundenverhalten, die Optimierung betrieblicher Prozesse (zB bei der Planung des Personalbedarfs) sowie die Reduktion finanzieller Risiken in Unternehmen.

DATENSCHUTZGESETZ SETZT GRENZEN

Das Datenschutzgesetz sieht vor, dass Entscheidungen dann nicht voll automatisiert getroffen werden dürfen, wenn sie erstens für den Betroffenen rechtliche Folgen haben oder eine erhebliche Beeinträchtigung darstellen und zweitens auf Grundlage von Persönlichkeitsaspekten des Betroffenen erfolgen (z.B. seine Leistungsfähigkeit, Zuverlässigkeit oder Kreditwürdigkeit). Dabei ist es unerheblich, ob sich die Persönlichkeitsaspekte tatsächlich nachweisen lassen, oder nur aufgrund von Verhaltensmustern vergleichbarer Personen vermutet werden.

Rechtliche Folgen im Sinne des Gesetzes hat eine Entscheidung insbesondere dann, wenn sie dazu führt, dass das Unternehmen ein bestehendes Vertragsverhältnis mit dem Betroffenen beendet (z.B. Kündigung der Versicherung durch das Versicherungsunternehmen, wenn dessen Big-Data-System verdächtige Fotos auf Facebook entdeckt) oder sich überhaupt weigert, ein Vertragsverhältnis einzugehen (z.B. Kreditverweigerung bei errechneter Unzuverlässigkeit).

Eine erhebliche Beeinträchtigung stellt eine Entscheidung für den Betroffenen – unabhängig davon, ob sie rechtliche Folgen hat – dann dar, wenn die Interessen des Betroffenen auf sonstige Weise faktisch stark beeinträchtigt werden (z.B. wenn ein Big Data-System entscheidet, dass ein Mitarbeiter mangels hinreichender prognostizierter Leistungsfähigkeit keinen Bonus erhalten soll).

KAUM PRAKTIKABLE AUSNAHMEN

Vom oben geschilderten Verbot der Entscheidungsautomatisierung gibt es vor allem eine Ausnahme: Wenn die Entscheidung nicht endgültig ist, sondern der Betroffene noch die Möglichkeit hat, seinen Standpunkt geltend zu machen und so eine manuelle Überprüfung der Entscheidung zu erwirken. Allerdings kann sich ein Unternehmen nur dann auf diese Ausnahme stützen, wenn es dem Betroffenen auf Antrag den logischen Ablauf des automatisierten Entscheidungsprozesses in allgemein verständlicher Form darlegen kann.