Datenschutz: Filter schützen vor Gesichtserkennung

Forscher der University of Toronto haben einen Algorithmus entwickelt, um Gesichtserkennungssysteme zu unterbrechen. In Form eines Filters können Nutzer von Instagram, Facebook und Co ihre Fotos künftig vor Gesichtsanalyse schützen. [...]

Der neue Ansatz bedient sich einer Lernmethode namens „Adversarial Training“, bei der zwei künstliche Intelligenzalgorithmen gegeneinander antreten. „Der Schutz der Privatsphäre wird immer schwieriger, da Gesichtserkennung immer besser wird“, erklärt Forscher Parham Aarabi. Die von ihm und seinem Kollegen Avishek Bose vorgestellte Technik sein ein Weg,Gesichtserkennungssysteme bekämpfen zu können. Aarabi und Bose haben dabei zwei neuronale Netze entworfen: eines, das Gesichter identifizieren kann und ein zweites, das die Gesichtserkennung des ersten stören will. Die beiden kämpfen und lernen ständig voneinander und veranstalten ein andauerndes KI-Wettrüsten.

Filter verändert Fotos auf Pixelebene

Das Ergebnis aus den dabei gewonnen Daten ist eine Art Filter, der sich auf Fotos anwenden lässt, um die Privatsphäre des abgebildeten Nutzers zu schützen. Der Algorithmus verändert sehr spezifische Pixel im Bild und verusacht derart geringe Änderungen, so dass diese für das menschliche Auge fast nicht wahrnehmbar sind. „Wir erzeugen sehr feine Störungen im Foto, die jedoch für den Detektor signifikant genug sind, um das ganze System zu täuschen“, so Bose.

Technologie für jeden

Zusätzlich zur Deaktivierung der Gesichtserkennung werden durch den Filter auch die bildbasierte Suche, die Merkmalserkennung, die Einschätzung von Emotionen und Ethnizität sowie alle anderen Gesichtattribute, die automatisch extrahiert werden können, gestört. Schon bald wollen die Forscher den Filter für Nutzer zugänglich machen. Das soll entweder durch eine Smartphone–App oder via Website geschehen. Besonders für soziale Netwerke wie Facebook oder Instagram würde sich eine solche, privat nutzbare Anwendung lohnen. Da die winzigen Abweichungen kaum auffallen, sind Fotos in ihrer Optik nicht gestört.