Die Methode von Facebook markiert Bilder aus Datensets, um Missbrauch und Fehler aufzudecken. [...]
Forscher der Abteilung für künstliche Intelligenz von Facebook haben eine Methode namens »Radioaktive Daten« entwickelt, um Bilder aus Datensets, die für Machine Learning verwendet werden, wie bei einem Wasserzeichen zu markieren. Dadurch soll es möglich sein, in neuralen Netzwerken bestimmte Lernmethoden immer wieder zu erkennen. Diese Methode soll dabei helfen , Fehler und Missbrauch bei der Datenanalyse aufzudecken.
Facebook bezeichnet die markierten Bilder als »radioaktive Daten«, weil die Entwickler damit auf Medikamente mit ungefährlichen Mengen von Radioaktivität anspielen, die u.a. Röntgenuntersuchungen genauer machen. In den Datensets befindet sich ein Bild, das mit einem für das menschliche Auge unsichtbaren Filter bearbeitet wurde. Die Markierung zeigt sich als leichtes Flimmern, das über das Bild gelegt wird und nur von neuralen Netzwerken erkannt wird. Das auf diese Art gezeichnete Bild wird als Original getarnt im Datenset eingeschleust. Benutzt eine KI unerlaubterweise ein bestehendes Datenset für sein Lernmodell, erkennt das Netzwerk dies anhand der Markierung sofort.
Be the first to comment