Netzwerk trickst Googles „Inception“ aus

Ein von Forschern der Auburn University trainiertes neuronales Netzwerk hat Googles bestes Bilderkennungssystem "Inception" hinters Licht geführt. [...]

Wissenschaftler haben ein neuronales Netzwerk trainiert, um Bilderkennungssystem zu täuschen. (c) auburn.edu
Wissenschaftler haben ein neuronales Netzwerk trainiert, um Bilderkennungssystem zu täuschen. (c) auburn.edu

Die Wissenschaftler haben dazu Objekte mittels Rotation in spezielle Positionen gebracht, wodurch es zur Falscherkennung gekommen ist. Lediglich 3,09 Prozent der 3D-Objekte konnte die Google-Engine korrekt identifizieren.

Forscher trainieren Netzwerk

Die Experten haben einen Datensatz bestehend aus 100 dreidimensionalen Bildern genutzt, um das neuronale Netzwerk in der Bilderkennung zu trainieren. Unter den Abbildungen waren Fahrzeuge, wie Schulbusse, Feuerwehrautos, Stoppschilder, Sitzbänke und Hunde. Diese 3D-Objekte wurden von den Wissenschaftlern mithilfe einer Methode, die sich „Random Search“ nennt, gezielt manipuliert. Bei ihren Tests hat Inception den größten Teil der Stichproben nicht richtig erkannt. Bei 30 Objekten lag die Erkennungsrate bei 3,09 Prozent.

Vor allem Posen, die jenseits der Norm sind, führten dazu, dass Googles Bilderkennungssystem getäuscht wurde. Den Autoren der Studie zufolge hat bereits eine leichte Modifikation einen großen Einfluss auf Inception. Schon eine Drehung von acht Grad in Bezug auf den Neigungswinkel und 9,17 Grad hinsichtlich des Rotationswinkels reichten aus, um das Bilderkennungssystem außer Gefecht zu setzen.


Mehr Artikel

Gregor Schmid, Projektcenterleiter bei Kumavision, über die Digitalisierung im Mittelstand und die Chancen durch Künstliche Intelligenz. (c) timeline/Rudi Handl
Interview

„Die Zukunft ist modular, flexibel und KI-gestützt“

Im Gespräch mit der ITWELT.at verdeutlicht Gregor Schmid, Projektcenterleiter bei Kumavision, wie sehr sich die Anforderungen an ERP-Systeme und die digitale Transformation in den letzten Jahren verändert haben und verweist dabei auf den Trend zu modularen Lösungen, die Bedeutung der Cloud und die Rolle von Künstlicher Intelligenz (KI) in der Unternehmenspraxis. […]

News

Richtlinien für sichere KI-Entwicklung

Die „Guidelines for Secure Development and Deployment of AI Systems“ von Kaspersky behandeln zentrale Aspekte der Entwicklung, Bereitstellung und des Betriebs von KI-Systemen, einschließlich Design, bewährter Sicherheitspraktiken und Integration, ohne sich auf die Entwicklung grundlegender Modelle zu fokussieren. […]

News

Datensilos blockieren Abwehrkräfte von generativer KI

Damit KI eine Rolle in der Cyberabwehr spielen kann, ist sie auf leicht zugängliche Echtzeitdaten angewiesen. Das heißt, die zunehmende Leistungsfähigkeit von GenAI kann nur dann wirksam werden, wenn die KI Zugriff auf einwandfreie, validierte, standardisierte und vor allem hochverfügbare Daten in allen Anwendungen und Systemen sowie für alle Nutzer hat. Dies setzt allerdings voraus, dass Unternehmen in der Lage sind, ihre Datensilos aufzulösen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*