KI kann auch Gefahren bergen

Artificial Intelligence stand im Fokus des Information-Security-Symposiums von CIS und Quality Austria. Ein Highlight war der Vortrag des AI-Experten Roland Benedikter, der davor warnte, dass sich Künstliche Intelligenz auch gegen Menschen richten kann. [...]

Aufrüttelnde Szenarien und brisante Sicherheitsfragen im Zusammenhang mit KI beleuchtete der Antizipationsforscher und Silicon-Valley-Kenner Roland Benedikter auf dem „15. Information–Security-Symposium in Wien„. Diejenigen unter den mehr als 200 Fachteilnehmern, die eine futuristische Keynote erwartet haben, wurden auf den Boden sich anbahnender Tatsachen geholt – Benedikter verknüpfte interdisziplinär die Sicht auf Technologie, Soziologie und globale Entwicklungen und warnte deutlich: „KI fördert aufgrund ihrer innewohnenden Logik autoritäres Regieren, weil sie sehr schnelle und direkte Wege zu Erkenntnissen und Entscheidungen ermöglicht.

Während die EU in den kommenden Jahren rund 9,5 Mrd. Euro in KI-Forschungsprojekte investieren will, beläuft sich das offizielle KI-Investment Chinas im selben Zeitraum auf 150 Mrd. Euro oder mehr.“ Der Forscher räumte ein, dass Anti-Demokratie-Szenarien wohl weit her geholt klingen mögen, nannte aber eine Reihe aktueller Beispiele: so etwa die per Modellversuch geplanten Kameras an Chinas Schulen, um schon frühzeitig potenzielle Regimekritiker erkennen zu können. Gesicht, Gesten und Körperbewegungen der Schüler werden durch intelligente Algorithmen ausgewertet.

Hacking von Gedanken

Die Entwicklung von humanoiden Robotern, Gehirn-Maschine-Schnittstellen und intelligenten Implantaten findet heute unter dem Aspekt der Hilfestellung für Menschen mit Behinderung oder unheilbaren Krankheiten statt. Wenig beachtet würden aber die Folgen für eine resultierende Umgestaltung des Menschseins, betonte Benedikter. CIS-Geschäftsführer Erich Scheiber dazu: „Im Falle von Hacking oder Systemfehlern kann künftig nicht nur eine Maschine betroffen sein, sondern direkt ein Mensch, seine Körperfunktionen oder sogar Gedanken“.

Laut Experten-Schätzungen wird es in 80 Jahren etwa gleich viele „Roboter-Personen“ wie Menschen geben, so Benedikter: „Oxford-Professor Nick Bostrom und andere Vordenker sehen eine ernste Gefahr: künstliche Intelligenzen könnten sich zu Super-Intelligenzen mit einer Art Lern-, Erinnerungs- und Vorwegnahme-Bewusstsein weiterentwickeln – und sich schließlich gegen den Menschen richten. Die Maschinen würden verstehen, wer allein ihren Stecker ziehen kann – der Mensch.“ Alle diese Herausforderungen seien nur inter- und transdisziplinär zu adressieren, über Ländergrenzen hinweg. Insgesamt spannte das Vortragsprogramm den Bogen zu IT-affinen Managementsystemen nach ISO 27001 für Informationssicherheit und ISO 20000 für IT-Service-Management.