KI kann auch Gefahren bergen

Artificial Intelligence stand im Fokus des Information-Security-Symposiums von CIS und Quality Austria. Ein Highlight war der Vortrag des AI-Experten Roland Benedikter, der davor warnte, dass sich Künstliche Intelligenz auch gegen Menschen richten kann. [...]

Antizipationsforscher Roland Benedikter: "In 80 Jahren wird es gleich viele Roboter wie Menschen geben." (c) Fotodienst Christian Mikes
Antizipationsforscher Roland Benedikter: "In 80 Jahren wird es gleich viele Roboter wie Menschen geben." (c) Fotodienst Christian Mikes

Aufrüttelnde Szenarien und brisante Sicherheitsfragen im Zusammenhang mit KI beleuchtete der Antizipationsforscher und Silicon-Valley-Kenner Roland Benedikter auf dem „15. InformationSecurity-Symposium in Wien„. Diejenigen unter den mehr als 200 Fachteilnehmern, die eine futuristische Keynote erwartet haben, wurden auf den Boden sich anbahnender Tatsachen geholt – Benedikter verknüpfte interdisziplinär die Sicht auf Technologie, Soziologie und globale Entwicklungen und warnte deutlich: „KI fördert aufgrund ihrer innewohnenden Logik autoritäres Regieren, weil sie sehr schnelle und direkte Wege zu Erkenntnissen und Entscheidungen ermöglicht.

Während die EU in den kommenden Jahren rund 9,5 Mrd. Euro in KI-Forschungsprojekte investieren will, beläuft sich das offizielle KI-Investment Chinas im selben Zeitraum auf 150 Mrd. Euro oder mehr.“ Der Forscher räumte ein, dass Anti-Demokratie-Szenarien wohl weit her geholt klingen mögen, nannte aber eine Reihe aktueller Beispiele: so etwa die per Modellversuch geplanten Kameras an Chinas Schulen, um schon frühzeitig potenzielle Regimekritiker erkennen zu können. Gesicht, Gesten und Körperbewegungen der Schüler werden durch intelligente Algorithmen ausgewertet.

Hacking von Gedanken

Die Entwicklung von humanoiden Robotern, Gehirn-Maschine-Schnittstellen und intelligenten Implantaten findet heute unter dem Aspekt der Hilfestellung für Menschen mit Behinderung oder unheilbaren Krankheiten statt. Wenig beachtet würden aber die Folgen für eine resultierende Umgestaltung des Menschseins, betonte Benedikter. CIS-Geschäftsführer Erich Scheiber dazu: „Im Falle von Hacking oder Systemfehlern kann künftig nicht nur eine Maschine betroffen sein, sondern direkt ein Mensch, seine Körperfunktionen oder sogar Gedanken“.

Laut Experten-Schätzungen wird es in 80 Jahren etwa gleich viele „Roboter-Personen“ wie Menschen geben, so Benedikter: „Oxford-Professor Nick Bostrom und andere Vordenker sehen eine ernste Gefahr: künstliche Intelligenzen könnten sich zu Super-Intelligenzen mit einer Art Lern-, Erinnerungs- und Vorwegnahme-Bewusstsein weiterentwickeln – und sich schließlich gegen den Menschen richten. Die Maschinen würden verstehen, wer allein ihren Stecker ziehen kann – der Mensch.“ Alle diese Herausforderungen seien nur inter- und transdisziplinär zu adressieren, über Ländergrenzen hinweg. Insgesamt spannte das Vortragsprogramm den Bogen zu IT-affinen Managementsystemen nach ISO 27001 für Informationssicherheit und ISO 20000 für IT-Service-Management.


Mehr Artikel

News

ISO/IEC 27001 erhöht Informationssicherheit bei 81 Prozent der zertifizierten Unternehmen

Eine Umfrage unter 200 Personen verschiedener Branchen und Unternehmensgrößen in Österreich hat erstmals abgefragt, inwiefern der internationale Standard für Informationssicherheits-Managementsysteme (ISO/IEC 27001) bei der Bewältigung von Security-Problemen in der Praxis unterstützt. Ergebnis: Rund 81 Prozent der zertifizierten Unternehmen gaben an, dass sich durch die ISO/IEC 27001 die Informationssicherheit in ihrem Unternehmen erhöht hat. […]

News

Public Key Infrastructure: Best Practices für einen erfolgreichen Zertifikats-Widerruf

Um die Sicherheit ihrer Public Key Infrastructure (PKI) aufrecht zu erhalten, müssen PKI-Teams, sobald bei einer Zertifizierungsstelle eine Sicherheitslücke entdeckt worden ist, sämtliche betroffenen Zertifikate widerrufen. Ein wichtiger Vorgang, der zwar nicht regelmäßig, aber doch so häufig auftritt, dass es sich lohnt, PKI-Teams einige Best Practices für einen effektiven und effizienten Zertifikatswiderruf an die Hand zu geben. […]

News

UBIT Security-Talk: Cyberkriminalität wächst unaufhaltsam

Jedes Unternehmen, das IT-Systeme nutzt, ist potenziell gefährdet Opfer von Cyberkriminalität zu werden, denn die Bedrohung und die Anzahl der Hackerangriffe in Österreich nimmt stetig zu. Die Experts Group IT-Security der Wirtschaftskammer Salzburg lädt am 11. November 2024 zum „UBIT Security-Talk Cyber Defense“ ein, um Unternehmen in Salzburg zu unterstützen, sich besser gegen diese Bedrohungen zu wappnen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*