Künstliche kriminelle Intelligenz

Dank künstlicher Intelligenz ist eine effiziente Automatisierung auf einem beeindruckend hohem Niveau möglich. Das ist ein zweischneidiges Schwert: Denn so wie diese Technik Unternehmen besseres Wirtschaften und engere Kundenbeziehungen ermöglicht, gelingen Hackern und Cyberkriminellen noch gefährlichere und verheerendere Angriffe. [...]

Martin Rösler ist Leiter des Forward-Looking Threat Research Teams bei Trend Micro. (c) Trend Micro
Martin Rösler ist Leiter des Forward-Looking Threat Research Teams bei Trend Micro. (c) Trend Micro

Sicherheitsforscher von Europol, dem Interregionalen Institut der Vereinten Nationen für Kriminalitäts- und Justizforschung (UNICRI) und Trend Micro haben gemeinsam den Forschungsbericht Malicious Uses and Abuses of Artificial Intelligence verfasst, in dem sie auf die Gefahr der Nutzung von KI durch Kriminelle hinweisen. Gedacht ist der Bericht als Informationsquelle für Strafverfolgungsbehörden, politische Entscheidungsträger und andere Organisationen, wobei er nicht nur über aktuelle und potenzielle Angriffe berichtet, sondern auch Empfehlungen zur Eindämmung dieser Risiken gibt.

KI verspreche der Welt mehr Effizienz, Automatisierung und Autonomie, weiß Edvardas Šileris, Leiter des Cyberkriminalitätszentrums von Europol (Europol EC3). Jedoch müssten in einer Zeit, in der die Öffentlichkeit zunehmend über den möglichen Missbrauch von KI besorgt sei, so Šileris, Bedrohungen transparent gemacht, aber auch die potenziellen Vorteile der KI-Technologie untersucht werden. „Dieser Bericht wird uns nicht nur dabei helfen, mögliche böswillige Verwendungen und Missbräuche von KI zu antizipieren, sondern auch diese Bedrohungen proaktiv zu verhindern und einzudämmen“, erklärt der Cyberkriminalitätsexperte die Zielsetzung des Berichts.

Der Bericht kommt zu dem Schluss, dass Cyberkriminelle KI sowohl als Angriffsvektor als auch als Angriffsoberfläche nutzen werden. Deepfakes stellen derzeit die bekannteste Nutzung von KI als Angriffsvektor dar. Der Bericht warnt jedoch davor, dass in Zukunft neue Screening-Technologien erforderlich sein werden, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu verringern. 

Die kriminellen Einsatzmöglichkeiten von KI sind vielfältig wie nachfolgende Szenarien zeigen: 

  • Überzeugende Social-Engineering-Angriffe in großem Maßstab
  • Malware, mit der bestimmte Daten aus Dokumenten exfiltriert werden können (Document Scraping)
  • Umgehung von Bilderkennung und Stimmbiometrie
  • Ransomware-Angriffe, bei denen die Opfer gezielter ausgewählt und Schutzmechanismen umgangen werden
  • Datenverschmutzung durch die Identifizierung von blinden Stellen in Erkennungsregeln.

„In dem Maße, in dem KI-Anwendungen einen wachsenden Einfluss auf die reale Welt nehmen, wird klar, dass dies zukünftig eine grundlegende Technologie sein wird“, erläutert Irakli Beridze, Leiter des Zentrums für KI und Robotik bei UNICRI. Doch so wie KI für die Gesellschaft sehr reale Vorteile biete, sei auch die Bedrohung durch böswillige Nutzung allgegenwärtig, verweist Beridze auf den unterschiedlichen möglichen Gebrauch dieser an sich neutralen Technologie.

Der Report warnt auch davor, dass KI-Systeme entwickelt werden, um die Wirksamkeit von Malware zu verbessern und Anti-Malware- und Gesichtserkennungssysteme zu stören.

Dass Cyberkriminelle immer schon zu den ersten Nutzern der neuesten Technologien gehörten, ist für Martin Rösler, Leiter des Forward-Looking Threat Research Teams bei Trend Micro, auch bei KI so: »Wie unser Bericht zeigt, wird sie bereits für das Ermitteln von Passwörtern, das Brechen von CAPTCHA-Codes und das Klonen von Stimmen verwendet. Zudem sind noch viele weitere bösartige Innovationen in Arbeit.« 

Folgende Maßnahmen empfehlen die drei Organisationen im Umgang mit KI:

  • Nutzung des Potentials von KI als Mittel zur Verbrechensbekämpfung, um die Cybersicherheitsbranche und die Polizei zukunftsfähig zu machen
  • Fortsetzung der Forschung im KI-Bereich, um weitere Verteidigungstechnologien zu entwickeln
  • Förderung und Entwicklung sicherer KI-Design-Frameworks
  • Deeskalation von politisch aufgeladener Rhetorik über den Einsatz von KI für Zwecke der Cybersicherheit
  • Nutzung öffentlich-privater Partnerschaften und Einrichtung multidisziplinärer Expertengruppen.

Mehr Artikel

Rüdiger Linhart, Vorsitzender der Berufsgruppe IT der Fachgruppe UBIT Wien. (c) WeinwurmFotografie
Interview

IT-Berufe im Fokus: Innovative Lösungen gegen den Fachkräftemangel

Angesichts des anhaltenden IT-Fachkräftemangels ist schnelles Handeln gefordert. Die Fachgruppe IT der UBIT Wien setzt in einer Kampagne genau hier an: Mit einem breiten Ansatz soll das vielfältige Berufsbild attraktiver gemacht und innovative Ausbildungswege aufgezeigt werden. IT WELT.at hat dazu mit Rüdiger Linhart, Vorsitzender der Berufsgruppe IT der Fachgruppe UBIT Wien, ein Interview geführt. […]

News

ISO/IEC 27001 erhöht Informationssicherheit bei 81 Prozent der zertifizierten Unternehmen

Eine Umfrage unter 200 Personen verschiedener Branchen und Unternehmensgrößen in Österreich hat erstmals abgefragt, inwiefern der internationale Standard für Informationssicherheits-Managementsysteme (ISO/IEC 27001) bei der Bewältigung von Security-Problemen in der Praxis unterstützt. Ergebnis: Rund 81 Prozent der zertifizierten Unternehmen gaben an, dass sich durch die ISO/IEC 27001 die Informationssicherheit in ihrem Unternehmen erhöht hat. […]

News

Public Key Infrastructure: Best Practices für einen erfolgreichen Zertifikats-Widerruf

Um die Sicherheit ihrer Public Key Infrastructure (PKI) aufrecht zu erhalten, müssen PKI-Teams, sobald bei einer Zertifizierungsstelle eine Sicherheitslücke entdeckt worden ist, sämtliche betroffenen Zertifikate widerrufen. Ein wichtiger Vorgang, der zwar nicht regelmäßig, aber doch so häufig auftritt, dass es sich lohnt, PKI-Teams einige Best Practices für einen effektiven und effizienten Zertifikatswiderruf an die Hand zu geben. […]

News

UBIT Security-Talk: Cyberkriminalität wächst unaufhaltsam

Jedes Unternehmen, das IT-Systeme nutzt, ist potenziell gefährdet Opfer von Cyberkriminalität zu werden, denn die Bedrohung und die Anzahl der Hackerangriffe in Österreich nimmt stetig zu. Die Experts Group IT-Security der Wirtschaftskammer Salzburg lädt am 11. November 2024 zum „UBIT Security-Talk Cyber Defense“ ein, um Unternehmen in Salzburg zu unterstützen, sich besser gegen diese Bedrohungen zu wappnen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*