Heimische Firmen setzen KI für Cyberabwehr ein

Künstliche Intelligenz prägt die Cybersicherheit österreichischer Unternehmen. Doch während KI die Abwehr stärkt, wachsen auch die Bedenken über neue Risiken. [...]

Eine Studie von Trend Micro zeigt, dass 87 Prozent der österreichischen Unternehmen künstliche Intelligenz (KI) bereits in ihre Sicherheitsstrategien integrieren. Weltweit liegt dieser Wert bei 81 Prozent. Weitere 10 Prozent der Unternehmen in Österreich prüfen den Einsatz solcher Technologien. Die Studie verdeutlicht die hohe Offenheit für KI: 97 Prozent der Befragten sind bereit, die Technologie in irgendeiner Form einzusetzen. Besonders häufig wird KI für die automatisierte Erkennung von Assets, die Priorisierung von Risiken und die Identifikation von Anomalien genutzt – in Österreich setzen 60 Prozent der Unternehmen darauf.

Die Kehrseite der Medaille: KI als neues Risikofeld

Trotz der breiten Nutzung und des Optimismus herrscht gleichzeitig erhebliche Besorgnis. Die Mehrheit von 93 Prozent der österreichischen Unternehmen geht davon aus, dass sich KI in den nächsten drei bis fünf Jahren negativ auf ihr individuelles Cyberrisiko auswirken wird. Mehr als die Hälfte (59 Prozent) erwartet konkret eine Zunahme des Umfangs und der Komplexität von KI-gesteuerten Angriffen. Diese Entwicklung werde sie zwingen, ihre bestehenden Sicherheitsstrategien grundlegend zu überdenken.

„Cybersicherheit muss von Anfang an in KI-Systeme integriert werden.“
Rachel Jin, Trend Micro

Die Studie identifiziert mehrere konkrete Bedenken, die mit der Einführung von KI einhergehen. An erster Stelle steht hierzulande das Risiko der Offenlegung sensibler Daten (36 Prozent). Dicht darauf folgt die Sorge, dass geschützte Informationen von nicht vertrauenswürdigen KI-Modellen ausgenutzt werden könnten (34 Prozent). Weitere häufig genannte Probleme sind die Entstehung von Überwachungslücken (»Blind Spots«) durch unkontrolliert eingeführte Schatten-IT (33 Prozent) sowie Intransparenz bei der Datenverarbeitung der KI-Systeme selbst (30 Prozent). 

Bedrohungslandschaft verändert sich schnell

„KI birgt ein enormes Potenzial für die Stärkung der Cyberabwehr, von der schnelleren Erkennung von Anomalien bis zur Automatisierung zeitaufwändiger Aufgaben“, so Rachel Jin, Chief Enterprise Platform Officer bei Trend Micro, „aber Angreifer sind ebenso eifrig dabei, KI für ihre Zwecke zu nutzen, und das schafft eine sich schnell verändernde Bedrohungslandschaft. Unsere Forschung und unsere Praxistests machen deutlich, dass Cybersicherheit von Anfang an in KI-Systeme integriert werden muss.“

Stresstest offenbarte Zero-Day-Lücken

Die Dual-Use-Natur der Technologie – also ihre Nutzbarkeit für Verteidigung und Angriff – zeigte sich jüngst beim Hacking-Wettbewerb Pwn2Own in Berlin, der von Trend Micro ausgerichtet wurde. Erstmals standen dabei gezielt KI-Systeme im Fokus der Angreifer. Die Ergebnisse lieferten eine konkrete Momentaufnahme der aktuellen Sicherheitslage.

Zwölf Angriffsversuche zielten auf vier große KI-Frameworks ab. Besonders im Visier stand der NVIDIA Triton Inference Server. Erfolgreich kompromittiert wurden auch die Systeme Chroma, Redis und das NVIDIA Container Toolkit.

Insgesamt deckten die Ethical Hacker sieben bis dahin unbekannte Zero-Day-Sicherheitslücken in den getesteten KI-Frameworks auf. Die betroffenen Hersteller haben nun 90 Tage Zeit, die gefundenen Lücken zu schließen, bevor Details veröffentlicht werden.