Unsicherheit beim Einsatz KI-gestützter Tools

Sicherheitsverantwortliche in deutschen Unternehmen sehen das große Potenzial künstlicher Intelligenz bei der Erkennung von Cyberbedrohungen. Eine breite Einführung von LLMs ist dennoch nicht in Sicht, so eine Studie von Arctic Wolf. [...]

Im vergangenen Jahr ist nicht nur in der Technologiebranche, sondern gesamtgesellschaftlich ein gigantischer KI-Hype ausgebrochen, verbunden mit der Frage, welche Rolle sie zukünftig in verschiedensten Lebens- und Wirtschaftsbereichen einnehmen wird. Arctic Wolf veröffentlichte die Ergebnisse seiner aktuellen Studie zum Thema künstliche Intelligenz (KI) „The Human-AI Partnership“. Die Studie wurde von der CyberRisk Alliance unter 800 IT- und Cybersecurity-Verantwortlichen in Großunternehmen in den USA und Großbritannien sowie bei weiteren 100 Führungskräften in Deutschland durchgeführt. Die aktuellen Umfragedaten geben Aufschluss über die Einstellung von Führungskräften zum derzeitigen und zukünftigen Einsatz von KI für die Cybersicherheit.

Die wichtigsten Erkenntnisse für Deutschland

Trotz Branchenhype steckt die Investition in KI-gestützte Cybersicherheitslösungen in Deutschland noch in den Kinderschuhen:

• Lediglich 15 Prozent der Unternehmen haben den Großteil ihres Cybersicherheitsbudgets für KI-gestützte Lösungen vorgesehen. Im Durchschnitt werden nur 11 Prozent des gesamten Cybersicherheitsbudgets für derartige Sicherheitslösungen bereitgestellt.
• Dreiviertel (73 Prozent) der Unternehmen planen, mindestens eine KI-zentrierte Lösung einzusetzen, um ihre Cybersicherheitsbereitschaft zu verbessern. Das sind mehr als in den USA und UK: Hier sind es nur 64 Prozent der Organisationen. Allerdings planen die Unternehmen in diesen Regionen den Einsatz bereits innerhalb des nächsten Jahres.

Threat Detection und Automatisierung als wichtigste Anwendungsfälle für KI:

• Zweidrittel (67 Prozent) der Befragten glauben, dass KI den Menschen bei der Aufspürung von Bedrohungen übertreffen wird.
• Mehr als Dreiviertel (79 Prozent) der Cybersicherheits-Verantwortlichen glauben, dass der Hauptnutzen von KI in der Automatisierung von Reaktionsmaßnahmen oder sich wiederholenden Aufgaben, wie der Alarmtriage, liegen wird. In den USA und dem Vereinigten Königreich sind es dagegen nur 46 Prozent.

Cybersecurity-Verantwortliche sehen den Menschen als wesentlichen Faktor bei der Realisierung von Effizienzgewinnen durch KI:

• Zwei von fünf Unternehmen (41 Prozent) geben an, dass sie nicht über genügend qualifizierte Tech-Mitarbeitende für das Management von KI-Lösungen verfügen.
• Lediglich eine knappe Mehrheit (52 Prozent) glaubt, dass die durch KI-Tools ermöglichten Cybersicherheit-Ergebnisse kosteneffizienter sind als diejenigen, die nur durch menschliches Personal erzielt werden.

Führungskräfte sind skeptisch bei kurzfristigen Vorteilen von großen Sprachmodellen (Large Language Models, LLMs) in der Cybersicherheit:

• Lediglich 6 Prozent der Befragten bewerten die Nutzung großer Sprachmodelle zur Kontextualisierung vorhandener Daten als einen Kern-Vorteil von KI in ihren Cybersicherheitstools.
• Nur ein Drittel (33 Prozent) der Befragten ist der Meinung, dass LLMs und andere KI-Technologien dem Menschen überlegen sind, wenn es darum geht, den Kontext von Bedrohungen zu erklären. Auch in den USA und Großbritannien ist die Mehrheit der Befragten von der Überlegenheit der menschlichen Mitarbeitenden in diesem Bereich überzeugt.

„Die Umfrage zeigt, dass die Rolle der künstlichen Intelligenz bei der Verbesserung von Threat Detection and Response unbestreitbar ist. Es ist aber auch wichtig zu erkennen, dass Technologie allein Unternehmen nicht vor modernen Bedrohungen schützen kann“, so Dan Schiappa, Chief Product Officer bei Arctic Wolf. „Da die Bedrohungsakteure immer fortschrittlicher werden und KI-Tools einsetzen, werden Menschen eine wesentliche Rolle bei der Untersuchung neuartiger Angriffe spielen. Sie werden weiterhin deren Kontext für ihr Unternehmens aufzeigen und – was am wichtigsten ist – ihr Wissen und ihre Erfahrung nutzen, um genau die KI- und maschinellen Lernmodelle zu trainieren, die tief in die Cybersicherheitslösungen der nächsten Generation eingebettet sein werden.“

„Im Gegensatz zu anderen Branchen, in denen Arbeitskräfte durch Automatisierung und KI verdrängt oder sogar ersetzt werden können, werden die qualifizierten Analysten, die Security Operations Center leiten, durch KI wahrscheinlich eine Aufwertung und Verbesserung ihrer Rolle erfahren und nicht, wie manche vielleicht erwarten, eine Abwertung oder Entlassung“, so Daniel Thomas, Researcher der CyberRisk Alliance. „Kurzfristig werden wir Wachstumsschmerzen erleben, die mit der Einführung jeder neuen Technologie einhergehen, aber langfristig wird KI – wenn sie um menschliches Fachwissen ergänzt wird – unter fast allen Umständen schnellere und bessere Sicherheitsergebnisse liefern.“