Generative KI verändert die Bedingungen für Cybersicherheit in Unternehmen

Generative KI bringt für Organisationen drei große Risikofelder mit sich: ausgefeiltere Angriffe durch eine größere Anzahl von Akteuren, eine wachsende Angriffsfläche und die Zunahme von Schwachstellen im gesamten Lebenszyklus individueller GenAI-Lösungen. [...]

Der Studie "New defenses, new threats: What AI and Gen AI bring to cybersecurity" zufolge betrachten Organisationen KI zwar als Technologie mit strategischer Bedeutung für die Stärkung ihrer Cybersicherheitsstrategien, doch die großflächige Einführung von Gen AI in den verschiedensten Branchen führt zu einer erhöhten Vulnerabilität. (c) stock.adobe.com/Mustafa

Die Studie „New defenses, new threats: What AI and Gen AI bring to cybersecurity“ des Capgemini Research Institute zeigt auf, dass neue Cybersicherheitsrisiken für Unternehmen entstehen. Aufgrund der starken Verbreitung von KI und generativer KI (GenAI) ist eine Transformation der Cyberabwehr-Strategien notwendig, um Bedrohungen zu prognostizieren, sie zu erkennen und darauf zu reagieren. Zwei Drittel der Organisationen priorisieren derzeit den Einsatz von KI in ihren Cybersecurity Operations.

Der Studie zufolge betrachten Organisationen KI zwar als Technologie mit strategischer Bedeutung für die Stärkung ihrer Cybersicherheitsstrategien, doch die großflächige Einführung von GenAI in den verschiedensten Branchen führt zu einer erhöhten Vulnerabilität. Generative KI bringt für Organisationen drei große Risikofelder mit sich: ausgefeiltere Angriffe durch eine größere Anzahl von Akteuren, eine wachsende Angriffsfläche und die Zunahme von Schwachstellen im gesamten Lebenszyklus individueller GenAI-Lösungen. Der Missbrauch von KI und generativer KI durch Mitarbeitende verschärft die Situation und kann das Risiko für Datenlecks signifikant steigern.

„Der Einsatz von KI und generativer KI ist ein zweischneidiges Schwert: Einerseits birgt er neuartige Risiken, andererseits ermöglicht er Organisationen, Cybersicherheitsvorfälle schneller und präziser zu erkennen. Intelligente Tools unterstützen IT-Sicherheitsteams dabei, Angriffe abzuwehren, Strategien kontinuierlich zu verbessern und die Sicherheitslandschaft angesichts der fortwährenden Bedrohungslage stets im Blick zu behalten. Entscheidend für den Erfolg sind eine robuste Datenmanagement-Infrastruktur, geeignete Frameworks, klare ethische Richtlinien für den Einsatz von KI – sowie der Mensch. Trainings und Sensibilisierungsprogramme für Mitarbeitende sollten fester Bestandteil des Arbeitsalltags sein“, sagt Arun Varghese, Head of Practices bei Capgemini Österreich.

Zwei Drittel der Organisationen befürchten stärkere Gefährdung

Nahezu alle befragten Organisationen (97 Prozent) berichten von Sicherheitsverstößen oder -problemen im Zusammenhang mit dem Einsatz generativer KI im vergangenen Jahr. GenAI birgt darüber hinaus neue Risiken wie Halluzinieren und das Generieren voreingenommener, schädlicher oder unangemessener Inhalte sowie Angriffe durch Prompt Injection. Zwei von drei Organisationen (67 Prozent) befürchten Data Poisoning und den Verlust sensibler Daten über Datensätze, die zum Training von GenAI-Modellen verwendet werden.

Auch die Fähigkeit von generativer KI, hochrealistische synthetische Inhalte zu erzeugen, birgt neue Risiken: Mehr als zwei von fünf der befragten Organisationen (43 Prozent) geben an, infolge einer Deepfake-Attacke finanzielle Verluste erlitten zu haben. Laut dem Identity Fraud Report fand bisher im Jahr 2024 alle fünf Minuten ein Deepfake-Angriff statt. Fast 6 von 10 Unternehmen halten es für notwendig, ihr Cybersicherheitsbudget zu erhöhen, um ihre Abwehr entsprechend zu stärken.

KI und Gen AI unverzichtbar zur Angriffserkennung und Reaktion

Die Befragung von 1.000 Organisationen, die KI für ihre Cybersicherheit in Betracht ziehen oder bereits einsetzen, zeigt, dass die meisten dies tun, um ihre Daten-, Anwendungs- und Cloud-Sicherheit zu stärken. Denn dank dieser Technologie können sie riesige Datenmengen in kürzester Zeit analysieren, Muster erkennen und potenzielle Sicherheitsverletzungen vorhersagen.

Seit der Integration von KI in ihre Sicherheitskontrollzentren (Security Operations Center, SOC) haben mehr als 60 Prozent der Befragten die Dauer bis zur Erkennung von Angriffen um mindestens 5 Prozent verkürzt und fast 40 Prozent stellten eine um mindestens 5 Prozent reduzierte Behebungsdauer von Sicherheitsvorfällen fest.

Drei von fünf der befragten Organisationen (61 Prozent) betrachten KI als unverzichtbar für eine effektive Reaktion auf Bedrohungen, da sie es ermöglicht, proaktive Sicherheitsstrategien gegen immer versiertere Angreifer umzusetzen. Darüber hinaus geht derselbe Anteil der Befragten davon aus, dass sie durch Gen AI auch langfristig proaktive Verteidigungsstrategien realisieren und Bedrohungen schneller erkennen werden. Mehr als die Hälfte von ihnen ist zudem der Ansicht, dass diese Technologie es Cybersicherheitsanalysten erleichtern wird, sich stärker auf Strategien zur Bekämpfung komplexer Gefährdungen zu konzentrieren.

Methodik

Das Capgemini Research Institute hat für die Studie „New defenses, new threats: What AI and Gen AI bring to cybersecurity“ 1.000 Organisationen aus 12 Branchen und 13 Ländern im asiatisch-pazifischen Raum, in Europa und Nordamerika befragt. Diese Organisationen ziehen KI für die Cybersicherheit in Betracht oder setzen sie bereits ein. Sie erwirtschaften einen Jahresumsatz von mindestens einer Milliarde US-Dollar. Die Befragung fand im Mai 2024 statt. Die befragten Organisationen stammen aus den Branchen Automobil, Konsumgüter, Einzelhandel, Banken, Versicherungen, Telekommunikation, Energie- und Versorgungsunternehmen, Luft-, Raumfahrt und Verteidigung, Hightech, Maschinen- und Anlagenbau, Pharma- und Gesundheitswesen sowie aus dem öffentlichen Sektor.


Mehr Artikel

Raiffeisen Bank International etabliert internationales FinTech-Scout-Netzwerk. (c) Unsplash
News

RBI setzt auf globale FinTech-Scouts

Die Raiffeisen Bank International (RBI) verstärkt ihre Bemühungen im Bereich Finanzinnovationen durch die Etablierung eines global verteilten Teams von FinTech-Scouts. Diese Experten sollen Marktentwicklungen und neue Geschäftsmodelle aufzeigen sowie direkten Zugang zu relevanten Technologieanbietern weltweit ermöglichen. […]

News

Hightech-Crime-Report: Advanced Persistent Threats setzen Europa unter Druck

Mit einem Anstieg von 22 Prozent gegenüber dem Vorjahr nahmen betrügerische Machenschaften 2024 weltweit zu. Europäische Finanzdienstleister waren mit 34 Prozent aller Betrugsfälle am stärksten betroffen, gefolgt von der Transportbranche und dem Regierungs- und Militärsektor. Auch bei Phishing-Angriffen setzte sich der Aufwärtstrend fort: Mehr als 80.000 Phishing-Websites wurden 2024 enttarnt – ein Anstieg um 22 Prozent gegenüber dem Vorjahr. […]

News

Fünf Mythen über Managed Services 

Managed Services sind ein Erfolgsmodell. Trotzdem existieren nach wie vor einige Vorbehalte gegenüber externen IT-Services. Der IT-Dienstleister CGI beschreibt die fünf hartnäckigsten Mythen und erklärt, warum diese längst überholt sind. […]

News

ESET: MDR-Lösungen für Managed Service Provider

ESET erweitert sein Angebot für seine Managed Service Provider (MSP) und Channel-Partner, um sie angesichts der zunehmend komplexen Bedrohungslandschaft gezielt zu unterstützen. Die neuesten Ergänzungen umfassen den Service „ESET MDR für MSPs“, eine erweiterte KI-gestützte Bedrohungsanalyse durch den ESET AI Advisor sowie flexible Preismodelle für MSP. […]

News

Geniale Handy-Tricks

Smartphones haben etliche Funktionen, die kaum jemand nutzt, aber Ihren digitalen Alltag bereichern können. Wir stellen Ihnen eine Auswahl der besten Geheimtipps vor – sowohl für Android-Smartphones als auch für Apples iPhones. […]

Die Kombination aus interner Mobilität und Ressourcenbeschränkungen führt schnell zu einem Wildwuchs bei den vergebenen Privilegien. (c) Unsplash
Kommentar

6 Wege, wie Privilege Management die Sicherheitslage verbessert

Identitäten, Konten, Computer, Gruppen und andere Objekte benötigen gleichermaßen Zugang zu Ressourcen – limitiert auf die jeweilige Rolle und nur solange der Zugriff tatsächlich gebraucht wird. Dies ist ein grundlegender Bestandteil eines Zero Trust Least Privilege-Modelles und als solcher von AD-Administratoren, IT-Leitern, dem höheren Management und CISOs anerkannt. […]

David Blum, Defense & Security Lead bei Accenture, im Gespräch mit der ITWELT.at. (c) timeline / Rudi Handl
Interview

„Ein resilientes Unternehmen zeichnet sich durch größtmögliche Transparenz aus“

Transparenz, soweit im Sicherheitskontext möglich, ist für David Blum, Defense & Security Lead bei Accenture, ein wichtiger Bestandteil von Unternehmensresilienz. Das fördere die aus dem Verständnis folgende Unterstützung der Mitarbeitenden. Die unternehmerische Resilienz müsse nicht nur technisch, sondern auch kulturell verankert werden: „Denn Resilienz beginnt im Kopf jedes Einzelnen“, sagt Blum im Gespräch mit der ITWELT.at. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*