Massive Zunahme der Schatten-KI-Nutzung erhöht das Sicherheitsrisiko

Laut dem Netskope Threat Labs Report "Schatten-KI und Agentische KI" ist die Nutzung von GenAI-Plattformen in Unternehmen im ersten Quartal 2025 um 50 Prozent gestiegen. Parallel dazu ist auch die Verbreitung von Schatten-KI gestiegen – und damit potenzielle Sicherheitsrisiken. Schätzungsweise sind mehr als die Hälfte aller aktuellen App-Nutzungen Schatten-KI. [...]

Netskope hat seinen neuen Netskope Threat Labs Report: Schatten-KI und Agentische KI veröffentlicht. Dieser zeigt, dass die Nutzung von GenAI-Plattformen in Unternehmen in den drei Monaten bis Mai 2025 um 50 Prozent gestiegen ist. Trotz einer anhaltenden Verlagerung hin zu einer sicheren Aktivierung von SaaS GenAI-Apps und KI-Agenten erhöht das Wachstum von Schatten-KI – nicht genehmigte KI-Anwendungen, die von Mitarbeitern genutzt werden – weiterhin potenzielle Sicherheitsrisiken. Schätzungsweise sind mehr als die Hälfte aller aktuellen App-Nutzungen Schatten-KI.

Die neuen Daten wurden im Rahmen des aktuellen Netskope Threat Labs Reports veröffentlicht. Darin wird der anhaltende Wechsel der Mitarbeiter zu GenAI-Plattformen untersucht – unabhängig davon, ob sie aus der Cloud oder On-Premise bereitgestellt werden. Derzeit besteht ein großes Interesse an der Entwicklung von KI-Apps und autonomen Agenten. Dies bringt viele neue Herausforderungen für die Cybersicherheit mit sich, denen sich Unternehmen stellen müssen.

Aufstieg der genAI-Plattformen 

GenAI-Plattformen sind grundlegende Infrastruktur-Tools, mit denen Unternehmen benutzerdefinierte KI-Apps und KI-Agenten erstellen können. Aufgrund ihrer Einfachheit und Flexibilität stellen sie für die Nutzer die am schnellsten wachsende Kategorie der Schatten-KI dar. In den drei Monaten bis Mai 2025 stieg die Zahl der Nutzer dieser Plattformen um 50 Prozent. GenAI-Plattformen beschleunigen die direkte Verbindung von Unternehmensdatenspeichern mit KI-Anwendungen, wobei die Popularität der Nutzung neue Risiken für die Datensicherheit in Unternehmen schafft, die der Verhinderung von Datenverlusten (DLP) und der kontinuierlichen Überwachung und Sensibilisierung zusätzliche Bedeutung verleihen.

Der mit der Nutzung von KI-Plattformen verbundene Netzwerkverkehr stieg im Vergleich zum vorangegangenen Drei-Monats-Zeitraum um 73 Prozent. Im Mai setzten bereits 41 Prozent der Unternehmen mindestens eine genAI-Plattform ein. Ungefähr 29 Prozent der Unternehmen nutzen Microsoft Azure OpenAI, gefolgt von Amazon Bedrock (22 Prozent) und Google Vertex AI (7,2 Prozent). 

„Das rasante Wachstum von Schatten-KI zwingt Unternehmen dazu, herauszufinden, wer neue KI-Apps und KI-Agenten mit Hilfe von GenAI-Plattformen entwickelt und wo diese entwickelt und eingesetzt werden“, erläutert Ray Canzanese, Director of Netskope Threat Labs. „Sicherheitsteams wollen die Innovationsbestrebungen der Endanwender nicht behindern, aber die Nutzung von KI wird nur zunehmen. Um diese Innovation zu schützen, müssen Unternehmen ihre KI-App-Kontrollen überarbeiten und ihre DLP-Richtlinien so weiterentwickeln, dass sie Elemente des Benutzer-Coachings in Echtzeit einbeziehen.“

Die vielen Facetten der On-Premise KI-Innovation

Von der lokalen Bereitstellung von GenAI über On-Premise GPU-Quellen bis hin zur Entwicklung von On-Premise Tools, die mit SaaS-genAI-Anwendungen oder GenAI-Plattformen interagieren, evaluieren Unternehmen viele Optionen, um mithilfe von KI schnell innovativ zu sein. Sie wenden sich zunehmend Large Language Model (LLM)-Schnittstellen zu. 

• Heute nutzen 34 Prozent der Unternehmen diese Schnittstellen, wobei Ollama mit 33 Prozent derzeit der klare Marktführer ist und andere wie LM Studio (0,9 Prozent) und Ramalama (0,6 Prozent) nur an der Oberfläche kratzen. 
• In der Zwischenzeit experimentieren die Endnutzer mit KI-Tools und besuchen KI-Marktplätze in rasantem Tempo. In der Mehrheit (67 Prozent) der Unternehmen laden die Nutzer beispielsweise Ressourcen von Hugging Face herunter. 
• Das Versprechen von KI-Agenten treibt dieses Verhalten an, da die Daten zeigen, dass es jetzt eine kritische Masse von Nutzern in Unternehmen gibt, die KI-Agenten entwickeln und die KI-Funktionen von SaaS-Lösungen nutzen. GitHub Copilot wird jetzt in 39 Prozent der Unternehmen eingesetzt, und 5,5 Prozent der Nutzer setzen Agenten ein, die von beliebten KI-Agenten-Frameworks vor Ort generiert wurden. 
• Darüber hinaus rufen Agenten vor Ort mehr Daten von SaaS-Diensten ab und greifen dabei auf mehr API-Endpunkte als Browser zu. Zwei Drittel (66 Prozent) der Unternehmen haben Benutzer, die API-Aufrufe an api.openai.com und 13 Prozent an api.anthropic.com tätigen.

Fortsetzung und Weiterentwicklung der SaaS-KI-Nutzung

Netskope verfolgt jetzt mehr als 1.550 verschiedene GenAI-SaaS-Anwendungen, im Vergleich zu nur 317 im Februar. Dies weist auf das rasante Tempo hin, mit dem neue Anwendungen veröffentlicht und im gesamten Unternehmen angenommen werden. Unternehmen nutzen jetzt etwa 15 GenAI-Anwendungen, im Februar waren es noch 13. Darüber hinaus ist die Datenmenge, die jeden Monat in GenAI-Apps hochgeladen wird, im Quartalsvergleich von 7,7 GB auf 8,2 GB gestiegen.

• Unternehmensanwender beginnen, sich um speziell entwickelte Tools wie Gemini und Copilot zu konsolidieren, da immer mehr Sicherheitsteams daran arbeiten, diese Anwendungen und Lösungen in ihrem Unternehmen sicher zu aktivieren, da diese Chatbots nun besser in ihre Produktivitäts-Suiten integriert sind. 
• Der Allzweck-Chatbot ChatGPT verzeichnete den ersten Rückgang in der Beliebtheit bei Unternehmen – seit Netskope 2023 mit der Verfolgung der beliebten genAI-App begann. 
• Von den Top 10 der beliebtesten GenAI-Apps pro Unternehmen war ChatGPT die einzige, die seit Februar einen Rückgang verzeichnete, während andere beliebte Apps, darunter Anthropic Claude, Perplexity AI, Grammarly und Gamma, alle einen Anstieg der Akzeptanz in Unternehmen verzeichneten. 
• Darüber hinaus ist Grok aufgrund seiner zunehmenden Beliebtheit zum ersten Mal in die Top 10 der meistgenutzten Anwendungen aufgestiegen. Grok ist zwar weiterhin in den Top 10 der meistgesperrten Apps, aber die Blockierraten sind tendenziell rückläufig, da immer mehr Unternehmen granulare Kontrollen und Überwachungen evaluieren und einsetzen.

Sicherstellung von KI-Governance und Nutzungsmonitoring

CISOs und andere Sicherheitsverantwortliche sollten die notwendigen Schritte unternehmen, um eine sichere und verantwortungsvolle Übernahme inmitten der beschleunigten Nutzung verschiedener KI-Technologien zu gewährleisten (siehe auch: Drei zentrale Maßnahmen für einen sicheren GenAI-Einsatz). Netskope empfiehlt folgende Maßnahmen:

• Bewerten Sie die GenAI-Landschaft: Ermitteln Sie, welche GenAI-Tools im Unternehmen eingesetzt werden, und bestimmen Sie, wer diese Tools verwendet und wie sie genutzt werden.
• Verstärkung der GenAI-App-Kontrollen: Legen Sie eine Richtlinie fest, die nur die Nutzung von im Unternehmen zugelassenen GenAI-Anwendungen erlaubt, und setzen Sie sie durch. Implementieren Sie robuste Sperrmechanismen und setzen Sie ein Echtzeit-Benutzercoaching ein.
• Inventarisierung lokaler Kontrollen: Wenn ein Unternehmen GenAI-Infrastrukturen lokal betreibt, sollten Sie relevante Sicherheits-Frameworks wie OWASP Top 10 for Large Language Model Applications prüfen sowie anwenden und sicherstellen, dass Daten, Benutzer und Netzwerke, die mit der lokalen GenAI-Infrastruktur interagieren, angemessen geschützt sind.
• Kontinuierliches Monitoring und Sensibilisierung: Implementieren Sie ein kontinuierliches Monitoring der GenAI-Nutzung innerhalb der Organisation, um neue Schatten-KI-Instanzen zu erkennen und über neue Entwicklungen in der KI-Ethik, regulatorische Änderungen und feindliche Angriffe auf dem Laufenden zu bleiben.
• Bewertung der aufkommenden Risiken von agentenbasierter Schatten-KI: Identifizieren Sie diejenigen, die bei der Einführung von agentenbasierter KI führend sind, und arbeiten Sie mit ihnen zusammen, um eine umsetzbare und realistische Richtlinie zur Begrenzung von Schatten-KI zu entwickeln.