Nicht einmal die Hälfte der Unternehmen kann einen sicheren KI-Betrieb garantieren

Während die Mehrheit der Unternehmen (93 Prozent) laut einer Umfrage von Delinea selbstbewusst davon ausgeht, dass ihre KI-Systeme vor Eingriffen und Manipulationen geschützt sind, besteht diese Sicherheit tatsächlich lediglich bei 44 Prozent. [...]

Delinea, Anbieter von Lösungen für Identitätssicherheit und zentrale Autorisierung, stellt die Ergebnisse seiner aktuellen Studie zum Thema künstliche Intelligenz (KI) in Verbindung mit Identitätssicherheit vor. An der Umfrage haben weltweit über 1.700 IT-Entscheidungsträger teilgenommen. Demnach bestätigen lediglich 44 Prozent der Befragten, dass ihre Sicherheitsarchitektur vollständig für den sicheren Einsatz von KI gerüstet ist – und das, obwohl sie insgesamt großes Vertrauen in ihre aktuellen Fähigkeiten haben.

Die Umfrage offenbart eine beträchtliche Kluft: Einerseits verlassen sich Unternehmen auf die Strategien, mit denen sie ihre KI-Systeme absichern, andererseits weisen ihre KI-Tools erhebliche Funktionsdefizite auf. Obwohl 93 Prozent von ihnen glauben, dass sie ausreichend Maßnahmen ergriffen haben, um ihre Machine Identities vor KI-gestützten Manipulationen und Angriffen zu schützen, haben tatsächlich nur 61 Prozent vollständige Einsicht in sämtliche Identitäten. Lediglich 48 Prozent haben Identity Governance für ihre KI-Systeme eingerichtet. Diese eingeschränkte Sichtbarkeit kann unter anderem kritische Folgen für Unternehmen nach sich ziehen, die Agentic AI implementiert haben – laut Umfrage sind das 66 Prozent der befragten Unternehmen. Denn dieses Defizit macht die KI-Agenten anfällig für verschiedene Risiken wie ungeprüfte automatisierte Entscheidungen oder den Zugriff durch Cyberkriminelle.

„Agentic AI braucht Agentic Security“, so Andreas Müller, VP Enterprise Sales Central & Eastern Europe bei Delinea. „Unternehmen müssen ihre Herangehensweise an Identitäten ändern und adaptive, risikobewusste Systeme aufbauen, die jede Aktion verifizieren und absichern – unabhängig davon, ob sie von Menschen oder Machine Identities ausgelöst werden. Im Gegensatz zu klassischen rollenbasierten Ansätzen erfordern gerade KI-Agenten deutlich granularere und dynamischere Identity-Access-Kontrollen. Darüber hinaus ist es für jedes Unternehmen entscheidend, ein umfassendes KI-Governance-Modell zu etablieren, damit sie die Technologie sicher und im Sinne ihrer Zweckbestimmung einsetzen kann.“

Die wichtigsten Ergebnisse im Überblick:

• Weitverbreiteter Einsatz von KI innerhalb des KI- und Security-Betriebs: Die Mehrheit der Unternehmen (94 Prozent) setzt KI im Rahmen ihres IT-Bertriebs in irgendeiner Form ein. Mehr als die Hälfte (60 Prozent) nutzt im Speziellen Generative oder Agentic AI. Bei 40 Prozent der Unternehmen kommen KI-Agenten zur Verbesserung des Sicherheitsbetriebs zum Einsatz.
• Schatten-KI bleibt eine Herausforderung: Über die Hälfte der befragten Unternehmen (56 Prozent) sagt, dass sie mindestens einmal im Monat von Problemen mit Schatten-KI betroffen sind. Ein Drittel (32 Prozent) erlebt solche Vorfälle sogar mehrmals monatlich. Dies unterstreicht die Herausforderungen, die mit unerlaubter KI-Nutzung einhergehen.
• KI-basierte Sicherheitsrisiken: Für Unternehmen gelten die folgenden KI-Risiken in Bezug auf Identitätssicherheit als besonders akut:
  • KI-generierte Phishing-E-Mails und Deep Fakes
  • Diebstahl von Anmeldedaten mithilfe von KI
  • Agentic-AI-Systeme mit unautorisiertem Zugang
  • Unerlaubter Einsatz von KI-Tools
  • Intransparente KI-Zugangsprozesse

Trotz des breiten Einsatzes von KI scheint in vielen Unternehmen eine große Lücke im Bereich der KI-Governance zu klaffen. Lediglich 57 Prozent von ihnen berichten von akzeptablen Nutzungsrichtlinien für KI-Tools; nur 55 Prozent nutzen Zugangskontrollen für KI-Agenten. Dieser mangelhafte Überblick macht Unternehmen anfällig für Risiken, die sowohl von der unerlaubten Nutzung von KI-Tools als auch von unsachgemäß gemanagten KI-Systemen ausgehen. Die gute Nachricht: Fast die Hälfte der Unternehmen (47 Prozent) ist zuversichtlich, dass ihre geplanten Sicherheitsinitiativen den Einsatz von KI innerhalb der nächsten zwei Jahre noch sicherer machen werden. Da KI IT- und Sicherheitsprozesse zunehmend verändert, müssen Unternehmen der robusten Identity Governance sowie anpassungsfähigen Sicherheitskontrollen höchste Priorität einräumen, damit sie neuen Risiken wirksam begegnen können.

Der vollständige Studienbericht steht hier zum Download bereit.