Trend Micro warnt vor Tausenden von ungeschützten KI-Servern

KI-Entwickler und IT-Führungskräfte sollten bei der Entwicklung und Bereitstellung von KI-Systemen bewährte Best Practices beachten. Sie setzen sich sonst dem Risiko von Datendiebstahl, Data Poisoning (Datenvergiftung), Lösegeldforderungen und anderen Angriffen aus. [...]

Der IT-Security-Spezialist Trend Micro hat einen neuen Forschungsbericht zur Cybersicherheit im Bereich künstliche Intelligenz (KI) veröffentlicht. Der State of AI Security Report fordert KI-Entwickler und IT-Führungskräfte dazu auf, bei der Entwicklung und Bereitstellung sicherer Systeme bewährte Best Practices zu beachten. Sie setzen sich sonst dem Risiko von Datendiebstahl, Data Poisoning (Datenvergiftung), Lösegeldforderungen und anderen Angriffen aus. Der Bericht von Trend Micro hebt mehrere Sicherheitsherausforderungen im Zusammenhang mit KI hervor: 

Schwachstellen/Exploits in kritischen Komponenten

Unternehmen, die KI-Anwendungen entwickeln, bereitstellen und nutzen möchten, müssen mehrere spezialisierte Software-Komponenten und -Frameworks einsetzen. Diese können Schwachstellen enthalten, wie sie auch in herkömmlicher Software zu finden sind. Der Bericht zeigt Zero-Day-Schwachstellen und Exploits in Kernkomponenten wie ChromaDB, Redis, NVIDIA Triton und NVIDIA Container Toolkit auf. 

Versehentliche Exposition zum Internet

Schwachstellen sind oft das Ergebnis von überstürzten Entwicklungs- und Bereitstellungszeitplänen, ebenso wie Fälle, in denen KI-Systeme versehentlich vom Internet aus zugreifbar gemacht werden, wo sie von Angreifern untersucht werden können. Wie im Bericht ausführlich beschrieben, hat Trend Micro über 200 ChromaDB-Server, 2.000 Redis-Server und über 10.000 Ollama-Server gefunden, die ohne Authentifizierung zugänglich sind. 

Sicherheitslücken in Open-Source-Komponenten

Viele KI-Frameworks und -Plattformen verwenden Open-Source-Softwarebibliotheken, um gängige Funktionen bereitzustellen. Open-Source-Komponenten enthalten jedoch häufig Sicherheitslücken, die sich in Produktionssysteme einschleichen und dort nur schwer zu erkennen sind. Beim jüngsten Pwn2Own-Hacking-Wettbewerb in Berlin, bei dem eine neue KI-Kategorie eingeführt wurde, entdeckten Forscher einen Exploit für die Vektordatenbank Redis, der auf eine veraltete Lua-Komponente zurückzuführen war. 

Container-basierte Schwachstellen

Ein Großteil der KI-Infrastruktur läuft auf Containern und ist somit denselben Sicherheitslücken und Bedrohungen ausgesetzt, die auch Cloud- und Containerumgebungen betreffen. Wie im Bericht dargelegt, konnten die Forscher beim Pwn2Own einen Exploit für das NVIDIA Container Toolkit aufdecken. Unternehmen sollten Eingaben bereinigen und das Laufzeitverhalten überwachen, um solche Risiken zu minimieren. 

„KI könnte für Unternehmen weltweit die Chance des Jahrhunderts sein. Wer jedoch zu schnell vorprescht, ohne angemessene Sicherheitsvorkehrungen zu treffen, kann am Ende mehr Schaden als Nutzen anrichten“, so Udo Schneider, Governance, Risk & Compliance Lead, Europe bei Trend Micro. „Wie unser Bericht zeigt, wird schon jetzt ein Großteil der KI-Infrastruktur aus ungesicherten bzw. ungepatchten Komponenten aufgebaut, was Angreifern Tür und Tor öffnet.“ 

Konkrete Maßnahmen

Sowohl die Entwickler-Community als auch ihre Kunden brauchen ein besseres Gleichgewicht zwischen Sicherheit und Markteinführungszeit, um die oben genannten Risiken zu minimieren. Konkrete Schritte können sein: 

• Verbessertes Patch-Management und Schwachstellen-Scans.
• Führung eines Inventars aller Software-Komponenten, einschließlich Bibliotheken und Subsystemen von Drittanbietern.
• Best Practices für die Container-Verwaltung, einschließlich der Verwendung minimaler Basisimages und Runtime-Sicherheitstools.
• Konfigurationsprüfungen, um sicherzustellen, dass KI-Infrastrukturkomponenten wie Server nicht dem Internet ausgesetzt sind.