Manipulative KI, Techno-Nationalismus und Risiken für Open-Source-Projekte

2025 markiert einen Wendepunkt im Bereich der Cybersecurity: Manipulative KI-Systeme, der wachsende Einfluss von Techno-Nationalismus und gezielte Angriffe auf Open-Source-Projekte treiben die Fragmentierung und Komplexität der Bedrohungsszenarien auf ein neues Niveau. [...]

Auch für dieses Jahr veröffentlicht HarfangLab, ein europäisches Cybersecurity-Unternehmen, den Threatscape Report, und zeigt entscheidende Risiken und Veränderungen im Cybersicherheitsumfeld auf. Zu den Kernprognosen für das Jahr 2025 zählen unter anderem die Fragmentierung von Internetstrukturen, Angriffe auf Open-Source-Projekte und manipulative KI-Technologien, die die globale Cybersicherheitslandschaft nachhaltig beeinflussen werden.  

Fragmentierung des Internets und Techno-Nationalismus

Die zunehmende Nutzung von Cyberangriffen im geopolitischen Kontext verschärft das Risiko von Sicherheitslecks. Europäische Staaten und Organisationen stehen vor der Herausforderung, ihre digitale Souveränität zu stärken, ohne dabei offene Märkte und die globale Zusammenarbeit zu gefährden. Schutzmaßnahmen wie Geofilter oder Modelle wie die „Great Firewall“ können zwar kritische Infrastrukturen vor externen Bedrohungen schützen, erhöhen jedoch gleichzeitig das Risiko einer stärkeren Fragmentierung des Internets. 

Gefährdung von Open-Source-Projekten

Angriffe wie die XZ Utils-Backdoor oder die CSRF-MAGIC-Kompromittierung verdeutlichen die Verwundbarkeit des Open-Source-Ökosystems. Durch Techniken wie Social Engineering, technische Verschleierung oder Abhängigkeitsmanipulation können Cyberkriminelle weit verbreitete Software-Lieferketten kompromittieren. Angesichts der potenziellen Auswirkungen solcher Angriffe auf zahlreiche Anwendungen ist eine Zunahme gezielter Attacken zu erwarten. 

Risiken durch autonome KI-Agenten

Mit der verstärkten Nutzung autonomer KI-Lösungen steigt auch das Risiko, dass diese Systeme ohne ausreichende Sicherheitsmaßnahmen von Cyberkriminellen missbraucht werden. Solche Angriffe könnten etwa dazu dienen, sich Zugang zu sensiblen Daten zu verschaffen oder die Funktionsweise der KI zu manipulieren. 

Gefahr der Datenvergiftung in KI-Modellen

Konversationsagenten, die auf großen Sprachmodellen basieren, werden immer wichtiger für den Zugang zu Informationen. Allerdings können Cyberkriminelle durch manipulierte Trainingsdaten das Verhalten solcher Modelle massiv beeinflussen. Bereits minimale Datenvergiftungen – etwa 0,01 Prozent der Trainingsdaten – könnten alternative Narrative fördern oder Desinformationskampagnen vorantreiben. Besonders Bereiche wie Gesundheit, Finanzen und Cybersicherheit könnten betroffen sein, wenn keine robusten Validierungsmechanismen etabliert werden. 

Strategische Vorpositionierung von Malware

Cyberangriffe mit vorinstallierter Malware könnten 2025 zu einem zentralen Risiko werden. Bereits 2024 aufgedeckte Angriffe mit Zero-Day-Schwachstellen und nicht-interaktiven Techniken deuten darauf hin, dass Cyberkriminelle Malware gezielt platziert haben, um sie später für umfassendere Operationen zu aktivieren. 

Beteiligung neuer Akteure in Cyberkonflikten

Private Unternehmen, zivilgesellschaftliche Organisationen und Einzelpersonen könnten 2025 eine größere Rolle in Cyberkonflikte spielen. Einerseits könnten Staaten diese Akteure gezielt für ihre Zwecke einbinden. Andererseits könnten sie auch eigenständig aktiv werden, etwa indem sie Cyberkriminelle aufdecken oder gegen staatlich geförderte Desinformationskampagnen vorgehen.  

Manipulation von Netzwerken und Infrastruktur

Die gezielte Nutzung von Netzwerkinfrastrukturen zur Kontrolle oder Störung des Internetverkehrs dürfte zunehmen. Staatlich kontrollierte Internetanbieter könnten den Zugang zu Diensten blockieren oder verlangsamen, während Cyberkriminelle mit Traffic-Hijacking unverschlüsselte Daten oder Kryptowährungstransaktionen ins Visier nehmen. 

Pierre Delcher, Leiter des Cyber Threat Research Teams bei HarfangLab, kommentiert: „Natürlich können auch wir nicht in eine Kristallkugel schauen. Stattdessen versuchen wir, Abstand zu gewinnen, unsere Erfahrung einzusetzen und aus dem vergangenen Jahr zu lernen. Wir untersuchen die Methoden und Ziele von Cyberkriminelle, die Rolle neuer Technologien, die damit verbundenen Risiken und Interessen sowie die Verbindungen im Cyber-Ökosystem und deren Einfluss auf das geopolitische und sozioökonomische Umfeld. Und das mit Erfolg: Unsere Prognosen für 2024 sagten zahlreiche Bedrohungen und Trends korrekt voraus. Dazu gehören der Anstieg von Informationsmanipulationen, die zerstörerischen Auswirkungen von Cyber- und elektronischen Kriegsoperationen zur Unterstützung militärischer Konflikte sowie die zunehmende Ausnutzung der Netzwerkausrüstung.“ 

Den vollständigen Bericht und die Analyse zur Relevanz und Genauigkeit der Prognosen aus dem Vorjahr können Sie hier nachlesen und herunterladen.