Wie Security Awareness bei der Erkennung von Deepfakes und AI-Phishing hilft

Ein Kommentar von Roger Grimes, Data-Driven Defense Evangelist bei KnowBe4, zur Bedrohung durch die fortschreitende Verbreitung von Deepfake- und KI-Technologien. [...]

Die fortschreitende Verbreitung von Deepfake- und KI-Technologien stellt eine ernsthafte Bedrohung dar, insbesondere im Bereich der Phishing-Angriffe. Diese Technologien ermöglichen es den Angreifern, immer realistischere und ausgefeiltere Täuschungen zu schaffen, die herkömmliche Erkennungsmethoden, wie etwa Rechtschreib- und Sprachfehler, obsolet machen. Dies verschärft ein bereits bestehendes Problem erheblich und erfordert eine verstärkte Sensibilisierung für Sicherheitsaspekte.

Die Ära, in der Phishing-Angriffe anhand offensichtlicher sprachlicher Unstimmigkeiten identifiziert werden konnten, neigt sich dem Ende zu. Daher wird die Notwendigkeit umfassender Security-Awareness-Trainings immer dringlicher, um effektive Gegenmaßnahmen zu entwickeln. Trotz der hohen Qualität von Deepfake- und KI-Phishing-Angriffen gibt es jedoch weiterhin Anzeichen, die auf einen Betrugsversuch hinweisen können:

Unerwartete und ungewöhnliche Anfrage (Sie wurden noch nie zuvor um eine Leistung gebeten)

• Ankunft von einer fremden Absender-E-Mail-Adresse
• Ankunft zu einer ungewöhnlichen Zeit (in der Nacht oder am Wochenende)
• Die Nachricht deutet auf eine große Dringlichkeit hin, da sonst irreparabler Schaden entsteht
• Falsche URL, die nicht direkt auf eine seriöse Markenwebsite verweist
• Unangenehmes Bauchgefühl bei der Anfrage
• Unerwarteter, potenziell gefährlicher Dateianhang

Meistens handelt es sich um eine unerwartete, dringende Aufforderung an den Empfänger. Er soll etwas tun, was er noch nie zuvor getan hat. Jede Nachricht mit diesen Kriterien erhöht das Risiko, in einen Betrug verwickelt zu werden, auch wenn es sich nicht um einen Betrug handelt. Empfänger müssen die kritischen Anzeichen für eine risikoreiche E-Mail an die zuständige IT-Abteilung kommunizieren und dies immer wieder tun, bis dieser Prozess zum Standardvorgehen und Teil der Unternehmenskultur wird.

Deepfakes und KI werden Phishing-Betrügereien realistischer machen. Der alte Ratschlag, auf Rechtschreibfehler, Sprachprobleme und seltsame Nachrichtentexte zu achten, gilt zwar immer noch, wird aber mit der Zeit an Bedeutung verlieren. Es ist wichtiger denn je, dass Anwender vor Social-Engineering-Angriffen gewarnt werden und die wichtigsten Phishing-Anzeichen kennen, auf die sie achten müssen.

Obwohl fortschrittliche Verteidigungsmechanismen wie künstliche Intelligenz dazu beitragen können, Social-Engineering-Angriffe zu identifizieren und zu verhindern, bleibt die kontinuierliche Schulung der Benutzer der Schlüssel. Eine umfassende Sicherheitskultur in Unternehmen sollte darauf abzielen, die Mitarbeiter mit den notwendigen Fähigkeiten auszustatten, um den sich ständig weiterentwickelnden Bedrohungen durch Deepfake- und KI-Phishing erfolgreich entgegenzutreten. Dies erfordert nicht nur technologische Lösungen, sondern auch ein Bewusstsein und eine proaktive Beteiligung aller Beteiligten an der Sicherheit des Unternehmens.

*Roger Grimes ist Data-Driven Defense Evangelist bei KnowBe4.