SOPHOS meldet Stagnation: Cyber-Kriminelle gegenüber KI offenbar weiterhin skeptisch

„DeepSeek“ mit seinem Open-Source-Charakter könnte zu Missbrauch durch Cyber-Kriminelle führen

[datensicherheit.de, 01.02.2025] Eine aktuelle Recherche von Sophos X-Ops in ausgewählten Cybercrime-Foren habe ergeben, dass Bedrohungsakteure sogenannte Künstliche Intelligenz (KI) nach wie vor nicht intensiv für ihre Kampagnen einsetzten. Erörtert wird die Frage, ob nun „DeepSeek“ Bewegung ins Spiel bringt. Parallel zum neuesten Report „Beyond the Hype: The Businesses Reality of AI for Cybersecurity“ – zur Nutzung von KI in der Unternehmens-Security – hat Sophos X-Ops einen Bericht über die KI-Nutzung Cyber-Krimineller veröffentlicht: Laut dieser erneuten Untersuchung mit dem Titel „Cybercriminals Still Not Getting On Board the AI Train (Yet)“ gebe es lediglich eine leichte Veränderung in der Art und Weise, wie Cyber-Kriminelle KI diskutierten und einsetzten.

Deutliche Skepsis Cyber-Krimineller gegenüber KI festgestellt

Besonders interessant seien diese Ergebnisse vor dem Hintergrund, dass Sophos X-Ops bereits im November 2023 eine Untersuchung über den Einsatz von KI im cyber-kriminellen Umfeld veröffentlicht habe, welche demnach eine deutliche Skepsis der Cyber-Kriminellen gegenüber KI feststellte.

In der erneuten Untersuchung der Cybercrime-Foren habe Sophos X-Ops nun festgestellt, dass es lediglich kleinere Verschiebungen im Vergleich zur vorigen Untersuchung zu geben scheine: „Einige Bedrohungsakteure haben begonnen, generative KI in ihren Werkzeugkasten aufzunehmen – vor allem für Spamming, Open-Source-Intelligence (OSINT) und in geringerem Maße für ,Social Engineering’.“

Insgesamt blieben viele Bedrohungsakteure in den untersuchten Cybercrime-Foren jedoch nach wie vor skeptisch gegenüber KI. Ähnlich wie bei der Untersuchung im November 2023 setzten nur einige Cyber-Kriminelle die KI zur Automatisierung von Routineaufgaben ein und verließen sich aber nicht auf diese Technologie im Kontext komplexerer Aufgaben.

Intensive Arbeiten mit „DeepSeek“ könnte durchschnittlichen Cyber-Kriminellen überfordern

Chet Wisniewski, „Field CTO“ bei Sophos, erläutert: „Wie schon vor einem Jahr scheint KI unter den Cyber-Kriminellen in den von uns untersuchten Foren immer noch kein heißes Thema zu sein. In einem bekannten russischsprachigen Forum und auf einem Marktplatz wurden beispielsweise im letzten Jahr weniger als 150 Beiträge über GPTs oder LLMs veröffentlicht.“

Diesem Kommunikationsaufkommen stünden mehr als 1.000 Beiträge über „Krypto-Währungen“ und über 600 Threads im Bereich „Access“, also dem Handel mit Zugangsdaten, im gleichen Zeitraum gegenüber. „Viele Bedrohungsakteure scheinen nach wie vor eine zögernde Haltung zu haben, sie warten die weitere Entwicklung der Technologie, und wie sie diese am besten in ihre Arbeitsabläufe integrieren können, ab.“

Wisniewski merkt indes abschließend an: „Bewegung in die ganze Sache könnte ,DeepSeek’ mit seinem Open-Source-Charakter bringen, der zu Missbrauch durch Cyber-Kriminelle führen könnte. Es ist jedoch wichtig zu beachten, dass das intensive Arbeiten mit ,DeepSeek’ immer noch weitaus mehr Ressourcen erfordert, als der durchschnittliche Cyber-Kriminelle zur Verfügung hat.“

Weitere Informationen zum Thema:

SOPHOS NEWS, Sally Adam, 28.01.2025
Beyond the hype: The business reality of AI for cybersecurity / Real-world insights from 400 IT leaders, plus practical guidance to enhance business outcomes

SOPHOS NEWS, Sophos X-Ops, 28.01.2025
Update: Cybercriminals still not fully on board the AI train (yet) / A year after our initial research on threat actors’ attitudes to generative AI, we revisit some underground forums and find that many cybercriminals are still skeptical – although there has been a slight shift

SOPHOS NEWS, Sophos X-Ops, 28.01.2025
Cybercriminals can’t agree on GPTs / Despite concern over illicit applications of ChatGPT and similar models, Sophos X-Ops’ exploration of cybercrime forums suggests many threat actors are still skeptical – and wrestling with the same issues and problems as the rest of us

datensicherheit.de, 30.01.2025
Weltweites KI-Wettrüsten: Europa droht zurückzufallen / Dan Schiappa bewertet in seiner aktuellen Stellungnahme den KI-Wettlauf und teilt seine Gedanken zur Position Europas