ChatGPT-Hype lässt Cyber-Kriminelle kreativ werden

Palo Alto Networks hat zahlreiche Fallen und Betrugsversuche im ChatGPT-Kontext entdeckt

[datensicherheit.de, 20.04.2023] „ChatGPT“ hat in den letzten Monaten offensichtlich stark an Popularität gewonnen – „genutzt wird es für alles Mögliche, vom Schreiben von Rap-Songs über das Erledigen von Hausaufgaben bis hin zum Verfassen von Anschreiben für Bewerbungen und sogar zum Überprüfen von Codes“. Laut der „Unit 42“ bei Palo Alto Networks ist es daher nicht überraschend, „dass auch Angreifer versuchen, die Popularität der App zu nutzen, um Menschen zu betrügen“.

Enormer Anstieg von Betrugsversuchen mit ChatGPT

Am 20. April 2023 hat Palo Alto Networks nach eigenen Angaben eine „Unit 42“-Analyse veröffentlicht, „die zeigt, dass es einen enormen Anstieg von Betrugsversuchen mit ,ChatGPT’ gibt, was darauf zurückzuführen ist, dass generative KI immer beliebter wird“. Die Studie weise auf die verschiedenen Methoden der Betrüger hin, mit denen sie Nutzer zum Herunterladen von Malware oder zur Weitergabe sensibler Informationen verleiten wollten, und enthalte konkrete Fallstudien und Beispiele.

Herausragende Erkenntnisse laut Palo Alto Networks:

• Zwischen November 2022 und April 2023 habe die „Unit 42“ einen Anstieg von 910 Prozent bei den monatlichen Registrierungen von Domains mit Bezug zu „ChatGPT“ beobachtet.
• Täglich seien mehr als 100 bösartige URLs im Zusammenhang mit „ChatGPT“ entdeckt worden, „die vom ,Palo Alto Networks Advanced URL Filtering System’ erfasst wurden“.
• Im gleichen Zeitraum habe das Team ein fast 18.000-prozentiges Wachstum der besetzten Domains in den DNS-Sicherheitsprotokollen beobachtet.

ChatGPT zieht auch Aufmerksamkeit von Betrügern auf sich

„Die Forscher von ,Unit 42‘ überwachen die Trendthemen, neu registrierten Domains und besetzten Domains im Zusammenhang mit ,ChatGPT’, da es eine der am schnellsten wachsenden Verbraucheranwendungen in der Geschichte ist.“ Die dunkle Seite dieser Popularität sei, dass „ChatGPT“ auch die Aufmerksamkeit von Betrügern auf sich ziehe, welche versuchten, von der Verwendung von Formulierungen und Domainnamen zu profitieren, „die im Zusammenhang mit der Website erscheinen“.

Zwischen November 2022 und Anfang April 2023 habe die „Unit 42“ einen Anstieg der monatlichen Registrierungen für Domains im Zusammenhang mit „ChatGPT“ um 910 Prozent verzeichnete. Außerdem habe sie in diesem Zeitraum ein 17.818-prozentiges Wachstum verwandter Squatting-Domains aus DNS-Sicherheitsprotokollen beobachtet. Die „Unit 42“ habe außerdem täglich bis zu 118 Erkennungen bösartiger URLs im Zusammenhang mit „ChatGPT“ verzeichnet, „die aus dem Datenverkehr erfasst wurden“.

ChatGPT-Benutzer sollten sich Chatbots mit einer defensiven Denkweise nähern

In der vorliegenden Analyse stelle die „Unit 42“ mehrere Fallstudien vor, um die verschiedenen Methoden zu veranschaulichen, „mit denen Betrüger Benutzer dazu verleiten, Malware herunterzuladen oder vertrauliche Informationen weiterzugeben“. Als OpenAI am 1. März 2023 seine offizielle API für „ChatGPT“ veröffentlichte, habe die „Unit 42“ eine zunehmende Anzahl verdächtiger Produkte beobachtet, „die es verwenden“. Daher hebt die „Unit 42“ die potenziellen Gefahren der Verwendung von Nachahmer-Chatbots hervor, „um ,ChatGPT’-Benutzer zu ermutigen, sich solchen Chatbots mit einer defensiven Denkweise zu nähern“.

Während OpenAI seinen rasanten Aufstieg zu einer der bekanntesten Marken im Bereich der Künstlichen Intelligenz begonnen habe, „beobachtete ,Unit 42‘ mehrere Fälle von Bedrohungsakteuren, die sich in freier Wildbahn besetzende Domains registrierten und nutzten, die ,openai’ und ,chatgpt’ als ihre Domain verwendeten“ (z.B. openai[.]us, openai[.]xyz und chatgpt[.]jobs). Die meisten dieser Domains hätten Anfang April 2023 nichts Bösartiges gehostet, aber es sei „besorgniserregend“, dass sie nicht von OpenAI oder anderen authentischen Domain-Verwaltungsunternehmen kontrolliert würden. „Sie könnten jederzeit missbraucht werden, um Schaden anzurichten.“

Erscheinungsbild der offiziellen ChatGPT-Website genau nachgeahmt

Während der Recherche habe die „Unit 42“ mehrere Phishing-URLs beobachtet, „die versuchten, sich als offizielle OpenAI-Websites auszugeben“. Typischerweise erstellten Betrüger eine gefälschte Website, „die das Erscheinungsbild der offiziellen ,ChatGPT’-Website genau nachahmt, und verleiten dann Benutzer dazu, Malware herunterzuladen oder vertrauliche Informationen zu teilen“.

Darüber hinaus könnten Betrüger „ChatGPT“-bezogenes „Social Engineering“ für Identitätsdiebstahl oder Finanzbetrug verwenden. Obwohl OpenAI Benutzern eine kostenlose Version von „ChatGPT“ zur Verfügung stelle, führten Betrüger Opfer zu betrügerischen Websites und behaupteten, „dass sie für diese Dienste bezahlen müssen“. Beispielsweise versuchten gefälschte „ChatGPT“-Sites, Opfer dazu zu verleiten, ihre vertraulichen Informationen wie Kreditkartendaten und E-Mail-Adressen preiszugeben. Die „Unit 42“ habe auch, bemerkt dass einige Betrüger die wachsende Popularität von OpenAI für Krypto-Betrug ausnutzten.

ChatGPT 2023 zu einer der beliebtesten Anwendungen geworden

Während „ChatGPT“ in diesem Jahr, 2023, zu einer der beliebtesten Anwendungen geworden sei, seien auch immer mehr Nachahmer-KI-Chatbot-Anwendungen auf dem Markt erschienen. Einige dieser Anwendungen böten ihre eigenen großen Sprachmodelle an, andere behaupteten, dass sie „ChatGPT“-Dienste über die am 1. März 2023 angekündigte öffentliche API anböten. Die Verwendung von Nachahmer-Chat-Bots könnte jedoch die Sicherheitsrisiken erhöhen. Vor der Veröffentlichung der „ChatGPT“-API habe es mehrere Open-Source-Projekte gegeben, „die es Benutzern ermöglichten, sich über verschiedene Automatisierungstools mit ,ChatGPT’ zu verbinden“. Angesichts der Tatsache, dass „ChatGPT“ in bestimmten Ländern oder Regionen nicht zugänglich sei, „könnten Websites, die mit diesen Automatisierungstools oder der API erstellt wurden, eine beträchtliche Anzahl von Benutzern aus diesen Bereichen anziehen“. Dies biete Bedrohungsakteuren auch die Möglichkeit, „ChatGPT“ zu monetarisieren, „indem sie ihren Dienst vertreten“.

Die wachsende Popularität von „ChatGPT“ weltweit habe es zu einem Ziel für Betrüger gemacht. Die „Unit 42“ habe einen deutlichen Anstieg der Anzahl neu registrierter Domains und besetzter Domains im Zusammenhang mit „ChatGPT“ festgestellt, die potenziell von Betrügern für böswillige Zwecke ausgenutzt werden könnten. „Um sicher zu bleiben, sollten ,ChatGPT’-Benutzer bei verdächtigen E-Mails oder Links im Zusammenhang mit ,ChatGPT’ vorsichtig sein.“ Darüber hinaus bringe die Verwendung von Nachahmer-Chatbots zusätzliche Sicherheitsrisiken mit sich. „Benutzer sollten ,ChatGPT’ immer über die offizielle OpenAI-Website aufrufen.“

Weitere Informationen zum Thema:

UNIT 42, Peng Peng & Zhanhao Chen & Lucas Hu, 20.04.2023
ChatGPT-Themed Scam Attacks Are on the Rise

datensicherheit.de, 20.03.2023
ChatGPT4: Sicherheitsanalyse zeigt Szenarien für beschleunigte Cyber-Kriminalität / Die Sicherheitsforscher von Check Point mahnen, dass trotz der Sicherheitsvorkehrungen einige Beschränkungen leicht umgangen werden können / Hacker können ihre Ziele ohne große Hindernisse erreichen

datensicherheit.de, 23.02.2023
ChatGPT: Hacker nutzen Fake-Apps zur Verbreitung von Malware / Bedrohungsakteure versprechen uneingeschränkten, kostenlosen Zugang zum Premium-ChatGPT

datensicherheit.de, 22.02.2023
ChatGPT: Malware-Kampagne missbraucht Hype / Malware ermöglicht Diebstahl von Login-Daten und persönlichen Informationen

datensicherheit.de, 09.02.2023
ChatGPT: Gefahren und Grenzen der KI / Verteidiger müssen auf dem Stand der Technik und des Wissens sein