ChatGPT-fans moeten een "defensieve mentaliteit" aannemen, omdat oplichters meerdere methoden zijn gaan gebruiken om de gebruikers van de bot te misleiden om malware te downloaden of gevoelige informatie te delen.
Onderzoekers van Unit 42 – de bedreigingsinformatie-eenheid van Palo Alto Networks – publiceerden deze week een verslag dat tussen november 910 en april 2022 een toename van 2023 procent vond in domeinnamen gerelateerd aan ChatGPT.
In dezelfde periode zagen de onderzoekers een groei van 17,818 procent van gerelateerde squatting-domeinen uit DNS-beveiligingslogboeken en "tot" 118 dagelijkse detecties van ChatGPT-gerelateerde kwaadaardige URL's.
Die pieken, zo stellen de onderzoekers, geven aan dat oplichters ChatGPT-gebruikers willen lokken naar ogenschijnlijk gerelateerde sites en nep-chatbots die zijn ontworpen om schade aan te richten.
"Toen OpenAI op 1 maart 2023 zijn officiële API voor ChatGPT uitbracht, zagen we een toenemend aantal verdachte producten deze gebruiken", schreven Unit 42-onderzoekers Peng Peng, Zhanhao Chen en Lucas Hu in het rapport.
“Tijdens ons onderzoek hebben we meerdere phishing-URL's waargenomen die probeerden zich voor te doen als officiële OpenAI-sites. Doorgaans maken oplichters een nepwebsite die het uiterlijk van de officiële ChatGPT-website nauwkeurig nabootst, en misleiden gebruikers vervolgens om malware te downloaden of gevoelige informatie te delen.”
"Bovendien kunnen oplichters ChatGPT-gerelateerde social engineering gebruiken voor identiteitsdiefstal of financiële fraude", schreven de onderzoekers van Palo Alto. "Ondanks dat OpenAI gebruikers een gratis versie van ChatGPT geeft, leiden oplichters slachtoffers naar frauduleuze websites en beweren dat ze voor deze diensten moeten betalen."
Eén genoemde site is ontworpen om slachtoffers te verleiden tot het verstrekken van vertrouwelijke informatie zoals creditcardgegevens en e-mailadressen. Een ander gebruikte het logo van OpenAI en de naam en afbeelding van Elon Musk om slachtoffers te verleiden tot fraude met cryptocurrency.
Het rapport beschrijft ook meerdere gevallen van onverlaten die domeinen met "openai" en "chatgpt" in hun naam registreren en gebruiken, waaronder openai.us en chatgpt.jobs.
Eerder deze maand bevatten deze domeinen niets kwaadaardigs, maar aangezien ze niet worden gecontroleerd door OpenAI of authentieke domeinbeheerbedrijven, zouden ze in de toekomst wel eens kunnen worden misbruikt.
De groei van dergelijke krakende domeinregistraties was gestaag sinds november, maar piekte nadat Microsoft – de grote investeerder in OpenAI dat de technologieën van de startup zoals GPT-4, Dall-E en ChatGPT in zijn portfolio zaait - kondigde op 7 februari een versie aan van de Bing zoekmachine met ChatGPT.
Kort daarna werden meer dan 300 ChatGPT-gerelateerde domeinen geregistreerd. Het aantal ChatGPT-squatting-domeinen in de DNS-beveiligingslogboeken nam sterk toe op de dagen dat OpenAI de ChatGPT API en GPT-4 uitbracht.
Phishing met ChatGPT
Er is ook een groeiend aantal copycat AI-chatbots, waarvan sommige hun eigen grote taalmodellen hebben en andere beweren ChatGPT-services aan te bieden via OpenAI's openbare API. Deze chatbots kunnen een veiligheidsrisico vormen, vooral in landen waar ChatGPT is niet beschikbaar, waarschuwden de onderzoekers.
"Voor de release van de ChatGPT API waren er verschillende open-sourceprojecten waarmee gebruikers verbinding konden maken met ChatGPT via verschillende automatiseringstools", schreven ze, waarbij ze opmerkten dat in dergelijke landen "websites gemaakt met deze automatiseringstools of de API een aanzienlijk aantal gebruikers uit deze gebieden.”
De meeste copycat-bots zijn niet zo krachtig als ChatGPT omdat ze gebaseerd zijn op GPT-3, dat in juni 2022 werd uitgebracht. ChatGPT is gebaseerd op GPT-3.5 en GPT-4. Bovendien zijn de copycat-services een andere manier voor bedreigingsgroepen om geld te verdienen aan de ChatGPT-nieuwsgierig door de informatie te verzamelen en te stelen die gebruikers hen geven.
In één geval downloadden de onderzoekers een "AI ChatGPT"-extensie van een copycat-chatbot en ontdekten dat deze sterk versluierde JavaScript op de achtergrond toevoegt die de Facebook Graph API aanroept, waardoor de accountgegevens van het slachtoffer worden gestolen. Het kan ook meer toegang krijgen tot het Facebook-account.
Antivirusleverancier Guardio in een recente verslag schetste een soortgelijk kwaadaardig browserextensieschema waarbij een Chrome-extensie Facebook-accounts kapte en achterdeurtjes installeerde, waaronder een die de schurken superbeheerdersmachtigingen gaf.
Zoals met veel cyberbeveiliging, zijn de gebruikers zelf de beste verdediging. Ze moeten op hun hoede zijn voor verdachte e-mails of links die gerelateerd zijn aan ChatGPT en toegang krijgen tot ChatGPT via de OpenAI-website in plaats van copycat-chatbots te gebruiken, schreven de onderzoekers. ®
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
- De toekomst slaan met Adryenn Ashley. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2023/04/21/crooks_chatgpt_schemes/
