Noord-Koreaanse hackers gebruikten ChatGPT voor phishingaanval

Volgens een recent rapport van beveiligingsbedrijf Genians gaat het om de beruchte Kimsuky-groep. Die staat erom bekend om wel vaker cyberspionage uit te voeren in opdracht van de Noord-Koreaanse overheid. De aanval richtte zich dit keer op Zuid-Koreaanse doelwitten via e-mails die zogezegd afkomstig waren van een officiële instantie die identiteitskaarten uitreikt aan militair personeel. De berichten, die al in juli werden verzonden, gebruikten een domein dat de echte Zuid-Koreaanse militaire website moest nabootsen. Aan de e-mail zat een .zip-bestand gekoppeld, met daarin de gedeeltelijk gemaskeerde echte naam van de ontvanger. Dat gaf het bericht een schijn van legitimiteit en moest de ontvanger verleiden het bestand te openen.

Vervalst paspoort via ChatGPT

In het .zip-bestand zat een kwaadaardige snelkoppeling die de gebruiker moest activeren via een PowerShell-commando. Zodra dat gebeurde, verbond de computer zich met de server van de hackers en werd er malware gedownload die als backdoor fungeerde. Tegelijkertijd werd een vervalste afbeelding van een militair ID opgehaald, zodat het leek alsof er niets ongewoons gebeurde.

Analyse van Genians wees uit dat de vervalste ID afkomstig was van OpenAI’s oudere GPT-4o-model, zoals blijkt uit de metadata die verwijst naar “GPT-4o*OpenAI API” en ChatGPT. Een DeepFake-detector schatte de kans dat de afbeelding AI-gegenereerd was op maar liefst 98 procent.

Beveiliging omzeilen

OpenAI voorziet zijn systemen van beveiligingen die het genereren van overheids-ID’s moeten voorkomen. Toch lijkt het Kimsuky-team een omweg, een zogenaamde jailbreak, te hebben gevonden om ChatGPT te misleiden. Zo konden ze het model laten reageren op verzoeken om “een mock-up of voorbeeld van een ID” te maken, zonder expliciet een echte militaire kaart te kopiëren.

OpenAI reageerde niet direct op verzoeken om commentaar, maar het bedrijf heeft in het verleden al pogingen om ChatGPT te misbruiken tegengehouden. Toch laat het rapport zien dat Noord-Koreaanse hackers blijven experimenteren met AI-technologieën. Zo worden ze steeds vaker betrapt op het gebruik van realtime deepfakes om malware te verspreiden of zelfs op afstand banen bij Amerikaanse bedrijven te bemachtigen.

• Lees ook: Grootschalige phishingcampagne ontdekt: malware in SVG-afbeeldingen omzeilt antivirus