Google waarschuwt: hackers gebruiken AI-modellen om malware slimmer te maken

Volgens de zoekreus gaat het om drie varianten: ‘Quietvault’, ‘Promptflux’ en ‘Promptsteal’, die elk op hun manier gebruikmaken van generatieve AI. De opvallendste van de drie is Promptflux, een nog experimentele malwarevariant die communiceert met Gemini, de chatbot van Google zelf. Het programma stuurt prompts naar de AI met de vraag om kleine stukjes code te schrijven die antivirussoftware omzeilen. Omdat de toepassing zichzelf kan herschrijven, kan die verborgen blijven voor traditionele malwarescanners.

Ook Quietvault maakt gebruik van AI, maar dan op een meer klassieke manier. Die malware probeert inloggegevens te stelen op Windows-pc’s. Daarbij gebruikt ze lokale AI-tools om wachtwoorden of andere gevoelige data te vinden, die vervolgens worden doorgestuurd naar de aanvallers.

Experts trekken de ernst in twijfel

Niet iedereen deelt Googles bezorgdheid. Marcus Hutchins, de beveiligingsonderzoeker die in 2017 de beruchte WannaCry-ransomware stopzette, noemt de bedreiging voorlopig “sterk overdreven“. Volgens hem zijn de prompts die de malware naar Gemini stuurt te vaag om echt bruikbaar te zijn. “Het lijkt ervan uit te gaan dat Gemini instinctief weet hoe antivirusprogramma’s werken, en dat is gewoon niet zo”, zegt Hutchins.

Hij verwijt techbedrijven dat ze de rol van AI overdrijven om hun eigen technologie belangrijker te doen lijken. “Dit is wat ik CTI-slop noem: bedrijven die elk stukje AI-misbruik uitvergroten om te bewijzen hoe ’transformatief’ AI wel niet is”, klinkt het.

Google benadrukt dat er voorlopig geen reden is tot paniek. Promptflux werd ontdekt terwijl het nog in ontwikkeling was en is inmiddels geneutraliseerd. De bijhorende servers zijn offline gehaald en Gemini kreeg extra veiligheidsmaatregelen zodat het niet langer kan worden misbruikt. Volgens Google gaat het niet om een staatsactor, maar om gewone cybercriminelen die experimenteren met nieuwe manieren om geld te verdienen.

Russische link bij Promptsteal

Tot slot waarschuwt Google voor Promptsteal, een andere AI-malware die eerder door Oekraïense cyberdiensten werd opgemerkt. Die variant maakt gebruik van Qwen, het taalmodel van het Chinese Alibaba, en doet zich voor als een onschuldig beeldgeneratieprogramma. In werkelijkheid voert het AI-gegenereerde prompts uit op het toestel van het slachtoffer. Volgens Google en Oekraïne zit de Russische hackersgroep APT28, ook bekend als Fancy Bear, achter deze aanvallen. Promptsteal zou het eerste voorbeeld zijn van malware die tijdens echte operaties actief een AI-model raadpleegt.

Ook Anthropic, het bedrijf achter de chatbot Claude, meldde recent een gelijkaardig incident waarbij hackers de AI gebruikten om een grootschalige afpersingscampagne te organiseren. Hoewel de dreiging voorlopig beperkt blijft, ziet Google in deze experimenten een verontrustende trend: AI wordt niet alleen een hulpmiddel voor ontwikkelaars, maar ook voor cybercriminelen.

• Lees ook: OpenAI geeft toe: cybercriminelen gebruiken steeds vaker ChatGPT