Cybercrime is misschien de enige baan die AI niet overneemt, blijkt uit onderzoek

Al drie jaar waarschuwen cyberbeveiligingsbedrijven, overheden en AI-laboratoria dat generatieve AI een nieuwe generatie supergehackte hackers zou ontketenen. Volgens een nieuw wetenschappelijk artikel dat het daadwerkelijk onderzocht, gebruiken die supergehackte hackers ChatGPT voornamelijk om spam te schrijven en voor de lol naaktbeelden te genereren.

De studie, getiteld Stand-Alone Complex or Vibercrime?, werd gepubliceerd op arXiv door onderzoekers van Cambridge en andere universiteiten en heeft als doel te begrijpen hoe de cybercriminele onderwereld AI daadwerkelijk adopteert, niet zoals leveranciers van cyberbeveiliging beweren.

"We presenteren hier een van de eerste pogingen tot een empirisch onderzoek met gemengde methoden naar vroege patronen van GenAI-adoptie in de cybercriminele onderwereld," schreven de onderzoekers.

Het team analyseerde 97.895 forumthreads die zijn geplaatst na de lancering van ChatGPT in november 2022, afkomstig uit de CrimeBB-dataset van het Cambridge Cybercrime Centre, bestaande uit ondergrondse en dark web-forums. Ze voerden onderwerpmodellen uit, lazen handmatig meer dan 3.200 threads en dompelden zichzelf etnografisch onder in de scene.

De conclusie is ongunstig voor de AI-doomsday-gemeenschap: 97,3% van de threads in de steekproef werd geclassificeerd als "overig", wat betekent dat ze helemaal niet over het gebruik van AI voor misdaad gingen. Slechts 1,9% betrof iemand die vibe coding-tools gebruikte.

'Niets meer dan een onbeperkte ChatGPT'

Herinner je je WormGPT, FraudGPT en de golf van zogenaamd kwaadaardige chatbots die in 2023 de headlines domineerden? De forumdata vertelt een ander verhaal.

De meeste berichten over "Dark AI"-producten, zo ontdekten de onderzoekers, waren van mensen die smeekten om gratis toegang, lege speculatie en klachten dat de tools eigenlijk niet werkten. Een ontwikkelaar van een populaire Dark AI-dienst gaf uiteindelijk toe aan forumleden dat het product een marketingoefening was.

"Uiteindelijk is [CybercrimeAI] niets meer dan een onbeperkte ChatGPT," schreef de ontwikkelaar, voordat het project werd stopgezet. "Iedereen op internet kan een bekende jailbreak-techniek gebruiken en hetzelfde, zo niet betere, resultaten bereiken."

Tegen eind 2024 waren jailbreaks voor gangbare modellen wegwerpbaar geworden, zeggen de onderzoekers. De meeste werken binnen een week of minder niet meer. Open-source modellen kunnen voor onbepaalde tijd worden gehackt, maar ze zijn traag, resource-intensief en bevroren in de tijd.

"Vangrails voor AI-systemen blijken zowel nuttig als effectief," concluderen de auteurs, in wat zij zelf een contra-intuïtieve bevinding voor een kritisch artikel noemen.

Vibe coding is echt. Vibe hacking, grotendeels, niet

Het artikel gaat rechtstreeks in op het breed besproken rapport van Anthropic uit augustus 2025, waarin wordt beweerd dat Claude Code werd gebruikt om een "vibe hacking"-afpersingscampagne te voeren tegen 17 organisaties. De data van het Cambridge-team laat dat patroon simpelweg niet zien in de bredere onderwereld.

In de forums die ze bestudeerden, worden AI-codeerassistenten op dezelfde manier gebruikt als reguliere ontwikkelaars ze gebruiken: als automatisch aanvullen en vervanging voor Stack Overflow voor al vaardige programmeurs. Actoren met weinig vaardigheden houden vast aan kant-en-klare scripts, omdat kant-en-klare scripts werken.

De onderzoekers ontdekten dat zelfs hackers hun vibe-gecodeerde hacktools niet vertrouwen. "Door AI ondersteund coderen is een tweesnijdend zwaard. Het versnelt de ontwikkeling, maar vergroot ook risico's zoals onveilige code en kwetsbaarheden in de toeleveringsketen," zei een gebruiker in een forum dat door onderzoekers werd gemonitord.

Een ander waarschuwde voor langdurig verlies van vaardigheden: "Het is nu duidelijk dat het gebruik van AI voor code een zeer snelle negatieve degradatie van je vaardigheden veroorzaakt," schreef een hacker in een forum, "Als je doel alleen is om SaaS-oplichting te produceren en je geeft niet om codekwaliteit/beveiliging/prestaties, kan vibe coderen haalbaar zijn. (Lijkt ook haalbaar voor phishing)."

Dit staat in schril contrast met alarmistische voorspellingen van Europol, dat in 2025 waarschuwde dat volledig autonome AI ooit criminele netwerken zou kunnen aansturen.

Waar AI criminelen daadwerkelijk helpt

De verstoring, wanneer die zich voordoet, bevindt zich aan de onderkant van de voedselketen.

SEO-oplichters gebruiken LLM's om blogspam in massa te produceren om dalende advertentie-inkomsten na te jagen. Romantische fraudeurs en eWhoring-operators voegen stemklonen en beeldgeneratie toe. Snel-rijk-worden-hoeders produceren door AI geschreven eBooks om voor $20 per stuk te verkopen.

De meest verontrustende markt die de onderzoekers vonden betrof diensten voor het genereren van naaktbeelden. Een operator adverteerde: "Ik kan elk meisje naakt maken met een AI… 1 foto = $1, 10 foto's = $8, 50 foto's = $40, 90 foto's $75."

Dit is allemaal geen geavanceerde cybercriminaliteit. Het is dezelfde low-margin, high-volume activiteit die de spamindustrie twee decennia lang heeft aangedreven, nu werkend op iets betere tools.

De slotopmerking van de onderzoekers is de meest treffende. De grootste manier waarop AI het cybercriminele ecosysteem verstoort, suggereren zij, is misschien niet door criminelen capabeler te maken. Het kan zijn door ontslagen ontwikkelaars uit de legitieme technologiesector de onderwereld in te duwen op zoek naar werk.

"De afgelopen maanden neemt de bezorgdheid over de verstoring van de arbeidsmarkt door deze tools snel toe," staat in het artikel. "Dit kan uiteindelijk de belangrijkste manier zijn waarop generatieve AI-tools het cybercriminele ecosysteem verstoren — massaontslagen, economische neergang en een koele arbeidsmarkt die legitieme, meer ervaren ontwikkelaars de ondergrondse gemeenschappen van snel-rijk-worden-schema's, fraude en cybercriminaliteit in drijven."