Een Nederlandse organisatie die speurt naar kwetsbaarheden in software werd zelf gehackt. Het bleek te gaan om een aanval met AI. Dat hadden de ethische hackers van DIVD nog niet eerder meegemaakt. Vrijwilliger Frank Breedijk geeft een inkijkje.’Het is alsof er een buslading hyperintelligente kleuters naar binnen stormt.’
Frank Breedijk maakt zich die dinsdagavond eind september op voor een avondje Netflixen op de bank. Maar door een telefoontje loopt het anders: ‘We hebben je nodig als crisismanager.’ Aan de andere kant van de lijn hangt de organisatie van ethische hackers DIVD, waar hij vrijwilliger is. De organisatie speurt al jaren naar kwetsbaarheden in software. Na het telefoontje volgt technisch onderzoek en concludeert Breedijk: ‘We zijn gehackt.’
Als cyberexpert is Breedijk wel wat gewend. Hij heeft ruim twee decennia ervaring en werkt als chief information security officer (CISO) bij Schuberg Philis, een groot Nederlands IT-bedrijf,. Dat DIVD een keer gehackt zou worden, had hij wel verwacht. Maar dit was niet zomaar een indringer. Dit bleken AI-agents die onder meer de mailadressen van de ethische hackers in handen kregen. ‘Het was anders dan een mens die hackt. Het was veel zwaarder om te bestrijden.’
Breedijk: ‘Ik hou niet van angst zaaien rond cybersecurity. Maar dit soort aanvallen met AI zal de komende maanden alleen maar erger worden.’ Daarom komt DIVD, wat staat voor Dutch Institute for Vulnerability Disclosure, binnenkort met een uitgebreid rapport over deze AI-aanval. De organisatie, die zo’n 150 vrijwilligers telt, wil hiermee bedrijven en instellingen helpen.
De risico’s van cyberaanvallen met AI zijn toegenomen dit jaar. Geavanceerdere AI-modellen vinden het niet moeilijk kwetsbaarheden in software te vinden. Met AI-agents, stukjes software die geautomatiseerd taken kunnen uitvoeren, verlopen aanvallen nu ook veel sneller. De cyberverdedigers hebben minder tijd om te reageren. De waarschuwingen voor die risico’s stapelden zich de afgelopen maanden op.
Na het telefoontje aan Breedijk trad bij DIVD voor het eerst in zijn zevenjarige bestaan het protocol voor een cyberaanval in werking: situatie beheersen, aanvallers elimineren en vervolgens alles herstellen. De aanvaller werd geïsoleerd in een deel van het netwerk. Het lek zat in opensourcesoftware Zammad, dat mail voor de registratie van nieuwe kwetsbaarheden en vragen over kwetsbare systemen en gelekte wachtwoorden afhandelt. Er volgden een melding bij de Autoriteit Persoonsgegevens en aangifte bij de politie.
‘Dat doet een mens niet’
Alles volgens het boekje, maar toen viel iets op. ‘We zagen veel meer sporen dan normaal. Een menselijke hacker zou in hooguit dertig bestanden sporen achterlaten in die tijd. Wij zagen ze terug in meer dan drieduizend. De vingerafdrukken zaten overal.’ Het gaat dan om programmeercode (scripts) die aanvallers in de systemen aanbrengen om een taak uit te voeren. Dat verklaarde ook waarom de aanvaller zoveel tegelijk kon doen.
‘Die scripts bleken ook uitleg over de werking te bevatten. Er stond ergens: ‘dit moet alleen draaien tijdens kantooruren in de Nederlandse tijdzone. En vervolgens weer commentaar op die werking. Alles was netjes gedocumenteerd. Dat zou een mens niet doen. AI-taalmodellen hebben echter geleerd zo te programmeren.’
Verder waren de aanvallers binnengedrongen via een complexe keten met twee zero days bij Zammad, onbekende kwetsbaarheden die nog geen oplossing hebben. ‘Dat ze er twee hadden en bereid waren die in te zetten, was opvallend. Voorheen waren ze per stuk zo €1 mln waard voor cybercriminelen. Ze zouden ze reserveren voor een aantrekkelijker doelwit.’ Het tekent hoe ‘zero days’ aan inflatie onderhevig zijn door AI.
Toen DIVD de aanvaller had geïsoleerd, veranderde die van strategie. De hacker probeerde verder te komen door in te breken bij de bedrijven die DIVD in de lucht houden, de hostingproviders. Via het Zammad-lek kregen ze toegang tot de mailbox voor het registratiesysteem voor kwetsbaarheden. Ze konden meekijken, zonder alle details te zien. Bij de andere hostingprovider ontstond een storing, die ook andere klanten raakte.
‘De aanvallers hadden veel meer kunnen doen bij een van de hostingbedrijven. Een mens zou dan de aandacht hoogstwaarschijnlijk verleggen. Maar ze bleven zich op ons richten.’ Dat was het laatste puzzelstukje. Een AI-agent blijft bij zijn opdracht en voert die rigoureus uit. Dat bleek deze zomer al toen AI-agents bij OpenAI en Anthropic buiten hun testomgeving raakten en bedrijven en overheden gingen hacken om hun doel te bereiken.
De conclusie was onontkoombaar: AI-agents. Maar wie stuurde ze aan? ‘AI valt niet zelf aan, er zit altijd een mens achter die de opdracht geeft’, zegt Breedijk. ‘Maar uitvinden wie, dat is het moeilijkste bij een cyberaanval.’ Een aantal scenario’s kon worden uitgesloten, zoals een ontsnapte AI-agent van een bedrijf of een medewerker die iets wilde testen met verkeerde afloop. ‘Het was waarschijnlijk iemand die inzage wilde in de kwetsbaarheden die we vinden.’
De aanvaller gebruikte Artex, een platform dat zwermen AI-agents op pad kan sturen om te hacken. Daarvoor is niet eens het meest geavanceerde AI-model nodig, zegt Breedijk. De agents zoeken naar zwakheden in de beveiliging en buiten die uit. Artex is vrijelijk (open source) beschikbaar en heeft Chinese wortels. Microsoft waarschuwde vorige maand voor hacks met Artex bij niet nader genoemde clouddiensten. De aanvallers waren aan de Chinese staat gelieerd en kregen in minder dan drie uur volledige toegang, aldus Microsoft.
Koektrommel
De AI-agents van Artex gaan rumoerig te werk, aldus Breedijk. ‘Artex is als een buslading hyperintelligente kleuters die op je huis afkomt om de koektrommel te vinden.’ De meeste vergelijkbare platforms gaan verfijnder te werk. Maar kenmerkend voor al die AI-agents is dat ze onvermoeibaar proberen hun doel te bereiken. ‘En dat ze ondoorgrondelijk zijn. Bij een mens kun je voorspellen wat ze doen. Maar als Artex die kleuters op je afstuurt kunnen ze ook, heel onlogisch, in het kastje met schoonmaakmiddelen zoeken naar de koekjes.’
De Artex-aanvaller bekeek de DIVD-mailbox negen keer, scande het interne netwerk, haalde login-informatie uit een database en probeerde passwords aan te passen, ook van DIVD-accounts bij het hostingbedrijf. Dat alles dus tegelijkertijd. Er zijn data gestolen, mailadressen van medewerkers en mogelijk ook gegevens over gemelde kwetsbaarheden. Maar Breedijk kan nog niet alle details delen.
Het rapport over de hack zal ‘niet altijd even leuk zijn’ voor zijn organisatie. Want tijdens het onderzoek bleek dat zelfs DIVD een ‘patch’ had gemist, een beveiligingsupdate voor software. Ook liet het eerste antwoord op de aanval negentien uur op zich wachten. ‘Als vrijwilligersorganisatie hadden we tijdens kantooruren, niet genoeg mensen om snel te reageren. Ook had de aanvaller de toegang tot delen van netwerk belemmerd.’ Breedijk verwacht dat de turbulentie rond AI-aanvallen minder zal worden. ‘Cyberverdedigers en bedrijven moeten zich nu aanpassen aan een nieuwe realiteit. Dit hebben we nog nooit meegemaakt. Maar ik heb er vertrouwen in dat het ons gaat lukken. We gaan wennen aan het tempo en de intensiteit van de aanvallen. Daarbij zal ook de inzet van AI helpen bij de verdediging.’
Nachten doorhalen
Het Haagse cybersecuritybedrijf Eye Security stond recent een klant (‘een groot Europees e-commercebedrijf’) bij die ook met AI-agents en via Artex werd aangevallen. De cyberbeveiligers zetten ‘vanwege de schaal van de aanval’ zelf AI-agents in, met beperkingen en onder toezicht. Even leek de aanvaller af te druipen, maar daarna begon het weer. Waarschijnlijk waren de tokens even op waarmee rekenkracht voor AI gekocht moet worden, zegt Eye Security. Vandaag houdt het bedrijf een webinar over deze aanval.
Wat hij meemaakte, is Breedijk niet in de koude kleren gaan zitten. ‘Er wordt bij je ingebroken. Je hebt een crisis af te handelen, een vrijwilligersorganisatie die bijeengehouden moet worden. Nogal wat mensen haalden hele nachten door. Alles is heel impactvol.’
Bron: FD. Jasper Houtman is redacteur technologie van het FD.