Frank Breedijk is op dinsdagavond nog maar net op de bank neergeploft voor een avond Netflix met zijn vrouw als zijn telefoon gaat. ‘Frank, dit zou weleens een crisis kunnen zijn. Kun je helpen?’ Aan de lijn het cyberveiligheidscentrum van het Dutch Institute for Vulnerability Disclosure (DIVD), de ngo waarvoor Breedijk op vrijwillige basis als crisismanager werkt.
Breedijk ziet zijn vrije avond in rook opgaan. Van achter zijn laptop neemt hij een kijkje in de DIVD-systemen en ziet meteen: dit is foute boel. ‘Er waren allerlei mensen ingelogd die niet ingelogd zouden moeten zijn, systemen waren benaderd op manieren die niet zouden moeten’, zegt hij. ‘Alles wees op een hack, een pijnlijke conclusie.’
Pijnlijk, omdat het DIVD zo’n 7 jaar geleden in het leven werd geroepen om het internet veiliger te maken. Nu was de ngo zelf slachtoffer geworden van een cyberaanval, een die Breedijk in zijn ruim 25-jarige carrière in de cybersecurity nooit eerder had gezien. ‘De aanvaller was niet alleen maar mens. De omvang van de schade en de hoeveelheid dingen die waren geprobeerd: echt een factor honderd meer dan bij een aanval die is uitgevoerd door een mens.’
Hoewel het onderzoek nog loopt, wijst veel (daarover later meer) erop dat het DIVD op 21 september doelwit was van een aangestuurde aanval met AI-agents. Deze programma’s kunnen naast vragen beantwoorden (zoals chatbots ChatGPT en Claude) zelfstandig taken uitvoeren om een bepaald doel te bereiken.
Voorbeelden van bedrijven, organisaties en zelfs overheden die doelwit zijn geworden van deze overijverige bots zijn inmiddels legio. Het begon bij de geruchtmakende hack van AI-bedrijf Hugging Face, dat zijn systemen binnengedrongen zag worden door ontketende agents van OpenAI. Maar ook cybercriminelen maken steeds vaker gebruik van AI. Deze week maakte de Zuid-Koreaanse president Lee Jae Myung aanwijzingen te hebben dat hackers met behulp van AI-modellen aanvallen hadden gepleegd op Zuid-Koreaanse banken.
De Nederlandse (cyber)veiligheidsdiensten sloegen onlangs alarm over de toenemende dreiging die uitgaat van kunstmatige intelligentie op cybergebied. ‘AI versnelt de dreiging,
nu handelen is noodzakelijk’, staat in koeienletters boven de gezamenlijke oproep van onder meer veiligheidsdiensten AIVD en MIVD, het Nationaal Cyber Security Centrum (NCSC), de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) en de politie. De boodschap aan bestuurders in Nederland: geef nu prioriteit aan cyberveiligheid.
De vraag rijst hoe Nederlandse bedrijven en organisaties zich kunnen wapenen tegen deze nieuwe krachten, gezien de omvang van de incidenten en de snelheid waarmee ze elkaar opvolgen (volgens nieuwssite Axios staat de teller inmiddels op ‘tienduizenden’). Is dat überhaupt wel mogelijk?
De toenemende cyberdreiging van kunstmatige intelligentie baart Nederlandse bedrijven zorgen, zegt directeur Liesbeth Holterman van Cyberveilig Nederland. ‘Met name bij bedrijven in de vitale infrastructuur: telecombedrijven, banken, vervoerders. En terecht. Zij zien dat AI alles versnelt. Waar je vroeger langer de tijd had om kwetsbaarheden te patchen (oplossen, red.), is dat door de opkomst van AI een kwestie van uren dan wel minuten geworden.’
Holterman wil het onderscheid blijven maken tussen criminelen die gebruikmaken van AI en de ontketende bots van bedrijven als OpenAI. ‘Je moet je altijd meer zorgen maken over criminelen, die hebben kwade intenties’, zegt ze. ‘In ons wereldje is er discussie of de verhalen over ontsnapte agents onderdeel zijn van een fantastische marketingstrategie, of iets waar we ons daadwerkelijk zorgen om moeten maken. Zelf zit ik in de eerste lijn, maar zeker weten doen we het niet.’
De toenemende dreiging van AI hangt ook als een donkere wolk boven de ONE Conference in het World Forum in Den Haag, georganiseerd door het NCSC, het ministerie van Economische Zaken en Klimaat en de gemeente Den Haag. Op dit jaarlijkse cybersecurity-evenement, naar eigen zeggen het belangrijkste Europese evenement in zijn soort, komen cyberexperts van bedrijven, wetenschap en overheden samen om te praten over de belangrijkste ontwikkelingen uit hun vakgebied.
In congreszalen die zijn vernoemd naar continenten en rivieren gaat het woensdagmiddag onder meer over het ‘snel veranderende cyberlandschap, dat door AI nog verder wordt versneld’ en over de ‘uitdagingen en kansen voor aanvallers en verdedigers’ die AI met zich meebrengt.
‘AI is een versneller van bestaande aanvalstechnieken. Die worden sneller en efficiënter’, zegt Juriaan Spierenburg een dag na de conferentie via een videoverbinding. In zijn werk als dreigingsanalist bij het NCSC constateert hij dat het gebruik van AI door cybercriminelen in de afgelopen 6 tot 12 maanden een enorme ontwikkeling heeft doorgemaakt.
Kwaadwillenden hebben steeds meer toegang tot zulke technieken, ziet Spierenburg. ‘Aanvallers boeken resultaten met modellen die op ondergrondse fora worden aangeboden, terwijl ze vroeger nog afhankelijk waren van grote, commerciële leveranciers.’ Die zijn relatief eenvoudig te gebruiken, zegt Spierenburg. ‘Het vergt natuurlijk wel enige kennis, maar met een beetje technische aanleg kun je vinden hoe ze werken.’
Iets na 12.30 uur beklimt een driekoppige afvaardiging van het DIVD het podium van de Amazone-zaal voor een presentatie over de hack van twee weken eerder. Aan belangstelling geen gebrek: op de belofte van ‘volledige transparantie’ zijn zoveel mensen afgekomen, dat voor sommigen geen plek meer is. Allemaal willen ze horen over de aanval met AI-agents. Dat is niet zo gek, want een organisatie die zo openlijk over een hack spreekt waarover nog maar weinig bekend is, is een zeldzaamheid.
Breedijk staat zelf niet op het podium, maar luistert op de eerste rij naar het verhaal van zijn collega’s. Vanwege het nog lopende onderzoek mogen ze niet alles prijsgeven. Zo blijven de vragen wie achter de aanval zat en met welk motief onbeantwoord. Wel delen ze met de zaal dat zij een aangestuurde aanval met AI-agents als meest aannemelijke scenario beschouwen.
In een grauw perszaaltje legt Breedijk naderhand uit waar de vermoedens vandaan komen. ‘Als een menselijke hacker inbreekt, moet die een code schrijven om verder in het netwerk te zoeken, een soort stukje gereedschap. Een hacker is een gewoontedier en pakt normaal gesproken gereedschappen die hij al kent. Maar deze aanvaller heeft al zijn gereedschap zelf gebouwd. Ook zagen we dat de agents netjes commentaar hebben achtergelaten waarin ze uitleggen hoe ze te werk gingen. Dat heb ik een hacker nog nooit zien doen.’
Breedijk wijst verder op de enorme puinhoop die de agents achterlieten in de DIVD-systemen. ‘Alsof iemand de koektrommel wil vinden die jij thuis hebt verstopt, en dat doet door een bus vol te laden met kleuters, die allemaal een blikje Red Bull te geven en te zeggen: ergens in dat huis ligt een koektrommel. Die kleuters doen er vervolgens alles aan om die te vinden en slopen daarbij het hele huis. Daarna moet jij er op basis van de ravage achter zien te komen waar ze naar zochten.’
Is er dan niets te doen tegen al dat AI-geweld? Helemaal veilig ben je nooit, zegt cybersecurity-adviseur Bram van Aggelen van het NCSC. Maar de presentatie die hij en zijn collega Spierenburg in het staartje van de conferentie geven, is beduidend optimistischer dan veel lezingen van eerder die dag. Zij leggen uit wat organisaties kunnen doen om zich tegen AI-hacks te wapenen.
Volgens Van Aggelen ligt een belangrijke taak bij bestuurders. Dat is niet alleen een technisch verhaal, zegt hij een dag later via een videoverbinding. ‘Je moest cybersecurity al serieus nemen, maar nu al helemaal. Dat betekent onder andere dat de budgetten omhoog moeten.’
Concreet wijst Van Aggelen op vijf ‘basisprincipes’ die bedrijven moeten volgen om de kans op een cyberaanval zo klein mogelijk te houden. Een daarvan is het verkleinen van je aanvalsoppervlakte: ‘Dat klinkt heel simpel. Maar kijk wat voor software je allemaal hebt, en of ze van buitenaf toegankelijk zijn. Als dat het geval is, kan AI er misbruik van maken.’ Verder is het onder meer zaak om alleen mensen toegang te geven tot bepaalde netwerken als zij die toegang echt nodig hebben.
Het zijn principes die bij het DIVD braaf volgde. Toch wist iemand twee kwetsbaarheden te vinden in de systemen van de organisatie. Breedijk: ‘We zeiden altijd: vraag je niet af óf je ooit gehackt wordt, maar wanneer je gehackt wordt. Dat was theoretisch, maar lijkt nu snel keiharde waarheid te worden.’
Zodra het onderzoek is afgerond, belooft DIVD het openbaar te maken als case study. ‘Voor zover wij weten zijn wij de eerste partij die op deze manier is aangevallen. Wij hebben besloten om erover te publiceren, omdat we geloven dat iedereen er beter van wordt als we elkaar vertellen wat er gebeurd is, en hoe het cyberlandschap in elkaar zit.’
