AI legt de vinger op de kwetsbare plek

ArtificiaI Intelligence (AI) gaat digitale aanvallen sneller, makkelijker en op grotere schaal mogelijk maken. De komende jaren zullen we meer kwetsbaarheden ontdekken en aanvallers kunnen die waarschijnlijk ook sneller misbruiken. Daarvoor hebben zij niet per se de nieuwste frontiermodellen nodig, ook laagdrempeligere AI-modellen kunnen daarbij helpen. Dat klinkt misschien zorgwekkend, maar deze ontwikkeling is niet nieuw. AI versnelt vooral een trend die al langer zichtbaar is. Het legt de vinger op de kwetsbare plek.

In deze blog nemen we je graag mee door de veranderingen die wij verwachten door de adoptie van AI in cyberaanvallen en welke aanpassingen binnen jouw organisatie helpen om de risico’s zichtbaar te maken en te verkleinen.

AI is een force multiplier

AI is een revolutionaire technologie waarvan organisaties hopen dat het hun productiever, innovatiever en efficiënter maakt. Een force multiplier. Tegelijkertijd brengt AI ook nieuwe risico’s en digitale dreigingen met zich mee. De instapbarrière om aanvallen uit te voeren gaat omlaag en digitale aanvallen zullen waarschijnlijk toenemen in aantal. Kwaadwillenden zetten AI vooral in om delen van bestaande aanvalstechnieken te automatiseren, versnellen of efficiënter te maken. Bovendien hoeven aanvallers niet gebruik te maken van de meest geavanceerde frontier modellen. Ook met het gebruik van simpelere commerciële en open-source en open-weight AI-modellen kunnen dergelijke resultaten bereikt worden.

Deze veranderingen vragen om aandacht van organisaties op het gebied van hun digitale weerbaarheid. Digitale weerbaarheid zal zich in de nabije toekomst moeten richten op het integreren van de nieuwe risico’s rondom AI in jouw cybersecuritybeleid. Dit geldt voor de inzet van AI-modellen door kwaadwillenden, maar ook voor het gebruik van AI-modellen binnen jouw organisatie. Organisaties die hun basis op orde hebben, met goed patchmanagement, een klein aanvalsoppervlak, logging en monitoring en voldoende inzicht in hun IT-landschap, staan ook in deze nieuwe realiteit aanzienlijk sterker. 

Automatiseren en versnellen

De grootste impact die AI-modellen de komende 12 maanden zeer waarschijnlijk gaan hebben op het dreigingslandschap is de verbetering van de capaciteiten van aanvallers. Zo kan AI verschillende onderdelen van een aanval automatiseren, versnellen, vervangen of zelfs autonoom uitvoeren.

Dat is op dit moment vooral terug te zien op het gebied van verkenning van doelwitten (reconnaissance), het vinden en misbruiken van kwetsbaarheden, het schrijven van malware, het bouwen van phishingcampagnes en het analyseren van gestolen gegevens. De doorlooptijd van een aanval gaat aanzienlijk omlaag en is er minder technische kennis nodig. Dit betekent overigens niet dat een digibeet met toegang tot goede AI-modellen meteen een geavanceerde hacker is. Er is nog steeds een bepaald kennisniveau vereist om AI-modellen succesvol aan te sturen.

Een vloedgolf aan kwetsbaarheden?

Recent schreef het NCSC naar aanleiding van de release van Mythos door Anthropic al over de impact van AI-modellen op het identificeren van kwetsbaarheden en uitbuiten hiervan. Ook hierbij geldt dat dit soort capaciteiten niet beperkt zijn tot frontier modellen. Over de gehele linie worden AI-modellen, inclusief open-source en open-weight modellen, steeds beter in het analyseren van software en het identificeren van kwetsbaarheden. Dit zal de komende maanden dan ook leiden tot een toename van het aantal gevonden kwetsbaarheden en bijbehorende beveiligingsupdates. Recente Patch Tuesdays van Microsoft zijn bijvoorbeeld al groter dan voorheen met die van juli een record. Ook andere grote leveranciers zien de hoeveelheid patches toenemen. Zo is Oracle van een driemaandelijkse naar een maandelijks patchcycle gegaan en bevatte de release van juli meer dan 1400 verholpen kwetsbaarheden.

De vooruitgang in kwetsbaarhedenonderzoek zal de tijd tussen het ontdekken van een fout en het misbruiken alleen maar verder doen dalen. Kwaadwillenden kunnen namelijk AI-modellen inzetten om software te onderzoeken op kwetsbaarheden en patches snel analyseren op waar de kwetsbaarheden zitten. Verschillende cybersecuritybedrijven schreven in hun recente jaarverslagen al dat de time-to-exploit (TTE) in de afgelopen jaren van weken, naar dagen, naar slechts enkele minuten is gegaan waarbij ook een toename van het aantal zero-day kwetsbaarheden wordt waargenomen door Google, Crowdstrike en Zero Day Clock. Ook hier is AI een force multiplier.

Zorg voor adequaat patchmanagement

De race tussen het uitbrengen van patches en het misbruiken van kwetsbaarheden is niets nieuws, maar komt met laagdrempelige toegang tot AI-modellen wel in een stroomversnelling. Hierbij geldt wel de kanttekening dat het niet vanzelfsprekend is dat iedere kwetsbaarheid ook automatisch in een aanval misbruikt kan worden. Het risico neemt uiteraard wel toe.

Overweeg daarom om AI-modellen in te zetten om jouw interne (software-)code te analyseren, zodat je kwetsbaarheden kan identificeren en verhelpen nog voordat een aanvaller deze kan misbruiken. Sommige fouten zijn misschien al jaren aanwezig maar komen nu ineens naar boven drijven. 

Tref ook nu al voorbereidingen voor een periode waarin veel vaker en sneller beveiligingsupdates verwerkt moeten worden. Als je geen adequaat patchmanagement hebt of onvoldoende zicht hebt op jouw IT-landschap neemt het risico op incidenten toe. Tijdlijnen worden korter en dus ook het tijdsvenster waarin jij beveiligingsupdates moet verwerken.

Breng de basis op orde

De ontwikkelingen op het gebied van AI vragen ook om een herijking van de digitale weerbaarheid en bestaande beveiligingsmaatregelen. Bereid je voor op een toename van incidenten en de mogelijke impact hiervan. Hedendaagse aanvallen hebben namelijk vaak impact op de beschikbaarheid, integriteit en vertrouwelijkheid van systemen. Niet op slechts één van deze kernprincipes. AI-modellen kunnen er bovendien voor zorgen dat aanvallers sneller hun doel bereiken. Van het vinden van jouw Te Beschermen Belangen (TBB’s), tot de exfiltratie van gevoelige informatie. Maar ook de analyse en verwerken van buitgemaakte data achteraf wordt eenvoudiger voor aanvallers. Kortom AI legt kwetsbare plekken in jouw organisatie sneller bloot.

Wat kun jij doen?

In de praktijk betekent dit dat jij bestaande principes in het licht van kortere reactietijden moet herevalueren: verklein jouw aanvalsoppervlak, want hoe meer applicaties en systemen naar buiten open staan, hoe meer mogelijke ingangen gevonden kunnen worden. Zorg voor duidelijk eigenaarschap. Hanteer zero trust principes.  Zorg voor afdoende logging en monitoring. Update je incidentresponsplannen en prioriteer identiteitsbeheer. Het zijn geen nieuwe begrippen maar allang essentiële componenten van ieder cybersecuritybeleid. AI zorgt er wel voor dat dit soort maatregelen opnieuw afgewogen moeten worden. Is alles nog op een passend niveau? Daarnaast gaan de ontwikkelingen snel en dit betekent periodieke evaluaties in het licht van nieuwe ontwikkelingen. Digitale weerbaarheid zal zich in de nabije toekomst moeten richten op het integreren van de nieuwe risico’s rondom AI.

Pas je aan naar de nieuwe realiteit

De belangrijkste boodschap blijft dat ontwikkelingen rondom AI staan niet los van bestaande beveiligingsmaatregelen en de basisprincipes. Organisaties die AI beschouwen als een afzonderlijk of nieuw technisch vraagstuk lopen het risico de kern van het probleem te missen. 

De toekomst van AI betekent niet dat we als cybersecurity community bij ieder nieuw AI-model alle nieuwe aanvallen moeten proberen te voorspellen. De uitdaging ligt vooral in het verbeteren en implementeren van beveiligingsmaatregelen die betrouwbaar blijven wanneer aanvallers sneller, overtuigender en efficiënter worden. In een toekomst waar AI een steeds grotere rol gaat spelen voor zowel aanvallers als verdedigers, ligt de grootste dreiging niet bij AI maar bij het onvermogen om jezelf aan te passen naar de nieuwe realiteit.