AI: kans of bedreiging?

Doelgroep: 

Dit artikel is bestemd voor organisaties die nog niet begonnen zijn met het beheersen van of beleid opstellen voor AI, en een overzicht nodig hebben van wat het is en waar zij rekening mee moeten houden.

Wat is AI?

AI is door computers nagebootst gedrag van mensen dat intelligent lijkt. Het verwijst naar systemen die op basis van informatie uit de omgeving of input (data) met een zekere mate van zelfstandigheid een actie kunnen ondernemen of antwoord kunnen aandragen. AI werkt met algoritmen die in software beschreven zijn. Een algoritme kun je zien als een recept; het is een set aan instructies voor het bereiken van een bepaald doel. Deze algoritmen delen we in drie verschillende groepen op.

1. Expertsysteem / niet-zelflerende AI

Dit zijn technieken waarin machines voorgeprogrammeerd zijn door mensen, om menselijke beslissingen na te bootsen. Deze systemen zijn gebaseerd op vast geprogrammeerde regels die door mensen ontworpen zijn. In de praktijk betekent dit dat het meestal een systeem met een heleboel if-statements is. Een voorbeeld van een expertsysteem is een tool voor het uitvoeren van steekproeven bij subsidies, of denk aan een tool om te berekenen wat je maximale hypotheek kan zijn.

2. Machine Learning

Dit zijn algoritmen die patronen uit een dataset halen. Soms zijn deze patronen voor de mens bijna niet zichtbaar of onmogelijk te achterhalen door de grote hoeveelheid data. Dit levert modellen op die (door de selectie van de trainingsdataset) op specifieke use-cases van toepassing zijn. Een voorbeeld van Machine Learning is gezichtsherkenning of een prijsberekeningsalgoritme.

3. Generatieve / General Purpose AI (GP AI)

Met GP AI kan onder andere nieuwe content in de vorm van data - zoals audio, tekst, video en afbeeldingen - worden geproduceerd. De meest bekende GP AI modellen zijn op dit moment taalmodellen (Large Language Models, LLM’s). Deze algoritmen zijn een evolutie van de Machine Learning-algoritmen. Ze zijn getraind op een enorme hoeveelheid zeer diverse data. Met deze data maken de algoritmen een kansberekening om te bepalen wat het beste volgende woord is. Deze algoritmen kunnen voor diverse doeleinden worden ingezet en worden daardoor general purpose (ofwel algemeen inzetbaar) genoemd.

Een voorbeeld van zo’n oplossing is dat een bouwvakker aan de AI vraagt waar hij een kraan moet plaatsen. De oplossing komt dan met een “antwoord”. Het is onduidelijk of dit antwoord ook volledig klopt, en of de informatie die naar de oplossing is gestuurd ook veilig blijft, aangezien deze modellen meestal eigendom zijn van iemand anders.

De generatieve AI-vormen die impact hebben op de cyberveiligheid van bedrijven zijn 'deepfakes' en taalmodellen.

Taalmodellen

Een LLM is een generatieve AI die natuurlijke taal kan imiteren. Een LLM kent de betekenis van de woorden echter niet. Het heeft geen overzicht van de feiten. ChatGPT en Gemini zijn de bekendste applicaties die synthetische teksten met een LLM maken. Ook voor beelden en geluiden zijn er inmiddels modellen die klonen of nieuw materiaal kunnen maken dat nauwelijks van een origineel te onderscheiden is. Dit levert grote (schaal)voordelen op, maar het geeft ook gemakkelijk problemen met auteursrecht.

In een cybersecuritycontext worden deze modellen ook ingezet, zowel in offensieve als defensieve context. Dit kan zijn voor simpelere taken als het schrijven of verbeteren van spam-e-mails, tot het omzetten van machinecode naar voor mensen leesbare code voor malware-analyse.

Daarnaast kan het gebruik van deze taalmodellen binnen je organisatie zorgen voor veranderde risico’s. Zo kunnen medewerkers per ongeluk gevoelige data doorsturen naar een partij die hier geen toegang toe zou mogen hebben. Medewerkers kunnen ook gebruikmaken van informatie die uit deze modellen komen, terwijl deze informatie mogelijk niet klopt. 

Deepfakes

De term deepfakes verwees oorspronkelijk naar een specifieke vorm van AI genaamd GAN. Bij een GAN zetten twee systemen elkaar continu aan tot verbetering. Het ene systeem, de generator, is getraind met bijvoorbeeld heel veel foto’s van gezichten, waardoor het in staat is nieuwe gezichten te genereren of gezichten in beelden te vervangen. Hiertegenover staat een tweede systeem, de discriminator. Deze beoordeelt of iets echt of nep is; het is een deepfake detector. Alleen dat wat volgens de discriminator realistisch genoeg is, wordt toegestaan. Omdat de generator en de discriminator elkaar continu dwingen om te verbeteren is het lastig om goede deepfake-detectietools te ontwikkelen. Ze worden meteen weer gebruikt om de generator van deepfakes beter te maken.

Deepfakes worden gebruikt bij problemen waar bedrijven al een lange tijd tegenaan lopen. Het gebruik van deepfakes kan bijvoorbeeld Business Email Compromise geloofwaardiger maken. Deepfakes kunnen ook leiden tot reputatieschade, of ingezet worden bij Vishing (een vorm van telefonische oplichting).

Heb je basis goed op orde

Wanneer je als organisatie de basis goed op orde hebt, heb je al veel risico’s gemitigeerd. AI maakt een verschil in cyber security, maar wanneer je als organisatie de basisprincipes aanhoudt, dan mitigeer je al veel risico’s. Een van de belangrijke basisprincipes op het gebied van AI is exposuremanagement. Wanneer een AI tool namelijk niet bij een applicatie kan, is het ook niet in staat deze aan te vallen. De basisprincipes vormen het fundament; daarom is het belangrijk om daar eerst mee te beginnen.

Wettelijk gebruik van LLM's

De verleiding is groot om LLM's te gebruiken voor je werk. Een LLM kan je helpen bij het  opstellen van teksten, rapporten of analyses. Het is belangrijk je hierbij te realiseren dat alle ingevoerde informatie wordt gebruikt om het LLM verder te trainen en te verfijnen. Ook privacygevoelige informatie wordt hergebruikt. Het delen van persoonlijke informatie met een LLM als ondernemer of als medewerker van een organisatie is vaak verboden onder de AVG. De effecten van het delen zijn niet direct zichtbaar, maar kunnen na een paar trainingsrondes blijken: het is niet uit te sluiten dat de met het LLM gedeelde informatie wordt weergegeven in willekeurige antwoorden naar andere LLM-gebruikers. Deel daarom nooit gevoelige bedrijfsgegevens met een LLM. Sommige AI-dienstverleners geven de mogelijkheid om ingevoerde data niet te gebruiken om te trainen, maar wees ook daarbij voorzichtig; je weet alsnog niet waar je ingevoerde data wordt opgeslagen.

Een andere belangrijke wet om naar te kijken bij het gebruik van LLM’s is de AI Act. Raadpleeg deze altijd voordat je een LLM inzet bij een taak om boetes te voorkomen.

Lees welke inzchten de politie heeft als het gaat om misbruik van AI in het interview "Vertrouwelijke gesprekken kun je beter in persoon voeren"

Welke risico's kleven er aan generatieve AI?

Dreigingen aangedreven door generatieve AI kunnen zich snel ontwikkelen en veel ‘slimmer’ zijn in hun uitvoering. Traditionele beveiligingssystemen zijn mogelijk niet opgewassen tegen deze complexere bedreigingen. Eerder waren dit soort complexere aanvallen voorbehouden aan statelijke actoren, die meer mogelijkheden en capaciteiten hebben, maar nu kunnen criminelen ook gemakkelijker complexere aanvallen uitvoeren. Tegelijkertijd kan generatieve AI organisaties in staat stellen om hun cybersecurity te verbeteren, bijvoorbeeld bij het detecteren van aanvallen of het onderzoeken van netwerkverkeer. De toepassing van generatieve AI kan dus voordelen bieden, als het verstandig en veilig wordt gebruikt. 

Vanuit de AIVD zijn 4 kwadranten opgesteld voor het inzichtelijk maken van de uitdagingen en kansen. 

1. Aanval op AI
2. Aanval met AI
3. Verdediging van AI
4. Verdediging met AI

Deze verschillende kwadranten bieden een vertrekpunt om verder aan de slag te gaan met AI binnen jouw organisatie.

Afsluiting

AI biedt veelbelovende kansen, maar het maakt je dreigingslandschap ook complexer. De ontwikkelingen gaan hard, maar het is nog niet te laat om te beginnen. Wanneer je als organisatie wilt beginnen met het meenemen van AI risico’s in je risicomanagement, ga dan als eerst aan de slag met de governance. Focus hierbij op het gebruik van AI in je organisatie, en om weerbaar te zijn tegen aanvallen met AI.