We zijn fan van ChatGPT en gebruiken het massaal. Ook andere AI-tools als Gemini AI, DALL-E, Synthesia en Runway winnen snel aan populariteit. Aan de razendsnelle opkomst van deze tools en de rat race waarin techbedrijven met elkaar verwikkeld zijn om AI-tools op de markt te brengen, kleven echter de nodige risico’s. Deze risico’s heeft de Autoriteit Persoonsgegevens in kaart gebracht in haar periodieke rapportage AI- & Algoritmerisico’s Nederland.

Explosie aan AI-toepassingen

Hoewel de technologie nog in de kinderschoenen staat, is er een explosieve toename te zien aan AI-tools en -toepassingen. Techbedrijven zetten volop in op de ontwikkeling van kunstmatige intelligentie en algoritmes en investeren daar veel geld in.

AI is de toekomst.

Opvallend is dat uit het rapport van de Autoriteit Persoonsgegevens (AP) blijkt dat Nederlanders behoorlijk wantrouwend staan tegenover AI.

“Wereldwijd reageert ruim de helft van de mensen positief op de stelling dat producten en diensten met AI meer voordelen dan nadelen hebben. In Nederland stokt dit aantal op 36%,” zo valt te lezen in de rapportage van de AP.

Ook Nederlandse bedrijven maken zich zorgen over de opkomst van AI en dan met name de impact ervan op de cyberveiligheid.

Hoe terecht zijn die zorgen?

Belangrijkste risico’s van AI

De Autoriteit Persoonsgegevens is sinds 2023 coördinerend toezichthouder op algoritmes en AI. In de periodieke rapportage AI- & Algoritmerisico’s Nederland deelt de toezichthouder haar visie op de snelle ontwikkeling van AI-tools en met name op de risico’s die deze met zich meebrengen.

De AP benoemt diverse belangrijke risico’s van de huidige AI-ontwikkeling. Hieronder lichten we er een aantal uit.

Rat race techbedrijven

De kwaliteit en veiligheid van AI-toepassingen komt onder druk te staan, doordat techbedrijven een onderlinge strijd voeren om zo snel mogelijk met indrukwekkende AI-toepassingen te komen.

Er wordt voortdurend geëxperimenteerd met nieuwe AI-mogelijkheden en de tools worden snel gelanceerd op de markt met de samenleving als testgroep. Daarbij worden fouten gemaakt, die resulteren in noodpatches of zelfs het volledig offline halen van de tool.

Misbruik van AI

AI-toepassingen vormen een ideale bron voor misbruik. Met behulp van AI kan levensecht beeld en geluid worden nagebootst, waardoor het nog eenvoudiger wordt om mensen op te lichten of te frauderen.

Ook manipulatie en beïnvloeding van bijvoorbeeld verkiezingen met behulp van AI-tools vormen een reëel risico. Onze informatievoorziening staat volgens de AP onder druk doordat het genereren en verspreiden van desinformatie (nepnieuws) dankzij AI steeds eenvoudiger wordt en betrouwbaarder lijkt.

Discriminatie algoritmes

Organisaties maken steeds vaker gebruik van algoritmes om onderscheid tussen mensen te kunnen maken, profilering dus. Dit scheelt de organisatie veel tijd en er kan bijvoorbeeld eenvoudiger een inschatting worden gemaakt of er sprake is van fraude.

Nadeel van algoritmes is dat ze gevoelig zijn voor discriminatie. Denk alleen al aan de toeslagenaffaire.

Komt de AI Act nog op tijd?

De AP spreekt in de rapportage ook zijn zorgen uit over de invoering van de AI Act. Begin 2025 gaan de eerste regels van deze verordening al in, maar vele andere regels volgen stapsgewijs in de komende jaren. Zo vindt de AP het riskant dat bestaande AI-systemen met een hoog risico binnen overheidsorganisaties pas uiterlijk februari 2030 aan de eisen moeten voldoen.

Daarnaast vragen veel begrippen en procedures uit de verordening nog om nadere toelichting of invulling. Ook het toezicht op de uitvoering van de AI Act moet in Nederland nog worden ingevuld.

Lees over de AI Act ook onze blogs:

• De Europese AI Act is een feit en dit zijn de regels

• Wie gaat toezicht houden op de AI Act in Nederland?

Wat nu?

In de periodieke rapportage van de AP worden niet alleen de risico’s opgesomd. De toezichthouder komt ook met een aantal acties op de proppen.

Zo pleit de AP voor een AI-veiligheidsinstituut, een Europese aanpak van generatieve AI en verplichte algoritmeregistratie voor overheidsorganisaties.

Met betrekking tot mogelijke discriminatie bij de inzet van (fraude)algoritmes door organisaties adviseert de AP om aselecte steekproeven toe te passen. Hierbij wordt een aantal gevallen willekeurig geselecteerd om onderzocht te worden op bijvoorbeeld fraude. De uitkomst hiervan kan als referentie gebruikt worden voor het algoritme.

Tot slot noemt de AP het belang van bewustwording. Iedere burger en werknemer zou kennis moeten opdoen over de mogelijkheden en risico’s van AI en algoritmes.

Het hele rapport lezen?

Dat kan op de website van de Autoriteit Persoonsgegevens.

Zeker weten dat u niks mist?

Abonneert u zich dan op onze maandelijkse nieuwsbrief en ontvang onze blogs automatisch in uw mailbox.