Kunstmatige intelligentie moet de kern worden van Neom, waar zoveel mogelijk gegevens van bewoners gebruikt gaan worden om stroom, water, afval, transport, gezondheidszorg en veiligheid te beheren. Bewoners die hun data delen, krijgen daarvoor een vergoeding. Maar of dit model ook in Nederland toekomst heeft, is afwachten Privacy-experts waarschuwden onder meer voor onverantwoord datagebruik en bescherming van de individuele privacy rondom het Saoedi-Arabische project.

“Gebruikers verleiden om een privaat toestemmingsplatform te gebruiken, is geen vervanging voor doorgedreven regulering voor gegevensbescherming die de persoonlijke informatie van mensen beschermt. Geld toevoegen als stimulans is bovendien een verschrikkelijk idee”, zo vertelde een privacy-experts aan Reuters. “Het verstoort het recht van mensen om vrijelijk toestemming te geven en normaliseert de praktijk van het verkopen van persoonlijke gegevens voor winst.”

In Nederland wordt er met het oog op de toekomst tot nu toe iets minder hard van stapel gelopen. Op de afgelopen Prinsjesdag werd bekendgemaakt dat er onder meer een algoritmetoezichthouder wordt opgericht. Deze wordt ondergebracht bij de Autoriteit Persoonsgegevens (AP). De algoritmetoezichthouder bewaakt dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Het algoritmetoezicht krijgt een zichtbare plaats bij de AP. Met andere relevante toezichthouders worden samenwerkingsafspraken gemaakt, zodat het toezicht aansluit. De algoritmetoezichthouder zal zich richten op drie clusters: coördinatie, monitoring & kennisdeling en naleving & handhaving.

Er wordt intussen vanuit allerlei denktanks nagedacht over de gevolgen van algoritmen. Zo’n 80% van de Nederlandse bevolking vindt namelijk dat toezicht nodig is op gebruik van algoritmes in Nederland, zo maakte KPMG Nederland bekend in de jaarlijkse AI-monitor. Zo hebben diverse organisaties al een algoritmeregister opgezet, waaronder koplopers Gemeente Amsterdam en het UWV. Bij ieder algoritme wordt uitgelegd welke data worden gebruikt en wat het doel is van het algoritme.

Adviseur Ylja Remmits, lid van KPMG Trusted Analytics team, houdt zich bezig met de beheersing van data-analyse en algoritmes. Tegenover AG Connect legt zij uit dat databronnen altijd één weergave van een werkelijkheid, legt Remmits uit. “Alle organisaties hebben elk een eigen weergave van één persoon. Die wil je nu over elkaar heen leggen. Het kan betekenen dat je niet meer het echte plaatje van één persoon hebt en dat je ook aannames maakt die niet kloppen.” Hoe meer datasets er gebruikt worden, hoe groter de kans op fouten. Het maakt dat het combineren van data heel ingewikkeld kan worden. “Dat is niet erg, maar je moet dan wel heel goed noteren welke aannames je maakt en waarom die geldig zijn om te dienen als materiaal voor data-analyse waarmee de uitkomsten iets zeggen over een burger. Wanneer je data aanneemt als waarheid, terwijl deze niet de waarheid weergeven, kunnen ze ervoor zorgen dat burgers in enorme problemen raken.”

Remmits ziet op dit vlak de nodige risico’s. “Vanuit onze kennis er ervaring zien we dat gegevens delen op zo’n grote schaal in de praktijk moeilijk gaat. En dan doel ik met name op het vanuit brondata gaan analyseren en daarmee tot het einde een besluitvormingsproces onderbouwen. Hoe meer verschillende data je bij elkaar brengt van verschillende partijen, hoe lastiger het is om te vermelden welke data je precies gebruikt hebt, welke betrouwbaarheid je daaraan hecht en hoe het proces samenkomt tot één besluit.”

Er wordt in de politiek vaak te licht gedacht over het samenbrengen van verschillende data, vindt Remmits. “Niet alleen met de transparantie, maar vooral ook in de dossiervorming. Het is technisch erg lastig om besluiten te motiveren en te onderbouwen op basis van samengebrachte data. Het wordt dan moeilijk af te meten op basis van welk stukje informatie een besluit is genomen.”

Dat algoritmes die de overheid gebruiken lang niet altijd voldoen aan de basisvereisten, bleek in mei uit onderzoek dat de Algemene Rekenkamer. Van de negen door de Rekenkamer getoetste algoritmes bleken er zes niet aan de meest essentiële eisen te voldoen. Ook Gemeenten beseffen zich niet altijd dat het gebruik van algoritmes kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude, zo meldde de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.

Of de komst va algoritmetoezichthouder ervoor gaat zorgen dat een futuristisch model zoals Neom uitblijft, zal de komende jaren moeten blijken. Volgend jaar zal de privacy-toezichthouder daar 1 miljoen euro voor krijgen, een bedrag dat oploopt naar 3,6 miljoen euro vanaf 2026.