main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid van WNL. Klik hier

WNL Haagse Lobby Podcast

De Nederlandse bevolking groeide in 2021 met 115 257 inwoners. Immigratie speelt daar ook een grote rol in en de verwachting is dat dit de komende decennia alleen maar zal toenemen. Dit brengt een hoop uitdagingen met zich mee. Hoe zorgen wij ervoor om dit in goede banen te leiden? Hoe zien de uitdagingen er precies uit?

Martijn de Greve bespreekt het in WNL Haagse Lobby Podcast met:

  • Commissaris van de Koning in Noord-Holland, Arthur van Dijk
  • Immigratiedeskundige Jan van de Beek
  • Arbeidseconoom Pieter Gautier
Maandag tussen 20.30 en 21.30
Detailhandel ziet omzet groeien door prijsstijging, maar volume neemt af

De detailhandel draaide in het tweede kwartaal van 2022 ruim 3 procent meer omzet dan een jaar eerder, in hetzelfde kwartaal. De hogere omzet heeft…

Lees meer

Nederland groeit uit zijn voegen, hoe houden we het land met straks 20 miljoen mensen leefbaar?

Volgens cijfers van het CBS en verschillende bevolkingsonderzoeken groeit de Nederlandse bevolking gestaag door. Nu telt Nederland zo’n 17,7 miljoen inwoners en modellen geven aan…

Lees meer

Politie meldt ruim honderd aanhoudingen na stikstofprotesten

De afgelopen weken zijn ruim honderd mensen aangehouden, vanwege overtredingen en misdrijven die verband houden met de boerenprotesten, meldt de politie. Het gaat dan onder…

Lees meer

Oppas die ontucht pleegde: wat ik deed was fout, ik ben de dader

De 53-jarige vrouw die in de regio Eindhoven als oppas werkte en ontucht pleegde met zeker zeven kinderen, heeft maandag in een verklaring bij de…

Lees meer

Rijkswaterstaat: verwijderde vlaggen soms weer teruggehangen

Rijkswaterstaat worstelt met weggehaalde omgekeerde vlaggen die vervolgens opnieuw worden opgehangen. Hoeveel vlaggen Rijkswaterstaat heeft weggehaald en hoeveel er teruggehangen zijn, kon een woordvoerster niet…

Lees meer

ProRail en wegvervoerders verwachten meer drukte door laag water

ProRail maakt zich op voor een grotere vraag naar goederenvervoer per spoor door de lage waterstanden in belangrijke rivieren voor de binnenvaart. Brancheverenigingen van vervoersbedrijven…

Lees meer

Zorgminister Kuipers hoopt coronapil snel beschikbaar te hebben

Zorgminister Ernst Kuipers hoopt de ‘coronapil’ Paxlovid van farmaceut Pfizer op korte termijn beschikbaar te hebben. De onderhandelingen tussen het ministerie van Volksgezondheid (VWS) en…

Lees meer

Tekorten dreigen maar grondwatergebruik in Nederland blijft stijgen

Ondanks waarschuwingen van overheden en waterbedrijven om water te sparen, pompt Nederland nog ieder jaar meer water op. Dat blijkt uit onderzoek van EenVandaag. In…

Lees meer

Ontvang de gratis WNL Vandaag Nieuwsbrief

Iedere dag de actualiteit gratis in je mailbox.

Schrijf je in