main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid. Klik hier

U heeft niet de juiste cookie settings om een reactie te plaatsen. Klik hier om uw instellingen te wijzigen

32-jarige man aangehouden voor fatale steekpartij in Rotterdam

De politie heeft zaterdagavond een 32-jarige man uit Hendrik-Ido-Ambacht aangehouden voor de fatale steekpartij woensdagavond in Rotterdam, waarbij een 22-jarige Rotterdammer om het leven kwam….

Lees meer

T-Mobile stopt met sponsoring The Voice of Holland

Telecombedrijf T-Mobile stopt met de sponsoring van het tv-programma The Voice of Holland. Dat bevestigt het bedrijf na berichtgeving van RTL Boulevard. Ook supermarktketen Lidl,…

Lees meer

Hoogste aantal nieuwe coronagevallen ooit: 36.308 positieve tests

Nog nooit zijn zo veel nieuwe coronagevallen vastgesteld als in de afgelopen dag. Tussen zaterdagochtend en zondagochtend kreeg het Rijksinstituut voor Volksgezondheid en Milieu (RIVM)…

Lees meer

KLM-vlucht naar Miami vertraagd na bommelding

Een KLM-vlucht naar Miami is zondagochtend vertraagd door een 22-jarige Duister die zei dat hij een bom bij zich had. De Koninklijke Marechaussee doorzocht het…

Lees meer

Opnieuw minder coronapatiënten in ziekenhuizen

Het aantal coronapatiënten in de Nederlandse ziekenhuizen is opnieuw licht gedaald. In totaal liggen er zondag met 1217 mensen 2 coronapatiënten minder in de ziekenhuizen…

Lees meer

Amsterdamse Museumplein stroomt vol met demonstranten

Het Amsterdamse Museumplein stroomt zondagmiddag vol met demonstranten. Duizenden betogers vertrokken eerder vanaf het Oosterpark, het Olympisch Stadion en het Westerpark naar het plein voor…

Lees meer

Hoogleraar geneeskunde Marcel Levi: tijd voor nieuw soort OMT

Het is tijd voor een breder ingericht en nieuw adviesorgaan van de regering voor de coronapandemie. Dat zegt hoogleraar geneeskunde Marcel Levi in WNL Op…

Lees meer

JA21 stemt niet in met ontkoppeling AOW: ‘Echt een no-go’

JA21 gaat niet instemmen met de ontkoppeling van de AOW van het minimumloon. “Dat is echt een no-go”, zegt fractievoorzitter van die partij Joost Eerdmans…

Lees meer

Directeur Yoeri Albrecht gaat van De Balie een kerk maken

Directeur van Debatcentrum De Balie in Amsterdam Yoeri Albrecht gaat met De Balie een levensbeschouwend genootschap oprichten, zodat het debatcentrum onder de huidige coronamaatregelen weer…

Lees meer

Oud-VVD-minister Cora van Nieuwenhuizen: vertrek uit politiek niet gelopen zoals ik me had voorgesteld

Voormalig VVD-minister Cora van Nieuwenhuizen had niet voorzien dat er zo veel ophef zou ontstaan na haar overstap van het ministerschap naar de lobbyorganisatie ‘Energie-Nederland’….

Lees meer

Directeur KHN: meer acties horeca zullen volgen

Er zullen “zeker meer acties” van de horeca volgen. Dat zei Dirk Beljaarts, directeur van Koninklijke Horeca Nederland, zaterdagavond tegen Nieuwsuur. Gisteren openden verschillende horecaondernemers…

Lees meer

Duizenden betogers bij Gronings fakkelprotest tegen gaswinning

Naar schatting hebben zo’n 8000 tot 10.000 mensen in Groningen meegelopen in een fakkeltocht tegen de gaswinning in de provincie. De gemeente is tevreden over…

Lees meer

Lichaam gevonden in water in Den Haag, politie doet onderzoek

In Den Haag is afgelopen nacht in het water een lichaam van een overleden persoon gevonden, meldt de politie op Twitter. Er wordt onderzoek gedaan…

Lees meer