main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid van WNL. Klik hier

Luister terug

Rick Nieman ging in gesprek met oud-landbouwminister Cees VeermanAtilay en Gunay Uslu van Corendon, Commandant Landstrijdkrachten Jan Swillens en Nationale Ombudsman Reinier van Zutphen.

Klik hier en luister terug!

Kijk terug: Staat de toekomst van de markt op het spel?

De markt is onderdeel van de Nederlandse samenleving, maar vanwege onzekerheid over vergunningen en zero-emissiezones, dreigt de markt uit het straatbeeld te verdwijnen. Kunnen de ondernemers het nog opbrengen of is het einde nabij?

Klik hier en kijk terug.

Twaalf gewonden bij nieuw incident met turbulentie in vliegtuig

In een vliegtuig van Qatar Airways dat onderweg was van Doha (Qatar) naar Dublin, zijn twaalf mensen lichtgewond geraakt door turbulentie boven Turkije. De Ierse…

Lees meer

Partijleiders praten maandag verder over premierskandidaat

De partijleiders van PVV, VVD, NSC en BBB praten maandagochtend verder over de premierskandidaat voor een nieuw kabinet. Dat doen ze met formateur Richard van…

Lees meer

Containervervoer in korte tijd fors duurder geworden

De prijzen voor containervervoer tussen Azië en Noord-Europa zijn de afgelopen week omhooggeschoten. Daarmee komen de tarieven dicht bij een eerdere piek dit jaar, toen…

Lees meer

Vrouw in Goirle vermoedelijk door misdrijf om het leven gekomen

Een vrouw die vrijdag dood werd aangetroffen in een appartement in Goirle (Noord-Brabant) is vermoedelijk door een misdrijf om het leven gekomen, meldt de politie…

Lees meer

Veel politie in Utrecht wegens signalen van ‘gewelddadige confrontatie’ tijdens demonstratie

Er zijn signalen dat personen uit zijn op een “gewelddadige confrontatie” met demonstranten van de organisatie Let Women Speak, zo schetst de driehoek (politie, Openbaar…

Lees meer

Onbegrip bij Corendon over belasting op langeafstandsvluchten: ‘De hardwerkende burger kan het niet meer betalen’

Oprichter van reisaanbieder Corendon Atilay Uslu snapt niet dat het aankomende kabinet de belasting wil verhogen op langeafstandsvluchten. Hij pleit voor het schrappen van korte…

Lees meer

Oud-landbouwminister Veerman: ‘Met de vuist op tafel slaan in Brussel gaat niet werken’

Oud-landbouwminister Cees Veerman waarschuwt in WNL Op Zondag op NPO 1 voor de houding van het aankomende kabinet ten opzichte van Brussel als het aankomt…

Lees meer

Oud-staatssecretaris van Cultuur en Media Gunay Uslu heeft grote zorgen over verhoging btw op cultuur

In het hoofdlijnenakkoord van PVV, VVD, NSC en BBB staat het plan om de btw op onder andere cultuur en boeken te verhogen van 9…

Lees meer

Commandant Landstrijdkrachten Jan Swillens waarschuwt voor dreiging Russische sabotageacties

De voormalig directeur van de MIVD is te gast in het programma WNL Op Zondag bij Rick Nieman vanuit zijn nieuwe rol als Commandant Landstrijdkrachten….

Lees meer

Hoe PiS in Polen de media naar de hand zette: ‘Angst zaaien en framen’

Persvrijheid stond onder het bewind van de Poolse regeringspartij PiS afgelopen acht jaar flink onder druk. Er waait sinds kort een nieuwe wind. De nieuwe…

Lees meer

Invoer van zero-emissiezones zal markten doen veranderen: ‘Gemeenten moeten bijspringen’

Wie als marktkoopman niet zo snel mogelijk zijn vervuilende dieselbus- of vrachtwagen inruilt voor een elektrische variant, is al vanaf volgend jaar veel duurder uit….

Lees meer

Recordaantal illegale migranten naar Engeland over het Kanaal

Meer dan 10.000 migranten, een recordaantal, zijn dit jaar al illegaal het Kanaal overgestoken en in Engeland beland. De laatste cijfers over de illegale migratie…

Lees meer

NSC-leider Omtzigt vindt onderhandelingen met Yesilgöz en Wilders ‘niet prettig’ vanwege bedreigingen

Pieter Omtzigt maakt zich grote zorgen over de ‘verharding’ van de Nederlandse samenleving. Dat zei de NSC-leider bij een ledendag in het gebouw van de…

Lees meer