main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid van WNL. Klik hier

Podcast: Sven Op 1

Het aantal asielzoekers dat Nederland staat te wachten “is niet op een verantwoorde manier op te vangen”, stelt oud-minister Henk Kamp. Wat hem betreft is de maat dan ook vol. “Het is een onhoudbare situatie, en ik heb geen geduld.” Als er geen andere weg mogelijk is, adviseert hij daarom dan ook desnoods het Vluchtelingenverdrag en het Europees Verdrag voor de Rechten van de Mens (EVRM) op te zeggen.

Sven Op 1 is nu te beluisteren via je favoriete podcast-app.

Podcast Het Misdaadbureau

Minister Dilan Yeşilgöz vertelt waarom zij straatintimidatie wil verbieden. Wie zijn de daders? Laten ze zich weerhouden door een boete? En zijn er genoeg handhavers om daadwerkelijk in te grijpen?

Presentator Maaike Timmerman gaat in gesprek met minister van Justitie en Veiligheid Dilan Yeşilgöz, burgemeester van Arnhem Ahmed Marcouch en gedragspsycholoog Dané Mulder. Onderzoeksjournalist Noa van Oostrom is in de cijfers en achtergronden gedoken.

Nu te beluisteren in je favoriete podcastapp!

Verdachte fataal ongeval A59 filmde zijn snelheid: 250 km per uur

De 33-jarige man uit Zevenbergschen Hoek, die ervan wordt verdacht dat hij vrijdagavond 10 maart een dodelijk ongeval veroorzaakte op de A59 bij Sprang-Capelle, reed…

Lees meer

Meerdere Jumbo-winkels verbannen sigaretten: ‘Niet meer van deze tijd’

Minstens vier Jumbo winkels stoppen een jaar eerder dan gepland met de verkoop van sigaretten, zo blijkt uit een rondgang van Omroep Brabant. Het gaat…

Lees meer

Overleden chauffeur na aantal dagen aangetroffen in cabine van truck

Op een parkeerplaats in Eindhoven heeft de politie dinsdagnacht een overleden vrachtwagenchaffeur gevonden. Dat meldt Omroep Brabant. Vermoedelijk lag de man er al enkele dagen….

Lees meer

Haagse burgemeester niet blij met niet vervolgen A12-blokkeerders

Burgemeester Jan van Zanen van Den Haag is “niet blij” met het besluit van het Openbaar Ministerie om de klimaatactivisten die zaterdag de snelweg A12…

Lees meer

Rechter gaat voorlopig niet mee in bezwaar ON! tegen brief Uslu

De rechter gaat voorlopig niet mee in het bezwaar van omroep Ongehoord Nederland tegen de brief van de NPO aan staatssecretaris Gunay Uslu (Media). Dat…

Lees meer

Aantal mensen in bijstand blijft dalen door krappe arbeidsmarkt

Het aantal mensen in de bijstand loopt steeds verder terug, meldt het Centraal Bureau voor de Statistiek (CBS) op basis van eerste voorlopige cijfers. Sinds begin 2013…

Lees meer

Seksueel grensoverschrijdend gedrag in vrouwengevangenis Nieuwersluis

Gedetineerde vrouwen in de gevangenis in Nieuwersluis (Utrecht) zijn slachtoffer van structureel niet-integer gedrag, waaronder seksueel wangedrag, vanuit het personeel. Dit is de conclusie van…

Lees meer

Nederlandse verdachte bij groot Duits onderzoek naar IS-netwerk

In het grote onderzoek naar een financieringsnetwerk van terreurbeweging Islamitische Staat, waarvoor in heel Duitsland invallen zijn gedaan, is ook een Nederlandse verdachte in beeld….

Lees meer

VVD-prominent Henk Kamp over asiel: zeg desnoods internationale verdragen op

Het aantal asielzoekers dat Nederland staat te wachten “is niet op een verantwoorde manier op te vangen”, stelt oud-minister Henk Kamp in het WNL-radioprogramma Sven…

Lees meer

Bergkamp stuurt brief aan Twitter: neem directe actie tegen dreigtweets aan Kamerleden

Twitter moet “directe actie” en “serieuze stappen” nemen tegen bedreigende en gewelddadige tweets richting Tweede Kamerleden, zegt Kamervoorzitter Vera Bergkamp. Ze schrijft een brief aan…

Lees meer