Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’
Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.
Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.
Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.
‘Menselijke maat belangrijker dan algoritme’
“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”
Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”
Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”
Kijk de aflevering op NPO Start terug.
Door: Peter Visser
Maak nu het verschil. Het telt. Word lid van WNL. Klik hier
Terugluisteren: BBB-Kamerlid en oorlogsheld Gijs Tuinman bij Rick Nieman
- Klik hier.
Aangehaakt in Maastricht
In juni gaan we in Europa naar de stembus. Maar wat vertelt leefomgeving over het stemgedrag van de Europeaan? Dat weet electoraal geograaf Josse de voogd als geen ander. Vanavond kijkt hij in Maastricht.
Kijk maandag vanaf 21.10 uur naar Aangehaakt op NPO 2.
Bij de Limburgse ggz-instelling Mondriaan in Heerlen is vrijdagavond opnieuw een geweldsincident geweest, waarbij ook iemand korte tijd uit de instelling is ontsnapt. Dat laat…
Lees meerIn Eindhoven is zondagmiddag een man zwaargewond geraakt aan zijn hand toen een stuk vuurwerk ontplofte. Het slachtoffer is voor behandeling naar het ziekenhuis gebracht,…
Lees meerIn de zeven maanden sinds het begin van de oorlog in Gaza is het antisemitisme wereldwijd sterk toegenomen, zien Joodse organisaties. Het Center for the…
Lees meerOp het feestterrein aan de Maas in Roermond hebben demissionair premier Mark Rutte en Ambassadeur van de Vrijheid Wende zondagmiddag het bevrijdingsvuur ontstoken. Daarmee is…
Lees meerHoewel er geen hoorbare protesten waren, vindt journalist Frits Barend dat de Nationale Dodenherdenking op de Dam in Amsterdam is verstoord. De gemeente Amsterdam nam…
Lees meerBoerBurgerBeweging-Tweede Kamerlid Gijs Tuinman heeft er het volste vertrouwen in dat het kabinet er komt. “Ik ben er volledig van overtuigd dat het gaat lukken”,…
Lees meerHoewel het nog prima te eten is, verdwijnt er jaarlijks 2 miljard kilo aan voedsel bij het afval. Een milieuonvriendelijke, maar ook dure grap. Voedselverspilling…
Lees meerDe drie mensen die tijdens de Nationale Herdenking op de Dam zijn aangehouden, zijn weer vrij. Dat laat hun advocaat Willem Jebbink weten. Het drietal…
Lees meerKort voor de Nationale Herdenking in Amsterdam is een demonstrant weggevoerd en aangehouden toen hij een spandoek wilde ontvouwen, meldt de politie. Op de Dam…
Lees meerAnders dan tijdens dodenherdenking een dag eerder, wordt het weer op Bevrijdingsdag op veel plekken beter. Volgens Weeronline wordt het in het noorden maximaal 14…
Lees meerDe huizencrisis in Ierland loopt in Dublin de spuigaten uit. Zelfs expats die werken voor grote bedrijven als Google en goed geld verdienen, ervaren de…
Lees meerDe Nationale Herdenking op de Dam in Amsterdam is zonder grote incidenten verlopen. Tijdens de twee minuten stilte om 20.00 uur was het op en…
Lees meerIn haar zoektocht naar Italianen die tijdens de Tweede Wereldoorlog in Nederland verbleven, stuitte podcastmaakster Daniela Tasca op Luciana. Voor de buitenwereld was Luciana een…
Lees meerEen monument voor de voornamelijk Hongaars-Joodse vrouwen die tijdens de Tweede Wereldoorlog in concentratiekamp Reinickendorf in noordwest Berlijn gevangen werden gehouden. Dat is het doel…
Lees meerOp de Dam in Amsterdam zijn even na 18.00 uur al enkele honderden mensen te zien voor de Nationale Herdenking die om 20.00 uur begint….
Lees meer