main-logo NPO Start
Dragon's Den Dragon's Den Dragon's Den
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Hoop je op meer Dragons’ Den? Investeer nu! Klik hier.

 

U heeft niet de juiste cookie settings om een reactie te plaatsen. Klik hier om uw instellingen te wijzigen

Stand van Nederland: Generatie Next

Tussen 1995 en 2019 zijn de consumentenuitgaven met ruim 44 procent gestegen. Ook Elen Demir kent de cijfers van het CBS. Maar hoe komt het toch dat men steeds meer spullen koopt en daarmee ook de afvalberg verhoogd? En is dat een probleem? Stand van Nederland, Generatie Next inspecteert zeecontainers en zoekt het uit.

 

Donderdag om 22.10
De Jonge: niet vol inzetten op vaccins met mRNA-techniek

Demissionair zorgminister Hugo de Jonge is er niet voor om vanaf volgend jaar vol in te zetten op zogeheten mRNA-vaccins tegen het coronavirus, zoals de…

Lees meer

Aantal nieuwe coronagevallen fors toegenomen, ziekenhuis sluit acht operatiekamers

Het aantal nieuwe coronagevallen is afgelopen etmaal fors gestegen. Tussen woensdagochtend en donderdagochtend zijn bij het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) 9648 nieuwe coronagevallen…

Lees meer

Nieuwe generatie moet meer gaan betalen om consumptiegedrag te veranderen

Om de coronadip uit te komen moeten we straks massaal ons geld uitgeven, zo is de consensus. Dan komt er meer geld, kan er meer…

Lees meer

Waarom stijgen de huizenprijzen zo hard in coronatijd?

De huizenprijzen zijn tijdens de coronacrisis explosief gestegen. In twintig jaar tijd was de stijging niet zo groot als in het afgelopen kwartaal, zo blijkt…

Lees meer

‘Koopwoede heeft gevolgen, denk aan toekomstige generaties’

Ondanks de coronacrisis hebben consumenten het afgelopen jaar vaak de portemonnee getrokken. Volgens verschillende economen is dat goed, omdat we ons uit de crisis moeten…

Lees meer

EU erkende 5 procent minder asielzoekers in 2020

De 27 EU-lidstaten hebben vorig jaar 281.000 asielzoekers een beschermde status toegekend. Dat is 5 procent minder dan in 2019. Van hen werden 127.700 personen…

Lees meer

Man die persfotograaf met shovel belaagde verdacht van poging tot doodslag

Een 34-jarige man die maandagavond met een shovel inreed op de auto van een persfotograaf en zijn vriendin wordt verdacht van poging tot doodslag. Dat…

Lees meer

Hoop je op meer Dragons' Den bij WNL?

Investeer nu!

Klik hier