main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid. Klik hier

U heeft niet de juiste cookie settings om een reactie te plaatsen. Klik hier om uw instellingen te wijzigen

Stand van Nederland: Generatie Next

Millennial Raquel Schilder ontdekt dat het belastingsysteem in Nederland in het nadeel werkt van de meeste van haar generatiegenoten. Ouderen hebben gemiddeld het meeste vermogen en betalen relatief het minste belasting. Alleen de groep millennials die erft of schenkingen ontvangt profiteert daarvan. Dat levert problemen op voor de huizenmarkt maar ook voor de gehele economie. De aflevering is nu te bekijken op NPO Start.

Flinke stijging voedselprijzen wereldwijd

De prijzen voor voedsel op de wereldmarkt zijn hoger dan ze in de afgelopen tien jaar zijn geweest, meldde VN-voedselorganisatie FAO. De wereldmarktprijzen van onder…

Lees meer

Jongeren krijgen steeds vaker celstraf

Jongeren krijgen steeds vaker een celstraf opgelegd, zo blijkt zaterdag uit cijfers die de NOS heeft opgevraagd. Bijna 25 procent van de minderjarigen die door de rechter…

Lees meer

De Jonge: vanaf 21 juni kunnen mensen kiezen voor Janssen-vaccin

Alle 18-plussers kunnen zich vanaf 21 juni bij de GGD melden voor een afspraak met het Janssen-vaccin. Dat meldt demissionair minister Hugo de Jonge (Volksgezondheid)…

Lees meer

RIVM: 1417 nieuwe coronagevallen, laagste aantal sinds 15 september

Slechts 1417 nieuwe coronagevallen zijn afgelopen dag aan het licht gekomen. Dat is het laagste aantal sinds 15 september. Het aantal positieve tests ligt ook…

Lees meer

Politie vindt 47 verwaarloosde honden in één woning

De dierenpolitie heeft gisteren 48 huisdieren in beslag genomen uit een woning in Utrecht. De dieren leefden daar in erbarmelijke leefomstandigheden, zo meldt de politie….

Lees meer

Vanaf 30 juni ‘volle’ evenementen mogelijk met test of vaccinatie

De festivalzomer kan voor een deel doorgaan: vanaf 30 juni zijn evenementen toegestaan zonder grote beperkingen op het aantal bezoekers en waar mensen ook geen…

Lees meer

Prinses Amalia ziet tijdens studietijd af van toelage van 1,5 miljoen euro per jaar

Prinses Amalia ziet tot het eind van haar studie af van haar toelage. Ze wordt in december achttien, wat betekent dat ze volgens de wet…

Lees meer

Proef met vaccineren op de markt in Rotterdam wordt uitgebreid, ook landelijke interesse

Het initiatief van een aantal Rotterdamse huisartsen om inwoners van achterstandswijken op de markt voorlichting te geven over corona en vaccinaties wordt uitgebreid. Mensen die…

Lees meer

Drone helpt bij het opsporen van reekalfjes zodat ze niet onder de grasmaaier komen

Afgelopen dinsdag werd er voor het eerst gebruik gemaakt van een drone bij het opsporen van reekalfjes in hoog gras. De dieren werden gezocht om…

Lees meer

CBS: Iets meer faillissementen in mei, maar aantal blijft historisch laag

Het aantal faillissementen kwam in mei iets hoger uit dan in april. Toch ging het vergeleken met eerdere jaren nog steeds om heel weinig bankroeten,…

Lees meer

Hoe creëren we een eerlijker speelveld op de woningmarkt, zodat ook millennials kunnen concurreren?

Al een paar jaar zeggen toonaangevende economen dat de verdeling van vermogen in de westerse wereld een probleem gaat worden voor de economie. Nu komt…

Lees meer

Belgen krijgen voorrang bij kaartverkoop Pukkelpop, Nederlanders moeten tot 30 juni wachten

Kaarten voor het Belgische festival Pukkelpop zijn de eerste paar weken alleen beschikbaar voor Belgen. De kaartverkoop begint woensdag. Nederlanders en andere buitenlandse festivalgangers kunnen…

Lees meer

EU: met volledige vaccinatie niet in quarantaine op vakantie

Nederlandse vakantiegangers en andere EU-burgers die volledig zijn gevaccineerd tegen covid-19 hoeven deze zomer niet in quarantaine of worden getest als ze naar een EU-land…

Lees meer

Mbo-scholieren gediscrimineerd in zoektocht naar stage in Utrecht

Mbo-studenten worden op grond van gender, migratieachtergrond en religie gediscrimineerd bij het vinden van een stageplek. Dat is vrijdag voor het eerst objectief vastgesteld in…

Lees meer