main-logo NPO Start
Steun WNL Steun WNL Steun WNL
Stand van Nederland - 2 april 2021 — 12:18

Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’

Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.

Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.

Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.

‘Menselijke maat belangrijker dan algoritme’

“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”

Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”

Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”

Kijk de aflevering op NPO Start terug.

Door: Peter Visser

Maak nu het verschil. Het telt. Word lid. Klik hier

U heeft niet de juiste cookie settings om een reactie te plaatsen. Klik hier om uw instellingen te wijzigen

Stand van Nederland: Generatie Next

De komende jaren komt er veel geld vrij door erfenissen en schenkingen. Stand van Nederland: Generatie Next zoomt in op ouderwetse filantropie en op de nieuwe generatie. Millennials willen ook geven, maar willen er ook iets voor terug.

Donderdag 22.10
RIVM: 1400 nieuwe coronagevallen erbij

Het gemiddelde aantal nieuwe coronagevallen is maandag heel licht gestegen, na zestien achtereenvolgende dagen waarop het gemiddelde daalde. Het Rijksinstituut voor Volksgezondheid en Milieu (RIVM)…

Lees meer

COA: opvanglocaties voor asielzoekers overvol

Het Centraal Orgaan opvang Asielzoekers (COA) is met spoed op zoek naar extra opvangplekken. Alle opvanglocaties zouden vol zitten, zo schrijft De Telegraaf. Het COA…

Lees meer

Coronatoegangsbewijs wordt over vijf weken geëvalueerd

Over vijf weken gaat het kabinet het coronatoegangsbewijs evalueren en beslist dan of het bewijs moet blijven of niet. De effecten van het bewijs zijn…

Lees meer

Afgelopen weekend drie keer zoveel coronatesten afgenomen

Vanaf 25 september is de coronapas ingegaan en dat betekent dat iedereen een QR-code moet laten zien onder meer aan de deur van een horecagelegenheid….

Lees meer

Rutte wilde beslist geen zichtbare beveiliging

Rutte wilde absoluut geen zichtbare beveiliging, dat schrijft het AD. Er zouden spotters in de buurt van de demissionair premier zijn gesignaleerd die op hun…

Lees meer

Olie- en benzineprijzen stijgen nog verder

De gekte aan de pomp is nog lang niet voorbij. De prijs van Brentolie is maandag met nog eens 1,3% gestegen en gaat richting $80…

Lees meer

Mona Keijzer verlaat landelijke politiek

Mona Keijzer heeft aangekondigd haar zetel op te geven en daarmee stapt ze uit de landelijke politiek. Afgelopen weekend werd ze ontslagen door demissionair premier…

Lees meer

D66 heft blokkade tegen ChristenUnie op

D66 heft haar blokkade tegen een kabinet met de ChristenUnie op. Dat zei partijleider Sigrid Kaag zondag tijdens een ontmoeting met partijleden in Amsterdam. De…

Lees meer

Vrouw onder ‘verdachte omstandigheden’ overleden, man aangehouden

Een 51-jarige vrouw is zaterdag onder ‘verdachte omstandigheden’ overleden in een woning aan de Swingstraat in Almere, meldt de politie. Er is een man aangehouden….

Lees meer

RIVM: aantal nieuwe positieve coronatests stabiel

Tussen zaterdagochtend en zondagochtend zijn door het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) 1624 positieve coronatests vastgesteld, iets meer dan het recent bijgestelde aantal (1614)…

Lees meer