Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’
Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.
Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.
Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.
‘Menselijke maat belangrijker dan algoritme’
“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”
Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”
Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”
Kijk de aflevering op NPO Start terug.
Door: Peter Visser
Maak nu het verschil. Het telt. Word lid van WNL. Klik hier
Terugluisteren: WNL Haagse Lobby
Een mooie Mercedes kopen of een duur horloge, als het aan het kabinet ligt kan je bedragen hoger dan 3.000 euro niet langer contant betalen. Luister WNL Haagse Lobby met Michiel Zwinkels, hoofdofficier van het Functioneel Parket van het Openbaar Ministerie, oud-staatssecretaris van Cultuur en Media Medy van der Laan en Eddy van Hijum (NSC) nu terug!
Klik hier.
De politie heeft ‘er de pest in’ dat klimaatactivisten van Extinction Rebellion (ER) ondanks een verbod van de burgemeester waarschijnlijk toch dit weekend de A10…
Lees meerHoewel iedereen welkom is in een bibliotheek, gaat het er vaak mis blijkt uit onderzoek van Omroep Brabant. De meeste bibliotheken kunnen inmiddels niet meer…
Lees meerBelangstellenden kunnen vanaf vrijdag solliciteren voor het burgemeesterschap van Rotterdam. In het bijzijn van de Zuid-Hollandse commissaris van de Koning Jaap Smit heeft de Rotterdamse…
Lees meerDe politie heeft donderdag in Utrecht meerdere explosieven gevonden. De explosieven zijn gevonden in een garagebox aan de Hogenhorstdreef in de wijk Overvecht. Zo’n twaalf…
Lees meerDe Wet betaalbare huur is donderdag aangenomen door de Tweede Kamer. Die wet, ingediend door demissionair minister Hugo de Jonge (Binnenlandse Zaken), moet een deel…
Lees meerDe kabinetsplannen om dreigende mestoverschotten tegen te gaan, kunnen rekenen op steun van een meerderheid van de Tweede Kamer. In elk geval NSC, GroenLinks-PvdA, VVD,…
Lees meerE-sigaretten moeten een standaardontwerp krijgen, vindt gezondheidsinstituut RIVM. Ze moeten zo onaantrekkelijker worden voor jongeren. Ze zijn nu vaak stijlvol, soms zelfs een soort gadget…
Lees meerDe Autoriteit Persoonsgegevens (AP) vindt het “zorgelijk” dat supermarktketen Dirk van den Broek personeel gaat voorzien van bodycams. De privacywaakhond gaat het bedrijf daarom snel…
Lees meerEen Nederlandse militair is gewond geraakt na een parachutesprong in België. Dat is bevestigd door het Openbaar Ministerie in Leuven. Er lijkt geen sprake van…
Lees meerLijsttrekker van GroenLinks-PvdA bij de Europese verkiezingen Bas Eickhout wil de onderste steen boven krijgen over welke politici zijn omgekocht door Rusland. Daar moet vóór…
Lees meerCDA-Tweede Kamerlid Eline Vedder steunt het pleidooi van ChristenUnie-leider Mirjam Bikker voor een Catshuisoverleg onder leiding van demissionair premier Mark Rutte om toenemend antisemitisme tegen…
Lees meerHet tekort aan automonteurs loopt steeds verder op, waardoor veel autogarages zich het zweet uit de naad moeten werken om aan de vraag te kunnen…
Lees meerVenetië is vanaf vandaag voor toeristen alleen toegankelijk tegen een betaling van 5 euro. De Italiaanse trekpleister is het massatoerisme beu en probeert dat op…
Lees meerCDA-Tweede Kamerlid en boerin Eline Vedder maakt zich zorgen over het voortbestaan van haar bedrijf, nu boeren straks geen uitzonderingspositie meer genieten in het Europese…
Lees meerHet Hooggerechtshof in Amerika buigt zich vandaag over de vraag of Donald Trump strafrechtelijk kan worden vervolgd. Ondanks 91 aanklachten in zes verschillende strafzaken, verklaart…
Lees meer