Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’
Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.
Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.
Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.
‘Menselijke maat belangrijker dan algoritme’
“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”
Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”
Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”
Kijk de aflevering op NPO Start terug.
Door: Peter Visser
Maak nu het verschil. Het telt. Word lid van WNL. Klik hier
Kan het kabinet het beloofde asielbeleid waarmaken?
Kan het kabinet deze beloftes van het ‘strengste asielbeleid ooit’ waarmaken en wat voor impact heeft het op gemeentes met een azc, en in Ter Apel in het bijzonder?
Presentator Martijn de Greve bespreekt het met:
- Burgemeester Jaap Velema van Westerwolde (waar Ter Apel onder valt);
- Politiek journalist van het AD Hans van Soest.
Beluister hier de podcast!
Mart Smeets: Gesaboteerd treinverkeer in Frankrijk rond Olympische Spelen 'natuurlijk te verwachten'
Decennia lang was hij hét gezicht van NOS op de Olympische Spelen: Mart Smeets. De oud-verslaggever, schrijver en bovenal verhalenverteller neemt Thomas van Groningen mee in de wonderlijke wereld van de topsport die hij meer dan 40 jaar van dichtbij meemaakte.
Luister de podcast hier!
Waar in 2020 nog de helft van de Nederlandse burgemeesters aangaf te maken hebben gehad met agressie en geweld, was dit in 2022 toegenomen tot…
Lees meerZeven van de 27 lidstaten van de Europese Unie hebben een veel groter tekort op hun begroting dan volgens Europese regels is toegestaan. Italië spant…
Lees meerElf jaar de gevangenis in, dat is de straf die een 45-jarige man uit Utrecht krijgt voor het doodsteken van zijn partner. De man doodde de…
Lees meerDe Nederlandse tak van modeconcern Esprit is door de rechter in Amsterdam failliet verklaard. Daardoor verliezen ruim tweehonderd mensen hun baan. Volgens curator Erik Schuurs…
Lees meerDe laatste dagen van voorbereiding op de Olympische Spelen van Parijs verlopen voor de Nederlandse sporters bepaald niet vlekkeloos. Ze klagen over het transport en…
Lees meerEen vrouw van 47 uit Nederland is zwaargewond geraakt tijdens de beklimming van een berg in Oostenrijk. Vlak onder de top gleed ze weg, waarna…
Lees meerJustitie in Parijs is een onderzoek gestart naar de sabotage-actie die op de dag van de opening van de Olympische Spelen het netwerk van de…
Lees meerDe Europese Unie heeft de eerste 1,5 miljard euro van bevroren Russische rentes en dividenden beschikbaar gesteld voor hulp aan Oekraïne. Dat heeft de Europese…
Lees meerVolgens oud-sportverslaggever Mart Smeets was het “natuurlijk te verwachten” dat het treinverkeer in Frankrijk gesaboteerd zou worden rondom de Olympische Spelen, zegt hij in het…
Lees meerDe Amerikaanse oud-president Barack Obama en diens vrouw Michelle hebben hun steun uitgesproken aan Kamala Harris in de verkiezingsrace. Zij laten via X weten dat…
Lees meerOp Marktplaats is nog “een handjevol” servals te koop ondanks een verbod op handel in de dieren, laat de Dierenbescherming weten. De katachtige mag sinds…
Lees meerKinderopvang kost in veel gevallen meer dan de maximum-uurprijs die landelijk is vastgesteld. Driekwart van de ouders betaalde vorig jaar voor zeker één kind een…
Lees meerWolven vallen steeds vaker schapen en andere dieren aan. In de eerste drie maanden van dit jaar zijn 267 aanvallen op dieren vastgesteld, in dezelfde…
Lees meerDe Franse spoorwegen (SNCF) zijn naar eigen zeggen in de nacht van donderdag op vrijdag het doelwit geweest van opzettelijke brandstichtingen of andere sabotage. Hierdoor…
Lees meerBurgemeesters en hun gezinnen hebben vaker te maken met bedreigingen aan de voordeur van hun huis. Omdat de dreiging en intimidatie de afgelopen jaren fors…
Lees meer