Hoogleraar recht: ‘Gebruik algoritmes kan tot inbreuk op fundamentele rechten leiden’
Algoritmes, voorspellingen op basis van modellen, zijn alledaags geworden. Op internet lijkt het alsof ze feilloos kunnen voorspellen wat je voorkeuren zijn. Maar schijn bedriegt: algoritmes op internet kloppen hoogstens algemeen. Het gebruik van algoritmes kan zelfs grote gevolgen hebben, waarschuwt hoogleraar recht van de Universiteit van Amsterdam Natali Helberger in het WNL-programma Stand van Nederland: Generatie Next.
Onderzoekers op de Universiteit van Amsterdam zien dat er teveel waarde wordt gehecht aan de voorspellingen van modellen en algoritme. “Er zijn goede redenen om algoritmes te gebruiken. Maar je moet wel opletten dat je weet hoe ze functioneren en wat de valkuilen zijn. En dat je leert er mee om te gaan en de resultaten te interpreten”, zegt Helberger.
Volgens Helberger zijn algoritmes zelf niet gevaarlijk. Maar de manier waarop ze gebruikt worden kan tot problemen of zelfs inbreuk op fundamentele rechten leiden, zegt ze. Het bekendste voorbeeld is de toeslagenaffaire. Toen de overheid teveel ging vertrouwen op modellen om fraude te bestrijden, ging het vreselijk mis: 20.000 mensen werden door het systeem weggezet als fraudeur. Het leidde tot onrecht dat tot op de dag van vandaag nog niet hersteld is.
‘Menselijke maat belangrijker dan algoritme’
“Dat laat ook ontzettend goed zien waarom de menselijke maat zo belangrijk is”, zegt Helberger. “Een van de grote problemen van algoritmes in de toeslagenaffaire was niet het algoritme zelf, maar de veronderstelling die daar achter lag. Dat elke burger potentieel een fraudeur is. Een ander probleem was het gebruik van de algoritmes zelf. En wat waanzinnig belangrijk is, is dat mensen dat weten, zodat ze tegen de beslissing kunnen ingaan.”
Dit soort inschattingen kunnen we niet aan computers overlaten, zegt Helberger. “Ik denk dat het menselijke aspect belangrijker is dan het algoritme zelf. Wij bepalen uiteindelijk wat het algoritme gaat doen, waarom we het inzetten en hoe we met de voorspellingen en aanbevelingen omgaan. Het is heel belangrijk dat mensen dat doen, omdat alleen mensen de situatie van mensen kunnen begrijpen.”
Uit onderzoek blijkt dat mensen algoritmes heel snel vertrouwen, zegt Helberger. “‘De computer heeft altijd gelijk’. Dat is natuurlijk niet zo. We moeten vooral kritisch blijven en de computer niet blind op algoritmes vertrouwen.”
Kijk de aflevering op NPO Start terug.
Door: Peter Visser
Maak nu het verschil. Het telt. Word lid van WNL. Klik hier
De cocaïne-economie in Nederland
Voor veel millennials is het hedendaags een doodgewone zaak om tijdens een feestavond een lijntje te snuiven. De cocaïne business is booming en drugscriminelen harken gemakkelijk miljarden ermee binnen.
Houden wij deze illegale praktijk zelf in stand door zelf het witte goed tot ons te nemen? En hoe groot is de cocaïne-economie in Nederland? Stand van Nederland: Generatie Next ging op onderzoek uit.
Het Misdaadbureau: ‘Ze zochten naar lichaamsdelen van mijn zus in het ijskoude water’
Welke geheimen blijven verborgen onder het wateroppervlakte? Het Landelijk Team Onderwaterzoekingen van de politie speurt het water af naar weggegooide moordwapens, telefoons waar mogelijk cruciale informatie op staat en naar mensen die gemist worden door hun geliefden.
Presentator Maaike Timmerman gaat in gesprek met coördinator van het Landelijk Team Onderwaterzoekingen Jaap Nijgh en hondengeleider Lisenka Nicolai die haar speurhond Guusje meeneemt naar de studio. Onderzoeksjournalist Sandra van den Heuvel duikt in de cijfers en gaat mee op pad met het team.
Luister nu naar de podcast!
Dit jaar is de 25e editie van de Top 2000, het jaarlijkse muzikale radiofestijn waarin miljoenen stemmers hun muzieksmaak laten blijken. De stembus voor de…
Lees meerDe PVV wordt inderdaad de grootste fractie in de nieuwe Tweede Kamer. De partij van Geert Wilders krijgt 37 zetels. Daarna volgen GroenLinks-PvdA met 25…
Lees meerHet gedumpte drugsafval in Noord-Brabant die deze week wordt afgegraven loopt flink op in de kosten, meldt De Telegraaf. Het kostenplaatje voor deze ene klus…
Lees meerWel of niet overstappen van zorgverzekeraar? Een breinbreker die zich altijd opdoet tegen het eind van het jaar, zeker nu vanaf 1 januari 2024 de…
Lees meerEen meerderheidskabinet of toch een minderheidskabinet? Een kabinet over links, over rechts of dwars door het midden? Moeilijke vragen waar verkenner Ronald Plasterk antwoorden op…
Lees meerDe politie staat onder druk door de aanhoudende capaciteitsproblemen. Een langdurende formatie zal volgens de nieuwe voorzitter van de Politiebond Nine Kooiman funest kunnen zijn….
Lees meerHet staakt-het-vuren tussen Israël en Hamas is voorbij. Het Israëlische leger meldt dat ze vannacht een raket uit Gaza hebben onderschept, waardoor Hamas het staakt-het-vuren…
Lees meerSteeds meer zedenslachtoffers willen in gesprek met de dader. Voor het tweede jaar op rij stijgt het aantal aanmeldingen voor dit soort gesprekken. Dat meldt…
Lees meerWoensdag vond een NAVO-top plaats waar onder andere demissionair minister voor Buitenlandse Zaken Hanke Bruins Slot aanwezig was. Een van de zaken die ter sprake…
Lees meerOfir Engel (18) werd met spoed tot Nederlander genaturaliseerd en werd na bijna twee maanden gegijzeld te zijn door Hamas in de Gazastrook vrijgelaten. Demissionair…
Lees meerDe voorzitter van de internationale klimaattop in Dubai was donderdag erg tevreden over de eerste dag van COP28. “Het is opmerkelijk hoe enthousiast alle delegaties…
Lees meerDemissionair minister Ernst Kuipers (Volksgezondheid) heeft een “escape” voor het LUMC om de status van academisch ziekenhuis te behouden als de kinderhartchirurgie daar verdwijnt. Het…
Lees meerZo’n duizend journalisten hebben donderdag een uur het werk neergelegd uit onvrede over de cao-onderhandelingen. Dat laat een woordvoerster van de NVJ weten. Verschillende kranten…
Lees meerEen groep van ruim dertig omwonenden in het Brabantse Uden heeft de gemeente Maashorst en het Centraal Orgaan opvang asielzoekers (COA) voor de rechter gesleept….
Lees meerHet plan van de gemeente Purmerend om een opvanglocatie te realiseren voor tussen de 500 en 1500 Oekraïense vluchtelingen gaat niet door. De gemeente zegt…
Lees meer