Marietje Schaake waarschuwt voor razendsnelle ontwikkeling AI: ‘Zijn experts die zeggen dat dit het einde van de mensheid kan betekenen’

Marietje Schaake, directeur Technologiebeleid aan de Amerikaanse universiteit Stanford, maakt zich zorgen over de razendsnelle ontwikkeling van kunstmatige intelligentie (AI). Ze waarschuwt voor omvangrijke cyberaanvallen en de verspreiding van desinformatie. “Er zijn zelfs mensen die zeggen dat dit het einde van de mensheid betekent.”

Schaake, adviseur van Eurocommissaris Margrethe Vestager, bezocht in november de internationale top in het Verenigd Koninkrijk over de aanpak van gevaren van AI. Daar waren onder meer de Europese Commissievoorzitter Ursula von der Leyen, techmiljardair Elon Musk, VN-topman Antonio Guterres en de Amerikaanse vicepresident Kamala Harris aanwezig. Recentelijk bezocht Schaake een AI-top in Singapore.

Luister deze uitzending terug als podcast. Tekst gaat hieronder verder.

“Experts op het gebied van kunstmatige intelligentie, die al decennia lang modellen bouwen, zijn bang voor het uitbreken van een computerprogramma op een heel onvoorspelbare wijze”, vertelt Schaake, die bekend staat als cybercriticus, in het radioprogramma Sven op 1. “Ze zijn bang voor een toepassing die nietsontziend te werk gaat en aan de regie van programmeurs kan ontsnappen.”

De voormalig Europarlementariër (D66) sprak op de top tal van deskundigen en waarschuwt voor “verfijnde cyberaanvallen” die systemen volledig plat kunnen leggen. “Experts zijn ook bang dat kunstmatige intelligentie autonoom beslissingen kan gaan nemen. Dat ligt allemaal in de toekomst, maar angst daarvoor wordt gedeeld. Er zijn zelfs mensen die zeggen dat dit het einde van de mensheid kan betekenen.”

Desinformatie

Er zijn ook deskundigen die willen dat er meer aandacht komt voor de problemen die AI nu al veroorzaakt, zegt Schaake. “Ze willen dat we kijken naar hoe AI-modellen discrimineren en helpen om leugens te verspreiden, bijvoorbeeld tijdens verkiezingen. Er zijn dus verschillende kampen in hoe we de risico’s van AI moeten vatten. Maar dat er risico’s zijn, is voor iedereen duidelijk.”

Volgens Schaake is daar nog te weinig aandacht voor. Ze vreest dat er eerst iets fout moet gaan. De kans dat dat gebeurt, is overigens groot, denkt de AI-kenner. “Een handvol bedrijven heeft heel veel macht.” Dat maakt het voor wetenschappers en toezichthouders moeilijk om in te schatten wat er op ons afkomt. “Sterker nog: de computerwetenschappers die de modellen bouwen, zeggen: wij weten ook niet wat de uitkomsten gaan zijn.”

Ontvang jij onze nieuwsbrief al? Meld je hier nu gratis aan!

“Er gebeuren veel onvoorspelbare dingen en het gaat razendsnel”, gaat Schaake verder. “Dat is ook waar bouwers heel enthousiast over zijn. Zij zeggen bijvoorbeeld dat we van AI wetenschappelijke ontdekkingen mogen verwachten die mensen niet kunnen doen, of niet in korte tijd, en vinden dat we ons daar open voor moeten stellen. Het betekent wel dat er weinig grip is op de zaak. Dat is waar veel mensen, waaronder ik, zorgen over hebben.”

Toeslagenaffaire

Schaake vindt het jammer dat er tijdens de Tweede Kamerverkiezingen in november weging aandacht was voor kunstmatige intelligentie. “We hebben bij het toeslagenschandaal gezien hoe technologie ingezet kan worden om onrechtmatig mensen te behandelen. De vraag is: was dit bewust? Wilden de Nederlandse regering en ambtenaren dit, of had het ook te maken met dat ze niet precies wisten wat de gevolgen zouden zijn van een IT-systeem loslaten op een grote databank? Ik denk dat de onderste steen nog niet boven is, maar de gevolgen voor mensen zijn dramatisch.”

Volgens Schaake is er nog altijd te weinig grip op hoe IT-systemen in naam van de overheid worden ingezet. “Door een grote push op digitalisering, is er veel te weinig gekeken naar wat de gevolgen zijn voor het uithollen van goed bestuur en goed overzicht op de systemen. Er wordt een enorme afhankelijkheid gecreëerd.”

De fouten die IT-systemen maakten in de toeslagenaffaire, kunnen opnieuw voorkomen. “Er is te weinig grip op hoe IT-systemen in de naam van de overheid worden ingezet”, zegt @MarietjeSchaake, adviseur van Eurocommissaris Margrethe Vestager. #WNL pic.twitter.com/dlJBD33LTN

— Sven op 1 (@Sven_op_1) January 2, 2024

Lees ook: 

Kan kunstmatige intelligentie je binnenkort ook opereren?

Door: Peter Visser