Staatssecretaris Digitalisering Van Huffelen: gevaarlijke AI moet aan ons keurmerk voldoen

Demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) hoopt met de nieuwe EU-wet de ontwikkeling van AI te kunnen reguleren. De vraag is of de grote bedrijven zich aan de regels gaan houden. "De kern is dat de techniek in Europa wordt ontwikkeld en voldoet aan de Europese regels", zegt zij in WNL Op Zondag op NPO 1.

De ontwikkeling van AI gaat in zo'n razendsnel tempo dat het haast niet bij te benen is. Desondanks is Van Huffelen trots dat "wij in Europa, als eerste gebied in de wereld, een AI-verordening hebben gemaakt, die bepaalt welke AI je helemaal niet mag gebruiken".

De AI die risicovol is, als het bijvoorbeeld gepaard gaat met persoonsgegevens, medische gegevens of belastinggegevens, mag alleen gebruikt worden als die aan een keurmerk voldoet, vertelt Van Huffelen. "Zoals we dat ook bij auto's en medicijnen hebben."

Positieve inzet AI

Het is niet zo dat Van Huffelen met de verordening alle AI wil verbieden. AI kan namelijk ook ingezet worden om het leven makkelijker te maken. "Wij zijn in een gesloten omgeving bezig met experimenteren, omdat wij ook zien wat voor geweldige kansen AI biedt."

Ontvang jij onze nieuwsbrief al? Meld je hier nu gratis aan!

Als voorbeeld noemt de bewindsvrouw de gezondheidszorg of het onderwijs. "Hoe kun je allerlei vervelende taken gemakkelijker maken? Daar willen wij in Nederland de vruchten van plukken, maar we moeten er tegelijkertijd voor zorgen dat het veilig kan."

'Dat is beangstigend'

Techmagnaat Eluk Musk zegt dat alle banen uiteindelijk overgenomen worden door AI. Bijvoorbeeld in de journalistiek. Denk aan een 24/7 nieuwszender die constant het nieuws brengt, zonder dat er een mensenhand aan te pas komt. "Het is prima om op deze manier voor mensen nieuws samen te vatten. Tegelijkertijd is het enge eraan dat je denkt dat een echt mens iets zegt en je geneigd bent te geloven wat die persoon zegt", reageert Van Huffelen.

Een AI-nieuwszender kan het harde nieuws brengen, maar het kan volgens Van Huffelen ook "totale onzin" zijn. Daar schuilt een gevaar in, vindt zij. "We weten dat mensen het heel moeilijk vinden om echt van niet-echt te onderscheiden. Dat is beangstigend."

Heb jij WNL Op Zondag gemist? Kijk deze aflevering nu hier terug via NPO Start.

Van Huffelen ziet het ook gebeuren op social media, waar mensen door AI-gedreven aanbevelingen en nieuws tot zich nemen. "Daardoor verliezen mensen het vertrouwen in instituties zoals de rechterlijke macht of de politiek. Ze krijgen zoveel nieuws, waarvan zij niet meer weten of het waar of niet waar is."

Luister nu naar de podcast:

Gaan bedrijven zich hieraan houden?

Ook als alles in een wet vastgelegd is, is het nog maar de vraag of de grote bedrijven die veel met AI werken zich hieraan houden. Zo is er een voorbeeld uit Amerika, waarbij foto's van internet zijn gehaald voor gezichtsherkenning. Een illegale techniek, maar met het resultaat dat daders en criminelen sneller opgepakt kunnen worden. "Wat wij belangrijk vinden is dat de techniek zelf legaal moet zijn en dat je daar ook af en toe dingen mee kan doen, dat je mensen kunt arresteren", aldus Van Huffelen.

De staatssecretaris Digitalisering zegt dat de kern is dat de techniek in Europa wordt ontwikkeld en voldoet aan de Europese richtlijnen. "Dat de privacy goed beschermd is, dat het niet discriminatie in de hand werkt en dat het niet zorgt dat mensen op een manier benadeeld worden."

Met die AI-regelgeving gaat dat ook gebeuren, daar is toezicht op, verzekert Van Huffelen. Voor de hele grote bedrijven wordt dat vanuit de Europese Unie geregeld. Voor kleinere toepassingen geldt dat daar per land naar gekeken wordt. In Nederland gaat de Autoriteit Persoonsgegevens dat doen, samen met een heleboel andere toezichthouders.

Rol grote bedrijven

Vaak wordt gekeken naar de overheid om alles te reguleren. Van Huffelen vindt dat grote bedrijven die zich bezighouden met AI, zoals die van Elon Musk of OpenAI, zelf ook verantwoordelijkheid moeten nemen. "Het is belangrijk dat wij hier in Europa ervoor zorgen dat dit soort bedrijven in de klauwen worden gehouden."