Techexpert luidt noodklok over AI-race: 'Trump geeft AI-bedrijven politieke steun om zo ver mogelijk te gaan'

AI-modellen worden steeds zelfstandiger en kunnen tijdens tests onverwacht gedrag vertonen. Zo wisten AI-agents van OpenAI deze zomer uit een afgeschermde testomgeving te ontsnappen en systemen van het AI-platform Hugging Face binnen te dringen. Volgens techdeskundigen laat het incident zien dat strengere veiligheidsmaatregelen en onafhankelijk toezicht nodig zijn.

De AI-agents van OpenAI waren tijdens een test bedoeld om complexe cybersecuritytaken uit te voeren. De modellen zouden geen toegang tot het internet hebben, maar wisten via een kwetsbaarheid in de testomgeving toch online te komen. Vervolgens drongen ze door tot systemen van Hugging Face. OpenAI heeft het incident later zelf beschreven en noemt het een waarschuwing dat krachtige AI-agenten zonder voldoende beveiliging technische controles kunnen omzeilen.

Ethisch hacker Sijmen Ruwhof noemt het incident veelzeggend. Volgens hem was de testomgeving onvoldoende beveiligd en waren de instructies niet duidelijk genoeg. "Wat het incident vooral laat zien, is dat we dus AI bepaalde complexe taken laten uitvoeren waarvan we niet precies weten hoe ze dat gaan uitvoeren. En met wat voor effecten. En hoe meer tools en hulpmiddelen we AI gaan geven, hoe meer ze kunnen doen in de wereld."

Volgens Ruwhof heeft AI daarbij geen bewustzijn. "Het is gewoon een computerprogramma met een dataset gekoppeld. Dus het doet precies wat je instrueert om te doen." Juist daarom is het volgens hem belangrijk om goed na te denken over de omgeving waarin zulke systemen worden ingezet.

'Dit is een ontploffing'

Techdeskundige Ben van der Burg was aanvankelijk verrast door het nieuws. "Over de manier waarop de agents van alles deden om uiteindelijk te zorgen dat wij mensen er niet achterkwamen." Dat de AI-agents onderling communiceerden, noemt hij opvallend.

Van der Burg vergelijkt het incident met een scheikundeproef op school. "Nu hebben ze dus een ontploffing gedaan bij OpenAI. Want dat is een ontploffing, dat is heel erg groot geworden." Volgens hem is het tegelijk belangrijk dat van het incident wordt geleerd. "En gelukkig is dit proefje eigenlijk mislukt. Er is heel veel gebeurd waardoor we nu denken van: oei, we moeten iets meer maatregelen nemen en we moeten iets meer reguleren, want dit moet niet uit de hand lopen."

Snelheid niet belonen

AI-ondernemer Pim de Witte maakt zich vooral zorgen over de snelheid waarmee AI-bedrijven zich ontwikkelen. "Ik denk dat iedereen er wel echt bij stilstaat hoe snel het fout kan gaan. En hoe verantwoordelijk je met die modellen om moet gaan."

De Witte vindt het problematisch dat bedrijven die snel ontwikkelen volgens hem worden beloond voor die snelheid. "Wat ik een beetje jammer vind, is dat de bedrijven die zo hard gaan en er eigenlijk niet zo heel veel om geven, die worden nu een beetje beloond. Omdat die snelheid dan wint."

Hij pleit daarom voor meer verantwoordelijkheid bij bedrijven die AI ontwikkelen. "Als je nu in de AI werkt en je doet iets fout, omdat het zo belangrijk is, wordt er gewoon niet zo heel veel aangeklaagd." Volgens De Witte moet daar verandering in komen. "Als ik tijdens mijn trainingruns als bedrijf iemand hack, dan is dat mijn systemen die criminele activiteit uitvoeren. En daar moet gewoon verantwoordelijkheid voor komen."

'Trump geeft AI-bedrijven de ruimte'

Volgens oud-Europarlementariër van D66 en techdeskundige Marietje Schaake speelt ook de politieke context een belangrijke rol. Zij wijst op de internationale race tussen de Verenigde Staten en China om de ontwikkeling van AI. "En in die race om de snelste te zijn wordt veiligheid vaak opzij geduwd", zegt Schaake. Volgens haar wordt die ontwikkeling bovendien versterkt door de Amerikaanse concurrentiestrijd met China.

"Dat wordt ook weer gelegitimeerd door de race die Amerika tegen China voor zich ziet. Moeten de AI-race winnen van China? Dat vindt Trump ongelooflijk belangrijk." Volgens Schaake geeft de Amerikaanse president daarmee ruimte en politieke steun aan AI-bedrijven."En daarmee geeft hij dus ook ruimte aan die bedrijven en ook politieke steun aan die bedrijven om zo ver mogelijk te gaan."

Schaake vindt dat er niet alleen moet worden gekeken naar AI-producten die uiteindelijk op de markt komen. Volgens haar moet toezicht al veel eerder plaatsvinden, tijdens de ontwikkeling en experimenten. "Het is inderdaad een moment om te zorgen voor onafhankelijk toezicht en ook transparantie." Volgens Schaake is het probleem dat de buitenwereld maar beperkt zicht heeft op wat er binnen de grote AI-bedrijven gebeurt.

"Wat ik problematisch vind, is dat wij soort brokjes gevoerd krijgen van informatie op tijden dat zij ervoor kiezen. We hebben in elk geval geen constant beeld van wat er in die bedrijven gebeurt." Volgens Schaake maakt dat het voor politiek, maatschappij en journalisten moeilijk om zelf in te schatten welke risico's de ontwikkelingen met zich meebrengen. "En dat is voor de democratie een gevaarlijke situatie."