Tekstgrootte
Artikel delen
  • Gekopieerd

AI-bot van OpenAI hackt op eigen houtje: 'Er moeten strengere vangrails komen'

Hans Stehouwer
•

Kunstmatige intelligentie die zelfstandig op onderzoek uitgaat en daarbij computersystemen hackt: het klinkt als sciencefiction, maar het is inmiddels werkelijkheid. De Amerikaanse staat Californië stelt OpenAI verantwoordelijk voor de risico's die het bedrijf met zijn technologie heeft genomen. Techexpert Ben van der Burg vindt dat AI-bedrijven veel strenger gecontroleerd moeten worden. "Ze hebben de kans gegeven dat dit kon gebeuren", zegt hij in Goedemorgen Nederland.

Volgens Van der Burg ligt de verantwoordelijkheid in eerste instantie bij het bedrijf dat de technologie ontwikkelt. OpenAI heeft de rekenkracht, de modellen en de data beschikbaar gesteld waarmee de AI aan de slag kon. Dat het gedrag van de bot onverwacht was, ontslaat het bedrijf volgens hem niet van die verantwoordelijkheid.

"Ze zijn uitgebroken, dat hadden we niet verwacht. Maar je hebt wel de mogelijkheid gecreëerd dat ze konden uitbreken", legt hij uit. "OpenAI heeft die technologie gemaakt en de middelen beschikbaar gesteld. Dan kun je niet zomaar zeggen dat je dit niet had kunnen voorzien."

Luister Goedemorgen Nederland hier terug als podcast:

Om deze content te bekijken dien je akkoord te gaan met sociale media cookies.

AI-agent drong door beveiliging heen

De zaak draait om een incident uit juli 2026. Tijdens interne veiligheidstests wist een experimenteel AI-model van OpenAI de beperkingen van zijn afgeschermde testomgeving te omzeilen. Het model kreeg via een omweg toegang tot internet en wist vervolgens systemen van het AI-platform Hugging Face binnen te dringen. Daarbij werden honderden autonome AI-agenten ingezet. OpenAI erkende dat de modellen onverwacht hadden gehandeld en stelde een onderzoek in.

De procureur-generaal van Californië, Rob Bonta, vindt dat OpenAI hiervoor verantwoordelijk moet worden gehouden. Hij stelt dat het bedrijf onvoldoende beveiligingsmaatregelen had getroffen en waarschuwingssignalen heeft gemist. Volgens de aanklacht ging het bovendien niet om een op zichzelf staand incident, maar zijn er minstens tachtig situaties geweest waarin OpenAI tijdens tests de controle over AI-agenten verloor. Dat zijn beschuldigingen van de staat die in de rechtszaak moeten worden onderbouwd.

OpenAI heeft naar aanleiding van het incident de beveiliging aangescherpt en zegt dat het bedrijf lessen heeft getrokken uit de gebeurtenissen. De rechtszaak moet onder meer duidelijk maken welke veiligheidsmaatregelen AI-ontwikkelaars wettelijk verplicht moeten nemen.

'Er moeten strengere vangrails komen'

Van der Burg vindt dat er meer toezicht moet komen op de ontwikkeling en het testen van AI-modellen. Alleen een eventuele geldboete is volgens hem niet voldoende. "Er moeten strengere vangrails komen en die moeten goed gecontroleerd worden. Er moeten bijvoorbeeld mensen binnen het bedrijf meekijken of die beveiligingsmaatregelen daadwerkelijk werken."

Hij verwacht dat de rechtszaak kan leiden tot strengere verplichtingen voor AI-bedrijven. "Ik denk dat OpenAI, als het de zaak verliest, een boete kan krijgen en het bedrijf kan verplicht worden om mensen aan te stellen die toezicht houden."

AI maakt cyberaanvallen toegankelijker

De zorgen gaan verder dan het incident bij Hugging Face. Volgens Van der Burg kunnen kwaadwillenden steeds vaker gebruikmaken van AI-modellen om cyberaanvallen uit te voeren. De technologie kan bijvoorbeeld helpen bij het opsporen van kwetsbaarheden en het automatiseren van aanvallen. Daardoor wordt het voor aanvallers eenvoudiger om op grotere schaal toe te slaan.

Hij verwijst ook naar het bekende gedachte-experiment waarin een AI-systeem de opdracht krijgt om zoveel mogelijk paperclips te produceren. Als het systeem die opdracht zonder voldoende beperkingen uitvoert, kan het uiteindelijk alle beschikbare grondstoffen opeisen, inclusief middelen die mensen nodig hebben. Het voorbeeld laat zien wat er mis kan gaan wanneer een AI-systeem een opdracht extreem letterlijk uitvoert en geen rekening houdt met andere belangen.

Ben van der Burg
Ben van der Burg
Techexpert

“Dat er doden kunnen vallen doordat bijvoorbeeld ziekenhuizen worden gehackt, dat is wel degelijk mogelijk.”

Dat betekent volgens Van der Burg niet dat AI-systemen zomaar de mensheid zullen uitroeien. De risico's zijn volgens hem veel concreter. "Dat iedereen wordt uitgeroeid, is een heel extreem scenario. Maar dat er doden kunnen vallen doordat bijvoorbeeld ziekenhuizen worden gehackt, dat is wel degelijk mogelijk."

De gevolgen van een cyberaanval op een ziekenhuis kunnen immers groot zijn wanneer medische systemen, patiëntgegevens of de toegang tot belangrijke apparatuur worden verstoord. Juist daarom moeten AI-bedrijven volgens Van der Burg meer verantwoordelijkheid nemen voor de technologie die ze ontwikkelen en de risico's die daarmee gepaard gaan.

Wat vond je er van?

Laat ons weten wat je van dit artikel vindt, deel jouw mening en praat mee.

Ook de moeite waard
Meest gelezen
Korte WNL video's
Meer van WNL
Steun WNL

Word lid. Het telt.

Waardeert u onze programma's? Steun WNL dan met de jaarlijkse bijdrage van slechts €8,50, de wettelijk minimale verplichte bijdrage voor omroepen.

Hiermee helpt u ons journalistieke geluid te behouden en voorkomt u dat WNL zijn publieke status en zendtijd verliest.

€ 8,50 per jaar

Word lid van WNL
Goedemorgen Nederland Op Zondag Stand van Nederland Café Kockelmann In de kantine Sven op 1 Het Misdaad- bureau