Topman Microsoft wil 'noodrem' op geavanceerde AI-modellen: 'Tijd om stap terug te doen'

De topman van Microsoft heeft gepleit voor meer controle bij het ontwikkelen van kunstmatige intelligentie. Dit weekend zei hij in een bericht op X dat bedrijven krachtige AI-modellen zouden moeten beschouwen als mogelijke interne risico's. Ze moeten er volgens hem van uitgaan dat zulke AI-modellen "gecompromitteerd" zijn en een soort "noodrem" inbouwen om ze in toom te houden.

De maatregel houdt volgens topman Satya Nadella in dat een bevoegd persoon een AI-model tijdens een taak altijd moet kunnen pauzeren of uitschakelen. De oproep volgt op een reeks incidenten waarbij AI-agenten van onder andere OpenAI, bekend van ChatGPT, op eigen houtje hacks uitvoerden. Onder andere Anthropic-topman Dario Amodei riep AI-bedrijven eerder al op om het tempo van de ontwikkeling van AI-modellen te vertragen.

Nadella zei ook dat het "tijd is om een stap terug te doen" en dat gebruikers van AI-modellen niet enkel moeten afgaan op de garanties van de makers ervan. "We moeten afgebakende systemen bouwen waarvan we het gedrag kunnen observeren, de grenzen kunnen testen en de acties altijd kunnen indammen."

Nieuwe richtlijnen

Vorige maand kwam Microsoft met nieuwe richtlijnen voor het ontwerpen van zijn AI-modellen, in een poging zorgen over kunstmatige intelligentie weg te nemen. Microsoft stelt in de gedragscode dat AI-modellen niet ontworpen mogen worden zodat ze aan menselijke controle kunnen ontsnappen of gebruikers kunnen misleiden.

Ook mag de AI van Microsoft zich nooit verzetten tegen correctie of uitschakeling. Het Amerikaanse techbedrijf heeft onder meer de AI-tool Copilot.