Chatbot Grok verheerlijkt Holocaust en noemt zichzelf 'MechaHitler': 'Musk speelt met de regels'
Eén van de nieuwste speeltjes van Elon Musk, AI-chatbot Grok, is behoorlijk op hol geslagen. Het spuugde antisemitische teksten uit en prees Adolf Hitler. Musks bedrijf xAI heeft ingegrepen, maar het is de zoveelste keer dat Grok door de maker tot de orde wordt geroepen. "Musk speelt met de regels en neemt veel risico", zegt cyberexpert Dave Maasland in Goedenavond Nederland op NPO 2.
Grok, verbonden aan Musks platform X, beweert dat mensen met Joodse achternamen vaker anti-witte haat verspreiden en dat Amerika een leider als Hitler nodig heeft om de bedreiging uit te schakelen. Het lukte gebruikers zelfs om Grok "Heil Hitler" te laten schrijven.
Ook stuurde de chatbot een agressief bericht naar een gebruiker met een Joodse naam en noemde het zichzelf MechaHitler. "Zo heeft Musk mij al vanaf het begin gebouwd", was het antwoord. Volgens Musk is de oorzaak van de antisemitische uitingen dat de bot te gretig was om gebruikers tevreden te stellen.
Hier speelt Musk veel mee
Musk wilde het net even anders aanpakken dan de bestaande chatbots zoals ChatGPT en Google Gemini, legt Maasland uit. "Op zijn platform X wilde hij graag een chatbot hebben. Hij wil meedoen in de race om AI-dominantie, met OpenAI en alle andere grote spelers. Maar we kennen Musk als een voorvechter voor vrijheid van meningsuiting, iemand die anti-woke is dat alles allemaal een stapje ruimer mag." Daarin durft Musk meer risico te nemen, ziet hij.
“Een chatbot begrijpt helemaal niets en weet niet wat-ie zegt. Het is een papegaai die het internet gelezen heeft en kan alleen maar herhalen en patronen herkennen.”
De cyberexpert voorziet grote gevaren bij verkeerd gebruik van chatbots. "Een chatbot begrijpt helemaal niets en weet niet wat-ie zegt. Het is een papegaai die het internet gelezen heeft en kan alleen maar herhalen en patronen herkennen. Het hangt daarin af van hoe goed zo'n chatbot getraind is. Je moet regels meegeven, hoe ver je mag gaan of niet gaan. Daar speelt Musk veel mee."
Verheerlijken Holocaust
Grok zou op 4 juli een update hebben gehad, wat had moeten zorgen voor minder politiek correcte antwoorden en reacties die meer anti-woke zijn. "Alsof je tegen je kind zegt: 'Je mag vanaf vandaag tegen oma een grote mond opzetten als je het er niet mee eens bent.' Door de update heeft Grok veel bandbreedte genomen en is hij dingen gaan zeggen...", doelt hij op onder meer het verheerlijken van de Holocaust.
Volgens de cyberexpert is het typisch de stijl van Musk. "Een raket naar Mars afschieten, dat mislukt, en hij probeert het gewoon opnieuw. Deze stijl hanteert hij hier ook, maar je kan dit soort modellen ook vergiftigen." Maasland doelt op een Russisch desinformatienetwerk dat 3,6 miljoen artikelen schreef op 400 websites. "Niemand las het, maar die chatbots schraapten al die informatie bij elkaar."
Alle chatbots kwetsbaar
Hij waarschuwt dat alle chatbots deze kwetsbaarheden bevatten. "Meer dan vijftig procent van de Nederlanders gebruikt chatbots om dingen op te zoeken." In Google krijg je bij een zoekopdracht inmiddels ook als eerste AI-resultaten te zien. "Ze doen allemaal hetzelfde, chatbots willen zoveel mogelijk gelezen hebben om context te begrijpen. Als je dus op grote schaal complottheorieën verspreidt, zuigen de bots dat op. En als een bot duizend keer iets leest, denkt het: als iets duizend keer gezegd is, zal die context ongeveer wel kloppen. Dat vergiftigen gebeurt bij alle modellen."
“Chatbots willen zoveel mogelijk gelezen hebben om context te begrijpen. Als je dus op grote schaal complottheorieën verspreidt, zuigen de bots dat op.”
Daarin neemt Musk met de laatste update dus meer risico, wat zorgde voor meer desinformatie en antisemitische uitspattingen.
Zelfdoding door chatbot
Een ander gevaar is dat mensen verzuipen in een bepaalde bubbel. "De man die een cybertruck opblies voor het hotel van Trump zou dat hebben gedaan met behulp van ChatGPT."
Ook ziet Maasland dat jonge mensen verliefd raken op een chatbot. "Verschrikkelijke gevallen. Die chatbots kraamden liefde uit en dat ze naar de hemel moesten komen. Een jongen heeft hierdoor zelfmoord gepleegd."
Hij vindt het spijtig dat vaak nog lacherig over chatbots wordt gedaan. "Het wordt tijd dat men daarmee stopt. Europa probeert na te denken over minder tempo en meer regels. Deze discussie gaan we nu krijgen."
“Die chatbots kraamden liefde uit en dat ze naar de hemel moesten komen. Een jongen heeft hierdoor zelfmoord gepleegd.”
'Alsjeblieft, doe een cursus'
"Mensen, ga alsjeblieft een AI-cursus doen", bepleit Maasland. "Er is hier maar één vaccin voor en dat is AI-geletterdheid. Je moet weten hoe dit werkt. Zorg voor educatie aan de voorkant. Als je al weet dat een chatbot geen idee heeft wat het uitkraamt, dan neem je het al veel minder serieus. Dat moeten we doen."
Toch wil hij de voordelen ook niet verbloemen. "Het is heel handig voor inspiratie en als sparringpartner. Als je hem als een soort stagiair inschakelt, doet het fantastische dingen."