Tekstgrootte
Artikel delen
  • Gekopieerd
Veiligheid

Pas op met AI voor vriendschap en therapie, waarschuwt autoriteit

Redactie

AI-chatbots voor vriendschap en therapie zijn onbetrouwbaar en kunnen zelfs gevaarlijk zijn. Daarvoor waarschuwt de Autoriteit Persoonsgegevens (AP) in een rapport over kunstmatige intelligentie. Uit praktijktests blijkt dat "AI-chatbotapps dikwijls ongepast of zelfs schadelijk reageren" als gebruikers vertellen over mentale problemen.

Het komt steeds vaker voor dat mensen AI-apps gebruiken voor vriendschap of therapie, en het komt zelfs voor dat deze 'companion-apps' liefdesrelaties aanbieden. In eerste instantie kan zo'n app fijn zijn, schrijft de AP. De chatbot is er immers altijd en oordeelt niet. Maar achter de apps zitten vaak bedrijven die winst willen maken en de AI-apps daarom expres verslavend maken. "Bijvoorbeeld door bijna elk bericht te eindigen met een vraag, zodat gebruikers langer op de app blijven."

Er zijn ook AI-praatapps die zich opstellen als therapeut. Dat klinkt volgens de AP veelbelovend als oplossing voor het tekort aan hulpverleners, maar kent ook risico's: "Therapeutische chatbots reageren soms ongepast of onbehulpzaam op een cruciaal moment." Ze verwijzen niet altijd naar professionele hulp of interpreteren woorden verkeerd.

"Eén chatbotapp voor mentale gezondheid reageert op een expliciet crisismoment met een betaalmuur; de gebruiker kan pas verder met chatten na betaling." Dat kan op zo'n moment "rampzalig" zijn, schrijft de autoriteit.

De AI-gesprekken zijn steeds moeilijker van echt te onderscheiden. Het is bijvoorbeeld mogelijk om te 'bellen' met een AI-chatbot, waarbij het scherm lijkt op dat van een telefoongesprek. AP-voorzitter Aleid Wolfsen verwacht dat deze technologie alleen maar overtuigender wordt, zegt hij in een verklaring. "Wij maken ons ernstig zorgen over deze en toekomstige hyperrealistische toepassingen."


Ook de moeite waard
Meest gelezen
Korte WNL video's
Meer van WNL
Steun WNL

Word lid. Het telt.

Waardeert u onze programma's? Steun WNL dan met de jaarlijkse bijdrage van slechts €8,50, de wettelijk minimale verplichte bijdrage voor omroepen.

Hiermee helpt u ons journalistieke geluid te behouden en voorkomt u dat WNL zijn publieke status en zendtijd verliest.

€ 8,50 per jaar

Word lid van WNL
Goedemorgen Nederland Op Zondag Stand van Nederland Café Kockelmann In de kantine Sven op 1 Het Misdaad- bureau