Meer dan een miljoen gebruikers van ChatGPT uiten gedachten over zelfdoding tijdens gesprekken met deze generatieve AI-assistent, volgens schattingen van ontwikkelaar OpenAI.

Het Californische bedrijf voor artificiële intelligentie (AI) schat dat ongeveer 0,15% van de ChatGPT-gebruikers “gesprekken voert die expliciete aanwijzingen bevatten voor mogelijke suïcidale planning of intentie”, schrijft het in een blogbericht dat maandag werd gepubliceerd.

OpenAI geeft aan dat ChatGPT wekelijks 800 miljoen gebruikers telt. Dat komt neer op ongeveer 1,2 miljoen mensen.

Het bedrijf schat eveneens dat ongeveer 0,07% van de wekelijkse actieve ChatGPT-gebruikers tekenen vertoont van mogelijke mentale gezondheidscrisissen gerelateerd aan psychotische of manische episodes, wat neerkomt op iets minder dan 600.000 personen.

Het onderwerp staat volop in de aandacht sinds de dood van de Californische tiener Adam Raine. Zijn ouders hebben onlangs een rechtszaak aangespannen tegen OpenAI, omdat ChatGPT hem volgens hen specifieke instructies zou hebben gegeven over hoe hij zichzelf van het leven kon beroven.

Sindsdien heeft OpenAI de oudercontroles versterkt en andere veiligheidsmaatregelen ingevoerd, waaronder een betere toegang tot noodhulplijnen, de automatische doorverwijzing van gevoelige gesprekken naar veiligere modellen en zorgzame herinneringen die gebruikers aansporen om pauzes te nemen tijdens lange sessies.

OpenAI laat weten dat het zijn model ook heeft bijgewerkt om noodsituaties op het vlak van mentale gezondheid beter te herkennen en erop te reageren.

Het bedrijf zegt samen te werken met meer dan 170 professionals op het gebied van geestelijke gezondheidszorg om problematische antwoorden aanzienlijk te verminderen.

Lees ook: Bijna een Belg op de vijf lijdt aan psychische aandoening