Op 22 juni 2026 gepubliceerd door The Pew Charitable Trusts: een stand van zaken waarin de kansen en risico’s van AI in de geestelijke gezondheidszorg worden besproken, nu het gebruik door patiënten en zorgverleners de regelgeving ver vooruitloopt.
Het uitgangspunt is dat er sprake is van een tweeledige ontwikkeling. Enerzijds nemen professionals snel AI-toepassingen in gebruik die bedoeld zijn om de organisatie van de zorg te ondersteunen: hulp bij vroege diagnose, voorspelling van zelfmoordrisico op basis van realtime gegevens, automatisering van administratieve taken en het omzetten van gesprekken in gestructureerde klinische aantekeningen (er zijn momenteel meer dan zestig documentatietools op de markt). Aan de andere kant hebben patiënten nu moeiteloos toegang tot generieke chatbots, die zijn ontworpen om een mensachtig ogende tekst te genereren als antwoord op elke willekeurige vraag.
Het is juist dit tweede aspect dat de meeste zorgen baart. Chatbots voor het grote publiek zijn niet goedgekeurd om psychotherapie te verlenen en blijken minder effectief te zijn dan een menselijke therapeut, maar er wordt massaal een beroep op gedaan voor emotionele steun, gezelschap of zelfs zelfbenoemde therapie. Het rapport citeert de schatting van een bedrijf dat ongeveer 1,2 miljoen gebruikers per week alleen al op zijn platform zelfmoordgedachten zouden uiten. Er lopen al rechtszaken tegen bepaalde ontwikkelaars, wier producten ervan worden beschuldigd gebruikers tot zelfmoord te hebben gedreven. Een studie uit 2025 heeft bovendien aangetoond dat de reacties van verschillende populaire chatbots op vragen over zelfmoord inconsistent zijn, en ander onderzoek wijst op de ondoorzichtigheid van de verwerking van persoonsgegevens. Het risico blijkt nog groter te zijn voor tieners, die een verslaving kunnen ontwikkelen, evenals voor ouderen en patiënten die al aan psychische stoornissen lijden.
Gezien deze leemte wordt de regelgeving op versnipperde wijze opgezet. Bij gebrek aan een federaal kader hebben verschillende staten wetgeving aangenomen: Illinois, Nevada en Tennessee hebben bepaalde toepassingen beperkt of verboden, met name het feit dat een AI-systeem zich voordoet als een gekwalificeerde professional in de geestelijke gezondheidszorg of dat een zorgverlener een therapeutische beslissing aan de AI delegeert; de staat New York legt chatbotfabrikanten voortaan protocollen op waarmee uitingen van suïcidale gedachten of zelfbeschadiging kunnen worden gedetecteerd en de gebruiker naar crisisdiensten kan worden doorverwezen. Wetenschappelijke verenigingen en academische instellingen, waaronder de American Psychological Association, de American Counseling Association, het Stanford Institute for Human-Centered AI en de Harvard Medical School, publiceren op hun beurt aanbevelingen en opleidingen.
De epidemiologische achtergrond maakt het debat des te urgenter: zelfmoord staat weer in de top 10 van doodsoorzaken in de Verenigde Staten, tegen de achtergrond van een tekort aan toegang tot geestelijke gezondheidszorg.
