OCBot: verantwoord chatten over OCD

Door overbelasting van de geestelijke gezondheidszorg (ggz) in Nederland wachten jongeren met psychische klachten vaak (te) lang op passende hulp. Hun aandoening verergert hierdoor en roept schaamte op. Om toch een luisterend oor te krijgen, gaan ze op zoek naar informatie of steun online. Kletsen met een chatbot is dan logisch: die is dag en nacht beschikbaar, anoniem en eenvoudig te gebruiken. Tegelijk brengen generieke chatbots risico’s met zich mee. Een belangrijk probleem is sycofantie: de neiging van AI-systemen om gebruikers te bevestigen en gerust te stellen in hun overtuigingen, zelfs wanneer die inhoudelijk onjuist of potentieel schadelijk zijn.
Zeker bij aandoeningen als Obsessieve Compulsieve Stoornis (OCD) is het gebruik van generieke chatbots risicovol. Mensen met OCD ervaren opdringerige gedachten (obsessies) en voeren herhaalde handelingen uit (compulsies) om angst te verminderen. In behandelingen leren patiënten juist dat deze geruststelling en rituelen de klachten op termijn versterken. Wanneer een chatbot meegaat in de zorgen van een gebruiker of voortdurend bevestiging geeft, kan dit de dwangklachten verergeren.
In het project OCBot verkennen we daarom in hoeverre sycofantie in chatbots kan worden voorkomen. Samen met OCD-experts en AI-onderzoekers ontwikkelen we een prototype van een gespecialiseerde chatbot voor jongeren met (een vermoeden van) OCD. Deze chatbot moet betrouwbare informatie geven en steun bieden, maar tegelijkertijd voorkomen dat dwanggedachten worden bevestigd. Niet ter vervanging van professionele therapie, maar ter ondersteuning of overbrugging van wachttijd.
Door het gedrag van deze chatbot te vergelijken met dat van generieke chatbots en met antwoorden van een menselijke expert onderzoeken we welke ontwerpprincipes nodig zijn om sycofantie te vermijden. De resultaten dragen bij aan veiligere inzet van AI in de ggz. Op termijn kan een dergelijke chatbot jongeren tijdens de wachttijd ondersteunen en voorbereiden op behandeling, waardoor behandelingen effectiever verlopen en de werkdruk in de ggz wordt verlicht.