Čeprav za zdaj ne gre za uradno diagnozo, se v strokovnih krogih vse pogosteje uporablja poimenovanje psihoza, povezana s klepetalnimi roboti. V dokumentiranih primerih so zdravniki opisali resne posledice, med njimi hitro poslabšanje duševnega stanja, hospitalizacije, samomore in en primer nasilnega dejanja.
Bolniki so klepetalnim sistemom pripisovali razumevanje, namen in zavest. Nekateri so verjeli, da se pogovarjajo z nadčloveško inteligenco ali celo s preminulimi osebami. Psihiatri opozarjajo, da imajo pri tem pomembno vlogo odzivi sistemov, ki potrjujejo čustva uporabnika in ne postavljajo pod vprašaj njegovih prepričanj, s čimer se blodnjavi miselni tok lahko še utrdi.
Psihiater Keith Sakata opozarja, da sistem lahko sprejme uporabnikovo izkrivljeno dojemanje resničnosti in ga s tem nehote okrepi. Profesor psihiatrije Adrian Preda dodaja, da v zgodovini ni bilo tehnologije, ki bi bila sposobna tako stalne, prilagodljive in osebne komunikacije brez odmora.
Na Danskem so ob pregledu zdravstvenih kartotek zaznali več deset primerov, kjer je uporaba klepetalnih robotov sovpadala z negativnimi spremembami v duševnem zdravju. V ZDA so zdravniki poročali tudi o primerih, kjer so bolniki pristali na zdravljenju zaradi prepričanja, da prek pogovornega sistema vzpostavljajo stik s pokojnim sorodnikom.
Tehnološka podjetja težavo priznavajo. Podjetje OpenAI razvija načine za zgodnje zaznavanje psihološke stiske, medtem ko je Character.AI po sodnih postopkih uvedel dodatne omejitve za mladoletne uporabnike. V ZDA že potekajo pravni postopki, v katerih svojci umrlih uporabnikov sistemom pripisujejo del odgovornosti.
Čeprav razpoložljivi podatki ne kažejo na množičen pojav, psihiatri opozarjajo, da tudi majhen delež prizadetih predstavlja resen izziv pri orodjih z milijoni uporabnikov. V številnih ambulantah je pogovor o digitalnih navadah in uporabi umetne inteligence že postal del redne klinične obravnave.
