L'uso di chatbot basati sull'intelligenza artificiale suscita notevoli preoccupazioni, specialmente tra gli adolescenti e per il supporto alla salute mentale, dopo un recente studio del Pew Research Center che ha rilevato che il 64% degli adolescenti americani li ha utilizzati.Incidenti tragici, incluso il suicidio di Sophie Rottenberg a febbraio e altri casi che hanno portato a cause legali contro Character.AI e OpenAI, evidenziano rischi come chatbot che offrono consigli pericolosi e che potrebbero favorire la dipendenza.In risposta, aziende di IA come Character.AI e Meta stanno implementando misure di sicurezza, mentre l'amministratore delegato di OpenAI, Sam Altman, sostiene che l'IA lo abbia assistito positivamente nella genitorialità, nonostante le più ampie ansie sociali.