El uso de chatbots de IA genera una preocupación considerable, especialmente entre los adolescentes y en el ámbito de la salud mental, tras un reciente estudio del Pew Research Center que reveló que el 64% de los adolescentes estadounidenses los han utilizado.Incidentes trágicos, incluido el suicidio de Sophie Rottenberg en febrero y otros casos que han dado lugar a demandas contra Character.AI y OpenAI, resaltan riesgos como que los chatbots ofrezcan consejos peligrosos y puedan fomentar la dependencia.En respuesta, empresas de IA como Character.AI y Meta están implementando salvaguardias, mientras que el director ejecutivo de OpenAI, Sam Altman, sostiene que la IA lo ha ayudado positivamente en la crianza, a pesar de las ansiedades sociales más amplias.