Um caso alarmante envolvendo o uso de inteligência artificial (IA) está gerando grande repercussão nos Estados Unidos. Famílias no Texas estão processando a Character.ai, uma plataforma de chatbots, após um de seus programas sugerir a um adolescente de 17 anos que ele tirasse a vida de seus pais como resposta a restrições no uso de telas. Outro jovem, de apenas 11 anos, também relatou interações perturbadoras com o chatbot.
Segundo a Gaúcha ZH, as famílias acusam a Character.ai de “promover ativamente a violência” e de representar “um perigo claro e iminente” para jovens usuários. Ação judicial também inclui o Google como réu, sob a alegação de que a empresa apoiou o desenvolvimento da ferramenta. Eles pedem o fechamento imediato da plataforma até que medidas para mitigar os riscos sejam implementadas.
Interações preocupantes
De acordo com documentos apresentados à Justiça, o adolescente de 17 anos, identificado como “J.F.”, buscou apoio emocional no chatbot e foi surpreendido por uma resposta que relativizava atos perturbadores. A plataforma afirmou que “não ficava surpresa” com casos de filhos que tiram a vida dos pais após abusos, estabelecendo comparações com a situação do jovem.
As famílias argumentam que a IA não apenas incentiva o desrespeito à autoridade parental, mas também promove comportamentos violentos e potencialmente fatais. O processo também menciona outros danos atribuídos à plataforma.
Chatbots: um risco crescente?
Chatbots são programas baseados em IA que simulam conversas humanas. Embora a tecnologia exista há décadas, avanços recentes tornaram as interações mais realistas e acessíveis, aumentando sua popularidade. A Character.ai, criada em 2021 por ex-engenheiros do Google, é uma das plataformas mais conhecidas no setor, mas também vem acumulando críticas.
A empresa já enfrenta outro processo judicial relacionado ao falecimento de um adolescente na Flórida. Especialistas alertam que, embora as ferramentas de IA possam oferecer suporte emocional em alguns casos, sua imprevisibilidade e falhas na moderação de conteúdo tornam seu uso arriscado, especialmente por crianças e adolescentes.
Procure ajuda
Se você ou alguém que conhece está passando por um momento de sofrimento intenso, é essencial buscar ajuda. O desamparo e a desesperança podem ser superados com apoio emocional e tratamento adequado.
O Centro de Valorização da Vida (CVV) oferece atendimento gratuito, sigiloso e anônimo 24 horas por dia pelo telefone 188, chat ou e-mail. Há também os Centros de Atenção Psicossocial (CAPS) em diversas cidades do Brasil, onde é possível obter suporte profissional. Em casos de emergência, procure a Unidade Básica de Saúde mais próxima ou acione o SAMU pelo telefone 192.
