Dados obtidos pela OpenAI, criadora do ChatGPT, sugerem que mais de um milhão de pessoas que utilizam seu chatbot de inteligência artificial (IA) generativa demonstraram interesse no tema do suicídio.
Em uma publicação em seu blog na última segunda-feira (27), a empresa americana disse estimar que 0,15% dos usuários têm “conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida”.
Segundo a OpenAI, mais de 800 milhões de pessoas usam o ChatGPT a cada semana, o que significa que sua estimativa sobre suicídio corresponde a cerca de 1,2 milhão de usuários.
A empresa também estima que cerca de 0,07% dos usuários ativos semanais (pouco menos de 600 mil pessoas) apresentem possíveis sinais de emergências de saúde mental relacionadas a psicose ou mania.
O problema ganhou destaque depois que o adolescente californiano Adam Raine cometeu suicídio no início deste ano. Seus pais entraram com uma ação judicial contra o ChatGPT porque a ferramenta forneceu conselhos específicos sobre como fazê-lo.
Desde então, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança, como maior acesso a linhas diretas de crise, redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas.
A companhia também atualizou o ChatGPT para reconhecer e responder melhor aos usuários que enfrentam emergências de saúde mental e diz estar trabalhando com mais de 170 profissionais de saúde mental para reduzir significativamente as respostas problemáticas.
sua assinatura pode valer ainda mais
Você já conhece as vantagens de ser assinante da Folha?
Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas (conheça aqui).
Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia.
A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!
sua assinatura vale muito
Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?