A OpenAI revelou que cerca de 1 milhão de usuários semanais do ChatGPT têm conversas com a inteligência artificial que indicam ideações suicidas. Segundo relatório da empresa, a estimativa é de que cerca de 0,15% dos 800 milhões de usuários ativos em uma semana e 0,05% das mensagens contêm indicadores explícitos ou implícitos de ideação ou intenção suicida.
A noticia é de THAYS MARTINS. Além disso, cerca de 560 mil usuários semanais apresentam sinais de emergência em saúde mental relacionadas à psicose ou mania. Embora o número seja alto, a OpenAI classifica o fenômeno como “extremamente raro”.
No relatório, divulgado na segunda-feira (27), a empresa apresenta medidas que têm tomado para identificar e lidar com esses casos. A OpenAI disse que trabalha com 170 especialistas em saúde mental para ajudar o ChatGPT a reconhecer sinais de sofrimento de forma mais confiável, responder com cuidado e orientar as pessoas em direção ao suporte do mundo real.
“Acreditamos que o ChatGPT pode fornecer um espaço de apoio para as pessoas processarem o que estão sentindo e orientá-las a entrar em contato com amigos, familiares ou um profissional de saúde mental quando apropriado”, diz a empresa.
Segundo a OpenAI, o novo modelo do ChatGPT teve uma redução de 39% a 52% nas respostas indesejadas em todas as categorias avaliadas por psiquiatras e psicólogos.
As medidas foram divulgados em meio a um processo que a OpenAI responde por homicídio culposo. Em agosto, um casal norte-americano entrou com uma ação contra a empresa alegando que o ChatGPT teria incentivado o filho adolescente deles a tirar a própria vida.
Nenhum comentário:
Postar um comentário