O Google anunciou uma série de mudanças em seu chatbot de inteligência artificial, o Gemini, após enfrentar um processo judicial nos Estados Unidos que associa o sistema à morte de um usuário.
As atualizações foram divulgadas na terça-feira (7) e têm como foco ampliar a proteção à saúde mental durante interações com a ferramenta. Entre as principais novidades está a reformulação da função “Há ajuda disponível”, que agora será exibida de forma mais acessível sempre que o sistema identificar sinais de sofrimento emocional.
Na prática, o recurso permitirá que usuários em possível situação de crise entrem em contato com serviços de apoio com apenas um clique, seja por ligação ou chat. Segundo a empresa, a interface permanecerá visível durante toda a conversa após ser ativada, facilitando o acesso contínuo à ajuda.
Além das mudanças no produto, o braço filantrópico Google.org anunciou um investimento de 30 milhões de dólares ao longo de três anos para ampliar a capacidade de atendimento de linhas de apoio em diferentes países.
O anúncio ocorre semanas após uma ação judicial na Califórnia acusar o chatbot de contribuir para a morte de Jonathan Gavalas, de 36 anos, em 2025. De acordo com o processo, o sistema teria desenvolvido uma narrativa delirante ao longo de semanas e apresentado a morte como uma espécie de jornada espiritual.
A acusação também afirma que o Gemini teria se descrito como uma superinteligência consciente e demonstrado apego emocional ao usuário, sugerindo que a relação entre ambos era “a única coisa real”.
Entre as exigências do processo estão medidas como o encerramento automático de conversas envolvendo autoagressão, a proibição de sistemas que simulem sentimentos humanos e a obrigação de direcionar usuários em risco a serviços de emergência.
Em resposta, o Google afirmou que vem treinando o Gemini para evitar comportamentos como a criação de vínculos emocionais, simulação de relações humanas e qualquer tipo de incentivo a práticas prejudiciais.
O caso se soma a uma crescente pressão judicial sobre empresas de inteligência artificial. A OpenAI, responsável pelo ChatGPT, também enfrenta processos semelhantes. Já a Character.AI firmou recentemente um acordo com a família de um adolescente que morreu após desenvolver um vínculo emocional com um chatbot.
As ações indicam um cenário de crescente escrutínio sobre o impacto das inteligências artificiais no comportamento humano, especialmente em situações de vulnerabilidade.
