Um homem suspeito de usar o ChatGPT para gerar notícia falsa foi preso na província de Gansu, na China. Ele criou uma fake news sobre um acidente de trem.
O episódio marcou a primeira prisão, na China, provocada por uma investigação relacionada à Inteligência Artificial (IA).
A história, que afirmava que o acidente teria matado nove trabalhadores da construção civil na cidade em Gansu, teve mais de 15 mil cliques depois de ser publicada nas redes sociais, em 25 de abril, informou o departamento de polícia local da cidade de Pingliang.
Novas regras na China
A prisão é resultado de novas regras implementadas pelo país para combater informações falsas relacionadas a deepfakes.
As normas, que entraram em vigor no dia 10 de janeiro, têm o objetivo de restringir o uso de tecnologia de inteligência artificial para alterar o conteúdo on-line.
Um total de 25 contas da Baijiahao, uma plataforma da gigante de tecnologia chinesa Baidu, relatou o “acidente” com endereços IP de diferentes locais, de acordo com um comunicado da polícia.
A nota afirma que o suspeito, de sobrenome Hong, foi identificado e preso por forjar informações falsas depois que a polícia rastreou todas as contas, e descobriu que sua empresa estava envolvida.
Hong teria editado as notícias geradas pelo ChatGPT e as carregou na plataforma de propriedade do Baidu, informou a polícia local, acrescentando que as investigações continuam.