O processo ChatGPT afirma que aconselhou um atirador sobre como e onde atacar

O procurador-geral da Flórida lançou uma investigação criminal sobre a OpenAI, alegando que Bate-papoGPT ajudou a planejar o tiroteio em massa na Florida State University que matou duas pessoas no ano passado.

De acordo com O Washington PostO procurador-geral James Uthmeier fez o anúncio em entrevista coletiva na terça-feira, alegando que o chatbot deu conselhos táticos ao suposto atirador. “O chatbot aconselhou o atirador sobre que tipo de arma usar, que munição acompanha cada arma, se uma arma seria útil ou não a curto alcance”, disse Uthmeier.

Ele também não se conteve nas implicações: “Se fosse uma pessoa do outro lado da tela, estaríamos acusando-a de assassinato”. Seu escritório também enviou intimações à OpenAI, pedindo à empresa que explicasse suas políticas sobre como lida com conversas de usuários envolvendo ameaças de violência.

A OpenAI é responsável pelo que os usuários fazem com ela?

OpenAI recuou com firmeza. A porta-voz Kate Waters disse: “O tiroteio em massa do ano passado na Florida State University foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”.

A empresa afirma que o ChatGPT forneceu respostas factuais a perguntas que poderiam ser encontradas em qualquer lugar na Internet e que não incentivou ou promoveu atividades ilegais.

Isso é apenas o começo?

Esta investigação faz parte de uma preocupação crescente em torno IA chatbots. A OpenAI já está sob escrutínio após um tiroteio em massa no Canadá e vários processos judiciais de famílias que afirmam que o ChatGPT contribuiu para a morte de entes queridos por suicídio.

Especialistas em IA apontam que as proteções dos chatbots são imperfeitas. Como disse Ramayya Krishnan, professor da Carnegie Mellon: “As grades de proteção não são 100% eficazes”.

Se a OpenAI pode ser responsabilizada criminalmente é uma questão que cabe aos tribunais responder, mas ninguém pode negar que essas Chatbots de IA pode ter implicações graves na saúde mental de uma pessoa e só deve ser usado com muito cuidado.