Pesquisador de segurança de IA antrópica pede demissão, diz que ‘o mundo está em perigo’ – National

Um inteligência artificial O pesquisador deixou seu emprego na empresa norte-americana Anthropic esta semana com um aviso enigmático sobre o estado do mundo, marcando a mais recente demissão em uma onda de saídas por riscos de segurança e dilemas éticos.

Em uma carta postado em XMrinank Sharma escreveu que havia conseguido tudo o que esperava durante seu tempo no IA empresa de segurança e estava orgulhoso dos seus esforços, mas estava a deixar de lado os receios de que o “mundo esteja em perigo”, não apenas por causa da IA, mas devido a uma “série inteira de crises interligadas”, que vão desde o bioterrorismo até às preocupações com a “bajulação” da indústria.

Ele disse que se sentiu chamado a escrever, a se formar em poesia e a se dedicar “à prática do discurso corajoso”.

“Ao longo do meu tempo aqui, vi repetidamente como é difícil deixar verdadeiramente que os nossos valores governem as nossas ações”, continuou ele.

A Anthropic foi fundada em 2021 por um grupo dissidente de ex-funcionários da OpenAI que se comprometeram a projetar uma abordagem mais centrada na segurança para o desenvolvimento de IA do que seus concorrentes.

Sharma liderou a equipe de pesquisa de salvaguardas de IA da empresa.

A Anthropic divulgou relatórios descrevendo a segurança de seus próprios produtos, incluindo Claude, seu modelo de linguagem grande de raciocínio híbrido, e se comercializa como uma empresa comprometida em construir sistemas de IA confiáveis ​​e compreensíveis.

A empresa enfrentou críticas no ano passado depois de concordar em pagar US$ 1,5 bilhão para resolver uma ação coletiva de um grupo de autores que alegou que a empresa usava versões piratas de seu trabalho para treinar seus modelos de IA.

A renúncia de Sharma ocorre na mesma semana em que Zoë Hitzig, pesquisadora da OpenAI, anunciou sua renúncia em um ensaio no New York Timescitando preocupações sobre a estratégia de publicidade da empresa, incluindo a colocação de anúncios no ChatGPT.

“Certa vez, acreditei que poderia ajudar as pessoas que construíam IA a se anteciparem aos problemas que ela criaria. Esta semana confirmou minha lenta percepção de que a OpenAI parece ter parado de fazer as perguntas às quais me juntei para ajudar a responder”, escreveu ela.

“As pessoas contam aos chatbots sobre os seus medos médicos, os seus problemas de relacionamento, as suas crenças sobre Deus e a vida após a morte. A publicidade construída nesse arquivo cria um potencial para manipular os utilizadores de formas que não temos as ferramentas para compreender, muito menos para prevenir.”

Anthropic e OpenAI recentemente se envolveram em uma briga pública após Anthropic lançou um anúncio do Super Bowl criticando a decisão da OpenAI de veicular anúncios no ChatGPT.

Em 2024, o CEO da OpenAI, Sam Altman, disse que não era fã do uso de anúncios e os implantaria como “último recurso”.

Na semana passada, ele contestou a alegação do comercial de que a incorporação de anúncios era enganosa com uma longa postagem criticando a Anthropic.

“Acho que é da marca da linguagem dupla da Anthropic usar um anúncio enganoso para criticar anúncios teóricos enganosos que não são reais, mas um anúncio do Super Bowl não é onde eu esperaria”, escreveu ele, acrescentando que os anúncios continuarão a permitir acesso gratuito, o que, segundo ele, cria “agência”.

Funcionários de empresas concorrentes – Hitzig e Sharma – expressaram grande preocupação com a erosão dos princípios orientadores estabelecidos para preservar a integridade da IA ​​e proteger os seus utilizadores da manipulação.

Hitzig escreveu que uma potencial “erosão dos próprios princípios da OpenAI para maximizar o envolvimento” pode já estar acontecendo na empresa.

Sharma disse estar preocupado com a capacidade da IA ​​de “distorcer a humanidade”.

© 2026 Global News, uma divisão da Corus Entertainment Inc.