Ministro ‘decepcionado’ com OpenAI, mas por que a regulamentação da IA ​​está demorando anos?

Ministros federais que se reuniram com representantes de OpenAI expressou decepção na quarta-feira pelo fato de a empresa não ter apresentado as medidas que tomará para melhorar suas medidas de segurança – inclusive quando a polícia é avisada sobre o comportamento online de um usuário.

Especialistas na área, no entanto, questionam por que o governo federal tem sido lento em regulamentar inteligência artificial antes que preocupações fossem levantadas este mês após o Tumbler Ridge, BC, tiroteio em massa.

O ministro da Inteligência Artificial, Evan Solomon, disse que está dando à empresa a chance de atualizá-lo nos próximos dias sobre ações “concretas” antes que ele e outros ministros resolvam o problema por meio de legislação, embora ele tenha notado que uma série de projetos de lei que abordam a segurança e a privacidade da IA ​​​​estão em andamento.

“Olha, dissemos a esta empresa que queríamos ver algumas propostas concretas, algumas ações concretas”, disse Solomon aos repórteres em Ottawa enquanto se dirigia para uma reunião do caucus liberal.

“Estamos desapontados porque, quando chegaram aqui, não tinham algo mais concreto para oferecer, mas veremos muito em breve o que têm”, acrescentou, observando que “todas as opções” estavam sobre a mesa sobre como o governo poderia agir.

Solomon convocou representantes da empresa por trás do ChatGPT para Ottawa depois que se descobriu que o atirador que matou oito pessoas em Tumbler Ridge em 10 de fevereiro foi sinalizado internamente em junho passado por sua atividade no chatbot de IA.

A OpenAI não alertou a RCMP até depois do tiroteio em massa, dizendo que a atividade “violenta” não atendia ao limite interno de uma ameaça “iminente” quando a conta foi sinalizada e banida sete meses antes.

O Ministro da Justiça, Sean Fraser, o Ministro da Segurança Pública, Gary Anandasangaree, e o Ministro da Cultura e Identidade, Marc Miller – cujo ministério está a trabalhar numa nova legislação sobre danos online – também estiveram presentes na reunião.

O primeiro-ministro Mark Carney disse aos repórteres na quarta-feira que ainda não havia sido informado sobre a reunião da OpenAI, mas sugeriu que estaria aberto a mudanças.

“Sentei-me com as famílias de Tumbler Ridge, encontrei-me com os socorristas, vi o horror que aconteceu e a dor que foi causada”, disse ele.

“Obviamente, qualquer coisa que alguém pudesse ter feito para evitar essa tragédia ou futuras tragédias deve ser feita. Iremos explorar isso em toda a extensão da lei e seremos muito transparentes sobre esse processo.”

Solomon e outros ministros que estiveram na reunião disseram que qualquer ação tomada pelo governo se concentraria no limite usado para escalar o comportamento das autoridades.

“Há questões em torno da avaliação da credibilidade de uma ameaça e da iminência de um tópico que, na minha opinião, se administrado adequadamente, poderia evitar tragédias no futuro”, disse Fraser.

“A mensagem que transmitimos, em termos inequívocos, foi que temos a expectativa de que serão implementadas mudanças e, se não ocorrerem muito rapidamente, o governo irá fazer mudanças.”

OpenAI disse ao Global News na noite de terça-feira que a empresa apreciou a “discussão franca sobre como prevenir tragédias como esta no futuro”.

“Nos últimos meses, tomámos medidas para reforçar as nossas salvaguardas e fizemos alterações no nosso protocolo de encaminhamento das autoridades para casos que envolvem atividades violentas, mas os ministros sublinharam que os canadianos esperam ações concretas contínuas e ouvimos essa mensagem em alto e bom som”, disse um porta-voz.

“Nos comprometemos a acompanhar nos próximos dias uma atualização sobre as medidas adicionais que estamos tomando, à medida que continuamos a apoiar a aplicação da lei e a trabalhar com o governo no fortalecimento da segurança da IA ​​para todos os canadenses.”

A OpenAI não detalhou exatamente quais mudanças foram feitas nos últimos meses e não respondeu imediatamente ao pedido de comentários do Global News na quarta-feira.

Pesquisadores que estudam os danos online e a IA dizem que o incidente de Tumbler Ridge mostra que a indústria de IA não deve ser deixada para se auto-regular e que o governo precisa ser mais proativo.

“Os ministros deveriam se considerar responsáveis ​​​​por levar a sério a regulamentação quando se trata de ChatGPT e outras ferramentas semelhantes”, disse Jennifer Raso, professora assistente de direito na Universidade McGill.

“Atrair pessoas para Ottawa depois de um dos mais horríveis tiroteios em massa no Canadá para que elas se responsabilizem depois que o dano foi causado parece ser muito pouco, muito tarde.”

Os esforços para regular a indústria da IA ​​e resolver os danos online através de legislação morreram no Parlamento no ano passado, antes das eleições federais.

A Lei de Inteligência Artificial e Dados teria exigido que as empresas de IA garantissem que as suas plataformas fossem monitorizadas quanto a preocupações de segurança e utilização indevida, ao mesmo tempo que aprovavam medidas “proactivas” para prevenir danos no mundo real.

Solomon prometeu revelar uma nova estratégia federal de IA no primeiro trimestre deste ano, atrasando seu lançamento para o final de 2025.

Num discurso no ano passado, ele disse que Ottawa evitaria “indexação excessiva de avisos e regulamentação”, reflectindo a ênfase do governo Carney nos benefícios económicos da IA ​​e na rápida adopção da tecnologia.

Um resumo dos comentários públicos apresentados durante a consulta sobre a próxima estratégia mostrou que os canadianos estão profundamente cépticos em relação à IA e querem ver regulamentação governamental, abordando particularmente os danos online e as preocupações de saúde mental.

Embora aliados como o Reino Unido e a União Europeia tenham tomado medidas para reforçar a regulamentação da IA, as tentativas nesse sentido nos EUA têm sido esporádicas. O presidente dos EUA, Donald Trump, ordenou aos estados que não aprovassem regulamentos antes de uma estratégia nacional estar em vigor, mas esse padrão federal ainda não surgiu.

A legislação de privacidade do Canadá diz que as empresas privadas “podem” – e não devem – divulgar informações pessoais às autoridades ou a outra organização se acreditarem que existe um risco de danos significativos ou que uma lei será violada.

Qualquer outra tomada de decisão cabe à própria empresa, levando a limites internos como a identificação de ameaças “iminentes” da OpenAI.

Solomon disse na quarta-feira que estão em andamento trabalhos para atualizar a Lei de Proteção de Informações Pessoais e Documentos Eletrônicos, mas não disse quando ela será apresentada nem ofereceu mais detalhes.

Anandasangaree expressou confiança de que a investigação sobre o tiroteio produzirá respostas, inclusive da OpenAI.

“O número de questões que surgem em torno de Tumbler Ridge me preocupa”, disse ele aos repórteres após a reunião caucus de quarta-feira.

“A reunião de ontem foi um primeiro passo crítico com a OpenAI. Ainda há muitas perguntas sem resposta e há certamente uma sensação de frustração e, francamente, uma sensação de que as empresas de tecnologia em geral não estão fazendo o suficiente para resolver os problemas relacionados às informações que possuem.”

Solomon enfatizou que o governo quer garantir que o que aconteceu em Tumbler Ridge “não aconteça novamente”.

“É claro que ocorreu uma falha aqui”, disse ele. “Quero dizer, veja o que aconteceu.”

—com arquivos de Touria Izri da Global