À medida que a IA ‘muito rapidamente’ confunde verdade e ficção, especialistas alertam sobre a ameaça dos EUA – Nacional

Há menos de dois anos, um relatório do governo federal alertou O Canadá deverá preparar-se para um futuro em que, graças à inteligência artificialé “quase impossível saber o que é falso ou real”.

Agora, os pesquisadores estão alertando que esse momento pode já ter chegado, e altos funcionários em Ottawa disseram esta semana que o governo está “muito preocupado” com o conteúdo cada vez mais sofisticado gerado por IA, como deepfakes impactando as eleições.

“Estamos nos aproximando desse lugar muito rapidamente”, disse Brian McQuinn, professor associado da Universidade de Regina e codiretor do Centro de Inteligência Artificial, Dados e Conflitos.

Ele acrescentou que os Estados Unidos poderiam rapidamente se tornar uma importante fonte desse tipo de conteúdo – uma ameaça que poderia se acelerar em meio a futuras batalhas pela independência em Quebec e particularmente em Alberta. que já foi aproveitado por algumas figuras do governo e dos meios de comunicação dos EUA.

“Temos 100 por cento de garantia de que receberemos deepfakes provenientes da administração dos EUA e de seus representantes, sem dúvida”, disse McQuinn. “Já fizemos isso, e é só a questão do volume que está chegando.”

Durante uma audiência do comitê da Câmara dos Comuns sobre a interferência eleitoral estrangeira na terça-feira, a conselheira de segurança nacional e inteligência do primeiro-ministro Mark Carney, Nathalie Drouin, disse que o Canadá espera que os EUA, como todas as outras nações estrangeiras, ficar fora de seus assuntos políticos internos.

Isto surgiu em resposta à única pergunta dos deputados sobre a possibilidade de os EUA se tornarem uma ameaça de interferência estrangeira, a par da Rússia, da China ou da Índia.

O resto da audiência de duas horas centrou-se nas eleições federais anteriores e se Ottawa está preparada para ameaças futuras, incluindo IA e desinformação.

“Eu sei que o governo está muito preocupado com a IA e os efeitos potencialmente perniciosos”, disse o vice-ministro das Relações Exteriores, David Morrison, que, como Drouin, é membro do Painel de Protocolo Público de Incidentes Eleitorais Críticos encarregado de alertar os canadenses sobre interferências.

Questionado se o Canadá deveria procurar rotular online o conteúdo gerado por IA, Morrison disse: “Não sei se há interesse especificamente em rotular”, observando que essa é uma decisão que cabe às plataformas tomar.

“Não é fácil colocar o governo na posição de dizer o que é verdade e o que não é”, acrescentou.

Ottawa está atualmente a considerar uma legislação que abordará os danos online e as preocupações com a privacidade relacionadas com a IA, mas ainda não está claro se o projeto de lei procurará reprimir a desinformação.

“O Canadá está trabalhando na segurança dessa nova tecnologia. Estamos desenvolvendo padrões para IA”, disse Drouin, que também atua como vice-secretário do Conselho Privado.

Ela observou que a juíza Marie-Josée Hogue, que liderou o inquérito público sobre a interferência estrangeira, concluiu no seu relatório final do ano passado que a desinformação é a maior ameaça à democracia canadense – graças em parte ao surgimento da IA ​​generativa.

Enfrentar e combater essa ameaça é “um trabalho contínuo e interminável”, disse Drouin. “Isso nunca acaba.”

O Gabinete do Conselho Privado disse ao Global News que forneceu uma “sessão de informação inicial relacionada com deepfakes” aos deputados na quarta-feira, e ofereceria sessões adicionais a “todos os parlamentares interessados, bem como aos partidos políticos, nas próximas semanas”.

Especialistas como McQuinn dizem que tal informação já deveria ter sido feita há muito tempo, e que o governo, a academia e a mídia também devem intensificar a educação do já cético público canadense sobre como discernir a verdade da ficção.

“Deveria haver formação anual (para políticos e seus funcionários), não apenas sobre deepfakes e desinformação, mas também sobre interferência estrangeira em geral”, disse Marcus Kolga, investigador sénior do Instituto Macdonald-Laurier e fundador do DisinfoWatch.

“Isso precisa de liderança. Neste momento, não estou vendo essa liderança, mas precisamos desesperadamente dela porque todos nós podemos ver o que está por vir.”

Kolga também concordou que “não há dúvida” de que os canais oficiais do governo dos EUA, e o próprio presidente dos EUA, Donald Trump, estão a tornar-se uma importante fonte desse conteúdo.

“A trajetória é bastante clara”, disse ele. “Portanto, acho que precisamos antecipar que isso vai acontecer. Reagir a isso depois que acontece não é muito útil – precisamos estar preparados neste momento.”

Morrison observou na terça-feira que o painel eleitoral, bem como a força-tarefa contra ameaças de segurança e inteligência às eleições (SITE), não observaram nenhum uso significativo de IA para interferir nas eleições federais do ano passado.

No entanto, acrescentou que “os nossos adversários neste espaço estão continuamente a evoluir as suas tácticas, por isso é apenas uma questão de tempo e precisamos de estar muito vigilantes”.

O Estabelecimento de Segurança das Comunicações e o Centro Canadense de Segurança Cibernética emitiram avisos semelhantes recentemente sobre atores estrangeiros hostis que aproveitarão ainda mais a IA nos próximos dois anos contra “eleitores, políticos, figuras públicas e instituições eleitorais”.

Os investigadores dizem agora que os EUA estão rapidamente a tornar-se parte desse cenário de ameaças.

McQuinn disse que parte do problema é a desinformação online que os canadenses veem estar sendo espalhada principalmente em plataformas de mídia social de propriedade americana, como X e Facebook, com o TikTok agora também sob propriedade dos EUA.

Isto colocou desafios aos países estrangeiros que tentam regular o conteúdo nessas plataformas, com as leis europeias e britânicas a enfrentarem resistência e hostilidade por parte das empresas e da administração Trump, que prometeu sanções severas, incluindo tarifas e até sanções.

Os impostos sobre serviços digitais que procuravam recuperar receitas para operações em países estrangeiros foram identificados pelos EUA como irritantes comerciais, com o imposto do Canadá quase a atrapalhar as negociações no ano passado, antes de ser revogado.

Kolga observou que a disseminação de desinformação por criadores de conteúdo e plataformas dos EUA não é nova, seja ela originada na América ou em outras partes do mundo. Outros países, incluindo a Rússia, a Índia e a China, são conhecidos por utilizarem campanhas de desinformação e foram identificados em relatórios de segurança canadianos como fontes significativas de esforços de interferência estrangeira.

A Rússia também foi acusada de financiar secretamente influenciadores de direita nos EUA e no Canadá para promover pontos de discussão pró-Rússia e perturbar os assuntos internos.

O que é novo, disse McQuinn, é o envolvimento de Trump e da sua administração na promoção dessa desinformação, incluindo deepfakes de IA.

Embora grande parte do conteúdo seja claramente falso ou concebido para provocar uma reação ilícita – uma imagem da Casa Branca mostrando Trump e um pinguim caminhando por uma paisagem do Ártico que se sugere ser a Groenlândia, ou Trump compartilhando conteúdo de IA de terceiros retratando-o pilotando um caça a jato de fezes sobre manifestantes – houve exemplos mais sutis.

A Casa Branca foi acusada no mês passado de usar IA para alterar a foto de um manifestante preso em Minnesota durante uma repressão federal à imigração no estado. para fazer a mulher parecer que estava chorando.

Em resposta às críticas sobre a imagem alterada, o vice-diretor de comunicações da Casa Branca, Kaelan Dorr escreveu no X, “Os memes continuarão.” A imagem permanece online.

“A atual administração dos EUA é o único país ocidental que conhecemos (que) publica, compartilha ou promove regularmente falsificações e deepfakes óbvios, em um nível que nunca foi visto por um governo ocidental antes”, disse McQuinn.

Ele disse que a estratégia e o comportamento online correspondem aos dos actores estatais comuns de desinformação, como a Rússia e a China, bem como de grupos armados como os Taliban, que não têm “qualquer respeito” pela verdade.

“Se não (tivermos esse respeito), então teremos sempre uma vantagem assimétrica contra qualquer actor, seja ele estatal ou não-estatal, que queira de alguma forma aderir à verdade”, disse ele.

“(Esta) administração dos EUA terá sempre uma vantagem sobre os intervenientes canadianos porque já não têm quaisquer controlos ou restrições sobre eles, porque a verdade já não é um factor na sua comunicação.”

McQuinn acrescentou que sua própria pesquisa sugere que 83% da desinformação é repassada por canadenses comuns que não percebem imediatamente que o conteúdo que compartilham é falso.

“Não é que eles necessariamente acreditem na desinformação”, disse ele. “Algo parece cativante ou se alinha com suas ideias de mundo, e eles vão transmitir isso sem ler no segundo ou terceiro parágrafo que a ideia com a qual concordaram agora se transforma em outra coisa.

“A boa notícia é que os canadenses estão aprendendo muito rapidamente” como detectar coisas como deepfakes, acrescentou, o que está criando “um certo ceticismo que está surgindo naturalmente na população”.

No entanto, a partilha repetida por parte de Trump de conteúdos de IA online que imaginam o controlo do Canadá pelos EUA — uma homenagem às suas ameaças do “51º Estado” — bem como o apoio tácito entre figuras da administração dos EUA e o movimento de independência de Alberta tem deixado os investigadores cada vez mais preocupados.

“A minha verdadeira preocupação é que quando Donald Trump ordenar ao governo dos EUA que comece a apoiar algumas dessas narrativas e comece realmente a envolver-se na desinformação estatal, em termos da unidade do Canadá – quando isso acontecer, então estaremos em verdadeiros problemas”, disse Kolga.