Regulamentação da IA ​​e privacidade dos canadenses após o tiroteio em Tumbler Ridge

Reguladores, especialistas em segurança cibernética e jurídicos reuniram-se em Victoria este mês para trabalhar no sentido de encontrar o equilíbrio entre segurança online, inovação e proteção da privacidade dos canadianos.

Embora dezenas de workshops, palestras e apresentações cobrindo uma ampla variedade de tópicos tenham sido realizados no Cúpula Internacional de Privacidade e Segurança de Victoriado mês passado tiroteio em massa em Tumbler Ridge, BC, não estava longe da mente das pessoas.

“No contexto contínuo das discussões sobre se as plataformas deveriam ser obrigadas a divulgar informações para evitar tragédias como Tumbler Ridge, este é um tema absolutamente crítico e oportuno”, disse o comissário de privacidade do Canadá, Philippe Dufresne, no seu discurso de abertura.

“Precisamos garantir que os canadenses sejam protegidos de danos iminentes, mas devemos – e podemos fazê-lo – de uma forma que proteja a privacidade dos canadenses e inclua limites apropriados”, continuou Dufresne.

Na segunda-feira, a família de Maya Gebala, de 12 anos, entrou com uma ação civil contra a gigante da tecnologia OpenAI depois que a empresa divulgou que a conta ChatGPT do atirador havia sido desativada em junho devido a “atividades violentas”, mas não alertou as autoridades.

A família de Gebala disse que ela levou um tiro na cabeça e no pescoço enquanto tentava trancar a porta da biblioteca de sua escola para proteger outros alunos. Ela permanece no Hospital Infantil de BC, onde está sendo tratada de ferimentos graves.

Em fevereiro, a OpenAI foi convocada a Ottawa para discutir questões de segurança e disse que iria melhorar o encaminhamento policial e as práticas de detecção de infratores reincidentes. Uma investigação marcada para acontecer em BC também analisará o papel que a inteligência artificial pode ter desempenhado no tiroteio.

“Houve manipulação? Houve coerção? Ou foi apenas o suficiente para plantar uma semente?” Comissário de Informação e Privacidade de Alberta Diane McLeod questionou. “Não sei, mas isso é algo que precisamos analisar com muito cuidado.”

O processo também afirma que a OpenAI não tomou medidas para implementar procedimentos de verificação de idade ou consentimento dos pais e acusa a empresa de permitir, consciente e intencionalmente, que o ChatGPT fornecesse tratamento pseudo-psicológico ao atirador.

Esta tendência perturbadora foi abordada por Jim Richberg, Fortinet chefe de segurança, que também dirigiu operações cibernéticas para a Agência Central de Inteligência (CIA) durante duas décadas.

“Para aqueles que são pais, provavelmente a estatística mais perturbadora que já vi é que mais de um em cada sete adolescentes na América do Norte recebe conselhos de saúde mental semanalmente de um chatbot GenAI”, disse Richberg na conferência. “Quase nenhum de seus pais tem ideia do que isso está acontecendo.”

Como proteger as crianças de danos online e ao mesmo tempo salvaguardar a sua privacidade é uma discussão contínua e complexa que está sendo examinada por especialistas jurídicos em todo o Canadá.

“O problema básico tem sido o design desses espaços e os algoritmos que enviam às crianças conteúdos que causam danos profundos”, disse Emily Laidlawprofessor associado de direito na Universidade de Calgary e Cátedra de Pesquisa do Canadá em direito de segurança cibernética.

“Os vídeos sangrentos, o conteúdo de transtornos alimentares e a violência, tudo isso está criando esse tipo de espaço que manipula os pensamentos das crianças e não há capacidade para os pais saberem necessariamente o que está acontecendo”, explicou Laidlaw.

Laidlaw disse que, após o tiroteio em Tumbler Ridge, a legislação proposta anteriormente no Canadá pode agora estar desatualizada e precisará ser modernizada.

“Acho que provavelmente veremos que o Lei de Danos Online será examinado de uma maneira diferente agora “, disse Laidlaw. “Esses tipos de danos facilitados pela IA realmente não existiam da mesma maneira e isso mostra o quão rápido este espaço evolui.”

“Acho que quando se trata do espaço de danos online e do espaço de privacidade, temos que começar a pensar na legislação como sendo quase modular”, explicou Laidlaw. “Como blocos de construção onde você pode pensar na inserção de novos tipos de tecnologias, novos tipos de danos, para poder responder. É preciso ser iterativo para se manter atualizado.”

Na quinta-feira, o governo federal apresentou uma nova versão da sua legislação de “acesso legal” que daria à polícia novos poderes para investigar dados online para fins de investigação, ao mesmo tempo que abordava alguns dos problemas privacidade preocupações levantada pela versão original do projeto de lei.

O novo projeto de lei também permitiria que a polícia canadense buscasse autoridade, por meio de um tribunal, para solicitar dados de transmissão ou informações de assinantes de uma empresa estrangeira como Google, Meta ou OpenAI. No entanto, não aborda os apelos para exigir que as empresas de IA relatem à polícia comportamentos on-line perturbadores.

“Quero deixar claro o que o C-22 não é. Não se trata da vigilância dos canadenses em suas vidas diárias”, disse o ministro da Segurança Pública, Gary Anandasangaree. “Trata-se de manter os canadenses seguros no espaço online.”

Embora Ottawa tenha sinalizado que novas regulamentações de IA também estão a caminho, alguns especialistas dizem que isso já deveria ter acontecido há muito tempo.

“Há muito tempo que pensamos na próxima rodada de legislação e ela simplesmente não chega”, disse Teresa ScassaCátedra de Pesquisa do Canadá em Legislação e Política de Informação da Universidade de Ottawa.

“O que precisamos de pensar em termos de reforma é a reforma. Precisamos dela e precisamos dela agora”, disse ela.

Scassa disse que embora os comissários de privacidade em todo o Canadá estejam trabalhando diligentemente para resolver novos problemas provocados pelas novas tecnologias, incluindo a IA, eles precisam de mais ferramentas para fazer cumprir as suas recomendações e conclusões investigativas.

“Por exemplo, o Comissário Federal de Privacidade pode emitir conclusões, mas [the Commissioner] não tem poderes de ordenação”, disse ela. “[He] não pode impor multas ou penalidades às organizações que se recusam a cumprir as recomendações.”

“Existe a possibilidade de recorrer à Justiça Federal”, explicou Scassa. “Mas, novamente, isso apenas torna tudo mais lento e complicado, então basta ter essas ferramentas adicionais que fariam uma diferença muito significativa.”

O Escritório do Comissário de Privacidade do Canadá (OPC) assumiu recentemente várias investigações de alto perfil, que incluem empresas como TikTokAylo, que corre Pornhub e YouPorn, e uma investigação em andamento sobre a X Corp., que opera a plataforma de mídia social X e o chatbot Grok.

Dufresne concordou que embora algumas empresas tenham feito melhorias, mais ferramentas seriam bem-vindas.

“Estamos realmente em forte contraste com colegas de todo o mundo, e ter esse poder seria importante”, disse ele. “Não é que essas multas devam ser impostas com frequência, mas ter a possibilidade de multa vai garantir que as empresas se juntem à mesa e que estejam preparadas para proteger a privacidade, desde o início.”

O OPC também está no meio do desenvolvimento de um Código de privacidade infantil que aborda o tratamento de informações pessoais de crianças para garantir que estejam protegidas e que as crianças possam exercer seus direitos de privacidade.

“Estou usando os poderes que possuo, e isso significa desenvolver um código que definirá minhas expectativas em relação às plataformas e que incluirá uma reflexão sobre garantia e verificação de idade”, disse Dufresne. “Como podemos garantir que impediremos o acesso de crianças a determinados sites?”

Especialistas disseram que um desafio constante que continua a surgir quando se trata de verificação de idade é a quantidade de informações que a plataforma precisaria coletar para provar a idade de uma criança.

“Quando você começa a incorporar essas proteções, você está falando em parte sobre dados pessoais e sobre a coleta de mais dados pessoais e, claro, agora podemos usar dados biométricos, que são muito mais sensíveis”, disse Scassa.

“Você também tem dúvidas sobre como nossos dados estão sendo usados ​​para controlar nosso acesso às tecnologias e, ao controlar nosso acesso às tecnologias, como eles também podem ser usados ​​para monitorar nosso uso dessas tecnologias.”

O comissário de privacidade de Alberta disse que esta também foi uma questão importante durante a investigação conjunta sobre o TikTok, que incluiu o OPC junto com suas contrapartes provinciais em Alberta, BC e Quebec.

“Havia centenas de milhares de crianças canadenses no local com menos de 13 anos”, disse McLeod. “Uma das recomendações que fizemos é [TikTok] tive que implementar a verificação de idade adequada, mas a questão é: quanta informação você precisa coletar para verificar a idade?

“Qual é o mecanismo apropriado dentro dessas plataformas de mídia social?” McLeod questionou. “Sabe, é isso que me mantém acordado à noite.”

Espera-se que muitas dessas questões estejam no centro das atenções quando Evan Solomon, ministro federal de Inteligência Artificial e Inovação Digital, fizer escalas em Alberta na próxima semana, incluindo sua primeira visita oficial a Calgary na quarta-feira.

Nenhuma das alegações do processo contra a OpenAI foi provada em tribunal.

–Com arquivos de Amy Judd, Sean Boynton e Catherine Urquhart, Global News