A inteligência artificial ameaça turbinar o aumento do racismo e da misoginia nas escolas da Escócia, alertaram os professores.
Poderoso IA ferramentas tornaram mais fácil a fabricação de áudio e vídeo realistas que parecem genuínos, mas são gerados em segundos pelo computador.
Agora, um sindicato docente alertou que, sem ação, as ferramentas de IA poderiam ser usadas para intensificar o abuso alimentado pelas redes sociais.
Matt Wrack da NASUWT, que tem hoje a sua conferência anual, alertou: “A IA representa uma ameaça potencial à segurança e ao bem-estar das crianças e do pessoal escolar.
«Os professores estão a lidar com um aumento da retórica racista, misógina e anti-imigrante alimentada pelas redes sociais, que está a conduzir a incidentes de assédio, ameaças e violência.
«A IA ameaça turbinar esta ameaça, razão pela qual um desafio fundamental para o próximo governo escocês deve ser equipar os jovens e os professores com as ferramentas para reconhecer e combater a desinformação online, juntamente com uma maior regulamentação da utilização da IA.»
Os sistemas de IA podem gerar imagens falsas de aparência genuína quase instantaneamente
Os sistemas de IA podem gerar imagens falsas de aparência genuína quase que instantaneamente. E as ferramentas podem sobrepor rostos a outros para criar os chamados vídeos deepfake e até mesmo inventar vídeos realistas do zero com um simples prompt de texto.
Combinada com a tecnologia que pode replicar as vozes das pessoas, os professores temem que os sistemas de IA possam ser usados para alimentar a desinformação online e o discurso de ódio.
Os professores relataram tendências nas redes sociais que viram gravações deles manipuladas pela IA para mostrá-los gritando e xingando os alunos.
E as crianças têm usado a IA para criar imagens sexuais e violentas de professores para partilhar online. Alguns ficaram doentes desde que foram compartilhadas imagens com imagens de professores sobrepostas a filmes pornográficos.
Também estão a ser criadas contas falsas nas redes sociais usando nomes de professores, que uma autoridade local as qualificou de “humilhantes, ofensivas, violentas e (por vezes) de natureza sexual”.
O sindicato também quer um maior foco no combate à violência, ao abuso e à perturbação nas escolas.
Source link
