Um número preocupantemente alto de adolescentes admite usar IA para fazer fotos sexualizadas

O CEO da OpenAI, Sam Altman, está pressionando para lançar um “versão adulta” do ChatGPTenquanto Elon Musk defendeu permitir Grok para gerar conteúdo classificado como R. Se você ainda não está preocupado com isso permitir que a IA crie conteúdo adulto é uma má ideiatalvez esta nova pesquisa faça você mudar de ideia.

Mais da metade dos adolescentes americanos usaram IA ferramentas para gerar imagens nuas suas ou de outras pessoas, de acordo com um novo estudo publicado na revista de acesso aberto PLOS ONE de Chad Steel da George Mason University.

O respostas coletadas da pesquisa de 557 residentes dos EUA que falam inglês, com idades entre 13 e 17 anos. A pesquisa foi anônima e realizada com consentimento dos pais.

O que o estudo descobriu?

Os resultados são difíceis de aceitar. 55,3% dos adolescentes pesquisados ​​relataram usar ferramentas de nudificação para criar pelo menos uma imagem de si mesmos ou de outras pessoas. 54,4% disseram ter recebido imagens de nudez geradas por IA.

Ainda mais preocupante, 36,3% relataram que uma imagem sexualizada de IA deles mesmos foi criada por outra pessoa sem o seu consentimento, e 33,2% disseram que essas imagens foram compartilhadas sem a sua permissão.

Os resultados foram amplamente consistentes em diferentes grupos demográficos. No entanto, os participantes do sexo masculino relataram taxas mais elevadas de criação e distribuição destas imagens, tanto de forma consensual como não consensual.

Por que isso é uma grande preocupação?

As pessoas têm enviado nus umas para as outras desde o surgimento dos smartphones. No entanto, fazer isso requer um participante disposto. As ferramentas de nudificação de IA, não. Qualquer pessoa com uma foto sua e acesso a um desses aplicativos pode criar uma imagem falsa de nudez sem o seu conhecimento ou consentimento.

As vítimas deste tipo de abuso sofrem consequências semelhantes às de outras formas de material de exploração sexual infantil, incluindo um sentimento de desumanização e perturbação duradoura nas suas vidas.

Steel resume bem: “Os adolescentes não são mais apenas nativos digitais, mas nativos da IA. ‘Nudificação’ e Aplicativos GenAI são o seu novo ‘sexting’, apenas com questões mais desafiadoras em torno do consentimento.”

A esperança é que descobertas como estas levem os legisladores e educadores a agir antes que o problema se torne ainda mais difícil de resolver.