‘Um homem não me despiria e me colocaria de biquíni – então por que a IA pode?’ | Tecnologia de notícias
Como milhões de nós, TrabalhoJess Asato frequenta o popular site de mídia social X.
Mas no fundo de sua mente, Asato, 45 anos, se pergunta se o próximo usuário com quem ela interage poderia estar despindo ela usando IA ferramentas.
Em Janeiro, o deputado de Lowestoft em Suffolk estava supostamente entre milhões de mulheres despidas digitalmente por pessoas que usavam Elon Muskchatbot, Grok.
‘Falei com muitas, muitas vítimas e o que elas me disseram é como me sinto’, diz Asato Metrô.
‘Um pouco mais de medo, você não sabe quem está lá fora ou o que podem estar fazendo com a sua imagem.
‘A ideia de que, a qualquer momento, você pode ser alvo apenas por se manifestar ou por existir online.’
Oito apresentou uma queixa legal contra xAI, proprietária de Grok e X, na semana passada sobre as supostas imagens não consensuais.
‘IA turbina a misoginia’
Asato se juntou ao X, então chamado de Twitter, em 2009 – apenas dois anos depois de lançado.
“Era um lugar muito alegre”, lembra ela, dizendo que via o Twitter como uma forma de as pessoas falarem sobre política no local.
Isso não durou muito. Uma das primeiras experiências de Asato com a misoginia na plataforma foi em 2014, quando ela comentou sobre o julgamento de estupro do jogador de futebol Ched Evans.
“O abuso que sofri foi horrível”, diz ela. ‘Abuso misógino em mídia social vem acontecendo há muito, muito tempo.
‘Agora está turbinado com a capacidade de elevar a imagem de qualquer mulher, manipulá-la por meio de IA e depois usá-la para rebaixar, degradar, humilhar e criar ameaças de morte.’
Imagens falsas de pessoas reais, principalmente mulheres usando biquínis ou em situações sexualmente provocativas, inundaram o X em dezembro e janeiro.
Pesquisa publicada na sexta-feira de Malwarebytes revela que um em cada três usuários diários de IA acha que não há problema em criar imagens falsas e explícitas de pessoas que conhecem.
Mas as mulheres disseram anteriormente Metrô que as imagens realistas geradas por IA, chamadas deepfakesequivalia a agressão sexual digital.
Uma estimativa coloca o número de imagens sexualizadas criadas de pessoas reais entre 29 de dezembro e 8 de janeiro em três milhões, ou 190 por minuto, de acordo com o Centro de Combate ao Ódio Digital.
As menções de Asato foram inundadas com tal conteúdo depois que ela pediu a Musk que agisse.
“Alguém criou um vídeo horrível de IA em que eu estava sendo tratada com clorofórmio e minhas saias sendo levantadas como se fosse uma agressão sexual”, diz ela.
Dado que ela fez campanha contra aplicativos de nudificaçãoque criam imagens explícitas adulteradas, nada disso é uma surpresa para ela.
“Tornei-me vítima daquilo contra o qual falava”, diz ela, alegando que X não lhe deu nenhuma forma real de se proteger.
“Isso não se deve apenas à natureza do conteúdo criado – embora seja bastante traumatizante – tem a ver com o fato de que você, sua personalidade, sua imagem, foi tirada sem o seu consentimento, manipulada por alguém que você não conhece em algo que parece realista, mas não é você. É aí que a violação acontece.
‘Ninguém teria permissão para vir até mim na rua, tirar minhas roupas e me colocar de biquíni, então eles também não deveriam ter permissão para fazer isso online.’
Investigando xAI
Regulador de mídia Ofcom e o Gabinete do Comissário de Informação, o órgão de vigilância dos dados, lançaram investigações sobre xAI.
O governo até considerou bloquear X, como alguns países fizeram.
X removeu conteúdo ilegal representando crianças e suspendeu contas antes de restringir a ferramenta de geração de imagens apenas a assinantes pagantes.
No entanto, Metrô descobriu que Grok ainda poderia fazer imagens parcialmente nuas usando certas palavras. Também adulterou imagens ilícitas de homens em seus aplicativo e site autônomoGrok Imagine.
Desde então tornou-se ilegal solicitar ou criar uma imagem deepfake não consensual de um adulto no Reino Unido.
Em postagens vistas por Metrô esta semana, o bot irá agora diga aos usuários não pagantes que solicitam imagens de biquínis que ‘Ask Grok’ é apenas para assinantes.
Quando os membros premium os solicitam, o bot parece não responder.
Metrô também vi exemplos no mês passado de Grok respondendo aos usuários como se tivesse gerado a imagem de uma pessoa de biquíni, mas sem postar a imagem.
As coisas teriam sido diferentes, argumenta Alsato, se Grok tivesse lançado salvaguardas ou seguido políticas delineado pelos reguladores.
Mas um estudo de Herói da segurança descobriram que mesmo antes do lançamento de Grok, 99% dos deepfakes de nudez eram de mulheres ou meninas.
Novos requerentes se apresentaram para aderir à ação legal de Asato, muitos dizendo que tiveram dificuldade para persuadir X a remover as imagens ofensivas.
X nunca foi responsabilizado pela saga Grok, diz Veronica Oakeshott, chefe de relações externas da instituição de caridade Women’s Aid. Metrô.
“É preciso fazer mais para controlar a utilização destas tecnologias e de tecnologias semelhantes para garantir que as mulheres e as crianças sejam mantidas seguras, online e offline”, afirma ela.
Quando questionado anteriormente por MetrôGrok disse que não ‘ajuda’ com solicitações que envolvem pessoas reais e identificáveis.
A ação de Asato no Tribunal Superior está sendo movida de acordo com a Lei de Proteção de Dados e por uso indevido ilícito de informações privadas.
Goshawk, diretor de desenvolvimento de negócios da instituição de caridade contra abuso doméstico e violência sexual, Consolodiz que deve marcar uma mudança na nossa abordagem à segurança online.
“A remoção das ferramentas por si só não chega ao cerne desta questão, que é o facto de a nossa sociedade valorizar menos a privacidade e a dignidade das mulheres”, diz Goshawk.
No final das contas, Asato diz que não está pedindo muito – nenhuma mulher está.
“É garantir que as mulheres sejam livres para serem elas mesmas nos espaços online, sem medo”, acrescenta ela, “de serem transformadas em pornografia se disserem algo que um homem não gosta”.
xAI foi abordado para comentar.
Entre em contato com nossa equipe de notícias enviando um e-mail para webnews@metro.co.uk.
Para mais histórias como esta, confira nossa página de notícias.
MAIS: Elon Musk se torna um trilionário – isso é suficiente para £ 90,72 para cada pessoa viva
MAIS: Como as redes sociais encorajaram a destruição nos motins de Belfast
Source link
