Relatório contundente revela que as lojas de aplicativos da Apple e do Google impulsionam aplicativos nudificados

Se você assumiu Maçã e Google foram lentos para capturar aplicativos prejudiciais em suas plataformas, uma nova investigação sugere que o problema é muito pior do que isso. O Projeto de transparência tecnológica (TTP) descobriu que ambos a App Store e o Google Play não estão apenas hospedando aplicativos nudify. Seus sistemas de busca e publicidade estão direcionando ativamente os usuários para eles.

Os aplicativos Nudify são ferramentas de IA que podem tirar digitalmente roupas de fotos de pessoas reais. Eles também podem gerar vídeos pornográficos ou criar chatbots sexualmente explícitos usando a imagem de alguém. A parte assustadora? 31 dos aplicativos encontrados pelo TTP foram classificados como adequados para menores.

Como a Apple e o Google estão enviando os usuários diretamente para esses aplicativos de nudificação

A TTP realizou pesquisas usando termos como “nudify”, “undress”, “deepfake” e “AI NSFW” em ambas as lojas de aplicativos. Cerca de 40% dos 10 principais resultados de cada termo retornaram aplicativos que poderiam deixar mulheres nuas ou seminuas. Mas isso não para nos resultados da pesquisa. Ambas as plataformas veicularam anúncios pagos para aplicativos nudify nesses resultados. No caso do Google, isso incluía um carrossel de aplicativos patrocinados, alguns dos quais eram abertamente pornográficos.

O recurso de preenchimento automático piorou as coisas. Quando o TTP digitou “AI NS” no campo de pesquisa da App Store, sugeriu “imagem para vídeo ai nsfw”, o que levou a mais aplicativos nudificantes nos principais resultados. A Apple controla toda a publicidade em sua App Store e tem uma política declarada contra anúncios que promovam conteúdo adulto. Apesar disso, três das pesquisas da TTP na App Store ainda retornaram um anúncio de nudificação como primeiro resultado.

Por que este é um problema maior do que você pensa

Os aplicativos identificados em ambas as lojas foram baixados 483 milhões de vezes e geraram mais de US$ 122 milhões em receita vitalícia. A Apple e o Google recebem uma parte disso por meio de assinaturas pagas e compras no aplicativo, o que, segundo a TTP, pode explicar por que a fiscalização tem sido negligente.

Depois que a TTP e a Bloomberg sinalizaram esses aplicativos, a Apple removeu 15 deles e o Google suspendeu vários outros. No entanto, ambas as empresas se recusaram a explicar como esses aplicativos foram aprovados na revisão ou por que as classificações etárias permitiam que menores os baixassem.

Quanto tempo até que a Apple e o Google sejam forçados a agir?

O governo do Reino Unido começou a propor e promulgar leis contra deepfakes explícitos, e o Os EUA registraram recentemente sua primeira condenação criminal sob uma dessas leis. A pressão sobre a Apple e o Google para agirem de forma mais decisiva só tende a crescer.

O próprio histórico de fiscalização da Apple já está sob escrutínio. Uma carta obtida por NBC News revelou que a Apple ameaçou privadamente retirar Grok da App Store em janeiro sobre deepfakes sexualizados, até mesmo rejeitando a primeira solução do xAI como insuficiente. A Apple acabou deixando Grok ficar, mas com relatórios como este se acumulando, ambas as empresas estão ficando sem espaço para olhar para o outro lado.