A pesquisa sugere que você pode estar muito confiante em sua capacidade de detectar rostos de IA

Pense que você pode identificar facilmente IArostos gerados? Um novo estudar sugere que você pode estar se superestimando.

Pesquisadores da Universidade de Nova Gales do Sul (UNSW) e da Universidade Nacional Australiana (ANU) testaram 125 participantes quanto à sua capacidade de distinguir rostos humanos reais daqueles gerados por IA. A maioria dos voluntários estava confiante no seu julgamento, mas os resultados contaram uma história diferente. Mesmo as pessoas com habilidades excepcionais de reconhecimento facial, conhecidas como super-reconhecedores, pontuaram apenas um pouco acima da média.

O estudo utilizou rostos gerados por IA que removeram erros visuais óbvios, tornando-os altamente convincentes. Enquanto os primeiros exemplos muitas vezes tinham falhas reveladoras como dentes distorcidos ou óculos incompatíveis, modernos sistemas de geração de imagens crie imagens simétricas e bem proporcionadas que são muito mais difíceis de detectar.

“O que vimos foi que as pessoas com capacidade média de reconhecimento facial tiveram um desempenho apenas ligeiramente melhor do que o acaso”, diz o Dr. James Dunn, da UNSW. “E embora os super-reconhecedores tenham tido um desempenho melhor do que outros participantes, foi apenas por uma pequena margem. O que foi consistente foi a confiança das pessoas na sua capacidade de detectar um rosto gerado pela IA – mesmo quando essa confiança não foi correspondida pelo seu desempenho real.”

Como o excesso de confiança pode colocar você em risco

Este excesso de confiança tem implicações no mundo real, tornando as pessoas e as empresas mais vulnerável a fraudescontas falsas de mídia social e perfis fraudulentos se confiarem apenas em seus instintos para julgar a autenticidade. A pesquisa destaca que a intuição não é mais suficiente para distinguir o que é real da IA.

O estudo mostra que mesmo aqueles com capacidades de reconhecimento facial acima da média podem ter dificuldade em identificar rostos gerados por IA, e ainda não há provas claras de que esta capacidade possa ser treinada ou prevista de forma fiável.

Se você pensava que identificar um rosto falso era fácil, esta pesquisa mostra que agora é muito mais complicado do que você imagina.