O YouTube está chegando para deepfakes de celebridades com nova tecnologia de detecção de semelhança de IA

O YouTube está reprimindo deepfakes de celebridadese desta vez, não se trata apenas de falar sobre o problema em termos vagos de segurança de plataforma. Em um novo postagem no blogo YouTube anunciou que está expandindo sua tecnologia de detecção de semelhança para a indústria do entretenimento.

Portanto, agora, as ferramentas estarão acessíveis às agências de talentos e empresas de gestão das celebridades que representam. Essa ferramenta funciona de maneira semelhante ao Content ID, mas em vez de corresponder mídia protegida por direitos autoraisele procura conteúdo gerado por IA usando a imagem de uma pessoa e dá aos participantes qualificados a capacidade de encontrar esse conteúdo e solicitar a remoção.

Por que esta é a resposta do YouTube às falsificações de celebridades com IA

A comparação do Content AI aqui é fundamental, pois é exatamente assim que o YouTube deseja que as pessoas pensem sobre isso. Se o sistema funcionar bem, poderá oferecer às pessoas importantes uma maneira muito mais rápida de detectar vídeos falsos usando seus rostos antes que esses clipes se espalhem demais.

E sim, trata-se claramente primeiro de falsificações de celebridades. O programa expandido do YouTube é direcionado atualmente à indústria do entretenimento, com o apoio das principais agências de talentos e empresas de gestão, incluindo CAA, UTA, WME e Untitled Management.

A empresa tem trabalhado com esses grupos para refinar a forma como a ferramenta deve servir os talentos, o que sugere que esta foi moldada em torno das necessidades práticas das figuras públicas, em vez de lançada como uma experiência genérica de moderação.

Um detalhe notável no anúncio é que celebridades e artistas podem acessar a ferramenta mesmo que não tenham um canal no YouTube. Em outras palavras, não é apenas um privilégio do criador e funciona mais como um sistema de controle de toda a plataforma. Golpes deepfake, endossos falsos e clipes manipulados de celebridades não são mais estranhezas da Internet. Eles são uma parte real dos perigos online.

Até onde o YouTube está levando isso

A partir de agora, o anúncio está focado na indústria do entretenimento. O YouTube não anunciou um amplo lançamento público que proteja os usuários regulares. Também não temos detalhes sobre quão rápido é o sistema de detecção ou quão proativa a empresa será contra esses deepfakes.