O processo mais assustador da Meta nos últimos anos fará você repensar seus óculos inteligentes de IA

Metas Óculos inteligentes Ray-Ban estão no centro de mais uma polêmica. Uma empresa queniana de formação em IA chamada Sama, que a Meta utilizou para ajudar a treinar a sua IA, viu o seu contrato ser rescindido abruptamente pouco depois de os seus trabalhadores apresentarem alegações profundamente preocupantes (via BBC).

Os trabalhadores afirmam que foram repetidamente expostos a conteúdos gráficos capturados pelos óculos da Meta e agora mais de mil deles perderam o emprego.

As imagens perturbadoras por trás do treinamento de IA da Meta

Os funcionários da Sama eram anotadores de dados, uma função que envolve rotular manualmente o conteúdo do vídeo para ensinar a IA da Meta como interpretar imagens. Eles também revisaram transcrições de conversas Meta AI para garantir que o chatbot estava dando respostas precisas.

O que eles não fizeram, supostamente, foi revisar imagens de pessoas fazendo sexo ou usando o banheiro, todas filmadas através dos óculos do Meta sem o conhecimento dos usuários. Em um relato, os óculos de um homem foram deixados gravando em um quarto, capturando sua esposa se despindo.

Os óculos da Meta têm uma pequena luz indicadora que acende quando a câmera está ativa, embora isso claramente não tenha evitado o uso indevido. A empresa admitiu que os trabalhadores contratados podem ocasionalmente revisar o conteúdo compartilhado com Meta AI, enquadrando-o como uma prática padrão para melhorar a experiência do usuário.

Por que Meta retirou o contrato?

Menos de dois meses após o surgimento dessas contas, a Meta rescindiu seu acordo com a Sama, deixando 1.108 trabalhadores sem emprego. Sama diz que atendeu a todos os padrões exigidos pelo Meta e nunca foi informado do contrário. No entanto, Meta discorda, dizendo que Sama ficou aquém das suas expectativas.

Uma organização de trabalhadores quenianos acredita que o verdadeiro motivo foi silenciar os funcionários que divulgaram publicamente que humanos revisavam imagens de óculos inteligentes.

O Gabinete do Comissário de Informação do Reino Unido classificou a situação como “preocupante” numa carta à Meta. Além disso, a autoridade de protecção de dados do Quénia abriu uma investigação formal.

Este não é o primeiro encontro difícil de Sama com Meta. Um contrato anterior de moderação de conteúdo do Facebook terminou em controvérsia semelhante, com ex-funcionários descrevendo exposição a conteúdo traumatizante.

Sama disse mais tarde que gostaria de nunca ter feito esse trabalho. Com os reguladores a circular e um processo judicial em curso, a pressão sobre a Meta para explicar a sua decisão só aumenta.

Os óculos inteligentes da Meta têm um problema de privacidade muito maior

Os óculos inteligentes da Meta estão cada vez mais controversos à medida que relatórios sugerem que em breve poderão identificar pessoas em tempo real. Isso intensificou as preocupações com a privacidade e os direitos civis em torno do reconhecimento facial nos espaços públicos diários.

Grupos de direitos civis estão resistindo à ideia citando que a identificação sempre ativa pode acontecer sem consentimento claro.

Aplicativos como o Godsend estão surgindo em resposta a essa ameaçaalertando as pessoas quando óculos inteligentes próximos podem estar gravando-os secretamente. Isso mostra como as pessoas ficam inquietas por serem filmadas sem saber.

A tecnologia também está aparecendo de maneiras menos lisonjeiras, incluindo relatos de alunos usando óculos inteligentes para colar nos exames. Isso adicionou uma nova camada ao debate em torno do uso indevido.

Dito isto, nem tudo é ruim. Os óculos também encontraram usos genuinamente bons, especialmente em ajudando pessoas com deficiência visual a navegar pelos espaços com ajuda de estranhos.