Meta permitirá que os pais vejam os bate-papos dos filhos com IA e intervenham antes que os riscos aumentem

meta já faz algum tempo que está em apuros por causa da segurança dos adolescentes e da IA. Uma investigação do Wall Street Journal, um processo perdido no Novo México e uma investigação posterior da FTC, a empresa está finalmente a implementar algumas ferramentas significativas de supervisão parental.

Hoje, Meta está apresentando um novo Guia Informações em seu centro de supervisão em três de suas plataformas mais populares: Instagram, Facebooke Mensageiro. Embora o nome não fique claro de imediato, o recurso dá aos pais uma janela sobre o que seus filhos adolescentes estão realmente discutindo com o Meta AI em todos esses aplicativos.

O que os pais podem realmente ver?

Embora os pais não obtenham uma transcrição palavra por palavra da conversa dos filhos com Meta IAa nova guia Insights fornece resumos semanais de tópicos. Abrange categorias amplas como Escola, Entretenimento, Estilo de vida, Viagens, Escrita e Saúde, cada uma com suas próprias subcategorias.

Saúde e Bem-estar, por exemplo, cobre tópicos como preparo físico, saúde física e saúde mental. A esperança aqui é que as categorias forneçam contexto suficiente para que os pais identifiquem um padrão preocupante entre os tópicos sem realmente lerem todas as mensagens.

Além da visibilidade do tópico, os pais também podem decidir quais IA personagens que seus filhos podem acessar e até mesmo encerrar totalmente os bate-papos com personagens, mantendo o assistente de IA disponível para casos de uso geral, como fazer lição de casa, resolver dúvidas do dia a dia, etc.

A Meta também está desenvolvendo alertas dedicados para tópicos delicados, o que, acredito, é a maneira mais eficaz de notificar os pais sobre qualquer bate-papo preocupante. Se a conversa de um adolescente sobre IA for sobre automutilação ou, pior, se transformar em suicídio, os pais serão informados diretamente.

Para quem isso está disponível?

Por enquanto, a guia Insights está disponível nos Estados Unidos, Reino Unido, Austrália, Brasil e Canadá. Um lançamento global, por outro lado, é esperado em algumas semanas. Além da nova adição, a Meta também colaborou com o Centro de Pesquisa sobre Cyberbullying para desenvolver iniciadores de conversa.

Isso inclui instruções que podem ajudar os pais a iniciar discussões sem julgamento sobre IA com seus filhos adolescentes. É importante destacar que a mudança da empresa sofre uma pressão legal e regulatória significativa, e não um instinto nobre, e é a diferença que importa.

Se o sistema de alerta de temas sensíveis funcionar bem, poderá estabelecer um padrão industrial para a forma como a IA ou as plataformas de redes sociais lidam com utilizadores jovens e vulneráveis.