A China já está preparando regras para combater o risco de humanos digitais gerados por IA

A China está a intensificar os esforços para regular a sua indústria “humana digital”, em rápido crescimento, à medida que avatares de IA emocionalmente envolventes – alguns modelados a partir de entes queridos falecidos – ganham força generalizada em todo o país. A mudança ocorre no momento em que tanto o potencial comercial da tecnologia quanto os riscos éticos se tornam cada vez mais visíveis.

Luto, tecnologia e uma indústria em crescimento

Zhang Xinyu, uma mulher de 47 anos da província de Liaoning, recorreu à inteligência artificial depois de perder o pai devido ao câncer. Trabalhando com uma empresa chamada Super Brain, ela criou um avatar digital que se parece e soa como ele, permitindo-lhe continuar conversas online. A experiência, disse ela à AFP, a ajudou a lidar com a dor e a recuperar a força emocional.

A sua história reflete uma tendência mais ampla na China, onde “seres humanos digitais” gerados por IA estão rapidamente a ganhar popularidade. Esses avatares – muitas vezes realistas em aparência e comportamento – são amplamente utilizados nas redes sociais, especialmente no comércio eletrônico e na criação de conteúdo. De acordo com a Agência de Notícias Xinhua, o setor foi avaliado em cerca de 4,1 bilhões de yuans (US$ 600 milhões) em 2024, crescendo 85% ano a ano.

No entanto, nem todos veem a tecnologia de forma positiva. Alguns críticos alertam que tais avatares podem criar dependência emocional ou oferecer o que a própria Zhang descreveu como “falso conforto”, mesmo que os sentimentos subjacentes sejam genuínos.

Regulamentação alcança

Em resposta a estas preocupações, a Administração do Ciberespaço da China emitiu um projecto de regras destinadas a reforçar a supervisão. Os regulamentos propostos exigem uma rotulagem clara do conteúdo gerado pela IA e proíbem a criação de réplicas digitais sem o consentimento do indivíduo.

As regras também procuram prevenir o uso indevido, incluindo fraudes, desinformação e conteúdos que possam ameaçar a estabilidade social ou a segurança nacional. As empresas que violarem essas diretrizes poderão enfrentar multas que variam de 10.000 yuans (US$ 1.460) a 200.000 yuans (US$ 29.300).

A urgência da regulamentação foi sublinhada por um incidente viral envolvendo uma mulher idosa que, sem saber, interagiu com um avatar altamente realista do seu filho falecido. O clipe, amplamente compartilhado nas redes sociais chinesas, gerou debate sobre se tais usos da IA ​​representam conforto ou engano.

Equilibrando inovação e risco

Especialistas dizem que a abordagem da China reflecte um padrão familiar: rápido desenvolvimento tecnológico seguido de rápida intervenção regulamentar. As autoridades estão particularmente preocupadas com a proteção dos menores, com propostas de regras que proíbem sistemas de IA que incentivam a dependência emocional ou simulam relações íntimas para crianças.

Ao mesmo tempo, os intervenientes da indústria reconhecem que a regulamentação é inevitável. O fundador da Super Brain descreveu o projeto de regras como um passo necessário para equilibrar inovação com responsabilidade.

O que está por vir

Os projetos de regulamentos da China estão abertos para comentários públicos até o início de maio, após o qual se espera uma aplicação mais rigorosa. O objectivo mais amplo do governo é acelerar a adopção da IA, mantendo ao mesmo tempo um controlo apertado sobre o seu impacto social.

À medida que os “seres humanos digitais” evoluem de novidade para ferramenta convencional, o modelo regulamentar da China poderá tornar-se um modelo para outros países que enfrentam questões éticas semelhantes – particularmente em torno da identidade, do consentimento e do poder emocional da IA.