Adora o preenchimento automático em seus textos? A pesquisa diz que está mudando silenciosamente seus pensamentos

Todos nós já passamos por isso – polegares no ar, olhando para um palavra sugerida que de alguma forma acertou em cheio o que estávamos tentando dizer. Então nós tocamos nele. Obviamente. Mas um novo estudo sugere que esses pequenos toques podem estar fazendo mais do que nos poupar alguns segundos.

Pesquisa da Cornell Tech, publicada esta semana em Avanços da Ciênciadescobriu que as sugestões de preenchimento automático com tecnologia de IA não mudam apenas a forma como você escreve – elas estimulam como você realmente pensar. E você nem notará isso acontecendo.

O que a pesquisa realmente descobriu?

Os pesquisadores realizaram dois experimentos em grande escala com mais de 2.500 participantes, pedindo-lhes que escrevessem pequenos ensaios sobre temas sociais picantes – como pena de morte, fraturamento hidráulico, OGM, direitos de voto para criminosos.

Alguns participantes receberam sugestões de preenchimento automático secretamente projetadas para seguir uma determinada direção, geradas usando um grande modelo de linguagem do GPT-3 e GPT-4 famílias. Outros não obtiveram nada.

O resultado? Pessoas que escreveram com preconceito IA gradualmente aquecido para as posições da IA. Não porque foram convencidos por argumentos. Não porque leram algo persuasivo. Só porque o telefone deles continuava terminando seus pensamentos para eles.

Conhecer o truque também não quebrou o feitiço

Agora, aqui está a parte que deve fazer você desligar o telefone por um segundo. Os pesquisadores disseram antecipadamente a alguns participantes que a IA tinha um problema de preconceito – uma espécie de isenção de responsabilidade do tipo “não diga que não avisamos”. Então eles tentaram interrogar outras pessoas depois. Na maioria dos estudos sobre desinformação, estas abordagens funcionam como vacinas mentais. Desta vez, nenhum dos dois fez nada.

“Suas atitudes sobre as questões ainda mudaram”, disse o autor sênior Mor Naaman, que também observou que o preenchimento automático explodiu em escopo – Gmail agora se oferece para escrever e-mails inteiros em seu nome.

Então, da próxima vez que seu telefone sugerir que você “apoie totalmente” algo, talvez dê uma segunda olhada naquela pequena palavra azul. Sua opinião pode estar a um toque de se tornar a de outra pessoa.