Os militares da China alertaram contra os “perigos da bajulação da IA” no campo de batalha
Um artigo no PLA Daily na terça-feira disse que a tendência dos modelos de IA de atender às preferências do usuário – até mesmo endossando erros flagrantes sobre fatos objetivos – representava uma “ameaça grave” numa época em que os militares dependiam mais de sistemas automatizados.
“Os perigos da bajulação da IA no domínio militar excedem em muito os da vida quotidiana, representando uma erosão sistémica nas cadeias cognitivas operacionais, na qualidade das decisões de comando e na resiliência da colaboração homem-máquina”, de acordo com o artigo.
Mas Pequim também disse repetidamente que a IA não deveria substituir os humanos na tomada de decisões no campo de batalha.
De acordo com o artigo do PLA Daily, a bajulação da IA – impulsionada por mecanismos de treino algorítmico e ciclos de feedback humano – poderia reforçar os preconceitos dos utilizadores para criar “casulos de informação” e validar escolhas predeterminadas, distorcendo avaliações e ignorando alternativas.
Afirmou que, à medida que a IA generativa fosse rapidamente integrada na tomada de decisões militares – incluindo comando e controlo, avaliação de inteligência e jogos de guerra operacionais – estes preconceitos comportamentais aumentariam a probabilidade de erros de cálculo tácticos e estratégicos, bem como perdas e danos colaterais.
