Antes de implantar IA nas admissões, pergunte por quê

Apesar de mais faculdades e universidades recorrerem ferramentas baseadas em inteligência artificial para ajudar a revisar aplicativosa maioria não possui políticas específicas que regem o uso de IA no processo de admissão. No entanto, um novo recurso concebido por um grupo de defesa do consumidor oferece aos gabinetes de admissão um quadro geral para a integração ética e responsável da tecnologia.

Na quarta-feira, a Rede Nacional de Defesa Legal Estudantil publicou uma lista de 10 O que fazer e o que não fazer com IA na avaliação de inscrições para faculdades como parte de sua iniciativa Safeguarding Higher-Ed through AI Practices & Ethics (SHAPE AI).

“Não é nenhum segredo que a IA está se movendo muito rapidamente; ela está mudando. E também não é nenhum segredo que as admissões – quer estejamos falando de admissões em faculdades ou admissões em escolas de pós-graduação – são um momento de alto risco para os estudantes e suas famílias”, disse Dan Zibel, vice-presidente e conselheiro-chefe da Student Defense, em uma entrevista coletiva na terça-feira, antes do lançamento da estrutura. “Queremos ter certeza… de que os problemas estão realmente sendo curto-circuitados antes que surjam, na medida do possível.”

A estrutura surge um mês depois que o comitê consultivo de IA do grupo – composto por líderes institucionais, especialistas em políticas e defensores dos consumidores – revelou o Declaração de Direitos do Estudante AIque afirma que os alunos têm “o direito de moldar o seu próprio futuro através da transparência, justiça, supervisão humana, privacidade e segurança”.

Projetadas em conjunto com esses princípios, as novas diretrizes de admissão de IA da Student Defense também têm como objetivo proteger as faculdades – não importa se suas admissões são seletivas, abertas ou algo intermediário – dos riscos associados à implantação desinformada de IA. Embora a estrutura do grupo reconheça o “potencial da IA ​​para melhorar o processo de admissão” à medida que os orçamentos diminuem e o número de candidaturas aumenta, também alerta que “as ferramentas de IA podem introduzir ou amplificar preconceitos, minar a confiança dos candidatos e levantar sérias preocupações legais e éticas”.

Ser cuidadoso e intencional sobre como a IA é implantada no processo de admissão é uma das maiores chaves para evitar essas possíveis consequências negativas, disse Madeline Wiseman, conselheira sênior da Student Defense, em entrevista coletiva.

“[Institutions] precisam pensar sobre quais são seus objetivos e como a IA pode servir a esses objetivos e ser integrada ao processo”, acrescentou Wiseman. “Eles não deveriam fazer isso só porque outras escolas estão fazendo isso, ou porque pensam que é assim que o mundo está se movendo e que eles têm que acompanhar.”

Em instituições altamente seletivas, a IA pode ser “uma ferramenta realmente poderosa” para ajudar a restringir o conjunto de candidatos com análises de dados mais precisas, “mas é absolutamente necessário usá-la com cuidado e é absolutamente necessário divulgar que você a está usando”, disse Sarah Zearfoss, reitora de admissões da Faculdade de Direito da Universidade de Michigan, que recentemente adicionou um ensaio opcional de IA para dar aos alunos a oportunidade de mostrar suas habilidades de estímulo à IA.

E parte do cuidado exigirá a adesão a um dos outros princípios da estrutura – responsabilizar os humanos pelas decisões finais de admissão, acrescentou Zearfoss, que também falou na conferência de imprensa.

“A IA pode cada vez mais imitar o julgamento humano, mas é só isso que faz”, disse ela. “Usar exclusivamente a IA significa renunciar totalmente ao seu elemento humano – o senso de julgamento – que é fundamental para o que fazemos nas admissões.”

No entanto, a grande maioria das faculdades e universidades admite a maioria, senão todos, os alunos que se inscrevem. Embora as ferramentas de admissão baseadas em IA não sejam tão comuns em tais instituições neste momento, as implicações de uma adoção mais generalizada centrar-se-ão na utilização e proteção de dados, de acordo com Michael Meotti, diretor executivo do Washington Student Achievement Council.

“É possível que a IA possa ser usada para compreender os padrões de sucesso dos estudantes – especialmente estudantes negros e de baixa renda – que vão de escolas secundárias a faculdades e universidades públicas”, disse Meotti em entrevista coletiva. Ao mesmo tempo, “queremos proteger o envolvimento dos alunos, porque os alunos estão a colocar todo o tipo de informações pessoais nestes [applications].”

Atualmente, Meotti acrescentou que está mais preocupado com o fato de as instituições adotarem ferramentas de admissão baseadas em IA sem informações adequadas sobre como funcionam.

“Você realmente quer entender o que os outros estão fazendo e ter alguma sabedoria coletiva para ajudar a direcionar para onde você está indo”, disse ele. Caso contrário, “você pode ser levado ao precipício por um fornecedor que provavelmente desaparecerá em um futuro próximo” e colocará os dados dos alunos em risco em um “ambiente de privacidade não controlado”.