Grupo de Proteção ao Consumidor divulga Declaração de Direitos dos Estudantes sobre IA

À medida que mais instituições de ensino superior adoptam ferramentas de inteligência artificial, os defensores da protecção do consumidor pedem às faculdades e universidades que adoptem uma declaração de direitos dos estudantes declarando que “os estudantes não são apenas pontos de dados ou sujeitos de teste para tecnologias emergentes”.

Na sexta-feira, a Rede Nacional de Defesa Legal Estudantil revelou a Declaração de Direitos da IA ​​do Estudante como parte de sua iniciativa Safeguarding Higher-Ed through AI Practices & Ethics (SHAPE AI). O comité consultivo do grupo é composto por líderes institucionais, especialistas em políticas e defensores dos consumidores.

“À medida que a inteligência artificial (IA) transforma o panorama do ensino superior – desde o recrutamento e admissões até ao ensino em sala de aula e apoio abrangente – os alunos enfrentam novas oportunidades de aprendizagem personalizada e riscos significativos para a sua privacidade, direitos civis e desenvolvimento cognitivo”, lê-se no preâmbulo da Declaração de Direitos. “Eles têm o direito de moldar o seu próprio futuro através da transparência, justiça, supervisão humana, privacidade e segurança.”

A Declaração de Direitos inclui os cinco artigos a seguir:

1. O direito à transparência e “aviso”: Os estudantes têm o direito fundamental de saber quando, onde e como os sistemas de IA estão a ser utilizados para os avaliar, acompanhar ou tomar decisões sobre o seu futuro educativo.
2. O direito à supervisão e recurso humanos: Os sistemas automatizados não devem ser o árbitro final de decisões de alto risco que afectam a admissão de um estudante, a sua posição académica, a estabilidade financeira ou outros aspectos do bem-estar fundamental.
3. O Direito à Soberania de Dados e à Propriedade Intelectual: Os alunos mantêm a propriedade de seu trabalho acadêmico e criativo e de seus dados pessoais. Inscrição no ensino superior [sic] [institution] não constitui consentimento para a comercialização da produção intelectual de alguém.
4. O direito de todos os alunos de usar IA com segurança: Os estudantes têm direito a uma educação livre de preconceitos perpetuados por sistemas automatizados.
5. O direito de compartilhar a IA e seus benefícios: O ensino superior deve preparar os estudantes para trabalharem com IA e para participarem na sociedade como cidadãos informados.

“Todas as faculdades e universidades deveriam estar dispostas a assinar esta Declaração de Direitos do Estudante AI para mostrar que apoiam esses princípios básicos para proteger os estudantes”, Aaron Ament, presidente da Student Defense, disse em um comunicado à imprensa. “Numa altura em que a IA está a ser rapidamente incorporada em todos os aspectos das nossas vidas, a transparência e a supervisão são fundamentais. Fomos encorajados pelo interesse institucional em alinhar as salvaguardas para os estudantes, que são fundamentais para a missão de todas as instituições de ensino superior.”