A Arizona State University lançou um aplicativo da web no início deste mês que permite a qualquer pessoa, por US$ 5 por mês, criar um número aparentemente ilimitado de “módulos de aprendizagem” personalizados usando inteligência artificial. O chatbot AI, chamado Atom, usa materiais instrucionais on-line de professores da ASU para criar um curso adaptado aos objetivos, interesses e nível de habilidade do usuário. Depois de fazer algumas perguntas e processar por cerca de cinco minutos, o Atom lança um curso personalizado que inclui leituras, questionários e vídeos de meia dúzia de especialistas da ASU.
Mas vários professores cujo conteúdo o Atom extrai ficaram surpresos ao saber que seus materiais – incluindo vídeo-aulas, apresentações de slides e tarefas on-line – estavam sendo examinados, recortados e reembalados para esses pequenos módulos de curso on-line. O corpo docente não foi informado de nada sobre o aplicativo ASU Atomic, disseram eles.
“Fiquei realmente surpreso ao ver meu rosto olhando para mim alguns momentos depois”, disse Chris Hanlon, professor de literatura da ASU. Depois de aprender sobre Atomic, ele incentivou a IA a criar um módulo sobre a história da crítica literária – algo sobre o qual ele sabia muito. Ele chamou o resultado de “Frankensteiniano”.
“Um vídeo meu foi muito modificado em relação à sua forma original – era algo que eu havia carregado no Canvas há muito tempo. E então vi muitos outros vídeos de outros membros do corpo docente… e entrei em contato com todos eles. Nenhum deles me disse que haviam sido consultados sobre isso. Eles nunca ouviram falar do Atomic.”
A preocupação dos professores com a aplicação web realça questões sempre presentes sobre como as universidades estão a implementar a IA: de onde vem o seu conhecimento aparentemente infinito, quem o possui e quem irá beneficiar dele? E que controle, se houver, os professores têm sobre como os materiais de seus cursos são cooptados pelas ferramentas de IA e pelos funcionários da universidade que os sancionam?
Em uma recente sessão de perguntas e respostas do corpo docente com o presidente da ASU, Michael Crow, um membro do corpo docente perguntou sobre o Atomic. Crow pareceu surpreso com a pergunta, disse Michael Ostling, professor de estudos religiosos que participou da reunião.
“Ele disse que este é um experimento e está em estágio inicial”, disse Ostling. “Ele estava entendendo que isso não estava realmente pronto para o horário nobre. Ainda não havia sido avaliado. Não estava sendo promovido intensamente – pelo menos não ainda. E ele disse… que a questão [about] currículo é legítimo.”
De acordo com Política de propriedade intelectual da ASUo Conselho de Regentes detém os direitos da maioria dos materiais instrucionais. O conselho reivindica a propriedade de “qualquer propriedade intelectual criada por uma universidade ou funcionário do conselho no curso e escopo do emprego”, afirma a política. Trabalhos acadêmicos – como pesquisas publicadas – são excluídos, a menos que sejam produzidos com “uso significativo” de recursos do conselho, o que inclui material produzido durante o horário de trabalho enquanto empregado pela universidade. Obras de belas artes e trabalhos de estudantes também estão excluídos.
Ao enviar conteúdo instrucional para o Canvas, o sistema de gerenciamento de aprendizagem usado pela ASU, os professores abrem sua propriedade intelectual para redistribuição e modificação potenciais, de acordo com Hanlon. Vários contratos de uso padrão do Canvas disponíveis publicamente com universidades esclarecem que essas alterações só podem ser usadas para “fins de operação e fornecimento do Instructor”. [Canvas’s parent company] Propriedades para você e para seus outros usuários.” Não está claro até que ponto a empresa interpreta “operar e fornecer”.
Como é o caso de muitos chatbots de IA ainda em sua infância, o Atom entende tudo errado. No módulo projetado para Hanlon, incluía clipes de uma antiga palestra que ele proferiu focada no trabalho e na carreira do teórico literário do século XX, Cleanth Brooks. Ao longo do curso chamou o crítico de “Cliente” Brooks.
O videoclipe foi “incorporado em outro material, alguns dos quais me pareceram provavelmente gerados por IA, como material descritivo para tentar contextualizar o vídeo e preparar os alunos para entendê-lo”, disse Hanlon. “Não consegui isso… não consegui entender por que [that part of the video] foi selecionado.”
Ostling está preocupado que o Atomic “comece a ser amplamente utilizado, e tenho conteúdo nas minhas prateleiras do Canvas que seria muito inapropriado para aparecer sem contexto em um curso”, disse ele. “Não só acho que os alunos serão mal atendidos porque podem aprender coisas que não são verdadeiras, mas isso poderia me causar problemas.”
Ostling teme que a Atomic possa ajudar os atores políticos a identificar e assediar os professores que ensinam sobre raça, gênero e sexualidade, disse ele. Não é uma preocupação infundada – políticos de direita e contas de mídia social usaram o plataforma de hospedagem de currículo online Simple Syllabus para encontrar e doxar professores sobre seus ensinamentos.
“Seria incrivelmente fácil, penso eu, para um mau actor obter uma conta Atomic, pedir um curso e obter um monte de material de aulas sobre conflitos no Médio Oriente, ou aulas sobre raça e género, e obter o que parecem ser ‘evidências’ de vários professores ensinando coisas terríveis”, disse Ostling. “Mas essa evidência seria falsa, porque ensinamos com cuidado, ensinamos no contexto, enquadramos, fazemos todas as coisas que os professores devem fazer para ajudar os nossos alunos a compreender o que estamos a ensinar e porquê. Removido desses enquadramentos, pode parecer muito estranho e pode ser potencialmente muito prejudicial.”
Ainda em beta, o Atomic é limitado quanto ao que pode oferecer. Por dentro do ensino superior primeiro solicitou à IA um módulo de curso sobre psicologia canina, ao que ela respondeu que não tinha acesso a materiais sobre psicologia animal, ciências comportamentais ou estudos veterinários, apontando, em vez disso, para opções mais amplas de cursos STEM, como estatística. Quando questionado sobre um módulo sobre estatísticas para jornalistas, observou que o ensino de jornalismo – uma disciplina pela qual a ASU é bem conhecida – também não estava disponível.
Na página inicial, o aplicativo anuncia seu uso para aprender “habilidades de negócios muito procuradas”, incluindo aprendizado sobre IA, como construir um negócio, gerenciamento de projetos, investimentos e imóveis. O site observa que “novo conteúdo está sendo adicionado regularmente”.
Um porta-voz da ASU não disse em que modelo de IA o Atom foi construído. Quando questionado diretamente, Atom inicialmente se recusou a dizer, mas depois disse que era Claude da Anthropic. Não respondeu a nenhuma outra pergunta sobre seu treinamento ou marca. O porta-voz da ASU também se recusou a responder a qualquer uma das Por dentro do ensino superior‘s sobre Atomic e, em vez disso, compartilhou uma breve declaração.
“O lançamento piloto do programa começou em abril”, disse o porta-voz. “O piloto explora como a ASU pode usar o conteúdo digital existente de novas maneiras para alcançar alunos além daqueles matriculados em programas de graduação.”
(Esta história foi atualizada para incluir detalhes dos contratos de uso padrão do Canvas com universidades.)
Source link
