Eu sabia que meus alunos de redação estavam usando IA. Suas confissões levaram a um poderoso momento de ensino | IA (inteligência artificial)
Tenho ensinado escrita de ficção no MIT desde 2017. Muitos dos meus alunos escreveram ficção pela última vez no ensino médio, e muito poucos passaram por um workshop adequado, então, no início de cada semestre, ofereço estas instruções tanto para escritores quanto para leitores:
Leia a história pelo menos duas vezes. Marque o que funciona e o que não funciona – sublinhe frases excelentes, sinalize sintaxe desajeitada, lacunas na lógica e diálogos irrealistas. Pergunte a si mesmo: a história funciona? Por que ou por que não? O que poderia melhorar isso? Responda em carta assinada ao autor, anexada à sua história. Dê suas opiniões honestas. Lembre-se de que uma revisão por pares eficaz exige uma leitura atenta do texto acompanhada de ousadia de espírito.
Como as instruções prenunciam, na maior parte do tempo estamos discutindo por que não gostamos da história que estava sendo trabalhada, porque escrever uma boa história é imensamente difícil, mesmo nas melhores condições, especialmente para alunos de graduação centrados em Stem que prosperam dentro de uma estrutura de problemas e soluções quantitativas – sistemas onde há uma resposta certa e um método claro para chegar a ela.
A escrita de ficção não é quantitativa. Uma boa escrita é boa de ler; escrever mal é ruim. Um workshop eficaz é um paradoxo: os alunos devem fornecer evidências textuais para apoiar o qualitativo como se fosse o quantitativo. Esta é uma perspectiva assustadora para o aluno habitualmente excelente, sentar-se em silêncio pétreo enquanto seus colegas de classe e professor atacam seu trabalho. O ato de confrontar esse terror é, em si, uma educação para o escritor, porque a escrita é ao mesmo tempo veículo e recipiente para o pensamento – abstrato tornado concreto, sentimentos traduzidos em palavras. É sobre isso que muitos escritores falam quando se referem à boa prosa não apenas como expressão poética, mas como comunicação. Assim, quando criticamos o trabalho de um escritor, não estamos apenas a criticar as suas escolhas estéticas, estamos também a criticar – e é aqui que isto pode tornar-se pessoal – os sentimentos do escritor e a sua capacidade de os comunicar.
É muita coisa para o ego absorver. Há alguns anos, a única maneira de um escritor de ficção proteger seu ego era pagar alguém para escrever para ele ou recorrer ao plágio. A IA mudou tudo isso.
‘Perfeição morta’
A prosa da IA é perfeitamente medíocre, produzindo o tipo de brilho inerte que parece um amálgama frankensteiniano de escrita oficinada pelo MFA, uma paródia involuntária do estilo que ela imita. As histórias e ensaios resultantes são simulacros de pensamento, gerados através do reconhecimento de padrões aprendidos a partir de milhões de palavras escritas por humanos, não enraizados em nenhuma experiência particular, por nenhuma pessoa específica. A escrita de IA me lembra a descrição de Tennyson da bela Maud no título poema:
Falhamente impecável, friamente regular, esplendidamente nulo
Perfeição morta; não mais
Leitores perspicazes sentem esse vazio, mesmo que não consigam articulá-lo. Eles sentem que o corpo se move sem cérebro. Por outro lado, a ficção escrita por estudantes é gloriosamente falha, uma luta na página entre o que o autor está tentando dizer e o que realmente está sendo dito. A prosa tropeça de uma forma que lembra um potro aprendendo a andar: mesmo em suas pernas trêmulas vejo indícios de graça futura. Tal falta de jeito é necessária; sua ausência seria prova de que o potro nunca aprendeu a andar.
Morte e impostos; a tecnofobia é a terceira certeza. Em 1565, quase um século depois de Gutenberg ter inventado a imprensa, o cientista suíço Conrad Gessner já se preocupava com a “abundância confusa e prejudicial de livros”. Um artigo de 1889 na Nature afirmou que o telefone é a mais perigosa de todas as invenções “porque entra em todas as habitações. A sua interminável rede de fios é uma ameaça perpétua à vida e à propriedade”. Agora adicionamos IA à lista de preocupações: uma preliminar do MIT Media Lab de 2025 estudar descobriram que os participantes que usaram o ChatGPT para escrever redações apresentaram menor conectividade neural do que aqueles que escreveram sem ajuda.
Outros estudos alertam para perigos semelhantes, a partir de relatórios ainda não revisados por pares com títulos autoexplicativos como “A assistência de IA reduz a persistência e prejudica o desempenho independente” e “Confiança na Inteligência Artificial Gerativa e Atenuação da Função Executiva: Evidência Comportamental de Descarga Cognitiva em Adultos de Alto Uso“. Coisas terríveis, se provadas serem verdadeiras. Mas quaisquer que sejam as descobertas revisadas por pares, o aviso central é difícil de ignorar e não requer um estudo para validação: ao permitir que os alunos usem a IA de forma rotineira e impensada, estamos enfraquecendo suas mentes. Esse aviso moldou a forma como abordei a IA em meu plano de estudos. Especificamente, como planejei desencorajar seu uso:
Jogar o jogo de detecção de IA me arrasta para uma mentalidade de vigilância que prejudica o ambiente da oficina. Se você usa IA, ela revela sua orientação para a escrita. Quer fazer arte ou apenas entregar texto? Você quer realmente aprender a escrever ou apenas fingir que sabe?
Eu tinha certeza de que minhas perguntas os envergonhariam, obrigando-os a obedecer, mesmo sem uma proibição explícita. Então, no início do semestre passado, quando li duas histórias de meus alunos para o primeiro workshop e soube nos parágrafos iniciais que ambas as histórias foram escritas por IA, fiquei magoado. Também fiquei preocupado, porque percebi que, pela primeira vez como professor de redação, tive que lidar com alunos produzindo palavras sem trabalho, o que não era exatamente plágio e não era exatamente pagar para outra pessoa fazer o trabalho, mas parecia uma espécie de trapaça ingênua; uma perversão do contrato entre escritor e leitor.
Quando o primeiro workshop começou naquela noite, voltei-me para os autores ostensivos e disse-lhes que sabia que a IA escrevia as suas histórias. Eu não precisava de software de detecção de IA para saber; Eu acabei de sabia. A prosa era polida demais para um jovem escritor, os arcos muito organizados, cada personagem pré-embalado, cada metáfora um pastiche sem contexto. Eu disse à turma que o workshop não poderia prosseguir porque não daria feedback a um autor que não existe, mas garanti aos possíveis autores que eles não estavam em apuros. As políticas do MIT em relação ao uso de IA estavam mudando e meu plano de estudos oferecia uma abertura. Além disso, se a IA estivesse disponível durante meus anos de graduação, eu teria resistido à sua ajuda? Claro que não. As fronteiras pedagógicas sempre estiveram repletas de estudantes em busca de atalhos. A tecnologia muda, mas a busca permanece.
Por alguns momentos, tudo ficou em silêncio, exceto os radiadores da sala de aula. Depois, uma confissão com lágrimas nos olhos: uma das autoras ostensivas disse que só usou IA porque tinha medo de parecer estúpida, de ser criticada por escrever mal. Ela disse que adorava escrever histórias e odiava ter usado IA. Mas ela não conseguiu se conter, contando uma sequência semelhante à descida de um viciado: primeiro ela inseriu sua história na IA para uma verificação gramatical, sugeriu edições de linha e ela aceitou, depois perguntou se ela queria edições estruturais e depois se ofereceu para reescrever a peça inteira.
O outro aspirante a autor admitiu que nunca havia escrito um conto antes e que tinha uma ideia, mas não sabia por onde começar. Perguntei por que ele não me pediu ajuda. Ele encolheu os ombros.
Uma das outras alunas levantou a mão, dizendo que não entendia por que era ruim para a IA escrever histórias, desde que as histórias fossem baseadas em suas ideias. Mais estudantes falaram: um deles queria saber como usar IA era diferente de usar um editor humano. Outro queria que eu respondesse por que razão, numa universidade que lançou um dos primeiros programas de investigação em IA do mundo, em 1959, estávamos sequer a ter este debate? A IA não foi criada para facilitar a vida de todos? Menos estressante? O objetivo da IA não é libertar os humanos do tédio das tarefas rotineiras?
A conversa que se seguiu às suas confissões foi um dos momentos de ensino mais produtivos dos meus oito anos no MIT. Escrever, eu disse a eles, não deveria ser fácil e, claro, pode ser entediante, mas isso não significa que seja mecânico. Escrever não é apenas produzir frases – é treinar a resistência por meio da atenção sustentada. É uma maneira de aprender o que se pensa tentando dizê-lo. Um LLM pode reproduzir a aparência dessa atividade, mas não pode substituí-la, porque o valor não reside apenas no objeto produzido, mas na transformação que ocorre durante a sua confecção.
Trazendo de volta o atrito
Em 1946, de George Orwell ensaio Confissões de um crítico de livros, Orwell descreve-se rodeado de livros não lidos, “constantemente inventando reações a livros sobre os quais não se tem qualquer sentimento espontâneo”. Ele argumenta que revisões em grande volume e dentro do prazo não deformam apenas o trabalho de leitura – elas deformam o eu. A fabricação estúpida de respostas corrói o julgamento e os padrões entram em colapso.
Orwell está descrevendo o que acontece quando a linguagem é produzida sob condições que a desconectam do pensamento: o revisor executa a forma de uma resposta sem ter realmente respondido. O que Orwell não poderia ter previsto é que esta condição acabaria por ser terceirizada. Quando um workshop é preenchido com ficção gerada por IA, cada escritor e leitor se torna o revisor que Orwell descreve.
Orwell termina o seu ensaio argumentando que a crítica seria mais saudável se fosse mais lenta, mais selectiva e menos industrial. O mesmo argumento se aplica agora à escrita de ficção. A IA acelera o processo de escrita, mas não é nada seletiva e – num ciclo irônico – transforma o ato de criação no tipo de tarefa mecânica que pretende automatizar.
Daqui para frente, minha política agora está claramente definida: não quero que estudantes que usem IA escrevam seus trabalhos. Eu quero as palavras deles. Quero ter acesso ao seu pensamento, à sua voz, às suas lutas para descobrir o que querem dizer e a melhor maneira de o dizer. Quero ver o que acontece quando alguém tenta passar pela linguagem sem que um intermediário termine o pensamento.
Esta é uma posição pedagógica, não moral ou técnica. O workshop só funciona se houver um escritor na sala, alguém cujo pensamento esteja visível na página e que possa falar diretamente sobre esse pensamento. Usar a IA para escrever não apenas anula todo o conceito de revisão por pares – estamos aqui para treinar uns aos outros, não para trabalhar com resíduos de IA – mas também garante um enfraquecimento dos músculos necessários para lutar com a escrita.
O perigo não é que a IA substitua os escritores ou torne o workshop obsoleto. É que os alunos estão se acostumando a contornar o atrito que antes revelava seu processo.
Desde aquela noite, nossos workshops mudaram de maneiras que eu não esperava. Falamos mais abertamente sobre a frustração, sobre os momentos em que um rascunho resiste ao seu próprio autor. Ainda ensino artesanato – forma, estrutura, revisão – mas volto à tensão entre pensamento e linguagem, às histórias onde a abstração se recusa a tomar forma. Discutimos por que o seu pensamento é importante, porque a sua luta para traduzir pensamentos em palavras não é uma evidência de fracasso, mas um sinal de crescimento. Mesmo quando, e especialmente quando, as palavras falham. O que meus alunos e eu agora guardamos não é uma fronteira contra as máquinas, mas um santuário para a autoria, um lugar onde tudo que está na página e ainda não está na página pertence a uma pessoa real.
-
Micah Nathan é romancista, ensaísta e professor do MIT em ficção e não-ficção, cujos livros incluem Gods of Aberdeen e Losing Graceland. Sua ficção e ensaios foram publicados na Vanity Fair, na Paris Review, em Little White Lies, em Kinfolk e em outros lugares.
-
Ilustrações pontuais de Cristina Spano
Source link
