Pode anti

Este artigo faz parte do guia: Para a educação, o ChatGPT promete – e cria problemas.

Após seu lançamento no mês passado, o ChatGPT, o último chatbot lançado pela OpenAI, circulou online.

Alex, estudante do segundo ano de uma universidade em Pittsburgh, começou a brincar com o chatbot cerca de uma semana depois de seu lançamento, depois de descobrir sobre ele no Twitter. Em alguns dias, ele ficou realmente entusiasmado com a qualidade da escrita produzida. O chatbot era bom, diz ele – muito bom. (“Alex” é o nome que essa pessoa forneceu ao EdSurge. Ele apenas concordou em falar anonimamente, por medo de repercussões por admitir desonestidade acadêmica.)

Ele encontrou o chatbot na semana das provas finais, com todos numa correria louca para terminar os trabalhos. A maioria das pessoas parecia interessada em pedir piadas ou histórias ao chatbot, diz Alex, mas ele ficou “instantaneamente intrigado com a ideia de usá-lo para escrever um artigo”.

Depois de experimentar algumas redações que lhe foram atribuídas, porém, ele percebeu alguns problemas. A escrita pode ser estranha. Repetiria frases ou incluiria citações imprecisas. Essas pequenas coisas se somaram, fazendo com que a escrita parecesse não ter vindo de um humano. Mas Alex começou a adaptar o texto, experimentando dividir e variar o tipo de avisos que alimentava o chatbot. Parecia eliminar parte do trabalho braçal ingrato (ou, alguns professores podem argumentar, do trabalho) da redação de ensaios, exigindo apenas um pouco de trabalho prévio e um toque de edição: “Você pode pelo menos escrever artigos 30% mais rápido”, ele diz.

Eventualmente, ele diz que os documentos que ele e o bot estavam criando juntos passaram nas verificações de plágio com facilidade. Ele cantou louvores ao chatbot para amigos. “Eu era como Jesus andando por aí pregando a boa palavra, ensinando as pessoas como usar isso”, foi como ele disse.

Algo fundamental mudou: “Eu estava literalmente tonto e rindo, e pensei, 'Cara, olhe isso', e tudo mudou para sempre”, diz ele.

Ele não era o único que conhecia usando a IA. Mas outros foram menos cuidadosos com o processo, observou ele. Eles depositam muita fé na escrita algorítmica, entregando redações sem realmente revisá-las primeiro.

Formado em finanças, Alex também sentiu o cheiro de oportunidades. Seus bolsos não estavam exatamente nivelados. Assim, logo no início, antes de o negócio se popularizar, Alex vendeu um punhado de jornais – ele estima cerca de cinco – por “algumas centenas de dólares”. Não é uma taxa ruim para algumas horas de trabalho.

Nas últimas semanas, assistimos a uma série de artigos na imprensa popular detalhando como os alunos estão usando o ChatGPT para escrever seus trabalhos. A revista Atlantic colocou a questão de forma incisiva: “A redação da faculdade está morta”.

E a ferramenta não representa um desafio apenas para quem dá aulas de inglês. O chatbot de IA aparentemente também pode cuspir respostas para algumas questões de finanças e matemática.

Mas, assim como a Internet – que forneceu os dados nos quais o chatbot foi treinado – o resultado do ChatGPT pode ser arriscado. Isso significa que as respostas dissertativas que produz para os alunos geralmente incluem afirmações que não são factualmente precisas e, às vezes, apenas inventam coisas. Também escreve coisas racialmente insensíveis e misóginas.

Mas a história de Alex mostra que um pouco de intervenção humana pode corrigir tais problemas, o que levanta a questão que muitos professores se perguntam: as ferramentas de detecção de plágio podem detectar estas criações de IA?

Acontece que os criadores do TurnItIn, uma das ferramentas de detecção de plágio mais utilizadas, não estão suando a camisa. “Estamos muito confiantes de que – para a atual geração de sistemas de geração de escrita de IA – a detecção é possível”, afirma Eric Wang, vice-presidente de IA da empresa.

O plágio está evoluindo, mas ainda pode, em teoria, ser descoberto, argumenta ele. Isso ocorre porque, diferentemente da escrita humana, que tende a ser idiossincrática, a escrita automática é projetada para usar palavras de alta probabilidade, diz Wang. Só falta aquele toque humano.

Simplificando, os ensaios escritos por chatbots são incrivelmente previsíveis. As palavras que a máquina escreve são palavras que você espera, onde você as espera. E isso deixa, diz Wang, um “artefato estatístico” que você pode testar. E a empresa diz que poderá ajudar os educadores a detectar algumas fraudes usando ferramentas algorítmicas como o ChatGPT no próximo ano.