Desde que o ChatGPT surgiu, pela empresa OpenAI, no dia 30 de novembro, que o programa tem trazido tantas perguntas quantas respostas consegue oferecer. Uma das muitas preocupações anda em torno da educação, uma vez que os alunos, através dessa ferramenta, poderão ter as suas tarefas facilitadas e obter uma tese ou outros trabalhos, através de uma simples pesquisa. Para ajudar os professores a moderar o uso do chatbot, um aluno de Princeton, nos Estados Unidos, desenvolveu uma aplicação que deteta o uso da inteligência artificial num trabalho.
Foi nas suas férias de natal, uma altura em que o ChatGPT já tinha ganho popularidade, que Edward Tian desenvolveu o seu projeto - GPTZero, segundo pode ler-se num artigo da NewScientist. Após alguns testes realizados, o modelo atingiu 98% de precisão. "Tínhamos mais de 35.000 professores na lista de espera enquanto trabalhávamos na versão personalizada para educadores”, referiu, citado pelo El País. Versão essa que acabou por ser lançada a 14 de fevereiro. Apesar deste lançamento, está ainda disponível a versão beta anterior, em que não precisa de se registar para experimentar, pois é gratuita.
Através desta versão de teste, pode-se então reconhecer a probabilidade de um texto ter sido produzido por inteligência artificial.
A motivação de Edward Tian surgiu porque “essas tecnologias são muito inovadoras, mas quando são lançadas, há muito potencial para abuso, então têm de construir-se defesas na mesma altura, e não depois de meses ou anos, do programa ser criado. Eu só não esperava que isto se tornasse viral”, partilhou o estudante, nas redes sociais.
A OpenAI já começou a trabalhar numa marca de água que ajuda a identificar os textos que têm sido produzidos pelo seu ChatGPT, mas, segundo especialistas em criptografia, mesmo que comece, haverá quem encontre alternativas. Além disso, o GPTZero e modelos semelhantes que surgem só podem continuar a funcionar se a OpenAI continuar a fornecer acesso gratuito aos seus modelos de inteligência artificial. Aliás, atualmente, a ferramenta de Tian funciona com uma versão anterior do ChatGPT, então alguns especialistas alertam que, se o modelo for modificado, pode produzir resultados imprecisos.