Nova ferramenta pode dizer se algo é IA

Um novo estudo descobriu que um detector de IA desenvolvido pela Universidade do Kansas pode detectar conteúdo gerado por IA em trabalhos acadêmicos com uma taxa de precisão de 99%, um dos únicos detectores no mercado voltados especificamente para a redação acadêmica.

Erro humano genuíno? Talvez, mas pelo menos não inteligência artificial.

De acordo com um relatório publicado na quarta-feira na revista Cell Reports Physical Science, os pesquisadores criaram uma ferramenta que pode provar a detecção de IA em trabalhos acadêmicos com 99% de precisão.

A equipe de pesquisadores selecionou 64 perspectivas (um tipo de artigo) e as usou para fazer 128 artigos usando o ChatGPT, que foi usado para treinar o detector de IA.

O modelo teve uma taxa de precisão de 100% na identificação de artigos criados por humanos a partir dos gerados por IA e uma taxa de precisão de 92% na identificação de parágrafos específicos dentro do texto.

De acordo com uma pesquisa da Study.com, 89% dos estudantes universitários admitiram usar o ChatGPT para ajudar nas tarefas, enquanto 34% dos educadores acreditam que o software deveria ser banido, embora 66% apoiem o acesso dos alunos.

“No momento, existem alguns problemas bastante evidentes com a escrita de IA”, disse a principal autora Heather Desaire em um comunicado. "Um dos maiores problemas é que ele reúne texto de várias fontes e não há nenhum tipo de verificação de precisão - é como o jogo Duas verdades e uma mentira."

Os detectores de IA não provaram ser 100% precisos. Uma estudante da Universidade da Califórnia em Davis alega que foi falsamente acusada por sua universidade de trapacear com IA. Depois de enviar um trabalho para uma de suas aulas, ela recebeu um e-mail de seu professor alegando que uma parte foi sinalizada no programa Turnitin como sendo gerada por IA. Seu caso foi imediatamente encaminhado para o Gabinete de Apoio ao Aluno e Assuntos Judiciais, que trata da disciplina por má conduta acadêmica. A aluna defendeu seu caso e acabou vencendo, usando carimbos de data e hora para provar que ela escreveu o trabalho. Esta não foi a única vez que os educadores rotularam erroneamente as tarefas como geradas por IA. Um professor de comércio da Texas A&M tentou reprovar mais da metade de sua turma do último ano depois de usar o ChatGPT para testar se os alunos usavam o chatbot para escrever seus trabalhos. Ele copiou e colou os papéis no ChatGPT e perguntou se ele os escreveu, ao que respondeu que sim. Isso fez com que seus diplomas fossem retidos pela universidade, embora o professor oferecesse a oportunidade de refazer a tarefa. No entanto, a universidade confirmou ao Insider que nenhum aluno foi reprovado ou impedido de se formar.

O chatbot da OpenAI, ChatGPT, foi aberto ao público em novembro de 2022 e em menos de uma semana ultrapassou a marca de um milhão de usuários, com pessoas usando-o para coisas como criar código e escrever ensaios. A inteligência da IA ​​levou várias escolas a banir indefinidamente ou temporariamente o software, incluindo Escolas Públicas de Nova York, Escolas Públicas de Seattle e o Distrito Escolar Unificado de Los Angeles.

Já existem muitos programas e serviços existentes que prometem identificar conteúdo escrito por IA.

ChatGPT nas escolas: aqui é onde é proibido - e como pode ajudar os alunos (Forbes)

Aqui está o que saber sobre o ChatGPT da OpenAI - o que está atrapalhando e como usá-lo (Forbes)