BitcoinWorldArXiv irá Banir Autores por Um Ano se Eles Enviarem Artigos Gerados por IA sem Revisão Humana

ArXiv, o repositório de acesso aberto amplamente utilizado para pesquisas pré-publicadas, anunciou uma nova política que pode resultar em uma proibição de um ano para autores que enviarem artigos contendo evidências claras de conteúdo gerado por IA não verificado. A medida, delineada na quinta-feira por Thomas Dietterich, presidente da seção de ciência da computação da ArXiv, visa o crescente problema de pesquisas de baixa qualidade, produzidas por IA, que minam a confiança na publicação científica.

O que a nova regra significa para os pesquisadores

Sob as diretrizes atualizadas, se os moderadores encontrarem 'evidências incontroversas' de que os autores não verificaram a saída de grandes modelos de linguagem (LLMs) antes da submissão, o artigo será rejeitado e os autores enfrentarão uma suspensão de um ano para postar no ArXiv. Após a proibição, os autores devem ter submissões subsequentes aceitas por um local revisado por pares respeitável antes de retornar à plataforma.

Dietterich especificou que tais evidências incluem referências fabricadas, citações sem sentido ou erros de cópia e colagem diretos de um LLM. A política não proíbe o uso de ferramentas de IA inteiramente; em vez disso, responsabiliza os autores 'totalmente' por todo o conteúdo, independentemente de como foi gerado. Isso inclui plágio, declarações tendenciosas e imprecisões factuais introduzidas pela IA.

Por que isso importa para a integridade científica

O ArXiv tem sido há muito tempo um pilar da rápida disseminação de pesquisas, especialmente em ciência da computação, matemática e física. No entanto, o aumento da IA generativa levou a um aumento nas submissões que parecem ser produzidas com supervisão humana mínima. Estudos revisados por pares recentes documentaram um aumento em citações fabricadas na literatura biomédica, provavelmente ligado ao uso de LLM.

Ao impor essa regra de uma chance, o ArXiv visa preservar a credibilidade de seu repositório. A política também inclui um processo de apelação, permitindo que os autores contestem decisões. Os moderadores devem primeiro sinalizar problemas, e os presidentes das seções devem confirmar evidências antes que as penalidades sejam aplicadas.

Implicações mais amplas para a comunidade de pesquisa

Essa política reflete um consenso crescente na academia de que ferramentas de IA devem auxiliar, e não substituir, a supervisão humana na pesquisa. A transição do ArXiv para uma organização sem fins lucrativos independente, após ser hospedado pela Universidade Cornell por mais de duas décadas, dá mais flexibilidade para impor tais medidas. O repositório já tomou medidas para conter envios gerados por IA, incluindo a exigência de endossos para novos postadores.

Para os pesquisadores, a mensagem é clara: usar IA para rascunhar ou polir a linguagem é aceitável, mas submeter trabalho sem rigorosa verificação de fatos e validação de citações não é. Isso está alinhado com padrões editoriais mais amplos na publicação científica, onde a responsabilidade permanece primordial.

Conclusão

A nova política de proibição do ArXiv representa um passo significativo na manutenção da integridade da pesquisa pré-publicada em uma era de uso generalizado de IA. Ao penalizar autores que não revisam conteúdo gerado por IA, o repositório reforça o princípio de que pesquisadores humanos são os responsáveis finais por seu trabalho. À medida que ferramentas de IA se tornam mais integradas ao processo de pesquisa, tais barreiras provavelmente se tornarão padrão na publicação acadêmica.

Perguntas Frequentes

Q1: A nova política do ArXiv proíbe o uso de IA na redação de artigos? Não, não proíbe o uso de IA. Proíbe a submissão de artigos com evidências claras de que os autores não verificaram o conteúdo gerado por IA em busca de erros, como referências fabricadas ou texto sem sentido.

Q2: O que conta como 'evidência incontroversa' de uso indevido de IA? Exemplos incluem citações alucinatórias, referências a fontes inexistentes e erros de cópia e colagem diretos de um LLM que indicam que nenhuma revisão humana ocorreu.

Q3: Os autores podem apelar de uma proibição? Sim, a política inclui um processo de apelação. Os moderadores devem sinalizar a questão, os presidentes das seções confirmam as evidências, e os autores podem contestar a decisão.

Este post ArXiv vai proibir autores por um ano se eles submeterem artigos gerados por IA sem revisão humana apareceu pela primeira vez no BitcoinWorld.