Detectar quando o texto foi gerado por ferramentas como o ChatGPT é uma tarefa difícil. Ferramentas populares de detecção de inteligência artificial, como o GPTZero, podem fornecer alguma orientação aos usuários, informando-os quando algo foi escrito por um bot e não por um humano, mas mesmo software especializado não é infalível e pode cuspir falsos positivos.
Como jornalista que começou a cobrir a detecção de IA há mais de um ano, queria fazer a curadoria de alguns dos melhores artigos da WIRED sobre o assunto para ajudar leitores como você a entender melhor esse assunto complicado.
Tem ainda mais dúvidas sobre como identificar resultados do ChatGPT e outras ferramentas de chatbot? Inscreva-se no meu boletim informativo AI Unlocked e entre em contato diretamente comigo sobre qualquer coisa relacionada à IA que você gostaria de responder ou deseja que a WIRED explore mais.
Fevereiro de 2023 por Reece Rogers
Neste artigo, que foi escrito cerca de dois meses após o lançamento do ChatGPT, comecei a lidar com as complexidades da detecção de texto por IA, bem como com o que a revolução da IA pode significar para escritores que publicam online. Edward Tian, o fundador por trás GPTZerofalou comigo sobre como seu detector de IA se concentra em fatores como variação de texto e aleatoriedade.
Ao ler, concentre-se na seção sobre marca d'água de texto: “Uma marca d’água pode designar certos padrões de palavras como fora dos limites do gerador de texto de IA”. Embora seja uma ideia promissora, os pesquisadores com quem conversei já estavam céticos quanto à sua eficácia potencial.
Setembro de 2023 por Christopher Beam
Um artigo fantástico da edição de outubro do ano passado da WIRED, este artigo oferece uma visão interna da mentalidade de Edward Tian enquanto ele trabalhava para expandir o alcance e as capacidades de detecção do GPTZero. O foco em como a IA impactou o trabalho escolar é crucial.
A detecção de texto por IA é a prioridade de muitos educadores de sala de aula à medida que avaliam os trabalhos e, potencialmente, renunciam às tarefas de redação porque os alunos usam secretamente chatbots para concluir as tarefas de casa. Embora alguns alunos possam usar a IA generativa como ferramenta de brainstorming, outros a utilizam para fabricar tarefas inteiras.
Setembro de 2023 por Kate Knibbs
As empresas têm a responsabilidade de sinalizar produtos que possam ser gerados pela IA? Kate Knibbs investigou como livros gerados por IA potencialmente violadores de direitos autorais estavam sendo listados para venda na Amazon, embora algumas startups acreditassem que os produtos poderiam ser detectados com software especial e removidos. Um dos principais debates sobre a detecção de IA depende se o potencial para falsos positivos – texto escrito por humanos que é acidentalmente sinalizado como trabalho de IA – supera os benefícios de rotular conteúdo gerado por algoritmos.
Agosto de 2023 por Amanda Hoover
Indo além das tarefas de casa, os textos gerados por IA estão aparecendo cada vez mais em revistas acadêmicas, onde muitas vezes são proibidos sem a devida divulgação. “Artigos escritos por IA também podem desviar a atenção de bons trabalhos, diluindo o conjunto de literatura científica”, escreve Amanda Hoover. Uma estratégia potencial para resolver esse problema é que os desenvolvedores criem ferramentas de detecção especializadas que procurem conteúdo de IA em artigos revisados por pares.
Outubro de 2023 por Kate Knibbs
Quando conversei pela primeira vez com pesquisadores em fevereiro passado sobre marcas d'água para detecção de texto por IA, eles estavam esperançosos, mas cautelosos sobre o potencial de imprimir no texto de IA padrões de linguagem específicos que são indetectáveis pelos leitores humanos, mas óbvios para o software de detecção. Olhando para trás, a sua apreensão parece bem colocada.
Apenas meio ano depois, Kate Knibbs conversou com diversas fontes que estavam destruindo marcas d'água de IA e demonstrando sua fraqueza subjacente como estratégia de detecção. Embora não haja garantia de falha, a marca d'água do texto da IA continua sendo difícil de ser executada.
Abril de 2024 por Amanda Hoover
Uma ferramenta que os professores estão tentando usar para detectar o trabalho em sala de aula gerado pela IA é Turnitin, um software de detecção de plágio que adicionou recursos de detecção de IA. (Turnitin é propriedade da Advance, empresa controladora da Condé Nast, que publica a WIRED.) Amanda Hoover escreve: “Chechitelli diz que a maioria dos clientes do serviço optou por adquirir a detecção de IA. Mas os riscos de falsos positivos e preconceitos contra os alunos de inglês levaram algumas universidades a abandonar as ferramentas por enquanto.”
Os detectores de IA são mais propensos a rotular falsamente o conteúdo escrito de alguém cuja primeira língua não é o inglês como IA do que alguém que é falante nativo. À medida que os desenvolvedores continuam a trabalhar na melhoria dos algoritmos de detecção de IA, o problema dos resultados errôneos continua sendo um obstáculo fundamental a ser superado.
