A jornalista Kimberly Gasuras é um exemplo palpável de como os detectores de inteligência artificial podem arruinar carreiras. Com 24 anos de experiência como repórter de notícias, Gasuras confiava em suas habilidades e em sua reputação. “Não preciso de IA,” afirmava com segurança. No entanto, isso não foi suficiente para salvar seu trabalho.
Na pequena localidade de Bucyrus, Ohio, Gasuras complementava seu salário escrevendo para WritersAccess, uma plataforma freelance que conectava escritores com pequenas e médias empresas. Tudo ia bem até meados de 2023, quando sua renda começou a despencar devido à adoção do ChatGPT por parte de alguns clientes. A situação já era difícil quando recebeu um e-mail devastador.
O Caso de Kimberly Gasuras: A Injustiça dos Detectores de IA
“Recebi apenas uma advertência,” explicou Gasuras. Acusaram-na de usar inteligência artificial em seus textos, com base em um software chamado Originality. Apesar de ter defendido sua inocência, nunca recebeu uma resposta. Desesperada, começou a verificar seu trabalho com outros detectores de IA, mas alguns meses depois foi expulsa da plataforma. A razão: uso excessivo de IA. WritersAccess não respondeu aos pedidos de comentários.
Você acredita nisso? Uma jornalista com anos de experiência, relegada por um software imperfeito. Este caso ilustra uma tendência preocupante onde a tecnologia, longe de ser uma ferramenta, se torna um verdugo. Os detectores de IA prometem uma precisão quase milagrosa, mas na prática, as consequências de seus erros podem ser devastadoras.
A Precisão Duvidosa das Ferramentas de Detecção de IA
Lendo o artigo do Gizmodo sobre o tema, descobrimos que os detectores de IA, como Copyleaks, GPTZero, Originality.AI e Winston AI, asseguram oferecer uma precisão impressionante, alguns até se vangloriam de uma exatidão de 99,98%. No entanto, especialistas e estudos questionam essas afirmações.
Realmente podem esses detectores identificar a diferença entre um texto humano e um gerado por IA com tanta precisão? A resposta parece ser não.
Bars Juhasz, cofundador da Undetectable AI, explica que a confiabilidade desses detectores é, na melhor das hipóteses, duvidosa. “Afirmar ter 99% de precisão é impossível segundo nosso trabalho,” disse Juhasz. Embora essas ferramentas sejam projetadas para detectar padrões específicos nos textos, como o uso perfeito da gramática e da pontuação, essas mesmas características podem ser contraproducentes. Surpreendentemente, ferramentas como Grammarly, que melhoram a clareza e a correção dos textos, podem fazer com que os textos sejam sinalizados como gerados por IA.
Por outro lado, alguns detectores medem fatores como “burstiness” e “perplexity.” Os humanos tendem a usar certas palavras em rajadas, enquanto as IAs distribuem as palavras de maneira mais uniforme. No entanto, esses métodos também são falíveis. A Universidade do Texas em Austin, entre outras, proibiu o uso de software de detecção de IA devido às altas taxas de falsos positivos.
Originality.AI, um dos líderes do setor, afirma ter uma precisão de 98,8%, mas sua taxa de falsos positivos é de 2,8%. Esses números, apresentados de maneira pouco clara, somam mais de 100%, gerando confusão e desconfiança. Até mesmo a OpenAI retirou seu detector de IA poucos meses após lançá-lo, citando sua baixa taxa de precisão.
As Repercussões nos Escritores e o Debate sobre a Ética dos Detectores de IA
Mark, um copywriter de Ohio, relata como um detector de IA lhe custou o emprego. Após três anos de colaboração com uma plataforma, foi acusado injustamente de usar IA. Embora tenha fornecido provas de que escreveu manualmente seus artigos, isso não foi suficiente. A perda desse trabalho lhe custou 90% de sua renda, obrigando-o a buscar emprego na manutenção de uma loja local.
Jonathan Gillham, CEO da Originality.AI, admite que os falsos positivos são um problema, mas defende que suas ferramentas são necessárias para combater o conteúdo de baixa qualidade gerado por IA. No entanto, escritores como Mark argumentam que esses detectores são os verdadeiros culpados por seu desemprego.
O debate sobre a ética dos detectores de IA se intensifica à medida que mais escritores são afetados. Debora Weber-Wulff, professora na Universidade de Ciências Aplicadas para Engenharia e Economia em Berlim, critica duramente essas ferramentas, qualificando-as de “óleo de cobra.” Segundo Weber-Wulff, confiar nesses detectores é uma tentativa falha de resolver problemas sociais com soluções tecnológicas inadequadas.
A situação é ainda mais complicada pelas mensagens contraditórias das empresas de detecção de IA. Originality.AI aconselha não usar suas ferramentas em contextos acadêmicos devido ao alto risco de falsos positivos, mas simultaneamente promove seu uso como essencial na educação.
A paranoia gerada por esses detectores está erodindo a confiança entre escritores e clientes. A necessidade de soluções precisas e justas é clara, mas até que essas ferramentas melhorem significativamente, os escritores continuarão enfrentando a incerteza e a injustiça.