A OpenAI preocupa-se com a estigmatização de textos gerados por IA

O pioneiro em IA, OpenAI, enfrenta um dilema: apesar de a empresa ter desenvolvido um sistema que pode identificar textos gerados por IA com quase nenhuma falha, hesita em utilizar esta ferramenta de forma abrangente. A razão para isso é o medo de que os usuários possam ser desencorajados pela fácil detecção de textos escritos por IA. Desde a introdução do ChatGPT no final de 2022, a ferramenta alcançou uma popularidade significativa e é um dos sites mais visitados no mundo. Em particular, no setor educacional, seu uso tem aumentado. Professores relatam cada vez mais que os alunos estão usando a IA para realizar suas tarefas e redações. Para enfrentar essas preocupações, empresas como a OpenAI vêm já há algum tempo trabalhando em mecanismos para identificar textos gerados por IA. De acordo com relatos, a OpenAI agora desenvolveu um sistema que pode reconhecer esses textos quase sempre. Esta tecnologia deixa uma marca d'água digital no texto – invisível para humanos, mas claramente detectável por uma ferramenta de IA correspondente. No entanto, de acordo com um relatório interno, a OpenAI expressa preocupações de que esta medida possa ter consequências negativas. Quase 30 por cento dos usuários do ChatGPT indicaram que o uso da ferramenta de IA lhes pareceria menos atraente se tais marcas d'água fossem aplicadas. Esses desenvolvimentos foram revelados pela primeira vez pelo Wall Street Journal. Em consequência, a OpenAI atualizou uma postagem de blog de maio, onde discutia a possibilidade de marcas d'água em textos. A empresa enfatizou que seu método é altamente preciso e que protege eficazmente contra manipulações locais, como a paráfrase. No entanto, poderia ser contornado por técnicas mais globais, como traduzir para outra língua ou usar outro modelo de IA para reformulação. Além disso, a OpenAI observou que o método de marca d'água em textos poderia desproporcionalmente prejudicar certos grupos de usuários. Em particular, não falantes nativos de inglês poderiam ser estigmatizados ao utilizar a IA como uma ferramenta útil para escrita.