OpenAI se preocupa por la estigmatización de los textos generados por IA

El pionero en inteligencia artificial, OpenAI, se enfrenta a un dilema: aunque la empresa ha desarrollado un sistema que puede identificar textos generados por AI con casi total precisión, duda en implementar esta herramienta de manera amplia. La razón de esto es el miedo a que los usuarios se sientan desalentados por la fácil identificación de textos escritos por AI. Desde el lanzamiento de ChatGPT a finales de 2022, la herramienta ha ganado notable popularidad y es una de las páginas web más visitadas a nivel mundial. En particular, su uso en el sector educativo ha aumentado considerablemente. Los profesores informan cada vez más que los estudiantes están utilizando la inteligencia artificial para redactar sus trabajos y ensayos. Para abordar preocupaciones como estas, empresas como OpenAI han estado trabajando durante algún tiempo en mecanismos que permitan identificar textos generados por AI. Según informes, OpenAI ha desarrollado un sistema que puede reconocer estos textos casi siempre. Esta tecnología deja una marca digital en el texto —invisible para los humanos, pero claramente detectable por una herramienta de AI correspondiente. Sin embargo, según un informe interno, OpenAI expresa preocupación de que esta medida pueda tener consecuencias negativas. Casi el 30 por ciento de los usuarios de ChatGPT indicaron que considerarían la aplicación de la herramienta de AI menos atractiva si se utilizaran tales marcas de agua. Estos desarrollos fueron publicados por primera vez en el Wall Street Journal. Como resultado, OpenAI actualizó una entrada de blog de mayo en la que discutía la posibilidad de marcas de agua en los textos. La empresa enfatizó que su método es altamente preciso e incluso ofrece protección efectiva contra manipulaciones locales como el parafraseo. Sin embargo, puede ser eludido mediante técnicas más globales, como la traducción a otro idioma o el uso de otro modelo de AI para reformular el texto. Además, OpenAI señaló que el método de marcas de agua en los textos podría desventajar de manera desproporcionada a ciertos grupos de usuarios. En particular, los no hablantes nativos de inglés podrían ser estigmatizados al usar la inteligencia artificial como una herramienta útil para la escritura.