OpenAI s'inquiète de la stigmatisation des textes générés par l'IA

Le pionnier de l'intelligence artificielle OpenAI est confronté à un dilemme : bien que l'entreprise ait développé un système capable d'identifier presque sans erreur les textes générés par l'IA, elle hésite à utiliser cet outil de manière exhaustive. La raison en est la peur que les utilisateurs soient dissuadés par la facilité avec laquelle les textes écrits par l'IA peuvent être détectés. Depuis le lancement de ChatGPT fin 2022, l'outil a acquis une popularité considérable et fait partie des sites web les plus visités au monde. Il est notamment de plus en plus utilisé dans le secteur de l’éducation. Les enseignants signalent de plus en plus souvent que les élèves rédigent leurs devoirs et dissertations à l'aide de l'IA. Pour répondre à ces préoccupations, des entreprises comme OpenAI travaillent depuis longtemps sur des mécanismes permettant de rendre visibles les textes générés par l'IA. Selon des rapports, OpenAI a désormais développé un système capable de reconnaître presque toujours ces textes. Cette technologie laisse une marque d'eau numérique dans le texte – invisible pour l'homme, mais clairement détectable par un outil d'IA approprié. Toutefois, selon un rapport interne, OpenAI exprime des inquiétudes quant aux conséquences négatives que cette mesure pourrait avoir. Près de 30 % des utilisateurs de ChatGPT ont indiqué que l'application de l'outil d'IA leur semblerait moins attrayante si de telles marques d'eau étaient utilisées. Ces développements ont été rendus publics pour la première fois par le Wall Street Journal. En conséquence, OpenAI a mis à jour un article de blog datant de mai dans lequel elle discutait de la possibilité de marquer les textes avec des marques d'eau. L'entreprise a souligné que sa méthode était très précise et offrait une protection efficace même contre des manipulations locales telles que la paraphrase. Cependant, elle pourrait être contournée par des techniques plus globales, comme la traduction dans une autre langue ou l'utilisation d'un autre modèle d'IA pour reformuler le texte. De plus, OpenAI a noté que la méthode de marquage des textes pourrait désavantager de manière disproportionnée certains groupes d'utilisateurs. En particulier, les non-natifs anglophones pourraient être stigmatisés lorsqu'ils utilisent l'IA comme outil d'écriture utile.