OpenAI обеспокоена стигматизацией текстов, созданных ИИ

Пионер в области искусственного интеллекта OpenAI сталкивается с дилеммой: хотя компания разработала систему, способную почти безошибочно идентифицировать тексты, сгенерированные AI, она колеблется в вопросе повсеместного внедрения этого инструмента. Причина этого заключается в страхе, что пользователи могут быть отпугнуты из-за легкой узнаваемости текстов, написанных AI. С момента введения ChatGPT в конце 2022 года этот инструмент завоевал значительную популярность и является одним из самых посещаемых веб-сайтов в мире. Особое применение он находит в сфере образования. Учителя все чаще сообщают, что ученики создают домашние работы и эссе с помощью AI. Для устранения подобных опасений такие компании, как OpenAI, уже долгое время работают над механизмами, позволяющими помечать тексты, сгенерированные AI. Согласно сообщениям, OpenAI разработала систему, которая почти всегда может распознать такие тексты. Эта технология оставляет цифровой водяной знак в тексте — невидимый для человека, но отчетливо распознаваемый соответствующим KI-инструментом. Однако, согласно внутреннему отчету, OpenAI выражает опасения, что эта мера может иметь негативные последствия. Почти 30 процентов пользователей ChatGPT заявили, что применение KI-инструмента стало бы для них менее привлекательным, если бы такие водяные знаки использовались. Эти события впервые были опубликованы Wall Street Journal. В результате OpenAI обновила пост в блоге от мая, в котором обсуждалась возможность использования водяных знаков в текстах. Компания подчеркнула, что их метод является высокоточным и даже эффективно защищает от локальных манипуляций, таких как перефразирование. Однако его можно обойти более глобальными методами, такими как перевод на другой язык или использование другой модели KI для переформулирования. Кроме того, OpenAI отметила, что метод водяных знаков в текстах может непропорционально ущемлять определенные группы пользователей. В частности, не носители английского языка могли бы быть стигматизированы при использовании AI в качестве полезного инструмента для письма.