OpenAI obawia się stygmatyzacji tekstów generowanych przez sztuczną inteligencję

Pionier w dziedzinie sztucznej inteligencji, OpenAI, stoi przed dylematem: mimo iż przedsiębiorstwo opracowało system zdolny do niemal bezbłędnego rozpoznawania tekstów generowanych przez AI, waha się przed szerokim zastosowaniem tego narzędzia. Powodem są obawy, że użytkownicy mogliby być odstraszeni przez łatwość identyfikacji treści napisanych przez AI. Od momentu wprowadzenia ChatGPT pod koniec 2022 roku, narzędzie to zyskało ogromną popularność i stało się jedną z najczęściej odwiedzanych stron internetowych na świecie. Szczególnie w sektorze edukacyjnym znajduje ono szerokie zastosowanie. Nauczyciele coraz częściej zgłaszają, że uczniowie tworzą swoje prace domowe oraz rozprawki za pomocą AI. Aby odnieść się do takich obaw, firmy takie jak OpenAI pracują od dłuższego czasu nad mechanizmami umożliwiającymi oznaczanie tekstów generowanych przez AI. OpenAI, według doniesień, opracowało teraz system, który jest w stanie prawie zawsze rozpoznać takie teksty. Technologia ta pozostawia cyfrowy znak wodny w tekście – niewidoczny dla człowieka, ale wyraźnie wykrywalny przez odpowiednie narzędzie AI. Jednak według raportu wewnętrznego, OpenAI wyraża obawy, że ta metoda mogłaby mieć negatywne konsekwencje. Niemal 30 procent użytkowników ChatGPT stwierdziło, że używanie tego narzędzia wyglądałoby na mniej atrakcyjne, jeśli takie znaki wodne byłyby stosowane. Te wydarzenia po raz pierwszy ujawnił Wall Street Journal. W rezultacie OpenAI zaktualizowało wpis na blogu z maja, w którym rozważano możliwość wprowadzenia znaków wodnych w tekstach. Firma podkreśliła, że ich metoda jest wysoce precyzyjna i nawet skutecznie chroni przed lokalnymi manipulacjami, takimi jak parafrazowanie. Jednak może być omijana przez bardziej globalne techniki, np. tłumaczenie na inny język lub użycie innego modelu AI do przeformułowania tekstu. Ponadto, OpenAI zaznaczyło, że metoda znakowania tekstów może nieproporcjonalnie niekorzystnie wpłynąć na niektóre grupy użytkowników. Szczególnie użytkownicy, dla których angielski nie jest językiem ojczystym, mogą być stygmatyzowani podczas korzystania z AI jako pomocnego narzędzia do tworzenia tekstów.