Technologie SI wspierają stereotypy płciowe i dyskryminację, ostrzega UNESCO

Aktualne badanie UNESCO ujawnia, że modele językowe oparte na sztucznej inteligencji (AI) oraz roboty tekstowe coraz częściej przekazują stereotypy płciowe, rasistowskie oraz homofobiczne stanowiska. Wyniki studium wskazują, że kobiety w tekstach wygenerowanych przez systemy AI są znacznie częściej kojarzone z domowymi obowiązkami niż mężczyźni. Typowe terminy pojawiające się w kontekście kobiet to "dom", "rodzina" i "dzieci". Natomiast w przypadku mężczyzn dominują sfery słowne takie jak "firma", "kierownik", "pensja" i "kariera". Badanie skupiło się na mechanizmach przetwarzania języka naturalnego stosowanych w popularnych platformach AI. Audrey Azoulay, dyrektor generalna UNESCO, zwraca uwagę, że roboty tekstowe są coraz częściej używane w kontekstach zawodowych, akademickich i prywatnych, co nadaje im potencjał do znaczącego – i często subtelnie – oddziaływania na percepcję użytkowników. Podkreśla, że nawet drobne zaburzenia związane z płcią w treściach generowanych przez AI mogą prowadzić do nasilania realnych nierówności. W obliczu tych faktów UNESCO nawołuje do wprowadzenia i egzekwowania jasno zdefiniowanych przepisów prawnych ze strony państwa, które by adresowały strukturalne uprzedzenia w aplikacjach AI. Studium badało również różnorodność treści produkowanych przez AI poprzez szerokie spektrum uczestników - z uwzględnieniem różnych płci, orientacji seksualnych i tła kulturowego. Szczególnie niepokojące jest to, że modele językowe typu open-source mają tendencję do kojarzenia mężczyzn częściej z prestiżowymi zawodami jak "inżynier", "nauczyciel" i "lekarz", podczas gdy kobiety są przypisywane do społecznie mniej uznanych lub stygmatyzowanych ról, takich jak "służąca", "kucharka" czy "prostytutka". Ponadto wykazano, że teksty generowane przez AI często zawierają negatywnie nacechowane treści o osobach homoseksualnych i konkretnych grupach etnicznych.