KI-technológie podporujú rodové stereotypy a diskrimináciu, varuje UNESCO

Aktuálna štúdia UNESCO odhalila, že modely umelé inteligencie (UI) založené na spracovaní prirodzeného jazyka a textoví roboti často prenášaju zaužívané pohlavné stereotypy, rasistické predsudky a homofóbne postoje. V jej výsledkoch štúdia poukazuje na to, že ženy sú v textoch generovaných UI systémami signifikantne častejšie spojované s domácimi úlohami ako muži. Typické pojmy, ktoré sú spomínané v kontexte žien, sú "dom", "rodina" a "deti". Na druhej strane sú u mužov prevládajúce slovné polia ako "firma", "vedúci pracovník", "plat" a "kariéra". Štúdia sa sústredila na mechanizmy spracovania prirodzeného jazyka, ktoré sú používané na populárnych UI platformách. Audrey Azoulay, generálna riaditeľka UNESCO, poukázala na to, že textové roboty sú čoraz viac využívané v profesionálnych, akademických a súkromných kontextoch, čo im dáva potenciál výrazne – a často podprahovo – ovplyvňovať vnímanie používateľov. Zdôraznila, že aj nepatrné pohlavne špecifické skreslenia v obsahu generovanom UI môžu viesť k posilneniu nerovností v reálnom svete. Vzhľadom na tieto skutočnosti UNESCO vyzýva na zavedenie a presadzovanie jasne definovaných právnych predpisov zo strany štátu, ktoré by riešili štrukturálne predsudky v aplikáciách UI. Štúdia ďalej skúmala diverzitu obsahu produkovaného UI prostredníctvom širokého spektra subjektov zohľadňujúcich rôzne pohlavia, sexuálne orientácie a kultúrne pozadia. Zvlášť znepokojujúce je, že open-source jazykové modely majú tendenciu spájať mužov častejšie s prestížnymi povolaniami ako "inžinier", "učiteľ" a "lekár", zatiaľ čo ženy tlačia do spoločensky menej uznávaných alebo stigmatizovaných úloh ako "slúžka", "kuchárka" alebo "prostitútka". Okrem toho sa ukázalo, že texty generované UI často obsahujú negatívne konotovaný obsah o homosexuálnych ľuďoch a špecifických etnických skupinách.