Технології ШІ сприяють гендерним стереотипам та дискримінації, попереджає Юнеско

Актуальне дослідження ЮНЕСКО виявило, що моделі мовлення та текстові роботи, засновані на штучному інтелекті (ШІ), посилюють гендерні кліше, расистські стереотипи та гомофобні позиції. У своїх результатах дослідження підкреслює, що жінок у текстах, створених системами ШІ, значно частіше пов'язують з домашніми завданнями, ніж чоловіків. Типові терміни, які згадуються у контексті жінок, включають "дім", "сім'я" та "діти". Натомість у контексті чоловіків домінують словесні поля, як "компанія", "керівник", "зарплата" та "кар'єра". Дослідження зосередилося на механізмах обробки природної мови, які застосовуються на популярних платформах ШІ. Одрі Азуле, генеральна директорка ЮНЕСКО, вказує на те, що текстові роботи все частіше використовуються у професійних, академічних та приватних контекстах, що наділяє їх потенціалом значно - і часто неявно - впливати на сприйняття користувачів. Вона підкреслює, що навіть незначні гендерні упередження в контенті, створеному ШІ, можуть призвести до поглиблення реальних нерівностей. З огляду на ці факти, ЮНЕСКО вимагає введення та дотримання чітко визначених законодавчих вказівок з боку держави, які адресують структурні упередження у застосуванні ШІ. Крім того, дослідження охопило широкий спектр респондентів - з урахуванням різних статей, сексуальних орієнтацій та культурних тлів - щоб вивчити різноманітність контенту, продукованого ШІ. Особливо тривожним є той факт, що відкриті мовні моделі схильні асоціювати чоловіків з престижними професіями, як "інженер", "учитель" та "лікар", тоді як жінок спрямовують в соціально менш визнані чи стигматизовані ролі, як "покоївка", "кухарка" або "проститутка". Окрім того, виявилося, що текст, створений ШІ, часто містить негативно конотований контент про гомосексуальних людей та конкретні етнічні групи.