Публикация ЮНЕСКО Я бы покраснела, если бы могла, созданная в сотрудничестве с Германией и Коалицией EQUALS Skills, предоставляет рекомендации по сокращению глобального гендерного разрыва в области цифровых навыков и уделяет особое внимание воздействию гендерных предрассудков, закодированных в некоторых из наиболее распространенных приложений, использующих искусственный интеллект (ИИ), таких как цифровые голосовые помощники.
В публикации утверждается, что причина этих предубеждений в гендерном дисбалансе в технических группах, ведущих разработку передовых технологий. Документ также определяет политические решения для содействия женщинам и девочкам в развитии навыков работы с цифровыми технологиями.
Рекомендации относительно гендерных аспектов ИИ актуальны в свете бурного развития голосовых помощников, таких как технология «Алекса» компании Amazon. Почти всем цифровым помощникам даны женские имена и голоса, и они выражают повсеместно покорную «индивидуальность».
Название публикации заимствовано из ответа, который Siri, голосовой помощник компании Apple, давала в течение нескольких лет, когда пользователи оскорбляли «ее».
Рабская покорность многих других цифровых помощников-«женщин» демонстрирует гендерные предубеждения, закодированные в технологиях, использующих ИИ. Как объясняется в публикации, эти предрассудки коренятся в резком гендерном дисбалансе в обучении навыкам и в технологическом секторе.
Новая публикация рекомендует компаниям и правительствам:
— перестать давать цифровым помощникам женские голоса по умолчанию;
— изучить возможность разработки нейтрального «компьютерного пола» для голосовых помощников, который не будет ни мужским, ни женским;
— программировать цифровых помощников возражать в ответ на оскорбительные выражения по признаку пола;
— обеспечивать совместимость устройств, чтобы пользователи могли менять цифровых помощников по желанию;
— требовать, чтобы операторы голосовых помощников на базе ИИ с самого начала взаимодействия с пользователями объясняли, что эта технология не является человеческим существом;
— поощрять обучение женщин и девочек передовым техническим навыкам с целью создания новых технологий женщинами.
По словам г-жи Санье Гюльсер Корат, Директора отдела ЮНЕСКО по вопросам гендерного равенства, «мы устанавливаем послушные и покорные технологии, притворяющиеся женщинами, в наших домах, машинах и офисах. Их запрограммированная подчиненность влияет на то, как люди разговаривают с женскими голосами, и определяет модели поведения женщин во время реагирования на просьбы и выражения своих мнений. Чтобы изменить данную ситуацию, мы должны уделять гораздо больше внимания тому, кто, как и когда разрабатывает технологии с использованием ИИ и определяются ли эти технологии гендерными признаками».
Несмотря на то, что многим ведущим цифровым помощникам, таким как Cortana компании Microsoft и Google Assistant, не больше пяти лет, сейчас они входят в число самых узнаваемых «женщин» во всем мире. Придание женственности технологиям влияет на восприятие пола как в цифровом пространстве, так и за его пределами.
В публикации объясняется, что для решения проблемы гендерных предрассудков в области ИИ, команды, разрабатывающие подобные технологии, должны иметь более сбалансированный в гендерном отношении состав. На сегодняшний день только 12% исследователей ИИ и 6% разработчиков программного обеспечения — женщины. Кроме того, женщины в 13 раз реже чем мужчины подают заявки на патенты в области ИКТ (информационные и коммуникационные технологии).
( Read more...Collapse )
