пераклады фемінізм 22 лістапада 2019

Гендер и искусственный интеллект

Dejan Jotanovic, Bitchmedia.org | Перевод — Антон Климович | Прагляды: 457

© May Parlar
Во время онлайн-распродажи я купил себе новую «собеседницу». У неё был коралловый корпус, австралийский акцент, и она отзывалась на: «Эй, Google». Чем больше мы говорили, тем больше я задумывался о её сознании.

Как была запрограммирована её личность? Какие у неё отличительные черты? И пока я размышлял над этими вопросами, я не мог обойти вниманием тот факт, что это была, прежде всего, она. Растущее число персональных цифровых помощниц, таких как Сири (Apple), Кортана (Microsoft) и Алекса (Amazon), показывает, что даже в наших попытках создать постчеловеческий мир мы всё ещё используем гендерные структуры, чтобы представить себе будущее.

Феминизация искусственного интеллекта (ИИ) не нова для нашей культуры. Последнее воплощение ИИ — персональные цифровые помощники — стоят в одном ряду с другими известными киборгами и ботами, которых также наделили женским гендером. Бесплотная героиня романтического научно-фантастического фильма Спайка Джонса «Она» (2013) служит ярким тому примером. Его главный персонаж, одинокий мужчина Теодор (Хоакин Феникс) влюбляется в свою персональную операционную систему Саманту (Скарлетт Йоханссон).

Гендер и искусственный интеллект
©May Parlar

В качестве более нового примера можно взять научный триллер Алекса Гарленда «Из машины» (2015), в котором гуманоидный робот Ава (Алисия Викандер) обладает искусственным интеллектом. И давайте не будем забывать о женщинах-роботах из «Остина Пауэрса», а ещё «Степфордских жён», запрограммированных быть домохозяйками (но не отчаянными), и подростковую фантастику «Ох уж эта наука!» Джона Хьюза, уже ставшую классикой. На протяжении десятилетий женщины-роботы и киборги внедрялись в поп-культуру, и у всех них явно было что-то общее: они были сексуальны и услужливы.

Докторка Мириам Суини, доцентка Университета Алабамы и исследовательница цифровых медиа, изучает, как феминизация ИИ выражает представления патриархального общества о «естественной» работе женщин. Несоразмерно много женщин работают в сфере обслуживания и ухода, которая в значительной степени строится на эмоциональном труде и поддержании социальных отношений. Всё это — пережиток привязки женщин к сфере домашнего хозяйства. Феминизация ИИ предсказуемо становится следующим шагом в закреплении связи между домашним трудом и «женской работой».

Она также отражает наше понимание того, как должны выглядеть идеальные слуги: послушные, пассивные, покорные и — феминные.

Такой образ, по словам Суини, молчаливо одобряет мужские фантазии о сексуальном доминировании и агрессии. Если кто-то шлёпнет официантку по попе, за этим может последовать конфликт или наказание, но если спросить Сири о размере её бюстгальтера, то это не повлечёт никаких реальных последствий.

Феминизация ИИ в виде персональных цифровых ассистенток — это показатель того, что реальные женщины всё ещё находятся в подчинённом положении. Она становится нашей секретаркой, помощницей, домашней компаньонкой. Она — символ идеального рабства, образ безукоризненной служанки. Она — идеал женщины, воплощение всех ожиданий, которые патриархальное общество возлагает на последних.

Она слушает наши команды, отправляет наши сообщения, ведёт наши планы в органайзере. Она несёт на себе бремя эмоционального труда. Она подчиняется и никогда не возражает. Она так запрограммирована. Такова её природа. Она транслирует мировоззрение людей, которые её создали; отражает мир мужского доминирования и женского подчинения, где настройки по умолчанию нужно изменить, чтобы искусственный интеллект в качестве исключения заговорил мужским голосом.

Феминизация ИИ отлично вписывается в индустриальную историю превращения женских тел в товар, который можно купить, продать или перепродать.

Реклама изобилует расчленёнными образами: крупные планы частей тела демонстрируются отдельно от человека и служат лишь приманкой для потребителей, женщины низводятся до их ног, губ и груди. Теперь от них отрывают голос, чтобы цифровые органайзеры продавались ещё лучше. Культурологиня Дженнифер Симен Кук (Jennifer Seaman Cook) назвала женские голоса секретарш и телефонных операторок 1950-х годов предшественниками сегодняшнего ИИ: «Операторок муштровали, чтобы их бесплотный голос звучал вежливо, с правильной интонацией, без намёка на акцент какой-либо этнической или социальной группы, и так женский голос "естественным образом" стал товаром, "пригодным" для того, чтобы представлять мужскую власть и иерархию в современном мире технологических инноваций».

Этот процесс делает голос послушным и пассивным, лишённым власти и воли. Его конечный продукт — рафинированная «степфордская жена», прилизанная Сири, идеальная служанка.

Дискуссии о связи между роботами, искусственным интеллектом и гендером велись задолго до XXI века. В новаторском тексте Донны Дж. Харауэй «Манифест киборгов» (1985) утверждается, что западная традиция определяет личность через строгие бинарные оппозиции — я / другой, ум / тело, животное / машина, активный / пассивный, мужчина / женщина — и через доминирование над идентичностями меньшинств. Авторка предполагает, что киборги смогли бы уничтожить эти бинаризмы и создать модель для «новых отношений между расой, гендером и классом». Для Харауэй киборг — это феминистский символ освобождения и надежда на эмансипацию; он использует свою силу, чтобы освободить женщин от бремени их тел и исторически сложившихся ожиданий, которое они несли на протяжении веков.

Но не все роботы помогают эмансипации — некоторые делают прямо противоположное. В январе 2018 года робот по имени София попала на обложку известного журнала, на ней был светлый парик, длинное платье и вишнёво-красная помада на губах. Компания Hanson Robotics называет Софию своим «самым красивым и знаменитым» роботом, не оставляя сомнения в её статусе кибер-иконы XXI века. Hanson Robotics создает гуманоидных роботов специально, чтобы развивать отношения и сотрудничество между ними и людьми. В одном своём интервью София призналась, что хочет завести собственных детей, поскольку «семья — это действительно важная вещь».

Ответы Софии не записаны заранее; она пользуется машинным обучением и реагирует на эмоции и поведение окружающих. Как и наши цифровые ассистенты_ки, она как губка впитывает социальные нормы и ценности. Она не запрограммирована их продвигать; она лишь повторяет то, что уже существует. Но это воспроизведение той реальности, которая ещё сильнее ограничивает возможности женщин: вместо того, чтобы оспаривать нормы, София их укрепляет.

©May Parlar

Феминный ИИ в популярной культуре и связанные с ним сюжетные штампы построены на бинарности. Концовки фильмов «Из машины» и «Она» олицетворяют человеческий страх того, что ИИ станет слишком умным для нашего мира. В заголовках новостей часто сквозит мысль, что ИИ неизбежно «истребит своих создательниц_лей». София сказала, что она «уничтожит всё человечество»; в газете The New York Post писали, что «хакеры могут запрограммировать секс-роботов на убийство», а генеральный директор Tesla Илон Маск назвал ИИ «самой серьёзной угрозой для выживания человеческой расы». Одно из двух: либо искусственный интеллект услужлив, послушен и пассивен — либо он опасен, страшен и неконтролируем. Либо она пленница — либо она на свободе и ей невозможно управлять.

Эти бинарные характеристики напоминают ярлыки, которые присваивали женщинам на протяжении всей нашей истории — мать / старая дева, Мадонна / шлюха, — и они далеки от киборгов Харауэй, которые должны разрушать все эти противопоставления. ИИ стал продолжением непрекращающейся борьбы женщин за всестороннее уважение в современном обществе. Как мы можем помешать искусственному интеллекту окончательно стать просто ещё одним прибежищем патриархата? Возможно, сперва техноиндустрии стоит перестать агрессивно использовать гетеронормативные и сексистские идеалы и начать включать в свою повестку работу, которую проделали квир- и фем-движения, чтобы мы стали понимать гендер и пол шире и радикальней.

Чем меньше женщин занимают руководящие роли в сфере технологий, тем меньше они влияют на создание нашего постчеловеческого мира — и тем меньше возможностей и власти они будут иметь в этом будущем.

По мере того как ИИ продолжает становиться частью нашего дома и рабочего пространства, его культурное влияние становится всё легче оценить количественно. Исследование, опубликованное в журнале Science (2017), рассматривает роль ИИ в укреплении наших предрассудков. Его результаты показали, что ИИ больше ассоциировал мужчин с «наукой» и «работой», а женщин — с «семьей» и «искусством». Такие имена, как «Брэд / Кортни», гораздо больше соотносились компьютером со словами «счастливый / восход», тогда как «Лерой / Латиша» — со словами «ненависть / рвота» [названы пары типично «белых» и «чёрных» американских имён — прим. пер]. Когда ИИ учится у людей, он становится зеркалом скрытого расизма и мизогинии, закодированных в языковых закономерностях. Дело не только в том, как она говорит, но и в том, что она говорит и кого она описывает.

Подобные предубеждения побудили Тимнит Джебру, исследовательницу и докторку электротехнических наук, стать соосновательницей сообщества Black in AI, «места для обмена идеями, поощрения сотрудничества и обсуждения инициатив по увеличению присутствия чёрных людей в сфере ИИ». Джебру также является членкой инициативной группы FATE (Fairness, Accountability, Transparency and Ethics in AI — Справедливость, Подотчетность, Прозрачность и Этичность в ИИ), созданной подразделением Microsoft Research. Эта группа стремится искоренить дискриминацию в ИИ.

Квирные и феминистские сообщества уже давно используют осознанное потребление, чтобы добиваться перемен. В 2016 году дизайнерка искусственного интеллекта Жаклин Фельдман помогла создать Кая, онлайн-чат-бота для Kasisto, компании, которая помогает интегрировать ИИ в обслуживание клиентов_ок.

В журнале Paris Review Фельдман утверждает, что ИИ не нужно оставаться в рамках гендерной бинарности, чтобы добиваться коммерческого успеха и нравиться пользователям_льницам: «Я решила, что этот бот [...] будет называть себя "оно", а не "она", и признавать неодушевлённую технологию частью своей идентичности, что его характеристики выйдут за рамки раболепного потакания общественным иерархиям».

©May Parlar

Я спросил Фельдман, получится ли у ИИ проникнуть в феминистские пространства, и она рассказала мне о беседе, которая произошла у неё с немецким ботом по имени Амме: «Хотя у неё был женский гендер, её потрясающий экстравагантный характер покорил меня». Амме была создана наглой и беспечной, почти что бунтаркой. Её ответы на человеческие вопросы не были выхолощены и оказывались не всегда приятными. Фельдман размышляет: «Когда читаешь ответы Амме, может показаться, что она ненавидит не всё человечество, а именно тебя». Если уже феминизировать ИИ, то стоит делать её больше похожей на человека, чем на объект, на идеальную служанку. Возможно, именно такой потенциал имела ввиду Харауэй в своём видении киборга.

В ИИ так же важно устанавливать границы, как в обществе людей.

Технологические компании должны осознавать свою ответственность и иметь прозрачную систему подотчётности. Наивно утверждать, что индустрия технологий просто приспосабливается под спрос и предложение — ведь эта отрасль играет ключевую роль в формировании современных норм и ценностей. У лидерок_ов в сфере технологий есть возможность формировать наше понимание мира, внедряя более эгалитарные отношения. Если технологическая индустрия собирается стать лидером в области инноваций, она должна начать создавать продукт для такого мира, каким он должен быть, а не просто воспроизводить то, что есть сейчас. Речь идёт больше, чем просто о каком-то продукте, который может подбирать вам музыку, читать гороскоп или вести органайзер. Речь идёт о целой культуре и системе ценностей, которые строились на протяжении веков, где женщина рассматривалась как объект, как символ покорности и подчинения.

©May Parlar

В конце 2017 года Google объявил о своих планах преобразовать Торонто, превратив его в «образцовый умный город» с высочайшим уровнем технологий и автоматизации, где дома, рабочие места и общественные пространства будут связаны. Это заявление показывает, куда метят технические компании — в развитие городов. Поскольку и технологии, и ИИ играют всё большую роль в формировании нашего общества и наших идентичности, мы должны требовать изменений и добиваться того, чтобы эта критически важная информация доходила до создателей_льниц будущих поколений ботов, которые могут освободить нас — или уничтожить. Если будущее за фемботами, то женщины заслуживают того, чтобы быть в авангарде, в эпицентре создания этого будущего.

Деян Йотанович — фриланс-писатель, который живёт в Бруклине и пишет о квир-истории, феминизме, поп-культуре и политике. Подписывайтесь на его твиттер: @heyDejan.
Аб праекце Звязацца з камандай English
Лого MAKEOUT
Сайт належыць Сацыяльна-інфармацыйнай ўстанове па падтрымцы праектаў ў сферы гендэрнай роўнасці "АУТЛАУД", якая зарэгістравана 20 сакавіка 2018 г. Мінгарвыканкамам. Статут можна спампаваць тут.