В начале этого месяца компания OpenAI заменила женщин в своем совете директоров мужчинами. Тимнит Гебру, Саша Лучиони и другие светила искусственного интеллекта рассказывают, почему они не вошли в совет.
Раньше в этом месяце совет директоров OpenAI внезапно уволил популярного генерального директора Сэма Альтмана. Увольнение потрясло мир технологий и вызвало недовольство преданных сотрудников Альтмана, большинство из которых пригрозили уволиться, если их босс не будет восстановлен в должности. После хаотичного пятидневного изгнания Олтман вернулся на прежнее место работы, но уже с измененной конфигурацией и полностью мужским советом директоров, который возглавил бывший генеральный директор Salesforce и бывший председатель совета директоров Twitter Брет Тейлор.
На данный момент в этот временный совет OpenAI входят только три человека. (Непосредственно перед неудавшимся переворотом их было шесть. Альтман и соучредители OpenAI Грег Брокман и Илья Суцкевер сидели вместе с генеральным директором Quora Адамом Д'Анджело, исследователем безопасности ИИ Хелен Тонер и Ташей Макколи, инженером-робототехником, возглавляющим стартап по созданию 3D-карт.
Особенности попытки свержения совета остаются загадкой. Из этих шести человек остался только Д'Анджело. Помимо Тейлора, еще одним новым членом совета директоров стал бывший министр финансов США Ларри Саммерс, живое олицетворение американского капитализма, который в 2005 году печально известен тем, что врожденные различия между полами могут объяснить, почему меньше женщин преуспевают в карьере в области STEM (позже он извинился).
В то время как Альтман, Брокман и Суцкевер продолжают работать в OpenAI, несмотря на свое отсутствие в совете директоров, Тонер и Макколи - две женщины, которые входили в совет директоров - теперь отрезаны от компании. По мере того как стартап в области искусственного интеллекта движется вперед, резкий гендерный дисбаланс в его обновленном совете директоров иллюстрирует шаткое положение женщин в сфере искусственного интеллекта.
"Это подчеркивает, что в компании изначально было недостаточно женщин, - говорит Маргарет О'Мара, профессор истории Вашингтонского университета и автор книги "Код: Silicon Valley and the Remaking of America". По мнению О'Мары, новый состав совета директоров отражает структуру власти в Кремниевой долине, сигнализируя о том, что самая влиятельная в мире компания, занимающаяся разработкой искусственного интеллекта, "снова в деле" - если "снова в деле" означает возвращение в клуб мальчиков Больших Технологий. (Стоит отметить, что на момент основания в 2015 году в совет директоров OpenAI входили только два человека: Альтман и Элон Маск.)
В качестве потенциального кандидата в совет директоров в прессе фигурирует известный исследователь в области ИИ Тимнит Гебру, уволенная из Google в конце 2020 года из-за спора по поводу научной работы, посвященной критическому анализу больших языковых моделей. Она действительно является лидером в области ответственного ИИ: после Google она основала Исследовательский институт распределенного ИИ, который описывает себя как пространство, где "ИИ не является неизбежным, его вред можно предотвратить". Если OpenAI хочет показать, что она по-прежнему привержена идее безопасности ИИ, Гебру будет разумным выбором. Но и невозможным: Она не хочет входить в совет директоров.
"Меня это отталкивает", - говорит Гебру. "Честно говоря, я думаю, что больше шансов, что я вернусь в Google - в смысле, они не примут меня, а я не приму их, - чем в OpenAI".
Нехватка женщин в области ИИ является проблемой уже много лет; в 2018 году, по оценкам, только 12 процентов ведущих исследователей машинного обучения составляли женщины. В 2020 году Всемирный экономический форум обнаружил, что только 26 процентов должностей в сфере данных и ИИ занимают женщины. "ИИ очень несбалансирован в гендерном плане", - говорит Саша Луччиони, исследователь этики ИИ в HuggingFace. "Это не очень приветливая сфера для женщин".
Одна из областей, где женщины процветают в индустрии ИИ, - это мир этики и безопасности, который Лучиони считает сравнительно инклюзивным. Она также считает важным тот факт, что члены совета директоров, которые были изгнаны, по сообщениям, вступили в конфликт с Альтманом по поводу миссии OpenAI. По данным The New York Times, Тонер и Олтман поссорились из-за опубликованной ею с соавторами в октябре научной работы, которую Олтман воспринял как критическую по отношению к компании. Лучиони считает, что этот инцидент не только подчеркивает гендерное неравенство, но и демонстрирует, как затихают голоса, выступающие за соблюдение этических норм.
"Я не думаю, что их уволили из-за того, что они женщины, - говорит Лучиони. "Я думаю, их уволили за то, что они осветили проблему". (Формально обе женщины согласились покинуть совет директоров.)
"Это отвратительно для меня. Честно говоря, я думаю, что больше шансов, что я вернусь в Google - в смысле, они не примут меня, а я не приму их, - чем в OpenAI".
Неважно, что на самом деле послужило причиной конфликта в OpenAI, то, как он был разрешен - Альтман вернулся к руководству, а его несогласные ушли, - сыграло свою роль в повествовании: Альтман выходит победителем, опираясь на преданных ему людей и сторонников. Его совет директоров теперь состоит из людей, стремящихся коммерциализировать продукты OpenAI, а не сдерживать его технологические амбиции. (Один из недавних заголовков, отражающих эту точку зрения: "ИИ теперь принадлежит капиталистам"). Осторожность, проявляемая женским руководством, по крайней мере, кажется, проиграла.
О'Мара рассматривает полностью мужской совет директоров OpenAI как признак качающегося культурного маятника. В то время как одни технологические компании Кремниевой долины работают над исправлением своих неудачных показателей в области разнообразия и учитывают свой экологический след, другие отказываются от "вокизма" в различных формах, вместо этого отстаивая непримиримые убеждения в отношении культуры труда.
"Это настроение: "Ладно, мы перестали быть ласковыми", - говорит она. Будь то "крайне жесткие" требования Элона Маска или недавний манифест Марка Андреессена, идея заключается в том, что если вы призываете людей взять паузу и подумать о потенциальном вреде или жалуетесь на недостаток представительства, то это ортогонально их бизнесу".
По сообщениям, OpenAI планирует в скором времени расширить совет директоров, и спекуляции о том, кто войдет в него, не прекращаются. Заметный полностью мужской и полностью белый состав совета директоров, конечно, не остался незамеченным, и OpenAI уже присматривается к кандидатам, которые могли бы успокоить некоторых критиков. Согласно сообщению Bloomberg, рассматривались кандидатуры филантропа Лорен Пауэлл Джобс, бывшего генерального директора Yahoo Мариссы Майер и бывшего госсекретаря США Кондолизы Райс, но они не были выбраны.
На момент публикации OpenAI не ответила на неоднократные просьбы о комментарии.
Для многих наблюдателей очень важно выбрать человека, который будет выступать за баланс между амбициями, безопасностью и ответственностью - того, чья линия поиска может совпадать с линией Тонер, например, а не того, кто просто похож на нее. "В совет следует приглашать людей, которые думают об ответственных или надежных технологиях, а также о безопасности", - говорит Кей Ферт-Баттерфилд, генеральный директор Good Tech Advisory. "Есть много женщин, которые являются экспертами в этой области".
Пока OpenAI ищет новых членов совета, она может встретить сопротивление со стороны перспективных участников, опасающихся реальной динамики власти внутри компании. Уже есть опасения по поводу токенизации. "Мне кажется, что человеку, входящему в совет директоров, придется несладко, потому что он постоянно будет вести нелегкую борьбу", - говорит Гебру. "Его будут использовать в качестве символа, и он не сможет реально что-то изменить".
Она не единственный человек в мире этики ИИ, который задается вопросом о том, будут ли новые члены совета директоров маргинализированы. "Я бы и с десятиметровым шестом не прикоснулась к этому совету", - говорит Лучиони. Она считает, что не смогла бы порекомендовать своему другу занять подобную должность. "Такой стресс!"
Мередит Уиттакер, президент приложения для обмена сообщениями Signal, видит пользу в том, что в совет войдет не просто основатель стартапа, но сомневается, что добавление хоть одной женщины или цветного человека поможет им добиться значимых перемен. Если расширенный совет не сможет бросить реальный вызов Альтману и его единомышленникам, его наполнение людьми, которые ставят галочки в демографических графах, чтобы удовлетворить призывы к разнообразию, может оказаться не более чем "театром разнообразия".
"Мы не решим проблему - что ИИ в настоящее время находится в руках концентрированного капитала - просто нанимая более разнообразных людей, чтобы выполнить стимулы концентрированного капитала", - говорит Уиттакер. "Меня беспокоит дискурс, который фокусируется на разнообразии, а затем рассаживает людей по комнатам с [нецензурное выражение] Ларри Саммерсом без особой власти".