Sierra надеется, что каждая компания будет использовать ее эмпатические чат-боты с искусственным интеллектом для взаимодействия с клиентами.

Возможно, я нечаянно оскорбил Брета Тейлора и Клэя Бэйвора, когда брал у них интервью об их новом стартапе в области искусственного интеллекта на прошлой неделе. Их новая компания, Sierra, разрабатывает агентов на базе искусственного интеллекта для "повышения качества обслуживания клиентов" крупных компаний. Среди ее первых клиентов - WeightWatchers, Sonos, SiriusXM и OluKai (компания по производству одежды в гавайском стиле). В конечном счете, Sierra ориентируется на любую компанию, которая общается со своими клиентами, что открывает довольно широкие возможности. Их план кажется мне подтверждением широко озвученного прогноза о том, что 2024 год станет годом, когда модели искусственного интеллекта, которые занимали наши умы в течение последнего года, превратятся в реальные продукты. Поэтому при встрече с соучредителями, которых я знаю уже много лет, я заметил, что их компания выглядит "очень орехово-болтовой". "Я не знаю, комплимент это или критика, или просто факт, - говорит Тейлор, который оставил пост исполнительного директора Salesforce, чтобы основать Sierra. Я заверил его, что считаю это скорее последним. "Вы же не собираете подруг!" заметил я.

Важно, что два самых дальновидных лидера Кремниевой долины создают ИИ-стартап не для погони за трофеем ботаника в виде сверхразума, а для использования последних достижений ИИ для футуризации нетехнических, мейнстримовых корпораций. Их опыт ставит их в один ряд с более известными светилами индустрии: Тейлор был ключевым разработчиком Google Maps в прошлом веке, а Бавор возглавлял усилия Google в области VR. Они охотно уверяют меня, что их сердца все еще находятся в режиме лунной охоты. Оба считают, что разговорный ИИ - это прогресс наравне с графическим пользовательским интерфейсом или смартфоном, и он окажет не меньшее влияние на нашу жизнь. Так получилось, что Сьерра сосредоточилась на конкретном, корпоративном аспекте этого. "В будущем ИИ-агент компании - по сути, ИИ-версия этой компании - будет так же важен, как и ее веб-сайт", - говорит Тейлор. "Это полностью изменит способ цифрового существования компаний".

Чтобы создать своих ботов таким образом, чтобы они выполняли эту задачу эффективно, приятно и безопасно, Sierra пришлось придумать несколько инноваций, которые будут способствовать развитию технологии ИИ-агентов в целом. Для решения, пожалуй, самой тревожной проблемы - галлюцинаций, которые могут дать клиентам неверную информацию, - Sierra использует сразу несколько различных моделей ИИ, причем одна модель выступает в роли "супервизора", следящего за тем, чтобы ИИ-агент не заходил на территорию "вумен". Когда что-то должно произойти с реальными последствиями, Sierra использует подход "сила в числе". "Если вы общаетесь с агентом WeightWatchers и пишете сообщение, то для принятия решения о том, что делать, задействуется около четырех или пяти различных больших языковых моделей", - говорит Тейлор.

Поскольку мощные большие языковые модели ИИ обладают огромной силой, обширными знаниями и удивительным пониманием, эти цифровые агенты могут понять ценности и процедуры компании не хуже человека, а возможно, даже лучше, чем какой-нибудь недовольный рабочий в котельной Северной Дакоты. Процесс обучения больше похож на введение сотрудника в должность, чем на введение правил в систему. Более того, эти боты обладают достаточными способностями, чтобы предоставить им некоторую самостоятельность в обслуживании звонящих. "Мы обнаружили, что у многих наших клиентов есть политика, а за ней - другая политика, которая на самом деле имеет значение", - говорит Бавор. Агенты Sierra достаточно опытны, чтобы понять это, а также достаточно умны, чтобы не разглашать информацию сразу и предоставлять клиентам специальные условия только в том случае, если они настаивают. Цель Sierra - превратить автоматизированное взаимодействие с клиентами из ада в счастье.

Это была амброзия для ушей одного из первых клиентов Sierra, компании WeightWatchers. Когда Тейлор и Бэйвор рассказали генеральному директору компании Симе Систани, что агенты искусственного интеллекта могут быть искренними и располагающими к себе, она была заинтригована. Но решающим моментом, по ее словам, стало то, что соучредители рассказали ей, что разговорный ИИ может обеспечить "эмпатию в масштабе". Она согласилась, и теперь компания WeightWatchers использует созданных Сьеррой агентов для взаимодействия с клиентами.

ОК, но эмпатия? Словарь Merriam-Webster определяет ее как "действие понимания, осознания, чувствительности к чувствам, мыслям и переживаниям другого". Я спросил Систани, может ли быть противоречием утверждение, что робот может сопереживать. После паузы, во время которой я почти слышал, как в ее мозгу скрежетали шестеренки, она, заикаясь, ответила. "Это интересно, когда вы так говорите, но мы живем в двухмерных мирах. Алгоритмы помогают нам определить следующую связь, которую мы видим, и отношения, которые мы устанавливаем. Мы, как общество, ушли от этого". Это означает, что взаимодействие с роботом не может быть подлинным. Конечно, ИРЛ - это идеал, поспешила сказать она, и агенты скорее дополняют реальную жизнь, чем заменяют ее. Но от утверждения об эмпатии она не отказывается.

Когда я попросил ее привести примеры, Систани рассказала мне об одном взаимодействии, в котором член WW сказала, что ей пришлось отказаться от членства из-за трудностей. ИИ-агент взорвал ее любовью: "Мне очень жаль это слышать... Эти трудности могут быть такими сложными... Позвольте мне помочь вам справиться с ними". А затем, словно крестная фея, агент помог ей найти альтернативные варианты. "Мы очень четко понимаем, что это виртуальный помощник", - говорит Систани. "Но если бы мы этого не сделали, я не думаю, что вы смогли бы заметить разницу."

Перед тем как мы пойдем дальше по этому пути, я должен выступить с критикой. Какими бы искренними и сочувствующими ни были программные агенты, их работа пересекается с задачами, которые раньше или сейчас выполняли люди. Работники из плоти и крови получают зарплату, уходят домой после смены и даже могут объединяться в профсоюз. ИИ-агенты лишены всех этих недостатков. Вот почему компании постоянно используют системы телефонной поддержки и веб-сайты для взаимодействия с клиентами и почему корпорации часто идут на крайние меры, чтобы затруднить общение с людьми, которые по-прежнему необходимы тем, чьи проблемы не могут быть решены с помощью выбора в меню или кому просто нужны ответы на вопросы на естественном языке. В некоторых компаниях проще взломать RSA, чем связаться с человеком. Эта история стара как сама технология.

Каждый раз, когда появляется новая форма автоматизации, перекладывающая бремя с людей на машины, компании должны позаботиться о том, чтобы смягчить удар для клиентов. Я достаточно дряхл, чтобы помнить появление банкоматов в начале 1970-х годов. Я был аспирантом в Государственном колледже, штат Пенсильвания. Весь регион был наводнен рекламой на рекламных щитах, в газетах, на радиостанциях - о приветствии "Рози", так называли машины, установленные в холле крупнейшего банка. (Уже тогда антропоморфизм считался необходимым, чтобы смягчить удар). Со временем люди оценили преимущества, такие как круглосуточное обслуживание и отсутствие очередей. Но потребовались годы, чтобы доверять этим машинам настолько, чтобы положить свой чек в одну из них.

Тейлор и Бейвор считают, что преобразующая магия ИИ настолько хороша, что нам не нужно никакого смягчения. Мы уже столкнулись с такими кошмарными системами, как телефонная поддержка и веб-сайты, предлагающие несколько вариантов ответа, которые не учитывают наши проблемы. Теперь у нас есть альтернатива, которая намного лучше". Если вы опросите 100 человек и спросите: "Нравится ли вам общаться с чат-ботом?", скорее всего, ноль ответит "да", - говорит Тейлор. Но спросите у тех же 100 человек: "Нравится ли вам ChatGPT?", и 100 из 100 ответят "да"". Вот почему Sierra считает, что может предложить лучшее из двух миров: эффективное взаимодействие, которое нравится клиентам, с преимуществами робота, не требующего простоя, который не входит в план медицинского обслуживания.

Я все еще не могу понять, что значит для компьютерной модели быть эмпатичной, а также столь же непонятное использование термина "аутентичность" для описания взаимодействия агента с клиентом. Но, возможно, это только у меня. Первые результаты говорят о том, что эти опасения на самом деле не являются препятствием в работе. Роботы не обладают эмпатией, но они могут ее проявлять, и на практике это кажется не менее полезным для многих людей. В примерах, которыми поделилась компания WeightWatchers, люди посылают сердечные эмодзи агентам Sierra, которые описываются как "расширенный член команды WeightWatchers". Даже такая простая фраза, как "Спасибо" куску кода, как в одном из примеров, обнажает готовность людей отбросить свои видовые предубеждения и взаимодействовать в масштабе "человек-человек" с тем, что, как они знают, на самом деле не является человеком.

Если посмотреть на это с другой стороны, планы Sierra действительно идут дальше, чем просто гайки и болты. Бавор и Тейлор рассчитывают на то, что гигантская волна разговорного ИИ изменит наше представление о том, как все мы видим и взаимодействуем с местами, с которыми ведем бизнес. "Сейчас приложение компании - это маленькая иконка, на которую вы указываете", - говорит Тейлор. "Но в какой момент главным цифровым артефактом компании станет ее ИИ?"

Сьерра в чем-то прав. В конце концов, эти банкоматы работали очень хорошо. За исключением банковских кассиров.

Путешествие во времени

Многие компании пытались создать программных агентов, которые делали бы все за вас. Одна из многообещающих попыток называлась Viv, созданная изобретателями Siri от Apple. Ее создатели утверждали, что придумали систему, которая будет работать с другими сервисами, выполняя неограниченный набор команд. Я писал о Viv в августе 2014 года. Позже Samsung купила Viv и использовала ее технологию в чатботе Bixby. Он до сих пор существует, но так и не загорелся.

Viv преодолевает ограничения, генерируя свой собственный код на лету, без участия программистов. Возьмите сложную команду вроде "Дайте мне рейс в Даллас с креслом, в котором мог бы поместиться Шак". Viv разберет это предложение, а затем выполнит свой лучший трюк: автоматически сгенерирует быструю и эффективную программу, связывающую вместе сторонние источники информации - например, Kayak, SeatGuru и медиагид NBA, - чтобы определить доступные рейсы с большим количеством места для ног. И все это за долю секунды.

[Генеральный директор Даг] Киттлаус говорит, что конечным результатом будет цифровой помощник, который знает, чего вы хотите, еще до того, как вы об этом попросите. Он представляет себе человека, неуверенно подносящего телефон ко рту возле бара в два часа ночи и говорящего: "Я пьян". Без каких-либо уточнений Вив свяжется с выбранным пользователем автосервисом, отправит его по адресу, где он находится в полуобморочном состоянии, и поручит водителю отвезти его домой. Никакого дополнительного сознания не требуется.

Ask Me One Thing

Арлин спрашивает: "На недавнем допросе руководителей технологических компаний в Конгрессе США речь шла о попытках минимизировать вред для детей. Финансовые организации вынуждены придерживаться правил KYC как части своих услуг. Почему это не должно действовать в отношении детей, пытающихся создать аккаунты в социальных сетях?"

Спасибо за вопрос, Арлин. KYC - это, конечно же, аббревиатура от Know Your Customer, протокола, который банки используют для проверки личности своих клиентов. Он используется для защиты от отмывания денег и финансирования терроризма. Принятие этого протокола, безусловно, позволит Meta, Snap, TikTok и другим компаниям социальных сетей придерживаться своей политики, которая не допускает подростков на платформу.

Но использовать этот протокол - все равно что использовать кувалду для вбивания наперстка в пробковую доску. Чтобы эффективно использовать KYC для отсеивания несовершеннолетних пользователей, вам придется требовать, чтобы каждый проходил верификацию только для того, чтобы попасть на платформу. Это не только тяжелый груз, но и настолько сильное трение, что платформы потеряют столько людей, что станут менее полезными. Люди, подозревающие закон или защищающие свою личность по законным (или иным) причинам, уйдут. Да и кому будет удобно делиться с Мета-версией более личной информацией?

С другой стороны, если вы подозреваете, что эти компании на самом деле не делают все возможное, чтобы убедиться, что дети следуют их политике, вы правы. Эти сверхсложные компании могут многое сделать для более эффективного соблюдения своих правил, начиная с изучения сигналов от онлайн-активности несовершеннолетних пользователей. Исследование, проведенное в Стэнфорде, показало, что Facebook может узнать вашу политическую принадлежность и сексуальную ориентацию всего по нескольким лайкам. Всего по 10 лайкам Facebook может предсказать вашу личность лучше, чем коллега по работе. С 70 лайками он узнает вас лучше, чем сосед по комнате. А с 300 лайками он может узнать вас лучше, чем ваш супруг! Думаете, они не смогут определить, что вам 11 лет?

Вы можете отправлять вопросы на mail@wired.com. В теме письма напишите ASK LEVY.

End Times Chronicle

Эксперты по погоде обсуждают, стоит ли добавлять категорию 6 теперь, когда ураганы могут дуть гораздо сильнее, чем 157 миль в час для категории 5, которая считается катастрофической. Что за этим стоит? Возможно, нам нужны новые прилагательные.