Я задал этот вопрос аудитории примерно так: Допустим, вы прочитали роман, который вам очень понравился, который вас вдохновил. И только после того, как вы закончили, вам сообщили, что автором был не человек, а система искусственного интеллекта... робот. Сколько из вас почувствовали бы себя обманутыми?

Почти все подняли руки.

Причина этого чувства, - продолжил я, - в том, что когда мы читаем - когда мы воспринимаем любое произведение искусства, вообще-то, в любой среде - мы ищем нечто большее, чем просто отличное содержание. Мы ищем человеческую связь.

Это касается даже тех случаев, когда автор давно умер. Если кто-то до сих пор читает Чосера (его уже отменили?), то каким-то образом на протяжении веков мы можем проникнуть в сознание какого-то чувака, который жил в XIV веке и с которым было бы здорово поговорить за кружкой пива или бокалом медовухи. На самом деле, читая его, мы узнаем его лучше, даже если нам приходится немного попотеть над среднеанглийским. (Спасибо Энн Матонис, моей рок-звезде, профессору средневековой литературы в Университете Темпл. Сложный аттестат, однако.)

Это прозрение о значении человеческого авторства стало моей северной звездой, когда я работаю над сложными проблемами ИИ, которые, кажется, осаждают нас каждый день. Я думал об этом на этой неделе, когда присутствовал на пресс-брифинге менеджеров по продуктам Google, объяснявших некоторые новые функции ИИ в чатботе Gemini, работающем на основе большой языковой модели. (Для тех, кто не ведет счет дома, это бот, ранее известный как Bard; эти компании меняют имена чаще, чем шпионы сейфы с паспортами). По их словам, новый, усовершенствованный Gemini обещает "повысить вашу продуктивность и творческий потенциал".

Продуктивность - это однозначный выигрыш алгоритмов. С этим не поспоришь. А вот о творчестве придется поговорить.

Google привела несколько наглядных примеров. Один из них - организация закусок для детской футбольной команды. Gemini может выяснить, кто что принесет на игру, отправить персонализированные электронные письма нужным людям и даже составить схему маршрутов. Это отличный способ сэкономить время на том, что может быть неблагодарным занятием. Продуктивность!

Второй пример связан с созданием "милой надписи" для фотографии семейной собаки. Близнецы предложили: "Бакстер - король вершин! 👑 Посмотрите, кто на вершине мира!". Это довольно забавная надпись. Но она заставляет меня задуматься о цели публикации в социальных сетях, которая заключается в установлении человеческих связей. Поделиться замечанием, прикрепленным к фотографии вашей собаки, - это часть разговора. Использование писателя-призрака неизменно отдаляет вас от друзей и подписчиков, которые читают надпись. Поручение роботу обеспечить вашу часть разговора похоже на аутсорсинг в крайнем случае.

Не проблема нанять кого-то, чтобы выгулять вашу собаку. Но нанимать что-то, что будет говорить о вашей собаке? Странно. А что, если бы все так делали? Наверняка нам бы не так нравились титры. Друг, ответивший на автоматическую подпись комментарием, мог бы почувствовать себя глупо, если бы узнал, что ответил на что-то, придуманное искусственной нейросетью, а не хлюпенькой биологической. А может быть, ваш друг попросит своего Близнеца придумать милый ответ. Тогда люди смогут спокойно посидеть, пока их роботы беседуют. Реплики могли бы быть остроумными, как в пьесе Тома Стоппарда. Но человеческой связи не будет.

Несомненно, эти языковые модели принесут огромную пользу. Автоматизируйте заявки на гранты! Резюмируйте отчеты о продажах! Обучайте детей алгебре! Сообщите нам, когда электронная таблица сообщит о чем-то сомнительном! Кодируйте на ура! Но некоторый контент зависит от связи. Еще один пример использования, предложенный на брифинге Google: "Помогите мне написать документ для работы". Близнецы могут сделать с этим потрясающие вещи. Но работодатели читают такие письма, чтобы понять, насколько соискатель грамотно рассуждает, понимает требования вакансии и насколько он вменяем. Когда все будут генерировать эти письма с помощью искусственного интеллекта, эти факторы станут непрозрачными. Не заморачивайтесь с письмом и просто отправьте резюме. Чтобы установить реальную связь, рекрутеру придется провести проверку - и надеяться, что вы не пришлете своего двойника.

В своей только что вышедшей книге "Литературная теория для роботов" Деннис И Тенен, доцент английского языка в Колумбийском университете, отмечает, что опасения, подобные моим, и опасения Гильдии авторов имеют прецедент. Он говорит, что, несмотря на ассоциации с высокими бровями, большая часть писательского труда - это обычная форма труда, которая подвержена автоматизации. Он приводит в пример развитие в докомпьютерную эпоху техники "шаблонов", которая могла ускорить процесс и даже предоставить авторские сюжеты. Например, в 1895 году французский писатель Жорж Польти опубликовал книгу шаблонов под названием "Тридцать шесть драматических ситуаций". В других работах разбирались элементы таинственных историй. Появились и более сложные системы, например, целая картотека, наполненная записями, которые можно было смешивать и сопоставлять, чтобы создать собственное произведение. "В то время они казались людям скандальными", - говорит Тенен, когда я связываюсь с ним по телефону. "Они говорили: "Боже мой, вы не можете, вы разрушаете гений авторства!"". Конечно, этого не произошло. И даже в некоторых сферах писательского творчества, где используются жесткие формулы, например в pulp fiction или телевизионных ситкомах, писателям удается выразить себя уникальным образом в этих рамках и получить настоящую связь. Тенен ожидает, что то же самое произойдет и в ИИ. "Некоторые практикующие специалисты, использующие эти инструменты ИИ и человеческий интеллект, поднимутся над автоматизированными возможностями", - говорит он.

Я бы очень хотел в это верить. Независимо от того, насколько хороши будут эти роботы, писатели, музыканты и художники оставят на выходе свои блестящие и грязные отпечатки пальцев. Зрители будут чувствовать и реагировать на человечность, выраженную в этих работах. На любительском уровне люди могут даже привыкнуть к умным подписям к своим фотографиям, созданным ИИ, и понять, что гораздо интереснее придумывать свои собственные.

Ничто не остановит наше неумолимое движение к миру, в котором большая часть того, что мы читаем, видим и слышим, будет создаваться, если не полностью, роботами. Во многих и многих отношениях эти системы снимут бремя заученной работы с наших измученных клавиатурой рук. И все же я настороженно отношусь к словам представителей компаний, занимающихся разработкой ИИ, о том, что нас будут "вдохновлять" наши языковые модели - это слово я не раз слышал во время брифинга Google. Людей вдохновляет великая проза, великие образы, великая музыка и другие виды искусства. Возможно, когда-нибудь наши системы искусственного интеллекта будут способны создавать произведения искусства, столь же фантастические или даже более фантастические, чем те, которые создавали лучшие художники-люди. Но суть всего этого - человеческая связь. И да поможет нам Бог, если мы не сможем их различить.

Путешествие во времени

Я постоянно возвращаюсь к статье, которую написал в апреле 2012 года, когда послезимняя оттепель для ИИ только начиналась. Я рассматривал чикагскую компанию Narrative Science, которая создавала новостные статьи с использованием искусственного интеллекта - идея, которая в то время казалась смехотворной. Заголовок гласил: "Может ли алгоритм написать лучшую новостную историю, чем человек-репортер?". У нас до сих пор нет ответа на этот вопрос, но игла уже гораздо ближе к "да", чем 12 лет назад.

Когда Narrative Science только начинала свою работу, мета-писателям приходилось кропотливо обучать систему каждый раз, когда она бралась за новую тему. Но вскоре они разработали платформу, которая облегчила алгоритму изучение новых областей. Например, один из мета-писателей решил создать машину для написания статей о лучших ресторанах в том или ином городе. Используя базу данных отзывов о ресторанах, она смогла быстро научить программу определять релевантные компоненты (высокие оценки, хорошее обслуживание, вкусная еда, цитата довольного клиента) и вводить соответствующие фразы. За несколько часов у нее появился бот, который мог бесконечно выдавать небольшие щебечущие статьи вроде "Лучшие итальянские рестораны Атланты" или "Отличные суши в Милуоки..."

[Генеральный директор Narrative Science] Хэммонд считает, что по мере развития Narrative Science ее истории будут подниматься все выше по пищевой цепочке журналистики - от товарных новостей к объяснительной журналистике и, в конечном итоге, к подробным длинным статьям. Возможно, в какой-то момент люди и алгоритмы начнут сотрудничать, причем каждый партнер будет играть в меру своих сил. Компьютеры с их безупречной памятью и способностью получать доступ к данным могут выступать в роли помощников писателей-людей. Или наоборот, люди-репортеры могут брать интервью у людей и вычленять из них какие-то детали, а затем отправлять их компьютеру, который все это напишет. По мере того как компьютеры будут становиться все более совершенными и получать доступ ко все большему количеству данных, их ограничения как рассказчиков будут сходить на нет. Это может занять некоторое время, но в конечном итоге даже такая история, как эта, может быть создана без меня. "Люди невероятно богаты и сложны, но они - машины," - говорит Хэммонд. Через 20 лет не останется ни одной области, в которой бы нарративная наука не писала истории.

Ask Me One Thing

Квентин спрашивает: "Сегодня в Интернете так много фальсификаций, искажений и ложных данных, которые используют компании, стремящиеся получить больше прибыли. Разве разработчики программного обеспечения не хотят предоставлять программы, которые пытаются обойти эти огромные коммерческие подводные камни в Интернете?"

Здравствуйте, Квентин, спасибо за вопрос. Существует множество программ, которые пытаются ограничить спам или обманные предложения, и я полагаю, что у большинства из нас есть своего рода фильтрация, которая направляет большинство из них прямо в наши встроенные корзины для спама. Некоторые законные предложения тоже попадают в спам, но, по крайней мере, это дает нам универсальное оправдание для того, чтобы не отвечать на приглашения. Оно попало в мой спам-фильтр!

Но нам все равно приходится обрабатывать слишком большое количество поступающих к нам сообщений, и многие из них - это изощренное мошенничество. Спам, который выглядит как подлинные сообщения от Paypal или Amazon, настолько распространен, что я уверен, что настоящие компании, стоящие за ними, находятся в отчаянии. К счастью, удивительно много таких сообщений можно обнаружить, просто взглянув на адрес электронной почты, который часто выдает отправителя, явно не являющегося корпоративным.

Еще более сложная проблема заключается в том, что даже легальные компании продают свои товары гнусными способами. Даже компании, которые гордятся тем, что являются "надежными брендами", слишком часто врываются в наши почтовые ящики, как карнавальные барыги. Предложения всегда являются последним шансом (да, как прощальный тур группы Who), а "скидки" редко бывают действительно выгодными. Маркетологи предлагают нам бесплатные пробные версии, чтобы привязать нас к долгосрочным подпискам, которые практически невозможно отменить. Они обещают пополнить наши банковские счета товарами, которые в итоге их уменьшают. И даже если мы в итоге покупаем что-то, что нас не обманывает, за этим следует шквал требований, чтобы мы оценили опыт, а затем в четыре раза увеличили свои предложения. ИИ, безусловно, можно разработать, чтобы обнаружить и предупредить нас о такой тактике, но его также используют для разработки еще более адских коммерческих ловушек. Короче говоря, я чувствую вашу боль, Квентин. Наши почтовые ящики - это гоббсианский кошмар, и я не вижу, как это может измениться в ближайшее время. Извините!