Авторы продолжают находить на Amazon имитации и краткие описания своих книг, созданные искусственным интеллектом. Они мало что могут сделать, чтобы остановить подделку.
Митчелл узнала, что при поиске ее книги на Amazon всплыла не только ее собственная книга, но и другая электронная книга с тем же названием, опубликованная в сентябре прошлого года. В ней было всего 45 страниц, и она пересказывала идеи Митчелл на неловком, неуклюжем языке. У указанного автора, "Шумайлы Маджид", не было ни биографии, ни фотографии, ни присутствия в Интернете, но при нажатии на это имя появлялись десятки похожих книг с кратким описанием недавно опубликованных названий.
Митчелл догадалась, что поддельная электронная книга была сгенерирована искусственным интеллектом, и ее догадка, похоже, оказалась верной: A Guide for Thinking Humans", и ее программное обеспечение заявило, что книга с вероятностью 99 процентов сгенерирована искусственным интеллектом. "Меня это взбесило", - говорит Митчелл, профессор Института Санта-Фе. "Это просто ужасно, как людей заманивают, заставляя покупать эти книги".
Amazon удалил имитацию книги Митчелла после того, как компания связалась с ним. "Хотя мы разрешаем контент, созданный искусственным интеллектом, мы не разрешаем контент, созданный искусственным интеллектом, который нарушает наши рекомендации по содержанию Kindle Direct Publishing, включая контент, который создает разочаровывающие впечатления у покупателей", - говорит представитель Amazon Эшли Ваничек.
Но Митчелл - далеко не единственный исследователь искусственного интеллекта, который, очевидно, стал мишенью для тех, кто использует те же технологии, над которыми они работают. Новаторский компьютерный ученый Фей-Фей Ли в своем новом мемуаре "Миры, которые я вижу: Curiosity, Exploration, and Discovery in the Age of AI при поиске книги на Amazon появляется более десятка различных аннотаций.
В отличие от взлета книги Митчелла, аннотации книги Ли объявляют себя таковыми. Одна из них, прямо названная "Резюме и анализ книги "Миры, которые я вижу"", имеет описание товара, которое начинается: "ОГРАНИЧЕНИЕ!!! ЭТО НЕ КНИГА ФЭЙ-ФЭЙ ЛИ, И ОНА НЕ СВЯЗАНА С НИМ. ЭТО НЕЗАВИСИМАЯ ПУБЛИКАЦИЯ, В КОТОРОЙ ПОДРОБНО ИЗЛОЖЕНА КНИГА ФЭЙ-ФЭЙ ЛИ. ЭТО РЕЗЮМЕ". Однако и эти книги, похоже, сгенерированы ИИ и не приносят читателям никакой пользы. Reality Defender проанализировал образец книги "Резюме и анализ" и обнаружил, что она также, скорее всего, сгенерирована ИИ. "Полное и тотальное переписывание текста. Как будто кто-то попросил LLM переписать текст, а не обобщить его", - говорит глава отдела маркетинга Reality Defender Скотт Стейнхардт. "Это как кидзбоповская версия настоящего". Обратившись за комментарием по электронной почте, Ли выразила свою реакцию одним эмодзи: 🤯.
Исполнение резюме
Небрежные резюме книг - давняя проблема Amazon. В 2019 году The Wall Street Journal обнаружил, что многие из них намеренно путают обложку и текст, что раздражает писателей, включая предпринимателя Тима Феррисса. "Мы вместе с некоторыми издательствами уже некоторое время пытаемся добиться их удаления", - говорит генеральный директор Гильдии авторов Мэри Расенбергер. Развитие генеративного искусственного интеллекта привело к росту индустрии спамерских резюме. "Это первый рынок, который, как мы ожидали, будет наводнен искусственным интеллектом", - говорит Расенбергер. По ее словам, эти схемы соответствуют сильным сторонам больших языковых моделей, которые отлично справляются с составлением резюме работ, которые им подают, и могут делать это быстро. Плоды такой быстрой генерации теперь часто встречаются в поиске популярных нехудожественных книг на Amazon.
По словам эксперта по издательскому делу Джейн Фридман, которая сама стала жертвой другой схемы создания книг с помощью ИИ, число резюме, продаваемых в виде электронных книг, "резко возросло". И это несмотря на то, что в сентябре Amazon ограничила авторов в выкладывании в магазин не более трех книг в день. "Сейчас часто случается так, что автор нехудожественной литературы празднует выход своей книги, а через несколько дней обнаруживает в продаже одно из таких резюме."
Писательница Сара Станкорб - один из таких авторов. Этим летом она опубликовала книгу "Непокорные женщины: как небольшая группа верных женщин разоблачила злоупотребления, свергла влиятельных пасторов и вызвала расплату евангелистов" (Disobedient Women: How a Small Group of Faithful Women Exposed Abuse, Brought Down Power Pastors, and Ignited an Evangelical Reckoning). В течение нескольких дней на Amazon появились аннотации. Одно из них, которое, как она подозревает, было основано на предварительной копии, обычно распространяемой среди рецензентов, появилось за день до выхода ее книги.
Станкорб была в ужасе. Книга "Непокорные женщины" была плодом многолетней тщательной работы. "Меня беспокоит и на многих моральных уровнях кажется неправильным вырывать сердце и чувствительность из историй", - говорит она. "А язык - такое впечатление, что они просто прогнали его через какую-то программу-тезаурус, и получилось очень странно."
Сравнивая тексты рядом, можно заметить, что подражание вопиющее. Начальная строка Станкорба: "В первые дни работы я брала интервью у мамы-предпринимателя, а после обеда изучала данные Pew Research Center о том, что американцы открещиваются от религии". Начальная строка резюме: "В первые годы своей журналистской деятельности они могли взять интервью у мамы-предпринимателя, а затем провести день, изучая статистику Pew Research Center об американцах, отказавшихся от религиозных пристрастий". Reality Defender оценил краткое содержание книги Станкорба как созданное ИИ с вероятностью 99 процентов.
Legally Blurred
Когда Митчелл узнала о своем собственном имитаторе ИИ, она написала пост на сайте X, спросив: "Это законно?". Теперь она сомневается, что сможет успешно судиться с кем-либо по этому поводу. "Мне говорили, что нельзя защитить авторским правом название книги", - говорит Митчелл. Не зная, есть ли у нее какие-либо средства защиты, она не обращалась в Amazon.
Некоторые ученые, занимающиеся вопросами авторского права, говорят, что краткое изложение является законным, если оно воздерживается от явного плагиата "слово в слово". Кристелия Гарсия, профессор права интеллектуальной собственности в Джорджтаунском университете, проводит сравнение с оригинальными блокбастерами в мире резюме: CliffsNotes, многолетней серией учебных пособий, в которых даются удобные для студентов объяснения литературы.
"CliffsNotes законны не потому, что они являются добросовестным использованием. Они законны, потому что не копируют книги. Они просто пересказывают содержание книги", - говорит Гарсия по электронной почте.
Другие эксперты в области ИС не так уверены. В конце концов, есть большая разница между CliffsNotes, которые содержат содержательный анализ книги в дополнение к ее краткому изложению и написаны людьми, и этой новой волной кратких изложений, засоряющих Amazon. "Простое краткое изложение книги труднее защитить", - говорит Джеймс Гриммельманн, профессор интернет-права в Корнельском университете. "Все равно есть существенное сходство в выборе и расположении тем и, вероятно, некоторое сходство в языке".
Разенберг из Гильдии авторов считает дело 2017 года, в котором Penguin Random House подала в суд на авторов, создавших детские издания своих книг, прецедентом, который может помочь писателям бороться с резюме, сгенерированными искусственным интеллектом. Суд постановил, что детские аннотации не являются законными, поскольку в основном посвящены пересказу историй, защищенных авторским правом.
Пока автор не подаст иск против создателя одной из этих аннотаций нового поколения, вопрос об их законности остается открытым. И хотя Amazon удалила резюме Митчелла, она не объявила о планах по активному контролю за этой волной резюме. "Мне неприятно, что это новая реальность, но для изменения политики Amazon, скорее всего, потребуется значительный и повторяющийся пиар-кошмар", - говорит Фридман.
На данный момент ничто не мешает следующему мошеннику, использующему искусственный интеллект для создания электронных книг, создать новое резюме и загрузить его завтра. "Нелепо, что Amazon, похоже, не делает ничего, чтобы остановить это, - говорит Митчелл. С другой стороны, издательская индустрия, похоже, тоже не знает, как с этим справиться. Митчелл помнит, как отреагировал ее агент, когда она написала ей о подражании ИИ: "Это просто новый мир, в котором мы живем"
.