Как писателям доказать, что они не использовали ИИ: помогут ли цифровые «следы»?

У писательницы Бартц есть и юридическая известность: она была ведущей истицей в коллективном иске против Anthropic. В иске утверждалось, что компания скачала с пиратских сайтов миллионы защищённых авторским правом книг, чтобы использовать их для обучения своих моделей. В прошлом году Anthropic согласилась выплатить 1,5 миллиарда долларов — это крупнейшее в истории США соглашение об урегулировании спора об авторских правах.

Бартц и многие другие писатели опасались, что их произведения присваивают, но тем временем возникла ещё одна угроза, связанная с ИИ. Что происходит, когда уже самих авторов обвиняют в использовании искусственного интеллекта?

Издательская индустрия столкнулась с этим в марте. После того как в соцсетях широко распространились предположения, что роман ужасов «Застенчивая девушка» (Shy Girl) в значительной степени создан с помощью ИИ, а также вышла статья о выдвинутых обвинениях, издательство Hachette Book Group отменило запланированный выпуск книги в США и прекратило её распространение в Великобритании, где она уже поступила в продажу. По оценке Pangram — мощного, но отнюдь не безошибочного инструмента обнаружения ИИ-текста, — около 78% текста было сгенерировано искусственным интеллектом.

Автор романа Миа Баллард отрицает, что использовала ИИ для его написания. По её словам, изменения с применением ИИ в ранее самостоятельно опубликованную версию книги внёс редактор. Баллард также заявила, что намерена обратиться в суд. После этого скандала ещё несколько авторов художественной литературы столкнулись с подозрениями в использовании ИИ: один — после победы в конкурсе короткого рассказа, другой — после того, как издатели предложили за его детективный роман многомиллионные суммы. Оба тоже отвергли обвинения.

Бартц отмечает: когда обвинения уже прозвучали, ущерб нанесён. По её словам, когда разгорелся скандал вокруг «Застенчивой девушки», она «почти сразу почувствовала, что это может привести к охоте на ведьм». Неизбежное проникновение ИИ в издательское дело, объясняет она, «приведёт к тому, что любой сможет обвинить любого в использовании ИИ», а у авторов пока мало возможностей защититься от таких обвинений. «Нет единого согласованного стандарта», — говорит Бартц о том, как подтвердить, что текст написан человеком.

Разработчики множества новых программных инструментов надеются изменить ситуацию. Платформы Workings, Blindproof, Wintertext, Human Ink и ObraVera обещают фиксировать и документировать процесс работы автора. Некоторые из них шифруют и снабжают уникальными кодами текст или ритм набора, чтобы создать запись об авторстве — полностью человеческом или с участием ИИ. Идея не только в том, чтобы оставить цифровой след, на который писатель сможет сослаться, если его спросят об использовании большой языковой модели (LLM). Такие инструменты могут также помочь подтвердить происхождение текста, если его, например, без указания автора или других идентифицирующих метаданных скопируют в набор данных для обучения ИИ.

Мэри Разенбергер, генеральный директор профессиональной организации Authors Guild, выступающей за свободу слова и защиту авторских прав, говорит, что организация не может рекомендовать какой-то один инструмент вместо остальных. Однако писателям важно знать, что такие средства существуют и могут стать своего рода страховкой. По словам директора Authors Guild по вопросам политики и защиты интересов Умайра Кази, многие компании обращались в организацию с предложениями своих услуг.

В то же время, говорит Разенбергер, необходимость доказывать свою невиновность — это «оскорбительно» и «обременительно», а авторам, по её мнению, «не следует требовать» сохранять подтверждения процесса работы.

«Если вы продаёте свои слова, свой голос, своё воображение и творчество, использовать ИИ бессмысленно», — говорит Разенбергер. Она отмечает, что гордость авторов за собственные произведения означает: созданные ИИ низкокачественные тексты в издательском деле встречаются гораздо реже, чем можно было бы подумать. «Я разговаривала с редакторами, особенно с редакторами литературного нон-фикшена и художественной литературы, — рассказывает она. — Некоторые говорят: “Я никогда не вижу рукописей, созданных ИИ. Я бы сразу заметил, если бы увидел такую”».

Разенбергер опасается, что писатели оказались в атмосфере недоверия. По её словам, им следует «воздерживаться от обвинений в адрес других авторов, потому что это не способствует здоровой литературной среде». Она также предостерегает от чрезмерной веры в инструменты обнаружения ИИ: их можно обмануть, и они могут давать ложноположительные результаты. Pangram заявляет, что при проверке художественных текстов доля ложных срабатываний у сервиса составляет 0,01% — это, по утверждению компании, лучший показатель в отрасли. Однако, говорит Разенбергер, Authors Guild «известно о множестве случаев, когда люди загружали в Pangram собственные тексты, написанные человеком, и получали результат, что их сгенерировал ИИ». По её словам, есть разные факторы, из-за которых «детектор может решить, что текст создан ИИ, хотя это не так».

Но и приложение, отслеживающее процесс написания, не даёт полной гарантии: в гонке вооружений между разработчиками ИИ и создателями инструментов защиты постоянно возникают новые уязвимости и способы их устранить.

«Мы предлагаем продукт, который отслеживает работу в Google Docs, и многие пользователи считают его полезным, — говорит Макс Сперо, сооснователь и генеральный директор Pangram. — Но инструменты, создающие “цифровой след”, не решают все проблемы. Например, кто-то может вручную перепечатать текст ИИ или воспользоваться программой для автоматического набора».

По словам Сперо, дополнительные трудности связаны с тем, как в действительности пишут книги. «Средний автор не садится и не печатает книгу от начала до конца, — говорит он. — Он работает с несколькими файлами, пересылает черновики туда и обратно, записывает голосовые заметки на ходу. Инструменты отслеживания процесса письма фиксируют не всё это».

При этом такие инструменты могут быть скорее предназначены для защиты авторских прав, чем для подтверждения того, что произведение написано человеком или с помощью ИИ. Брейди Ридгвей, технический основатель ObraVera, говорит, что его платформа криптографически «отпечатками» фиксирует особенности текста и голосовых записей. Сервис предназначен для отслеживания повторного использования материалов, сохранённых в его базе данных зарегистрированным пользователем-человеком.

Если материал появится где-то, где его не должно быть, или кто-то другой заявит на него права, объясняет Ридгвей, временная метка и криптографический хеш позволят найти его в базе и сказать: «Эти слова были созданы в такое-то время таким-то человеком».

Это может подтвердить происхождение и принадлежность текста, говорит Ридгвей, но зарегистрированный пользователь сам указывает, применял ли он ИИ при его создании. Он вспоминает скандал в мае вокруг автора, которого обвинили в том, что он победил в конкурсе короткого рассказа Commonwealth с текстом, созданным ИИ. «Все, кажется, согласны, что именно этот человек отправил рассказ, — говорит Ридгвей. — На этом возможности программы и заканчиваются. Она покажет, что в такой-то день кто-то заявил: текст написан только человеком или создан без помощи ИИ». Но подтвердить правдивость этого заявления она не может.

Некоторые считают, что вводить системы проверки авторства человека просто непрактично, а возможно, вскоре в них и вовсе не будет необходимости. Писательница и эксперт по издательскому бизнесу Джейн Фридман недавно написала в своей отраслевой рассылке The Bottom Line, что скандалы вокруг ИИ, вероятно, быстро сойдут на нет: детекторы вроде Pangram совершенствуются. Кроме того, по её словам, авторы уже увидели, что может случиться, если выдать текст, созданный ИИ, за собственный.

Фридман считает, что литературные агенты и издатели вряд ли станут внедрять проверку авторства, если она «потребует дополнительных денег или времени». К тому же их будет невозможно убедить принять единый стандарт. «Добиться согласия по этому вопросу будет всё равно что пасти кошек, — говорит она. — Издательская отрасль медленно осваивает новые технологии, особенно те, что разработаны за её пределами».

Даже если издатели с разными потребностями и ресурсами договорятся о некой системе подтверждения авторства, останутся препятствия. Фридман указывает на сложности интеграции такого стандарта в существующие производственные процессы и на сохраняющуюся проблему «поддельных или изменённых» сертификатов. «Если всё это требует дополнительных денег или времени, забудьте», — заключает она. Авторы могут быть готовы платить за спокойствие, но, говорит Фридман, они не смогут быть уверены, что агенты и издатели примут подтверждение авторства из любого приложения.

Пока ясного решения нет, писателям приходится защищаться самостоятельно. Бартц тревожит, насколько резко читатели реагируют на возможность быть обманутыми ИИ. «Я слышала о случаях, когда книги заваливали негативными отзывами на Goodreads, потому что незнакомому человеку показалось, будто текст звучит как ИИ, а остальные подхватили это, — говорит она. — Я видела, как читатели пишут: “Я не буду читать ничего, опубликованного после 2022 года, — так я точно буду знать, что там нет генеративного ИИ”. Это отличный способ одним махом обрушить целую отрасль».

В будущей книге Бартц, «Удалите свой аккаунт» (Delete Your Account), выход которой намечен на 2027 год, генеративный ИИ становится одной из центральных тем. Героиня — писательница, у которой наступил творческий кризис. Она выбирает неудачный короткий путь и просит чат-бота с ИИ подражать её любимому триллеру, но в итоге сама оказывается заперта внутри оригинальной истории и сталкивается с неминуемой смертью.

Бартц задаётся вопросом, не поставила ли её в уязвимое положение сама попытка высмеять ИИ. «Я написала фрагменты, которые должны звучать как текст большой языковой модели, — говорит она. — Придуманные мной расшифровки разговоров и раздражающие рекламные материалы вымышленной ИИ-компании. И я не знаю: если что-то из этого сочтут написанным ИИ, что мне делать?»