Как понять, что книга написана нейросетью: проверка
Как понять, что книга написана нейросетью: проверить издание, текст и источники. Что может узнать читатель и почему детектор не доказывает происхождение книги.
Д
Денис
Продакт LibraChat
7 мин чтения
Надёжно ответить по одному стилю обычно нельзя. Когда я пытаюсь понять, что книга написана нейросетью, сначала уточняю сам вопрос: создан ли машиной основной текст, использовался ли автоматический перевод, сгенерирована ли обложка? Одна яркая иллюстрация ничего не рассказывает о происхождении остальных страниц. А фраза «автор использовал ИИ» может описывать и целую главу, и помощь с исправлением опечаток.
У читателя мало сведений о процессе работы. Есть карточка магазина, ознакомительный фрагмент, данные издателя и сама книга. Обычно нет ранних рукописей, записи разговора с редактором и доступа к рабочему компьютеру автора. Поэтому я разделяю две задачи: выяснить подтверждённые сведения об участии ИИ и решить, заслуживает ли содержание моего внимания.
Какие сведения о книге можно проверить до чтения?
Начинаю с конкретного издания. Сверяю название, автора, издателя, год и переводчика, если книга переводная. У разных выпусков могут отличаться оформление и перевод. Заявление о новой обложке нельзя автоматически переносить на текст прежнего издания. Мне нужна та версия, которую я собираюсь читать.
Дальше ищу не впечатления о манере автора, а его собственное объяснение процесса. Это может быть предисловие, примечание издателя или интервью, где назван способ работы. Я обращаю внимание на точные слова. «Использовал для поиска идей» и «создал главы по запросам, затем отредактировал» описывают разные вмешательства.
Для начала достаточно проверить:
Есть ли в книге или официальном описании прямое заявление об использовании ИИ.
Уточнено ли, относится оно к тексту, переводу, иллюстрациям или оформлению.
Совпадает ли указанное издание с тем, которое лежит передо мной.
Можно ли открыть первичное сообщение автора или издателя, а не только чужой пересказ.
Есть ли публичный адрес для вопроса о подготовке книги.
Отсутствие такого заявления оставляет вопрос открытым. Это не признание и не сертификат ручной работы. Также я не делаю вывод по отсутствию большой биографии: начинающий автор может ещё не иметь сайта и интервью. Проверяемое противоречие полезнее, чем подозрение из-за малого числа поисковых результатов.
Обязана ли карточка магазина сообщать о нейросети?
Единого правила для всех площадок я бы не предполагал. Например, в официальных правилах Amazon KDP отдельно различаются созданное ИИ содержание и помощь ИИ при работе человека. О созданных машиной тексте, изображениях или переводе издатель должен сообщить платформе; для вспомогательного использования такого требования там нет. Это описание процесса KDP, а не обещание видимой покупателю отметки на каждой странице товара.
Для читательского решения мне нужно выяснить, какие сведения действительно доступны снаружи. Если продавец пишет «сделано автором», я смотрю, что именно он имеет в виду и относится ли фраза к этому выпуску. Само наличие карточки в известном магазине не раскрывает историю каждого абзаца.
Вопрос издателю лучше сделать коротким и предметным: «В издании с таким названием и годом применялась ли генерация основного текста или автоматический перевод? В примечании указан ИИ для иллюстраций; относится ли это только к ним?» Ответ на такой вопрос информативнее общей просьбы подтвердить, что книга «настоящая».
Я сохраняю сам ответ и его границы. Если издатель рассказал об обложке, про перевод я пока ничего не узнал. Если ответа нет, не дописываю его за человека. Для выбора книги допустимо оставить происхождение неопределённым и перейти к содержанию.
Какие странности стоит заметить внутри книги?
Возьмём условную популярную книгу об истории портового города. В одной главе мост появился до описанного наводнения, в другой — построен после него. Такое расхождение полезно выписать с номерами страниц. Оно указывает на необходимость фактической проверки, но не сообщает, какой инструмент использовал автор.
Я смотрю на книгу целиком, насколько позволяет доступный фрагмент. Сохраняются ли имена, даты, термины? Продвигается ли рассказ или главы возвращаются к одному общему обещанию? Можно ли найти перечисленные источники и понять, какие утверждения они поддерживают? Эти вопросы помогают оценить издание даже тогда, когда происхождение текста так и останется неизвестным.
Что заметил читатель · Какой вывод обоснован · Какого вывода пока нет
Дата моста различается в двух главах — В тексте есть несогласованность — Что её обязательно создала нейросеть
Ссылка ведёт не к указанной работе — Библиографию нужно уточнить — Что все остальные источники выдуманы
Несколько глав повторяют один тезис — Материал может быть слабо отредактирован — Что повторение доказывает машинное авторство
Автор прямо описал генерацию главы — Есть его заявление о конкретной части — Что таким же способом написана вся книга
Обложка заявлена как сгенерированная — Известно происхождение оформления — Что текст тоже получен генерацией
Библиографию проверяю не только по похожему названию. У работы должны совпасть автор, название и данные публикации; затем полезно найти нужное место. Реально существующая книга может быть указана рядом с утверждением, которого в ней нет. Сам список литературы ещё не связывает вывод с доказательством.
Там, где речь о художественном вымысле, задача другая. Ошибка в имени героя или забытая сюжетная линия говорят о внутренней связности, а не о достоверности исторического факта. Я не предъявляю роману требования документального исследования, если он себя таким не объявляет. Но обещания автора и то, что получает читатель, всё равно можно сопоставить.
Поможет ли загрузить страницы в ИИ-детектор?
Я не стал бы превращать число из детектора в заключение об авторе. Производитель Turnitin прямо признаёт возможность ошибочного определения и требует человеческой оценки при использовании результата. Это ограничение его инструмента; оно не даёт измеренной точности для русской книги, которую я держу в руках.
Ещё меньше оснований просить обычный чат: «Ты написал эту книгу?» У него нет доступа к рабочей истории неизвестного автора. Уверенный ответ без таких данных не становится расследованием. Я лучше поручил бы помощнику небольшую проверяемую часть чтения.
Для доступного ознакомительного фрагмента подойдёт такое задание:
Прочитай приведённый отрывок. Выпиши утверждения, для которых нужен внешний источник, и внутренние противоречия, если они есть. Для каждого приведи соответствующие слова из отрывка и сформулируй вопрос для проверки. Не определяй автора и не оценивай вероятность использования нейросети. Границы разбора — только процитированные страницы, без предположений о содержании остальных глав.
Такой разбор можно попробовать в LibraChat. Его предложения я сравню с самим фрагментом: помощник тоже способен неверно понять связь событий. Возможности текстовой работы описаны на странице сервиса, но решение о происхождении книги не следует из способности разобрать её абзац.
Мой порядок действий после ответа простой:
Проверить, действительно ли указанная фраза есть в доступном фрагменте.
Найти первичный источник для важного утверждения или отметить, что пока не нашёл его.
Отделить найденную ошибку от предположения о способе написания.
Решить, нужен ли вопрос издателю и стоит ли продолжать чтение.
Что делать, если достоверного ответа так и нет?
Иногда честный результат звучит так: «Про участие ИИ не знаю; нашёл две ошибки и не могу проверить основные ссылки». Этого достаточно, чтобы отложить покупку или выбрать другую книгу. Для такого решения не требуется доказывать, кто нажимал клавиши. Возможен и обратный случай: участие генератора объявлено, а содержание тщательно проверено и подходит моей задаче.
Если ты принимаешь текст у исполнителя и можешь обсуждать черновики, понадобятся другие сведения. Этот рабочий случай разобран в статье о том, как проверить происхождение текста. Покупатель книги не обязан получать доступ к личному процессу автора, чтобы оценить доступный материал.
Попробуй прямо сейчас проверить одно утверждение из ознакомительного фрагмента книги. Найди его основание, а рядом запиши, что именно известно об участии ИИ. Две отдельные записи помогут принять решение без громкого обвинения, для которого у читателя может не быть достаточных данных.
