Представлен принципиально новый детектор текстов ИИ
На редакторов журналов, прежде всего научных, обрушилась лавина нейрослопа. Чтобы отфильтровать написанные искусственным интеллектом тексты, применяются программы-детекторы. Надежность их невысока — к помощи ИИ сейчас прибегают многие вполне добросовестные авторы. В разумных, конечно, пределах, а детектор выносит приговор: фейк!
Авторы новой разработки, описанной в препринте на arXiv, утверждают, что нашли решение. Их система под названием IdeaLens проверяет авторство не слов, составляющих текст, а идей в его основе.
IdeaLens работает так: документ преобразуется в подробный план без сохранения исходных формулировок, затем анализируется структура и содержание этих идей в поисках характерных маркеров ИИ. Pangram и другие детекторы ИИ-текста изучают лишь закономерности в словах и фразах документа.
В тестах IdeaLens выдавал оценки, заметно отличающиеся от вердиктов нынешних детекторов ИИ-текста. В одном эксперименте, например, LLM написала тексты по планам, составленным человеком. Pangram забраковал 92% из них, сочтя синтетикой, IdeaLens — только 7%. В другом опыте человеческие тексты «причесали» с помощью ИИ. Pangram признал живое авторство за 44% из них, IdeaLens — 95%. В определении полностью искусственного контента детекторы примерно равны.
IdeaLens обучен на более чем 800 000 длинных документов восьми типов, включая научные, художественные и научно-популярные тексты. Каждый был классифицирован Pangram как созданный преимущественно ИИ или человеком. Затем с помощью больших языковых моделей для каждого документа сгенерировали план, определявший набор риторических элементов, характерных для данного типа документа; например, в научной статье план выделял ее тезис, аргументацию и доказательства. После этого ИИ извлекал из документа фрагменты, соответствующие этим элементам, и перефразировал их, чтобы не заносить в план слова, которые IdeaLens мог бы сразу опознать как написанные ИИ. Таким образом были выявлены систематические различия между планами, которые IdeaLens отнес к созданным ИИ или человеком.
IdeaLens далеко не идеал, признают его разработчики. Во-первых, они не проверяли, действительно ли документы для обучения были написаны человеком или ИИ, и не создавали собственный набор данных обоих типов для контролируемого тестирования. Во-вторых, IdeaLens не сталкивался с типом гибридного документа, который становится все более распространенным в науке, — смесью идей и текста, созданных человеком и машиной. Такие гибриды возникают, например, когда ученый с помощью чат-бота итеративно уточняет идею или рукопись.
Задумка хорошая, но подлежит доработке, считает Марийке ван Власселаер из Бизнес-школы Сольве, изучавшая детекторы ИИ-текста.
«Вопрос о том, чья идея — человека или ИИ, — редко бывает черно-белым. Мы, люди, сами порой не можем знать, что вызвало ту или иную идею», — говорит она.
IdeaLens могли бы применять не только редакторы, но и авторы — чтобы понимать, какую роль сыграл ИИ в их произведении, полагает один из разработчиков Ришант Раджендран из Мэрилендского университета. Инструмент доступен бесплатно, любой может прогнать через него свое творение.
«Мы хотим побудить людей использовать ИИ более осознанно для писательских задач. Ничто не заменит человеческую интуицию и человеческое озарение», — заключил исследователь.
