Когда детектор путает человека и ИИ
Детекторы путают человека и нейросеть чаще, чем хочется. Для инструмента, который меряет стиль, это в порядке вещей. Нас самих это зацепило: статья, написанная человеком, получила высокую оценку «ИИ», а текст нейросети детектор принял за более человеческий.
Что случилось
Владелец сервиса прогнал через проверку свою статью, которую писал без всякой нейросети. Результат: высокий процент «ИИ». Потом взял текст, который нейросеть сочинила по свободной просьбе, и получил «скорее человек».
Первая мысль была простая: инструмент сломался. Вторая оказалась точнее: он просто упёрся в свои пределы.
Это не исключение
Мы мерили на русском, украинском, португальском и английском. Доля машинных текстов выше порога сильно зависела от сервиса: где-то 20%, где-то 90%. Среди аккуратных новостей, написанных людьми, на русском и украинском высокую оценку получала примерно треть.
Порог один и тот же, а одних он ловит, других пропускает.
На большом корпусе цифры такие. Площадь под кривой ROC около 73%, то есть различает инструмент так себе. Если разрешить 1% ложных срабатываний, находится примерно 14% машинных текстов, при 5% - около 29%. С новостями всё совсем плохо: при пороге в 5% высокую оценку получают около 15% новостей, написанных людьми. А современные модели обходят наши признаки лучше, чем первые веб-чаты.
Почему так бывает
Детектор смотрит на стиль: ровный ритм, привычные обороты, никаких шероховатостей. Человек, который долго вычитывает статью, как раз и выглаживает её до такого состояния. А нейросеть, которой сказали писать проще и неформальнее, добавляет «живости». Стилю всё равно, кто его сделал. Бывают и смешанные случаи. Текст человека, который потом поправила модель, в нашем замере почти не отличается от обычного: при 1% ложных срабатываний он помечается в 0,0% случаев. Так что мы говорим о «доле признаков генерации», а не о «проценте ИИ».
А пересказ машинного текста находится не хуже оригинала. Вот так.
Что это значит для тех, кто пишет
Страх перед ярлыком вполне настоящий. Люди начинают бояться собственной аккуратности.
Упрощают текст, нарочно пишут небрежнее, лишь бы не нарваться на ярлык. Студентам, фрилансерам и тем, кто пишет не на родном языке, достаётся чаще других. Но хороший текст не должен становиться поводом для обвинений.
Как к этому относиться
Оценка - повод перечитать текст, а не приговор. Если нужно доказать, что текст ваш, надёжнее показать, как он рождался: черновики, историю правок, заметки. Наш сервис старается не выносить вердикт, а показывать, насколько он сам не уверен, и указывать места, которые можно поправить.
Что делать, если обвинили вас
Допустим, вы написали текст сами, а проверка выдала высокий результат. Не спорьте на эмоциях, соберите то, что подтверждает вашу работу: черновики, историю версий в редакторе, заметки, список источников. Потом откройте список находок. Там видны конкретные строки, скажем абзацы почти одной длины и типовые обороты. Порой хватает переписать два-три таких места своими словами. Заодно поймёте, откуда взялся сигнал, и сможете объяснить это проверяющему. Это куда убедительнее, чем просто твёрдое «я писал сам».
А если проверяете чужой текст, помните: один порог ошибается в обе стороны. Высокая оценка может значить лишь то, что автор долго редактировал.
Низкая не гарантирует, что писал человек.
Почему сервисы спорят друг с другом
Закиньте один текст в три детектора, и ответов будет три. Причина проста: у каждого свои признаки, свои пороги и свой корпус для настройки. Один смотрит прежде всего на предсказуемость слов, другой на ритм предложений, третий на набор оборотов. Расхождение - не промах одного из них, а знак того, что сигнал слабый. Если сервисы сошлись, это чуть надёжнее.
Но и тогда это не доказательство.
Что делать дальше
- Если вы автор: храните черновики и историю версий, а текст проверьте в анализаторе, чтобы увидеть, какие места выглядят слишком ровно.
- Если проверяете чужой текст: пройдите по честному чек-листу для учителя и редактора и сначала поговорите с автором.
- Если хотите разобраться в причинах ошибок глубже, читайте Почему современные детекторы ИИ ошибаются, а о том, как устроены сами проверки, - обзор способов.