Как работают детекторы искусственного интеллекта?

Как работают детекторы искусственного интеллекта?

Краткий ответ: детекторы на основе ИИ не «доказывают», кто написал текст; они оценивают, насколько точно отрывок соответствует известным языковым моделям. Большинство из них используют сочетание классификаторов, сигналов предсказуемости (перплексия/всплеск), стилометрии и, в более редких случаях, проверки водяных знаков. Если образец короткий, очень формальный, технический или написан автором, для которого английский не является родным языком, рассматривайте оценку как подсказку для проверки, а не как вердикт.

Основные выводы:

Вероятность, а не доказательство : рассматривайте проценты как сигналы риска, указывающие на «подобие ИИ», а не как гарантию.

Ложные срабатывания : Формальные, технические, шаблонные или написанные неносителями языка тексты часто помечаются как неправильно отнесенные к категории «неверный язык».

Сочетание методов : Инструменты объединяют классификаторы, перплексию/всплеск активности, стилометрию и нестандартные проверки водяных знаков.

Прозрачность : Предпочтение следует отдавать детекторам, которые отображают диапазоны, характеристики и неопределенность, а не только одно число.

Возможность оспаривания : Храните черновики/заметки и доказательства под рукой для разрешения споров и апелляций.

Как работают детекторы ИИ? Инфографика

Статьи, которые могут вас заинтересовать после этой:

🔗 Какой детектор искусственного интеллекта лучший?
Сравнение лучших инструментов обнаружения с помощью ИИ по точности, функционалу и сценариям применения.

🔗 Насколько надежны детекторы на основе искусственного интеллекта?
Объясняет понятия надежности, ложноположительных результатов и причины, по которым результаты часто различаются.

🔗 Может ли Turnitin обнаружить искусственный интеллект?
Полное руководство по обнаружению ИИ в Turnitin, ограничениям и лучшим практикам.

🔗 Насколько точен детектор QuillBot AI?
Подробный анализ точности, сильных и слабых сторон, а также результаты реальных испытаний.

1) Краткое описание того, что на самом деле делает детектор на основе ИИ ⚙️

Большинство детекторов ИИ не «ловят ИИ», как сеть ловит рыбу. Они делают нечто более прозаичное:

Давайте будем честны — интерфейс покажет что-то вроде «92% ИИ», и ваш мозг подумает: «Ну, похоже, это факт». Но это не факт. Это предположение модели о «отпечатках пальцев» другой модели. Что довольно забавно, как собаки, обнюхивающие собак 🐕🐕

2) Как работают детекторы на основе ИИ: наиболее распространенные «движки обнаружения» 🔍

Обычно детекторы используют один (или комбинацию) из этих подходов: ( Обзор методов обнаружения текста, сгенерированного LLM )

А) Классификационные модели (наиболее распространенные)

Классификатор обучается на размеченных примерах:

  • Образцы, написанные людьми

  • Образцы, сгенерированные ИИ

  • Иногда используются «гибридные» образцы (текст, отредактированный человеком с помощью ИИ)

Затем система изучает закономерности, которые позволяют разделить группы. Это классический подход машинного обучения, и он может быть на удивление неплохим… пока не перестанет быть таковым. ( Обзор методов обнаружения текста, сгенерированного с помощью LLM )

B) Оценка степени растерянности и «непостоянства реакции» 📈

Некоторые детекторы вычисляют, насколько «предсказуем» текст.

  • Замешательство : приблизительно, насколько языковая модель удивлена ​​следующим словом. ( Бостонский университет - Сообщения о замешательстве )

  • Низкий уровень перплексии может указывать на высокую предсказуемость текста (что может происходить с результатами работы ИИ). ( DetectGPT )

  • «Взрывность» — это показатель, позволяющий измерить степень вариативности сложности и ритма предложений. ( GPTZero )

Этот подход прост и быстр. Однако он легко может ввести в заблуждение, поскольку люди тоже умеют писать предсказуемо (привет, корпоративные электронные письма). ( OpenAI )

C) Стилометрия (отпечатки пальцев по письму) ✍️

Стилометрия изучает такие закономерности, как:

  • средняя длина предложения

  • стиль пунктуации

  • Частота служебных слов (the, and, but…)

  • разнообразие словарного запаса

  • показатели читабельности

Это как «анализ почерка», только для текста. Иногда это помогает. Иногда это как диагностировать простуду, глядя на чью-то обувь. ( Стилометрия и судебная экспертиза: обзор литературы ; Функциональные слова в атрибуции авторства )

D) Обнаружение водяного знака (если он есть) 🧩

Некоторые поставщики моделей могут внедрять едва заметные узоры («водяные знаки») в сгенерированный текст. Если детектор знает схему водяного знака, он может попытаться проверить её. ( Водяной знак для больших языковых моделей ; SynthID Text )

Но… не все модели добавляют водяные знаки, не все выходные данные сохраняют водяной знак после редактирования, и не все детекторы имеют доступ к секретному коду. Поэтому это не универсальное решение. ( О надежности водяных знаков для больших языковых моделей ; OpenAI )

3) Что делает хорошую версию детектора на основе ИИ ✅

«Хороший» детектор (по моему опыту тестирования множества таких детекторов в различных условиях редактирования) — это не тот, который кричит громче всех. Это тот, который ведет себя ответственно.

Вот что делает детектор искусственного интеллекта надежным:

  • Калиброванный уровень достоверности : 70% должно означать нечто последовательное, а не пустые рассуждения. ( Обзор методов обнаружения текста, сгенерированного LLM )

  • Низкий уровень ложных срабатываний : система не должна помечать тексты на английском языке, написанные не носителями языка, юридические тексты или технические руководства как «искусственный интеллект» только потому, что они «чистые». ( Stanford HAI ; Liang et al. (arXiv) )

  • Прозрачные ограничения : система должна признавать неопределенность и показывать диапазоны, а не притворяться всезнающей. ( OpenAI ; Turnitin )

  • Осведомленность о предметной области : детекторы, обученные на неформальных блогах, часто испытывают трудности с академическими текстами, и наоборот. ( Обзор методов обнаружения текста, сгенерированного LLM )

  • Обработка коротких текстов : хорошие инструменты позволяют избежать чрезмерно самоуверенных оценок на крошечных выборках (абзац — это не целая вселенная). ( OpenAI ; Turnitin )

  • Чувствительность к исправлениям : она должна обрабатывать текст, отредактированный человеком, без мгновенного превращения в бессмысленные результаты. ( Обзор методов обнаружения текста, сгенерированного LLM )

Лучшие из тех, что я видел, обычно довольно скромные. А худшие ведут себя так, будто читают мысли 😬

4) Сравнительная таблица — распространенные «типы» детекторов на основе ИИ и их сильные стороны 🧾

Ниже приведено практическое сравнение. Это не названия брендов — это основные категории, с которыми вы столкнетесь. ( Обзор методов распознавания текста, сгенерированного LLM )

Тип инструмента (приблизительно) Лучшая аудитория Ощущение цены Почему это работает (иногда)
Perplexity Checker Lite Учителя, быстрые проверки почти бесплатно Сигнал быстр и предсказуем, но может быть прерывистым…
Классификатор-сканер Про Редакторы, отдел кадров, отдел соответствия Подписка Изучает закономерности на основе размеченных данных — неплохо справляется с текстами средней длины
Анализатор стилометрии Исследователи, специалисты по криминалистике $$$ или ниша Сравнивает отпечатки пальцев по письму — необычный, но удобный инструмент в развернутом виде
Поиск водяных знаков Платформы, внутренние команды Часто в комплекте Отлично, когда есть водяной знак — если его нет, то это, по сути, пожатие плечами
Гибридный корпоративный пакет Крупные организации Контракты за место Объединяет несколько сигналов — лучшее покрытие, больше регуляторов для настройки (и больше возможностей для неправильной конфигурации, ой)

Обратите внимание на столбец «ощущение от цены». Да, это не научный подход. Но он откровенный 😄

5) Основные сигналы, которые ищут детекторы — «подсказки» 🧠

Вот что многие детекторы пытаются измерить, не имея под собой никаких скрытых функций:

Предсказуемость (вероятность выпадения токена)

Языковые модели генерируют текст, предсказывая вероятные следующие токены. Это обычно приводит к следующим результатам:

Люди же, напротив, часто ходят зигзагами. Мы противоречим сами себе, добавляем случайные замечания, используем слегка неуместные метафоры — например, сравниваем детектор искусственного интеллекта с тостером, который оценивает стихи. Эта метафора неудачна, но вы поняли суть.

Повторение и структурные паттерны

В текстах, написанных с помощью ИИ, могут наблюдаться едва заметные повторения:

Но также — многие люди пишут именно так, особенно в школе или на работе. Поэтому повторение — это подсказка, а не доказательство.

Излишняя ясность и «слишком чистый» стиль изложения ✨

Это довольно необычный случай. Некоторые детекторы неявно рассматривают «очень аккуратный почерк» как подозрительный. ( OpenAI )

Это неловко, потому что:

  • Хорошие писатели существуют

  • редакторы существуют

  • Проверка орфографии существует

Так что, если вы задаетесь вопросом, как работают детекторы искусственного интеллекта , часть ответа такова: иногда они поощряют грубость. Что… как-то нелогично.

Семантическая плотность и обобщенные формулировки

Детекторы могут помечать текст, который воспринимается как:

Искусственный интеллект часто создает контент, который звучит правдоподобно, но слегка отретуширован. Например, гостиничный номер, который выглядит красиво, но совершенно лишен индивидуальности 🛏️

6) Подход с использованием классификатора — как он обучается (и почему он дает сбои) 🧪

Обычно детектор-классификатор обучается следующим образом:

  1. Соберите набор данных, полученных путем анализа написанного людьми текста (эссе, статьи, сообщения на форумах и т. д.)

  2. Создание текста с помощью ИИ (различные параметры, стили, длина)

  3. Промаркируйте образцы

  4. Обучите модель для их разделения, используя признаки или эмбеддинги

  5. Проверьте это на отложенных данных

  6. Отправьте это… а потом реальность ударит вас по лицу ( Обзор методов распознавания текста, сгенерированного LLM )

Почему реальность бьет по голове:

  • Сдвиг предметной области : обучающие данные не соответствуют реальному пользовательскому тексту.

  • Изменение модели : модели нового поколения ведут себя не так, как модели в наборе данных.

  • Эффекты редактирования : ручная обработка может удалить очевидные закономерности, но сохранить едва заметные.

  • Языковые различия : диалекты, письменность на английском как втором языке и формальный стиль могут быть неправильно истолкованы ( Обзор методов обнаружения текста, сгенерированного с помощью LLM ; Лян и др. (arXiv) )

Я видел детекторы, которые «отлично» работали на демонстрационном наборе, а потом разваливались при реальной работе над текстами. Это как дрессировать собаку-ищейку только на одной марке печенья и ожидать, что она найдет все сладости в мире 🍪

7) Непонятность и прерывистость — математический приём 📉

Эта группа детекторов, как правило, основана на оценке языковых моделей:

  • Они пропускают ваш текст через модель, которая оценивает вероятность появления каждого следующего токена.

  • Они вычисляют общее «удивление» (озадаченность). ( Бостонский университет - Сообщения об озадаченности )

  • Они могут добавить метрики вариативности («импульсивность»), чтобы проверить, насколько ритм кажется человеческим. ( GPTZero )

Почему это иногда срабатывает:

  • Исходный текст, созданный с помощью ИИ, может быть чрезвычайно гладким и статистически предсказуемым ( DetectGPT ).

Почему это не работает:

  • короткие выборки шумные

  • Формальный стиль письма предсказуем

  • Техническое письмо предсказуемо

  • Письменные работы, написанные носителями других языков, могут быть предсказуемыми

  • Текст, созданный с помощью ИИ и подвергнутый сильной редактуре, может выглядеть по-человечески ( OpenAI ; Turnitin ).

Итак, принцип работы детекторов на основе ИИ иногда напоминает работу радара, который путает велосипеды и мотоциклы. Одна и та же дорога, разные двигатели 🚲🏍️

8) Водяные знаки — идея «отпечатка пальца в чернилах» 🖋️

Использование водяных знаков кажется оптимальным решением: помечать текст, созданный с помощью ИИ, во время генерации, а затем обнаруживать его позже. ( Водяной знак для больших языковых моделей ; SynthID Text )

На практике водяные знаки могут быть ненадежными:

Кроме того, обнаружение водяных знаков работает только в том случае, если:

  • используется водяной знак

  • детектор знает, как это проверить

  • Текст практически не претерпел изменений ( OpenAI ; SynthID Text )

Да, водяные знаки могут быть эффективными, но они не являются универсальным полицейским знаком.

9) Ложные срабатывания и причины их возникновения (самая неприятная часть) 😬

Это заслуживает отдельного раздела, поскольку именно здесь разгорается большинство споров.

Наиболее распространённые причины ложноположительных результатов:

  • Очень формальный тон (академический, юридический, нормативно-правовой стиль письма).

  • Для неносителей английского языка (более простые синтаксические конструкции могут выглядеть «образцово»)

  • Написание текстов по шаблонам (сопроводительные письма, мотивационные письма, лабораторные отчеты)

  • Короткие текстовые фрагменты (недостаточно сигнала)

  • Ограничения по тематике (некоторые темы требуют повторения фраз) ( Liang et al. (arXiv) ; Turnitin )

Если вы когда-нибудь видели, как кого-то помечали как автора, пишущего слишком хорошо… да, такое случается. И это ужасно.

Оценка детектора должна обрабатываться следующим образом:

  • Детектор дыма, а не вердикт суда 🔥
    Он говорит вам «возможно, проверить», а не «дело закрыто». ( OpenAI ; Turnitin )

10) Как интерпретировать результаты проверки детектором, как взрослый человек 🧠🙂

Вот практичный способ интерпретировать результаты:

Если инструмент выдает один процент

Воспринимайте это как приблизительный сигнал риска:

  • 0-30%: вероятно, создано человеком или подвергнуто серьезной редактуре

  • 30-70%: неоднозначная зона - ничего не предполагайте

  • 70-100% : более вероятно, что это признаки, схожие с действиями ИИ, но это все еще не доказательство ( Руководства Turnitin ).

Даже высокие баллы могут быть ошибочными, особенно в следующих случаях:

  • стандартизированное письмо

  • определенные жанры (резюме, определения)

  • Письменная работа на английском языке как иностранном ( Лян и др. (arXiv) )

Ищите объяснения, а не просто цифры

Более совершенные детекторы обеспечивают:

Если инструмент отказывается что-либо объяснять и просто навешивает вам на лоб цифру… я ему не доверяю. И вам тоже не следует.

11) Как работают детекторы ИИ: простая ментальная модель 🧠🧩

Если вы хотите получить чистый и полезный продукт на вынос, используйте следующую модель мышления:

  1. Детекторы на основе ИИ ищут статистические и стилистические закономерности, характерные для текста, сгенерированного машинным способом. ( Обзор методов обнаружения текста, сгенерированного с помощью LLM )

  2. Они сравнивают эти закономерности с тем, что узнали из обучающих примеров. ( Обзор методов обнаружения текста, сгенерированного с помощью LLM )

  3. Они выдают предположение, похожее на вероятность , а не фактическое описание происхождения. ( OpenAI )

  4. Предположение зависит от жанра, темы, длины, правок и обучающих данных детектора . ( Обзор методов обнаружения текста, сгенерированного LLM )

Другими словами, детекторы на основе ИИ работают, «оценивая сходство», а не авторство. Это как сказать, что кто-то похож на своего двоюродного брата. Это не то же самое, что тест ДНК… и даже в тестах ДНК бывают исключения.

12) Практические советы по уменьшению количества случайных отметок (без игр) ✍️✅

Речь идёт не о том, «как обмануть детекторы». Скорее, о том, как писать так, чтобы это отражало подлинное авторство и избегало странных неверных прочтений.

  • Добавьте конкретные детали: названия концепций, которые вы фактически использовали, предпринятые шаги, рассмотренные вами компромиссы

  • Используйте естественные вариации: сочетайте короткие и длинные предложения (как это делают люди в процессе мышления)

  • Укажите реальные ограничения: временные рамки, используемые инструменты, что пошло не так, что бы вы сделали по-другому

  • Избегайте шаблонных формулировок: замените «Кроме того» на то, что вы бы сказали в реальности

  • Сохраняйте черновики и заметки: в случае возникновения спора процессуальные доказательства важнее интуиции

По правде говоря, лучшая защита — это просто… быть искренним. Несовершенно искренним, а не таким, как в «рекламном буклете».

Заключительные слова 🧠✨

Детекторы на основе ИИ могут быть полезны, но они не являются машинами истины. Это средства сопоставления шаблонов, обученные на несовершенных данных и работающие в мире, где стили письма постоянно пересекаются. ( OpenAI ; Обзор методов обнаружения текста, сгенерированного LLM )

Вкратце:

  • Детекторы используют классификаторы, перплексию/импульсивность, стилометрию, а иногда и водяные знаки 🧩 ( Обзор методов обнаружения текста, сгенерированного LLM )

  • Они оценивают «сходство с ИИ», а не степень достоверности ( OpenAI ).

  • Ложные срабатывания часто встречаются в формальном, техническом или неродном языке 😬 ( Liang et al. (arXiv) ; Turnitin )

  • Используйте результаты проверки детектором как подсказку для анализа, а не как окончательный вердикт ( Turnitin ).

И да… если кто-то снова спросит, как работают детекторы на основе ИИ , вы можете ответить: «Они делают предположения, основываясь на закономерностях — иногда умные, иногда глупые, всегда ограниченные». 🤖

Часто задаваемые вопросы

Как на практике работают детекторы на основе искусственного интеллекта?

Большинство детекторов на основе ИИ не «доказывают» авторство. Они оценивают, насколько ваш текст похож на шаблоны, обычно создаваемые языковыми моделями, а затем выдают оценку, похожую на вероятность. В основе их работы могут лежать модели классификации, оценка предсказуемости в стиле перплексии, стилометрические признаки или проверка водяных знаков. Результат лучше рассматривать как сигнал риска, а не как окончательный вердикт.

Какие сигналы ищут детекторы искусственного интеллекта в письменном тексте?

К распространенным признакам относятся предсказуемость (насколько модель «удивлена» вашими следующими словами), повторение в структуре предложений, необычно последовательный темп и общие фразы с низким уровнем конкретных деталей. Некоторые инструменты также анализируют стилометрические маркеры, такие как длина предложений, привычки пунктуации и частота служебных слов. Эти признаки могут совпадать с особенностями человеческого письма, особенно в формальном, академическом или техническом жанрах.

Почему детекторы ИИ распознают человеческий почерк как написанный искусственным интеллектом?

Ложные срабатывания происходят, когда человеческий текст выглядит статистически «гладким» или шаблонным. Формальный тон, формулировки в стиле «соответствия», технические пояснения, короткие примеры и английский язык, для которого английский не является родным, могут быть ошибочно восприняты как написанный искусственным интеллектом, поскольку они уменьшают вариативность. Именно поэтому чистый, хорошо отредактированный абзац может получить высокий балл. Детектор сравнивает сходство, а не подтверждает происхождение.

Насколько надежны детекторы перплексии и «всплесков»?

Методы, основанные на оценке сложности текста, могут работать, когда текст представляет собой необработанный, легко предсказуемый результат работы ИИ. Но они ненадежны: короткие фрагменты содержат много шума, а многие общепризнанные жанры человеческого текста предсказуемы по своей природе (резюме, определения, корпоративные электронные письма, руководства). Редактирование и доработка также могут существенно изменить оценку. Эти инструменты подходят для быстрой оценки, а не для принятия важных решений.

В чём разница между классификаторами-детекторами и стилометрическими инструментами?

Детекторы-классификаторы обучаются на размеченных наборах данных, содержащих текст, написанный человеком, текст, написанный искусственным интеллектом (а иногда и гибридный), и предсказывают, к какой категории больше всего относится ваш текст. Инструменты стилометрии фокусируются на «отпечатках» текста, таких как закономерности выбора слов, служебные слова и сигналы читабельности, которые могут быть более информативными при анализе длинных текстов. Оба подхода страдают от смещения предметной области и могут испытывать трудности, когда стиль письма или тема отличаются от обучающих данных.

Решают ли водяные знаки проблему обнаружения с помощью ИИ раз и навсегда?

Водяные знаки могут быть эффективными, если модель их использует, и детектор знает схему водяного знака. В реальности не все поставщики используют водяные знаки, и распространенные преобразования — перефразирование, перевод, частичное цитирование или смешивание источников — могут ослабить или нарушить закономерность. Обнаружение водяных знаков эффективно в тех редких случаях, когда вся цепочка совпадает, но это не обеспечивает универсального охвата.

Как следует интерпретировать показатель «X% ИИ»?

Рассматривайте один процентный показатель как приблизительный индикатор «подобия ИИ», а не как доказательство авторства ИИ. Средние значения особенно неоднозначны, и даже высокие баллы могут быть неверными в стандартизированных или формальных текстах. Более совершенные инструменты предоставляют пояснения, такие как выделенные фрагменты текста, примечания к признакам и формулировки, указывающие на неопределенность. Если детектор не может объяснить себя сам, не следует считать число авторитетным.

Что делает детектор с искусственным интеллектом подходящим для использования в школах или редакционных процессах?

Надежный детектор откалиброван, минимизирует ложные срабатывания и четко отображает пределы обнаружения. Он должен избегать чрезмерно самоуверенных заявлений на коротких выборках, обрабатывать различные области (академическая, блоговая и техническая) и оставаться стабильным при редактировании текста человеком. Наиболее ответственные инструменты ведут себя скромно: они предоставляют доказательства и неопределенность, а не действуют как телепаты.

Как уменьшить количество случайных срабатываний ИИ, не "обходя" систему?

Сосредоточьтесь на подлинных признаках авторства, а не на уловках. Добавляйте конкретные детали (предпринятые шаги, ограничения, компромиссы), естественно меняйте ритм предложений и избегайте чрезмерно шаблонных переходов, которые вы обычно не используете. Сохраняйте черновики, заметки и историю правок — доказательства процесса часто важнее, чем оценка «детектора ошибок» в спорах. Цель — ясность с индивидуальностью, а не безупречная брошюрная проза.

Ссылки

  1. Ассоциация вычислительной лингвистики (ACL Anthology) - Обзор методов обнаружения текста, сгенерированного LLM - aclanthology.org

  2. OpenAI — новый классификатор ИИ для маркировки текста, написанного ИИ — openai.com

  3. Руководства Turnitin — Обнаружение написанного текста с помощью ИИ в классическом режиме просмотра отчетов — guides.turnitin.com

  4. Turnitin Guides - модель распознавания текста на основе ИИ - guides.turnitin.com

  5. Turnitin — Анализ ложных срабатываний в наших возможностях распознавания текста с помощью ИИ — turnitin.com

  6. arXiv - DetectGPT - arxiv.org

  7. Бостонский университет - Perplexity Posts - cs.bu.edu

  8. GPTZero - Растерянность и всплеск активности: что это? - gptzero.me

  9. PubMed Central (NCBI) - Стилометрия и судебная медицина: обзор литературы - ncbi.nlm.nih.gov

  10. Ассоциация вычислительной лингвистики (ACL Anthology) - Функциональные слова в атрибуции авторства - aclanthology.org

  11. arXiv — Водяной знак для больших языковых моделей — arxiv.org

  12. Искусственный интеллект Google для разработчиков - SynthID Text - ai.google.dev

  13. arXiv - О надежности водяных знаков для больших языковых моделей - arxiv.org

  14. OpenAI — Понимание источника того, что мы видим и слышим в интернете — openai.com

  15. Stanford HAI - Детекторы на основе ИИ, предвзято относящиеся к авторам, для которых английский не является родным языком - hai.stanford.edu

  16. arXiv - Liang et al. - arxiv.org

Найдите новейшие разработки в области ИИ в официальном магазине ИИ-помощников

О нас

Вернуться в блог