Как работает проверка фото на ИИ

01 / Что внутри проверки

Что проверяем

Мы анализируем изображение несколькими способами. Одни ищут признаки в пикселях, другие читают данные о создании и обработке файла.

02 / Читаем отчёт

Как читать результат проверки фото на ИИ

Открыть пример отчёта — посмотрите, где находятся итог, основания вывода и подробные результаты проверок.

1. Посмотрите, на чём основан вывод. Модель нашла признаки генерации? В файле есть название редактора? Найдены данные с цифровой подписью? Это разные результаты.
2. Посмотрите, какие проверки выполнены. «Не найдено» означает, что проверка прошла, но не нашла нужных признаков. Статусы «Проверка недоступна» и «данных недостаточно» означают, что по этой проверке нельзя сделать вывод.
3. Прочитайте пояснения. Посмотрите, согласны ли модели друг с другом и есть ли предупреждения о формате, сжатии или другой обработке файла.

03 / На практике

Что означают результаты

Разберём три условных примера. Они показывают, как читать отчёт, а не насколько точен детектор.

04 / Ограничения

Почему детектор ИИ может ошибаться

Ошибка возможна в обе стороны: детектор может найти признаки ИИ в настоящей фотографии или не заметить их в сгенерированном изображении. Высокий балл сам по себе не доказывает генерацию, а низкий не подтверждает подлинность.

• Скриншоты и пересылка. Скриншот не сохраняет исходные метаданные. При пересылке сервисы также могут удалить их или сжать изображение.
• Сжатие, обрезка и изменение размера. После такой обработки модели могут оценить изображение иначе, чем оригинал.
• Новые генераторы и необычные изображения. Детекторы могут пропустить незнакомые признаки генерации или ошибочно принять особенности обычного изображения за следы ИИ.
• Изменение отдельного участка. Общая оценка может не отражать небольшую правку. Если в отчёте есть экспериментальная карта подозрительных областей, она показывает, куда стоит присмотреться. Подсветка не доказывает, что этот участок изменили.
• Недоступная проверка. Не каждый метод подходит для любого файла. Отдельная модель или внешний сервис также могут быть недоступны — это отмечается в отчёте.

Что делать, если детекторы дают разные результаты?

Не выбирайте только самый высокий балл и не усредняйте оценки вручную. Модели могут реагировать на разные особенности файла и ошибаться одновременно. Сравните их пояснения, выполненные проверки и сведения о происхождении; по возможности проверьте оригинал вместо скриншота.

Одна удачная или ошибочная проверка не показывает точность детектора на других изображениях. Ниже объясняем, как сравнивать результаты и какие данные нужны для оценки качества.

05 / Повторная проверка

Как сравнить оригинал и обработанную копию

Используйте файл, происхождение которого вам известно и который вы вправе загрузить. Этот протокол помогает исследовать конкретный случай; он не измеряет общую точность сервиса.

1. Сохраните оригинал без изменений. Запишите источник, формат, размеры в пикселях и размер файла. Для точного сопоставления файлов можно дополнительно сохранить контрольную сумму SHA-256.
2. Проверьте оригинал. Зафиксируйте дату, итог, отдельные оценки, сведения о происхождении и недоступные проверки. Сохраните названия и версии моделей, если они указаны в подробностях; если версия не показана, отметьте это.
3. Измените только одно условие. Например, создайте JPEG-копию с известным качеством сжатия. Запишите программу и параметры экспорта. Не заменяйте оригинал и не смешивайте сжатие, обрезку и скриншот в одном сравнении.
4. Проверьте копию и сопоставьте основания. Отдельно сравните оценки моделей, метаданные, C2PA и доступность проверок. Разница баллов после экспорта не доказывает, что в изображение добавили ИИ.

Обновление моделей или изменение доступности проверок тоже может повлиять на результат. Сравнение без сведений о версиях имеет это ограничение. Сохраняйте свои записи: временное задание в сервисе не является постоянным архивом отчётов.

06 / Проверяемость

Что известно о точности

На этой странице не опубликована репрезентативная проверочная выборка с измеренными ошибками для всех поддерживаемых типов изображений. Поэтому мы не заявляем универсальный процент точности. Условные примеры выше и пример интерфейса отчёта объясняют результат, но не заменяют такую проверку.

Для обоснованной оценки нужны известное происхождение файлов, версии моделей и настроек, отдельная выборка, не использованная для настройки, и описанные преобразования изображений. Результаты следует показывать отдельно для оригиналов, сжатых копий, скриншотов и частично изменённых изображений.

• Ложное срабатывание: сколько изображений без ИИ получили положительный вывод, из какого числа проверенных файлов этой группы.
• Пропуск: сколько изображений с известным использованием ИИ получили отрицательный вывод, из какого числа файлов этой группы.
• Нет вывода: сколько проверок были недоступны или дали недостаточно данных. Такие случаи нужно показывать отдельно, а не считать успешными.

Небольшая выборка и повторные копии одной сцены могут дать обманчивое впечатление о качестве. Для важных решений проверяйте источник изображения и дополнительные свидетельства независимо от оценки сервиса.

07 / Следующий шаг

Если от результата зависит решение

Сохраните исходный файл. Попробуйте найти первую публикацию: когда и где появилось изображение, кто его разместил и что о нём написал. Если у вас только скриншот или пересланная копия, запросите оригинал.

Отчёт поможет разобраться в файле. Установить, кто создал изображение и произошло ли показанное событие на самом деле, по нему одному нельзя.