В ходе анализа 40 изображений, сгенерированных Muse Image, инструмент Meta успешно определил все оригинальные картинки. Но после того, как их обрезали до одной трети или половины от первоначального размера, детектор не смог распознать 55 % таких изображений.
Как работает детектор Meta
Meta заявляет, что инструмент использует невидимую водяную метку Content Seal, которая встраивается в каждое изображение, созданное Muse Image. По словам компании, метка должна оставаться читаемой даже после обычных редактирований, включая обрезку.
Однако Reuters выяснило, что при сильном кадрировании сигнал водяной метки часто теряется. Meta признала это, отметив, что инструмент находится в стадии превью, а метка «может быть утрачена при сильной обрезке».
Проблема не только у Meta
Похожие предупреждения ранее давали и конкуренты. Google и OpenAI уже неоднократно заявляли, что их инструменты обнаружения ИИ-изображений также не являются полностью надёжными против редактирования.
В марте Oversight Board Meta (независимый орган, который принимает обязательные решения по контенту) призвал компанию активнее бороться с «распространением обманного ИИ-контента» на своих платформах и инвестировать в более мощные инструменты обнаружения.
Что говорят эксперты
Профессор компьютерных наук Университета штата Нью-Йорк в Буффало Сивэй Лю, специализирующийся на ИИ-форензике, отметил, что методы на основе водяных меток имеют существенные ограничения:
«Методы с водяными метками могут быть очень эффективны, пока метка остаётся нетронутой. Но любая модификация, которая удаляет или ослабляет сигнал — обрезка, изменение размера, сильное сжатие или редактирование — может снизить их эффективность».
Исследовательница ИИ из Калифорнийского университета в Беркли Сара Баррингтон более оптимистична, но с оговорками:
«Как и многие меры кибербезопасности, водяная метка не может быть полностью непробиваемой. Но даже если мы будем ловить 90 % случаев, это уже огромный прогресс по сравнению с нулём».
Почему это важно
В 2026 году, когда в США проходят промежуточные выборы, способность быстро и точно определять ИИ-генерированный контент становится критически важной. Обрезка — одна из самых простых и распространённых операций, которую могут использовать для обхода детекторов.
Пока Meta продолжает совершенствовать свою систему, эксперты сходятся в одном: полностью надёжного способа отличить ИИ-изображение от реального пока не существует. И даже самые передовые инструменты крупных техкомпаний всё ещё имеют заметные слабые места.
