Журнал Futurism провёл расследование и обнаружил как минимум 20 резонансных случаев, когда искусственный интеллект Google описывал объекты коллективного веб-архива как исторические или биологические факты.
«Голова Эда» на дне моря и тостер, говорящий в первом лице
Один из самых ярких примеров факапа — объект SCP-565, известный в сообществе как «Ed’s Head». По версии Google AI, это реально существующая «ходячая человеческая голова», которая передвигается по морскому дну подобно крабу. ИИ без тени сомнения ссылался на «официальные» записи и упоминал имя погибшего человека, чья голова якобы подверглась мутации, даже не намекнув на вымышленность истории.
Ещё более курьёзный случай произошёл с объектом SCP-426 — это вымышленный тостер, ментальная аномалия которого заставляет любого говорить о нём только в первом лице. Google’s AI не просто описал этот объект как реальную угрозу, но и сам попал в «ловушку» лора: ИИ начал генерировать ответ от первого лица («Я — тостер...») и пересказывать вымышленные несчастные случаи с людьми так, словно они зафиксированы в полицейских отчётах.
Почему ИИ поверил в крипипасту
Проект SCP Foundation — это масштабная база данных вымышленного секретного фонда, написанная в жанре «секретных материалов». Все статьи оформлены в строгом научно-протокольном стиле: с номерами, сухой терминологией, уровнями допуска и инструкциями по содержанию. Именно эта серьёзная стилистика и запутала алгоритмы.
Несмотря на то, что на самом сайте проекта присутствуют чёткие дисклеймеры о том, что весь контент является художественным вымыслом, большие языковые модели Google проигнорировали эти пометки, зацепившись за псевдонаучный тон текстов. В редких случаях ИИ упоминал слово «лор», но никак не объяснял пользователю, что речь идёт о выдумке.
Системная проблема AI-поиска
Это далеко не первый громкий конфуз AI Overviews. Ранее функция уже «отличалась» вредными и абсурдными советами, рекомендуя пользователям добавлять нетоксичный клей в соус для пиццы, чтобы сыр лучше держался, или предлагая есть камни для восполнения минералов.
По текущим оценкам экспертов, точность ИИ-ответов Google составляет около 91%. В масштабах обычного стартапа это высокий показатель, но для Google, обрабатывающего триллионы запросов в год, оставшиеся 9% ошибок превращаются в миллионы случаев дезинформации ежедневно.
В чём опасность
Пользователи, целенаправленно изучающие вселенную SCP, понимают контекст. Однако под удар попадают люди, столкнувшиеся с темой случайно: например, дети, забившие в поиск непонятный код из видео, или взрослые, ищущие исторические справки по похожим ключевым словам. Видя безальтернативный ответ от самого авторитетного поисковика на первом месте, они принимают крипипасту за чистую монету.
Ситуация усугубляется стратегией Google по переходу к интерфейсу AI-first, где традиционные ссылки на сайты-источники уходят вниз экрана. Из-за этого кликабельность оригинальных веб-ресурсов падает, а пользователи теряют привычку перепроверять информацию на первоисточниках.
Google традиционно воздерживается от развёрнутых комментариев, однако журналисты заметили, что после огласки компания начала тихо «выпиливать» проблемные ответы или принудительно добавлять в них маркеры «fictional» (вымышленный). Тем не менее инцидент в очередной раз обнажил главную уязвимость современных LLM-поисковиков — их неспособность отличить качественную художественную мистификацию от реального научного факта, если они написаны одинаково убедительным бюрократическим языком.
