Журналист BBCТомас Джермен решил провести опасный эксперимент. В феврале он за 20 минут создал статью на своём сайте, где объявил себя чемпионом мира по поеданию хот-догов. На следующий день Google AI Overview, Gemini и ChatGPT начали уверенно рассказывать об этом «факте» пользователям по всему миру.
Шутка вышла глупой. Проблема, которую она раскрыла — крайне серьёзная.
Масштаб манипуляций
BBC выяснила, что недобросовестные компании и маркетологи уже поставили манипуляцию ИИ на промышленный поток. Один хорошо написанный блог или пост в соцсетях может заставить мощные модели повторять ложь.
Эксперты обнаружили случаи, когда:
ИИ преуменьшал риски для здоровья от сомнительных пищевых добавок,
давал опасные финансовые рекомендации по пенсиям и инвестициям,
продвигал откровенно предвзятую информацию по политике и медицине.
По словам SEO-эксперта Лили Рэй (основатель Algorythmic):
"Мы переходим в мир “одного правильного ответа”. Раньше Google давал 10 синих ссылок, и вы сами решали, чему верить. Теперь ИИ выдаёт один уверенный ответ — и люди принимают его на веру".
Харприт Чатха (Harps Digital) добавляет:
"На базовом уровне — это экономический ущерб. Но на более серьёзном — вы можете получить медицинский совет, который сделает вас больнее, или юридическую информацию, которая приведёт к нарушению закона".
Google наносит ответный удар
После расследования BBC и волны критики Google обновил свою политику по спаму. Теперь попытки манипулировать ответами ИИ официально считаются нарушением. Компания может понижать такие сайты в поиске или полностью исключать их из выдачи.
Google утверждает, что это всего лишь «уточнение» старых правил. Но эксперты замечают реальные изменения:
ИИ стал чаще добавлять предупреждения («мы не уверены в этом ответе»),
удалять саморекламу из ответов,
предлагать проверить информацию на сторонних сайтах.
Однако Лили Рэй на этой неделе снова провела эксперимент и заставила Google заявить, что её коллега — мастер по строительству песчаных замков. Манипуляции продолжаются.
Цифры, которые пугают
Более 1 миллиарда человек регулярно используют AI-чатботы.
2,5 миллиарда человек ежемесячно видят Google AI Overviews.
Если один человек может так легко отравить информацию для миллионов — это уже не мелкая уязвимость, а системная проблема.
Что дальше?
Эксперты называют происходящее «whack-a-mole» — как только Google закрывает одну лазейку, манипуляторы находят новую. Сейчас они активно переходят на YouTube-инфлюенсеров, видео которых тоже цитируются ИИ.
Пока компании догоняют, главный совет от специалистов остаётся простым и жёстким:
"Не верьте ИИ на слово. Даже если ответ выглядит очень уверенным и исходит от Google".
