Криминальные группировки и государственные хакеры из Китая, Северной Кореи активно используют коммерческие ИИ-модели — Gemini, Claude и инструменты OpenAI — для проведения более быстрых, масштабных и изощрённых атак.
«Есть заблуждение, что гонка уязвимостей с ИИ ещё впереди. На самом деле она уже началась», — заявил Джон Халтквист, главный аналитик Google Threat Intelligence.
Возможности злоумышленников с ИИ
По данным Google, ИИ позволяет хакерам качественно изменить подход к кибератакам:
Скорость: Ускорение тестирования операций.
Обход защиты: Более эффективное преодоление систем безопасности.
Разработка ПО: Создание более совершенного вредоносного программного обеспечения.
Масштаб: Проведение атак в гораздо больших объёмах.
Самый тревожный случай: Google зафиксировал попытку запуска кампании по массовой эксплуатации (mass exploitation) через zero-day уязвимость, в которой, судя по всему, использовалась большая языковая модель.
Инцидент с моделью Mythos
Недавно компания Anthropic отказалась выпускать свою новую мощную модель Mythos. Причиной стала её способность находить уязвимости нулевого дня во всех основных операционных системах и популярных веб-браузерах. По мнению разработчиков, такая модель представляет критическую угрозу для правительств и финансовых учреждений.
Мнение экспертов
Стивен Мёрдок, профессор security engineering в University College London, отмечает, что старый способ поиска уязвимостей ушёл в прошлое. Теперь всё взаимодействие в сфере кибербезопасности будет происходить с помощью LLM, и последствия этого процесса скоро станут очевидны всем.
Эпоха промышленного ИИ-хакинга уже наступила. Коммерческие модели стали мощным оружием в руках преступников и государственных игроков, превратив будущие риски в сегодняшнюю реальность.
