Скорость обхода сайта в Яндекс.Вебмастер

Здравствуйте!

Почему Crawl-delay замедляет индексацию
Исследования в области индексирования сайтов, проведённые в 2026 году, показали, что главной причиной медленного скачивания файлов остаётся неправильная настройка директивы Crawl-delay в файле robots.txt.

Даже если значение превышало 2, скорость обхода оставалась низкой. Именно эта директива определяет частоту обращений поискового робота к сайту. При неправильной настройке страницы могут долгое время не попадать в индекс.
Как добавить сайт в Яндекс Вебмастер
Как настроить скорость обхода в Яндекс Вебмастере

Переместите ползунок в нужное положение. Минимальная скорость обхода — 0,6 запросов в секунду, максимальная — 30, шаг — 0,3. Помните: чем выше значение, тем больше нагрузка на сервер. Поэтому в большинстве случаев рекомендуется оставить настройку «Доверять Яндексу». В этом случае система автоматически подбирает оптимальную скорость с учётом допустимой нагрузки на ваш хостинг.
Заключение
Яндекс отказался от учёта директивы Crawl-delay при индексировании. Для тех, кто предпочитает управлять процессом самостоятельно, в Яндекс.Вебмастере появилась функция «Скорость обхода».
До новых встреч!
Подпишитесь на рассылку
Получайте свежие новости Web3, AI и криптовалют прямо на вашу почту.