Индексация сайта: почему страницы не попадают в поиск

Индексация — это попадание адреса страницы в базу поисковика. Пока адреса там нет, страница для выдачи не существует: её не найти ни по запросу, ни среди результатов по названию компании. Владелец открывает страницу в браузере, видит готовый текст и ждёт заявок, а поиск о ней не знает. По Вордстату «индексация сайта» — 2 558 показов в месяц, «сайт не индексируется» — ещё 102. Ниже разберу, как проверить состояние дел и что делать с каждой причиной.

Общую логику работы поиска я разбирал в статье что такое SEO. Здесь речь про первый шаг: оказался ли адрес в базе.

Что такое индексация простыми словами

Робот поисковика ходит по ссылкам, скачивает страницы и складывает их в базу. Отдельная система разбирает содержимое: текст, заголовки, ссылки, изображения. И только потом адрес получает право участвовать в показах. Обход, обработка и показ идут друг за другом, и страница, застрявшая на первых двух этапах, в результатах не появляется. Отсюда практический вывод: работа над текстом и заголовками даёт отдачу после того, как адрес попал в базу.

Бывает и по-другому: страница в базе лежит, а по нужной формулировке не показывается. Проверка позиций отвечает на вопрос о месте в выдаче, и путать её с индексацией не нужно. Такой разбор есть в статье как проверить позиции сайта: там снимаются данные до 50-го места, формулировки подбираются по Вордстату, проверяются пять запросов.

Как проверить, попала ли страница в индекс

Ниже способы, которые я применяю по порядку — от быстрого к точному. Первые два занимают минуту.

Поиск по адресу

Скопируйте полный адрес страницы и вставьте его в строку поиска. Если страница в индексе, она окажется среди результатов. Смотрите именно на свой адрес: рядом поисковик показывает похожие материалы сайта, и по ним легко решить, что нужная нашлась.

Поиск по уникальной фразе

Возьмите редкое предложение из середины страницы и вставьте его в поиск целиком. Способ надёжнее: он подтверждает, что в базе лежит текст со страницы, откуда вы его взяли. Берите фразу, которой нет на других сайтах и в меню.

Раздел индексирования в Яндекс.Вебмастере

Здесь видно полную картину: сколько адресов попало в поиск, сколько исключено и по какой причине. Вебмастер называет причину словами, и по формулировке уже понятно, где искать запрет. Если страницы нет в отчёте вовсе, значит робот до неё ещё не дошёл.

Отчёт по страницам в поиске

Этот отчёт показывает, сколько страниц сайта реально участвует в показах и по каким запросам их находят. Сравните полученное число с количеством нужных вам адресов: разница объясняет, почему по части услуг обращений нет.

Почему страницы не попадают в индекс

Причины повторяются из сайта в сайт. По каждой ниже — где её искать и что править.

Запрет в robots.txt

Файл robots.txt лежит в корне сайта и говорит роботам, куда ходить нельзя. Одна строка Disallow закрывает раздел целиком, и попадает она туда обычно случайно: при переносе с тестового сервера или при настройке нового шаблона. Откройте файл по адресу сайта с добавленным /robots.txt и проверьте, нет ли в правилах закрытого вами раздела. Если запрет появился по ошибке, уберите строку, сохраните файл и дождитесь следующего обхода.

Мета-тег запрета индексации

В разметке страницы может стоять noindex. Он живёт в шаблоне и закрывает сразу десятки адресов: типичный случай — страницы пагинации или карточки товаров, которым запрет прописали при разработке. Откройте исходный код через «Просмотр кода» в браузере и поищите noindex в разделе head. Нашли — правьте шаблон целиком, тогда запрет снимется со всех страниц разом.

Канонический адрес на другую страницу

Тег canonical сообщает поисковику, что у страницы есть основной адрес, и вес уходит туда. Если в шаблоне он прописан жёстко, все страницы каталога указывают на одну, а остальные из индекса выпадают. Проверьте canonical на нескольких адресах подряд: у каждого в нём должен стоять его собственный адрес.

Дубли и параметры в адресах

Один и тот же текст открывается по нескольким адресам: с www и без, с заглавными буквами, с параметрами сортировки, с метками систем аналитики. Поисковик выбирает один вариант, остальные оставляет за бортом, и предсказать его выбор заранее сложно. Решение — настроить переадресацию на основной адрес и закрыть от обхода служебные параметры.

Отсутствие ссылок на страницу

Робот попадает на страницы по ссылкам. Адрес, на который не ведёт ни одна ссылка с сайта, для обхода почти недостижим, даже если он есть в карте. Добавьте ссылку из раздела, из соседней статьи или из меню. Как выстроить такую разводку, я разбирал в статье внутренняя оптимизация.

Тонкий или скопированный текст

Страница из двух абзацев общих слов, каталог без описаний, текст, перенесённый с чужого сайта, — всё это поисковик может не брать сознательно. Ему незачем показывать пользователю то, что уже есть в другом месте. Что делать: дописать страницу до состояния, когда она отвечает на вопросы посетителя, или убрать её и отдать содержимое основной.

Страница создана недавно

Новый адрес ждёт своей очереди на обход. Очередь зависит от того, как часто поисковик заходит на сайт, а заходят к активным площадкам чаще. Если дата публикации свежая и запретов нет, ожидание — нормальное решение. Ускорить дело помогают способы из раздела ниже.

Ошибки сервера и закрытые паролем разделы

Робот может получить ошибку вместо страницы: сервер отвечает отказом, адрес отдаёт не тот код, ссылка уводит в цикл переадресаций. В таких условиях обход прекращается. Отдельный случай — раздел, закрытый паролем или basic-авторизацией: робот туда не проходит, и содержимое остаётся вне базы. Проверьте, как сервер отвечает на запрос к странице, и снимите пароль с тех разделов, которые должны показываться в поиске.

Как ускорить переобход

Переобход — это повторный визит робота на адрес, который вы изменили. Ждать его можно месяцами, но есть способы подтолкнуть процесс.

  • Карта сайта. Файл со списком адресов, который вы обновляете после каждой публикации. Ссылку на карту укажите в robots.txt и добавьте её в Вебмастер — тогда поисковик узнаёт о новых страницах сам.
  • Отправка адресов вручную. В Вебмастере есть форма отправки отдельных страниц на переобход. Отправляйте те, где правки закончены: лимит обращений ограничен.
  • Внутренние ссылки. Свежий адрес, на который ведут ссылки с главной и из популярных материалов, обходится быстрее. Робот идёт по проторённым путям.
  • Внешние упоминания. Ссылка с чужого сайта работает приглашением, если площадка открыта для обхода.
  • Регулярные обновления. Сайт, который меняется постоянно, поисковик обходит чаще.

Отправка адреса на переобход ничего не гарантирует: страница встаёт в очередь, и робот приходит, когда до неё дойдёт. Иногда визит случается в тот же день, иногда ожидание затягивается на недели.

Сколько ждать появления в индексе

Единого срока нет. Он зависит от того, как часто поисковик заходит на сайт, сколько на нём страниц, ведут ли на новую ссылки и насколько уверенно отвечает сервер. У небольшого сайта с редкими обновлениями ожидание дольше, у площадки с постоянным движением — короче.

Практический ориентир: проверьте адрес через несколько дней после публикации, потом повторяйте проверку раз в неделю. Если страница так и не появилась, а в Вебмастере причины отказа нет, дело в очереди на обход. Когда причина указана, её устраняют и отправляют адрес заново.

Честные пределы

Индексация — условие необходимое, но недостаточное. Попадание в базу не даёт позиций: страница может лежать в поиске годами и не показываться ни по одному коммерческому запросу. Место в выдаче зависит от соответствия запросу, конкуренции и поведения посетителей, и это отдельная тема.

Часть адресов поисковик не берёт сознательно. Служебные страницы, страницы с фильтрами, технические дубли остаются вне индекса, и такое поведение системы нормально. Добиваться того, чтобы в поиске оказался каждый адрес сайта, бессмысленно: часть из них там и не нужна.

Быстрый переобход тоже не гарантирован. Отправка адреса ставит страницу в очередь, а сроки обхода определяет поисковик, и ускорить их настройками сайта не получится.

Ещё один предел касается сроков. Причину находят и устраняют, но результат виден не сразу: поисковику нужно заново обойти адрес и обработать содержимое.

С чего начать

Первый шаг можно сделать без подрядчика: бесплатная проверка сайта показывает, что мешает странице расти, включая технические запреты. Этого хватает, чтобы понять направление и перестать гадать.

Дальше по ситуации. Когда непонятно, что именно тормозит сайт, разбираю аудит сайта: техническое состояние, структура и содержание смотрятся вместе, а запреты на индексацию находятся первыми. Когда запретов нет и страницы в базе, работу продолжает продвижение сайтов — от структуры под запросы до работы с поведением посетителей.