Индексация сайта: почему страницы не попадают в поиск
Индексация — это попадание адреса страницы в базу поисковика. Пока адреса там нет, страница для выдачи не существует: её не найти ни по запросу, ни среди результатов по названию компании. Владелец открывает страницу в браузере, видит готовый текст и ждёт заявок, а поиск о ней не знает. По Вордстату «индексация сайта» — 2 558 показов в месяц, «сайт не индексируется» — ещё 102. Ниже разберу, как проверить состояние дел и что делать с каждой причиной.
Общую логику работы поиска я разбирал в статье что такое SEO. Здесь речь про первый шаг: оказался ли адрес в базе.
Что такое индексация простыми словами
Робот поисковика ходит по ссылкам, скачивает страницы и складывает их в базу. Отдельная система разбирает содержимое: текст, заголовки, ссылки, изображения. И только потом адрес получает право участвовать в показах. Обход, обработка и показ идут друг за другом, и страница, застрявшая на первых двух этапах, в результатах не появляется. Отсюда практический вывод: работа над текстом и заголовками даёт отдачу после того, как адрес попал в базу.
Бывает и по-другому: страница в базе лежит, а по нужной формулировке не показывается. Проверка позиций отвечает на вопрос о месте в выдаче, и путать её с индексацией не нужно. Такой разбор есть в статье как проверить позиции сайта: там снимаются данные до 50-го места, формулировки подбираются по Вордстату, проверяются пять запросов.
Как проверить, попала ли страница в индекс
Ниже способы, которые я применяю по порядку — от быстрого к точному. Первые два занимают минуту.
Поиск по адресу
Скопируйте полный адрес страницы и вставьте его в строку поиска. Если страница в индексе, она окажется среди результатов. Смотрите именно на свой адрес: рядом поисковик показывает похожие материалы сайта, и по ним легко решить, что нужная нашлась.
Поиск по уникальной фразе
Возьмите редкое предложение из середины страницы и вставьте его в поиск целиком. Способ надёжнее: он подтверждает, что в базе лежит текст со страницы, откуда вы его взяли. Берите фразу, которой нет на других сайтах и в меню.
Раздел индексирования в Яндекс.Вебмастере
Здесь видно полную картину: сколько адресов попало в поиск, сколько исключено и по какой причине. Вебмастер называет причину словами, и по формулировке уже понятно, где искать запрет. Если страницы нет в отчёте вовсе, значит робот до неё ещё не дошёл.
Отчёт по страницам в поиске
Этот отчёт показывает, сколько страниц сайта реально участвует в показах и по каким запросам их находят. Сравните полученное число с количеством нужных вам адресов: разница объясняет, почему по части услуг обращений нет.
Почему страницы не попадают в индекс
Причины повторяются из сайта в сайт. По каждой ниже — где её искать и что править.
Запрет в robots.txt
Файл robots.txt лежит в корне сайта и говорит роботам, куда ходить нельзя. Одна строка Disallow закрывает раздел целиком, и попадает она туда обычно случайно: при переносе с тестового сервера или при настройке нового шаблона. Откройте файл по адресу сайта с добавленным /robots.txt и проверьте, нет ли в правилах закрытого вами раздела. Если запрет появился по ошибке, уберите строку, сохраните файл и дождитесь следующего обхода.
Мета-тег запрета индексации
В разметке страницы может стоять noindex. Он живёт в шаблоне и закрывает сразу десятки адресов: типичный случай — страницы пагинации или карточки товаров, которым запрет прописали при разработке. Откройте исходный код через «Просмотр кода» в браузере и поищите noindex в разделе head. Нашли — правьте шаблон целиком, тогда запрет снимется со всех страниц разом.
Канонический адрес на другую страницу
Тег canonical сообщает поисковику, что у страницы есть основной адрес, и вес уходит туда. Если в шаблоне он прописан жёстко, все страницы каталога указывают на одну, а остальные из индекса выпадают. Проверьте canonical на нескольких адресах подряд: у каждого в нём должен стоять его собственный адрес.
Дубли и параметры в адресах
Один и тот же текст открывается по нескольким адресам: с www и без, с заглавными буквами, с параметрами сортировки, с метками систем аналитики. Поисковик выбирает один вариант, остальные оставляет за бортом, и предсказать его выбор заранее сложно. Решение — настроить переадресацию на основной адрес и закрыть от обхода служебные параметры.
Отсутствие ссылок на страницу
Робот попадает на страницы по ссылкам. Адрес, на который не ведёт ни одна ссылка с сайта, для обхода почти недостижим, даже если он есть в карте. Добавьте ссылку из раздела, из соседней статьи или из меню. Как выстроить такую разводку, я разбирал в статье внутренняя оптимизация.
Тонкий или скопированный текст
Страница из двух абзацев общих слов, каталог без описаний, текст, перенесённый с чужого сайта, — всё это поисковик может не брать сознательно. Ему незачем показывать пользователю то, что уже есть в другом месте. Что делать: дописать страницу до состояния, когда она отвечает на вопросы посетителя, или убрать её и отдать содержимое основной.
Страница создана недавно
Новый адрес ждёт своей очереди на обход. Очередь зависит от того, как часто поисковик заходит на сайт, а заходят к активным площадкам чаще. Если дата публикации свежая и запретов нет, ожидание — нормальное решение. Ускорить дело помогают способы из раздела ниже.
Ошибки сервера и закрытые паролем разделы
Робот может получить ошибку вместо страницы: сервер отвечает отказом, адрес отдаёт не тот код, ссылка уводит в цикл переадресаций. В таких условиях обход прекращается. Отдельный случай — раздел, закрытый паролем или basic-авторизацией: робот туда не проходит, и содержимое остаётся вне базы. Проверьте, как сервер отвечает на запрос к странице, и снимите пароль с тех разделов, которые должны показываться в поиске.
Как ускорить переобход
Переобход — это повторный визит робота на адрес, который вы изменили. Ждать его можно месяцами, но есть способы подтолкнуть процесс.
- Карта сайта. Файл со списком адресов, который вы обновляете после каждой публикации. Ссылку на карту укажите в robots.txt и добавьте её в Вебмастер — тогда поисковик узнаёт о новых страницах сам.
- Отправка адресов вручную. В Вебмастере есть форма отправки отдельных страниц на переобход. Отправляйте те, где правки закончены: лимит обращений ограничен.
- Внутренние ссылки. Свежий адрес, на который ведут ссылки с главной и из популярных материалов, обходится быстрее. Робот идёт по проторённым путям.
- Внешние упоминания. Ссылка с чужого сайта работает приглашением, если площадка открыта для обхода.
- Регулярные обновления. Сайт, который меняется постоянно, поисковик обходит чаще.
Отправка адреса на переобход ничего не гарантирует: страница встаёт в очередь, и робот приходит, когда до неё дойдёт. Иногда визит случается в тот же день, иногда ожидание затягивается на недели.
Сколько ждать появления в индексе
Единого срока нет. Он зависит от того, как часто поисковик заходит на сайт, сколько на нём страниц, ведут ли на новую ссылки и насколько уверенно отвечает сервер. У небольшого сайта с редкими обновлениями ожидание дольше, у площадки с постоянным движением — короче.
Практический ориентир: проверьте адрес через несколько дней после публикации, потом повторяйте проверку раз в неделю. Если страница так и не появилась, а в Вебмастере причины отказа нет, дело в очереди на обход. Когда причина указана, её устраняют и отправляют адрес заново.
Честные пределы
Индексация — условие необходимое, но недостаточное. Попадание в базу не даёт позиций: страница может лежать в поиске годами и не показываться ни по одному коммерческому запросу. Место в выдаче зависит от соответствия запросу, конкуренции и поведения посетителей, и это отдельная тема.
Часть адресов поисковик не берёт сознательно. Служебные страницы, страницы с фильтрами, технические дубли остаются вне индекса, и такое поведение системы нормально. Добиваться того, чтобы в поиске оказался каждый адрес сайта, бессмысленно: часть из них там и не нужна.
Быстрый переобход тоже не гарантирован. Отправка адреса ставит страницу в очередь, а сроки обхода определяет поисковик, и ускорить их настройками сайта не получится.
Ещё один предел касается сроков. Причину находят и устраняют, но результат виден не сразу: поисковику нужно заново обойти адрес и обработать содержимое.
С чего начать
Первый шаг можно сделать без подрядчика: бесплатная проверка сайта показывает, что мешает странице расти, включая технические запреты. Этого хватает, чтобы понять направление и перестать гадать.
Дальше по ситуации. Когда непонятно, что именно тормозит сайт, разбираю аудит сайта: техническое состояние, структура и содержание смотрятся вместе, а запреты на индексацию находятся первыми. Когда запретов нет и страницы в базе, работу продолжает продвижение сайтов — от структуры под запросы до работы с поведением посетителей.