Cправка — Search Console
Войти
Справка Google
- Справочный центр
- Сообщество
- Search Console
- Политика конфиденциальности
- Условия предоставления услуг
- Отправить отзыв
Тема отзыва
Информация в текущем разделе Справочного центра
Общие впечатления о Справочном центре Google
- Справочный центр
- Сообщество
Search Console
Код ошибки 5xx — это общий ответ сервера о том, что что-то пошло не так. Проблема могла возникнуть, когда сервер запросил ресурсы, или это может быть проблема с устаревшим или поврежденным кэшем и файлами cookie.
Если вы видите эту ошибку, вы можете проверить URL-адрес соответствующей страницы в Google Инструмент проверки URL. Если ошибок нет, вернитесь в Google Search Console и нажмите Validate Fix рядом с ошибкой.
Если ошибка продолжает отображаться в Google Search Console, возможно, на стороне Wix есть проблема. Свяжитесь с командой сопровождения Wix, чтобы сообщить нам, и мы свяжемся с вами как можно скорее.
Подробный SEO-гайд по Отчёту об индексировании Google Search Console. Разберёмся, как проверить индексацию сайта с его помощью, как «читать» статусы URL, какие ошибки можно обнаружить и как их исправить.
Перевод с сайта onely.com.
В Отчёте вы можете получить данные о сканировании и индексации всех URL-адресов, которые Google смог обнаружить на вашем сайте. Он поможет отследить, добавлен ли сайт в индекс, и проинформирует о технических проблемах со сканированием и индексацией.
Но перед тем, как говорить об Отчёте, вспомним все этапы индексации страницы в Google.
Чтобы страница ранжировалась в поиске и показывалась пользователям, она должна быть обнаружена, просканирована и проиндексирована.
Обнаружение
Перед тем, как просканировать страницу, Google должен её обнаружить. Он может сделать это несколькими способами.
Наиболее распространённые — с помощью внутренних или внешних ссылок или через карту сайта (файл Sitemap.xml).
Сканирование
Суть сканирования состоит и том, что поисковые системы изучают страницу и анализируют её содержимое.
Главный аспект в этом вопросе — краулинговый бюджет, который представляет собой лимит времени и ресурсов, который поисковая система готова «потратить» на сканирование вашего сайта.
Что такое «краулинговый бюджет, как его проверить и оптимизировать
Индексация
В процессе индексации Google оценивает качество страницы и добавляет её в индекс — базу данных, где собраны все страницы, о которых «знает» Google.
В этот этап включается и рендеринг, который помогает Google видеть макет и содержимое страницы. Собранная информация даёт поисковой системе понимание, как показывать страницу в результатах поиска.
Даже если Google нашёл и просканировал страницу, это не означает, что она обязательно будет проиндексирована.
Но главное, что вы должны понять и запомнить: нет необходимости в том, чтобы абсолютно все страницы вашего сайты были проиндексированы. Вместо этого убедитесь, что в индекс включены все важные и полезные для пользователей страницы с качественным контентом.
Некоторые страницы могут содержать контент низкого качества или быть дублями. Если поисковые системы их увидят, это может негативно отразится на всём сайте.
Поэтому важно в процессе создания стратегии индексации решить, какие страницы должны и не должны быть проиндексированы.
Ранжирование
Только проиндексированные страницы могут появиться в результатах поиска и ранжироваться.
Google определяет, как ранжировать страницу, основываясь на множестве факторов, таких как количество и качество ссылок, скорость страницы, удобство мобильной версии, релевантность контента и др.
Теперь перейдём к Отчёту.
Как пользоваться Отчётом об индексировании в Google Search Console
Чтобы просмотреть Отчёт, авторизуйтесь в своём аккаунте Google Search Console. Затем в меню слева выберите «Покрытие» в секции «Индекс»:
Перед вами Отчёт. Отметив галочками любой из статусов или все сразу, вы сможете выбрать то, что хотите визуализировать на графике:
Вы увидите четыре статуса URL-адресов:
- Ошибка — критическая проблема сканирования или индексации.
- Без ошибок, есть предупреждения — URL-адреса проиндексированы, но содержат некоторые некритичные ошибки.
- Страница без ошибок — страницы проиндексированы корректно.
- Исключено — страницы, которые не были проиндексированы из-за проблем (это самый важный раздел, на котором нужно сфокусироваться).
Фильтры «Все обработанные страницы» vs «Все отправленные страницы»
В верхнем углу вы можете отфильтровать, какие страницы хотите видеть:
«Все обработанные страницы» показываются по умолчанию. В этот фильтр включены все URL-адреса, которые Google смог обнаружить любым способом.
Фильтр «Все отправленные страницы» включает только URL-адреса, добавленные с помощью файла Sitemap.
В чём разница?
Первый обычно включает в себя больше URL-адресов и многие из них попадают в секцию «Исключено». Это происходит потому, что карта сайта включает только индексируемые URL, в то время как сайты обычно содержат множество страниц, которые не должны быть проиндексированы.
Как пример — URL с параметрами на сайтах eCommerce. Googlebot может найти их разными способами, но не в карте сайта.
Так что когда открываете Отчёт, убедитесь, что смотрите нужные данные.
Проверка статусов URL
Чтобы увидеть подробную информацию о проблемах, обнаруженных для каждого статуса, посмотрите «Сведения» под графиком:
Тут показан статус, тип проблемы и количество затронутых страниц. Обратите внимание на столбец «Проверка» — после исправления ошибки, вы можете попросить Google проверить URL повторно.
Например, если кликнуть на первую строку со статусом «Предупреждение», то вверху появится кнопка «Проверить исправление»:
Вы также можете увидеть динамику каждого статуса: увеличилось, уменьшилось или осталось на том же уровне количество URL-адресов в этом статусе.
Если в «Сведениях» кликнуть на любой статус, вы увидите количество адресов, связанных с ним. Кроме того, вы сможете посмотреть, когда каждая страница была просканирована (но помните, что эта информация может быть неактуальна из-за задержек в обновлении отчётов).
Что учесть при использовании отчёта
- Всегда проверяйте, смотрите ли вы отчёт по всем обработанным или по всем отправленным страницам. Разница может быть очень существенной.
- Отчёт может показывать изменения с задержкой. После публикации контента подождите несколько дней, пока страницы просканируются и проиндексируются.
- Google пришлёт уведомления на электронную почту, если увидит какие-то критичные проблемы с сайтом.
- Стремитесь к индексации канонической версии страницы, которую вы хотите показывать пользователям и поисковым ботам.
- В процессе развития сайта, на нём будет появляться больше контента, так что ожидайте увеличения количества проиндексированных страниц в Отчёте.
Как часто смотреть Отчёт
Обычно достаточно делать это раз в месяц.
Но если вы внесли значимые изменения на сайте, например, изменили макет страницы, структуру URL или сделали перенос сайта, мониторьте Отчёт чаще, чтобы вовремя поймать негативное влияние изменений.
Рекомендую делать это хотя бы раз в неделю и обращать особое внимание на статус «Исключено».
Дополнительно: инструмент проверки URL
В Search Console есть ещё один инструмент, который даст ценную информацию о сканировании и индексации страниц вашего сайта — Инструмент проверки URL.
Он находится в самом верху страницы в GSC:
Просто вставьте URL, который вы хотите проверить, в эту строку и увидите данные по нему. Например:
Инструментом можно пользоваться для того, чтобы:
- проверить статус индексирования URL, и обнаружить возможные проблемы;
- узнать, индексируется ли URL;
- просмотреть проиндексированную версию URL;
- запросить индексацию, например, если страница изменилась;
- посмотреть загруженные ресурсы, например, такие как JavaScript;
- посмотреть, какие улучшения доступны для URL, например, реализация структурированных данных или удобство для мобильных.
Если в Отчёте об индексировании обнаружены какие-то проблемы со страницами, используйте Инструмент, чтобы тщательнее проверить их и понять, что именно нужно исправить.
Статус «Ошибка»
Под этим статусом собраны URL, которые не были проиндексированы из-за ошибок.
Если вы видите проблему с пометкой «Отправлено», то это может касаться только URL, которые были отправлены через карту сайту. Убедитесь, что в карте сайте содержатся только те страницы, которые вы действительно хотите проиндексировать.
Ошибка сервера (5xx)
Эта проблема говорит об ошибке сервера со статусом 5xx, например, 502 Bad Gateway или 503 Service Unavailable.
Советую регулярно проверять этот раздел и следить, нет ли у Googlebot проблем с индексацией страниц из-за ошибки сервера.
Что делать. Нужно связаться с вашим хостинг-провайдером, чтобы исправить эту проблему или проверить, не вызваны ли эти ошибки недавними обновлениями и изменениями на сайте.
Как исправить ошибки сервера — рекомендации Google
Ошибка переадресации
Редиректы перенаправляют поисковых ботов и пользователей со старого URL на новый. Обычно они применяются, если старый адрес изменился или страницы больше не существует.
Ошибки переадресации могут указывать на такие проблемы:
- цепочка редиректов слишком длинная;
- обнаружен циклический редирект — страницы переадресуют друг на друга;
- редирект настроен на страницу, URL которой превышает максимальную длину;
- в цепочке редиректов найден пустой или ошибочный URL.
Что делать. Проверьте и исправьте редиректы каждой затронутой страницы.
Доступ к отправленному URL заблокирован в файле robots.txt
Эти страницы есть в файле Sitemap, но заблокированы в файле robots.txt.
Robots.txt — это файл, который содержит инструкции для поисковых роботов о том, как сканировать ваш сайт. Чтобы URL был проиндексирован, Google нужно для начала его просканировать.
Что делать. Если вы видите такую ошибку, перейдите в файл robots.txt и проверьте настройку директив. Убедитесь, что страницы не закрыты через noindex.
Страница, связанная с отправленным URL, содержит тег noindex
По аналогии с предыдущей ошибкой, эта страница была отправлена на индексацию, но она содержит директиву noindex в метатеге или в заголовке ответа HTTP.
Что делать. Если страница должна быть проиндексирована, уберите noindex.
Отправленный URL возвращает ложную ошибку 404
Ложная ошибка 404 означает, что страница возвращает статус 200 OK, но её содержимое может указывать на ошибку. Например, страница пустая или содержит слишком мало контента.
Что делать. Проверьте страницы с ошибками и посмотрите, есть ли возможность изменить контент или настроить редирект.
Отправленный URL возвращает ошибку 401 (неавторизованный запрос)
Ошибка 401 Unauthorized означает, что запрос не может быть обработан, потому что необходимо залогиниться под правильными user ID и паролем.
Что делать. Googlebot не может индексировать страницы, скрытые за логинами. Или уберите необходимость авторизации или подтвердите авторизацию Googlebot, чтобы он мог получить доступ к странице.
Отправленный URL не найден (ошибка 404)
Ошибка 404 говорит о том, что запрашиваемая страница не найдена, потому что была изменена или удалена. Такие страницы есть на каждом сайте и наличие их в малом количестве обычно ни на что не влияет. Но если пользователи будут находить такие страницы, это может отразиться негативно.
Что делать. Если вы увидели эту проблему в отчёте, перейдите на затронутые страницы и проверьте, можете ли вы исправить ошибку. Например, настроить 301-й редирект на рабочую страницу.
Дополнительно убедитесь, что файл Sitemap не содержит URL, которые возвращают какой-либо другой код состояния HTTP кроме 200 OK.
При отправке URL произошла ошибка 403
Код состояния 403 Forbidden означает, что сервер понимает запрос, но отказывается авторизовывать его.
Что делать. Можно либо предоставить доступ анонимным пользователям, чтобы робот Googlebot мог получить доступ к URL, либо, если это невозможно, удалить URL из карты сайта.
URL заблокирован из-за ошибки 4xx (ошибка клиента)
Страница может быть непроиндексирована из-за других ошибок 4xx, которые не описаны выше.
Что делать. Чтобы понять, о какой именно ошибке речь, используйте Инструмент проверки URL. Если устранить ошибку невозможно, уберите URL из карты сайта.
Статус «Без ошибок, есть предупреждения»
URL без ошибок, но с предупреждениями, были проиндексированы, но могут требовать вашего внимания. Тут обычно случается две проблемы.
Проиндексировано, несмотря на блокировку в файле robots.txt
Обычно эти страницы не должны быть проиндексированы, но скорее всего Google нашёл ссылки, указывающие на них, и посчитал их важными.
Что делать. Проверьте эти страницы. Если они всё же должны быть проиндексированы, то обновите файл robots.txt, чтобы Google получил к ним доступ. Если не должны — поищите ссылки, которые на них указывают. Если вы хотите, чтобы URL были просканированы, но не проиндексированы, добавьте директиву noindex.
Страница проиндексирована без контента
URL проиндексированы, но Google не смог прочитать их контент. Это может быть из-за таких проблем:
- Клоакинг — маскировка контента, когда Googlebot и пользователи видят разный контент.
- Страница пустая.
- Google не может отобразить страницу.
- Страница в формате, который Google не может проиндексировать.
Зайдите на эти страницы сами и проверьте, виден ли на них контент. Также проверьте их через Инструмент проверки URL и посмотрите, как их видит Googlebot. После того, как устраните ошибки, или если не обнаружите каких-либо проблем, вы можете запросить у Google повторное индексирование.
Статус «Страница без ошибок»
Здесь показываются страницы, которые корректно проиндексированы. Но на эту часть Отчёта всё равно нужно обращать внимание, чтобы сюда не попали страницы, которые не должны были оказаться в индексе. Тут тоже есть два статуса.
Страница была отправлена в Google и проиндексирована
Это значит, что страницы отправлена через Sitemap и Google её проиндексировал.
Страница проиндексирована, но её нет в файле Sitemap
Это значит, что страница проиндексирована даже несмотря на то, что её нет в Sitemap. Посмотрите, как Google нашёл эту страницу, через Инструмент проверки URL.
Чаще всего страницы в этом статусе — это страницы пагинации, что нормально, учитывая, что их и не должно быть в Sitemap. Посмотрите список этих URL, вдруг какие-то из них стоит добавить в карту сайта.
Статус «Исключено»
В этом статусе находятся страницы, которые не были проиндексированы. В большинстве случаев это вызвано теми же проблемами, которые мы обсуждали выше. Единственное различие в том, что Google не считает, что исключение этих страниц вызвано какой-либо ошибкой.
Вы можете обнаружить, что многие URL здесь исключены по разумным причинам. Но регулярный просмотр Отчёта поможет убедиться, что не исключены важные страницы.
Индексирование страницы запрещено тегом noindex
Что делать. Тут то же самое — если страница и не должна быть проиндексирована, то всё в порядке. Если должна — удалите noindex.
Индексирование страницы запрещено с помощью инструмента удаления страниц
У Google есть Инструмент удаления страниц. Как правило с его помощью Google удаляет страницы из индекса не навсегда. Через 90 дней они снова могут быть проиндексированы.
Что делать. Если вы хотите заблокировать страницу насовсем, вы можете удалить её, настроит редирект, внедрить авторизацию или закрыть от индексации с помощью тега noindex.
Заблокировано в файле robots.txt
У Google есть Инструмент проверки файла robots.txt, где вы можете в этом убедиться.
Что делать. Если эти страницы и не должны быть в индексе, то всё в порядке. Если должны — обновите файл robots.txt.
Помните, что блокировка в robots.txt — не стопроцентный вариант закрыть страницу от индексации. Google может проиндексировать её, например, если найдёт ссылку на другой странице. Чтобы страница точно не была проиндексирована, используйте директиву noindex.
Подробнее о блокировке индексирования при помощи директивы noindex
Страница не проиндексирована вследствие ошибки 401 (неавторизованный запрос)
Обычно это происходит на страницах, защищённых паролем.
Что делать. Если они и не должны быть проиндексированы, то ничего делать не нужно. Если вы не хотите, чтобы Google обнаруживал эти страницы, уберите существующие внутренние и внешние ссылки на них.
Страница просканирована, но пока не проиндексирована
Это значит, что страница «ждёт» решения. Для этого может быть несколько причин. Например, с URL нет проблем и вскоре он будет проиндексирован.
Но чаще всего Google не будет торопиться с индексацией, если контент недостаточно качественный или выглядит похожим на остальные страницы сайта.
В этом случае он поставит её в очередь с низким приоритетом и сфокусируется на индексации более важных страниц. Google говорит, что отправлять такие страницы на переиндексацию не нужно.
Что делать. Для начала убедитесь, что это не ошибка. Проверьте, действительно ли URL не проиндексирован, в Инструменте проверки URL или через инструмент «Индексация» в Анализе сайта в Топвизоре. Они показывают более свежие данные, чем Отчёт.
Как исправить ошибку, когда страница просканирована, но не проиндексирована (на английском)
Обнаружена, не проиндексирована
Это значит, что Google увидел страницу, например, в карте сайта, но ещё не просканировал её. В скором времени страница может быть просканирована.
Иногда эта проблема возникает из-за проблем с краулинговым бюджетом. Google может посчитать сайт некачественным, потому что ему не хватает производительности или на нём слишком мало контента.
Что такое краулинговый бюджет и как его оптимизировать
Возможно, Google не нашёл каких-либо ссылок на эту страницу или нашёл страницы с большим ссылочным весом и посчитал их более приоритетными для сканирования.
Если на сайте есть более качественные и важные страницы, Google может игнорировать менее важные страницы месяцами или даже никогда их не просканировать.
Вариант страницы с тегом canonical
Эти URL — дубли канонической страницы, отмеченные правильным тегом, который указывает на основную страницу.
Что делать. Ничего, вы всё сделали правильно.
Страница является копией, канонический вариант не выбран пользователем
Это значит, что Google не считает эти страницы каноническими. Посмотрите через Инструмент проверки URL какую страницу он считает канонической.
Что делать. Выберите страницу, которая по вашему мнению является канонической, и разметьте дубли с помощью rel=”canonical”.
Страница является копией, канонические версии страницы, выбранные Google и пользователем, не совпадают
Вы выбрали каноническую страницу, но Google решил по-другому. Возможно, страница, которую вы выбрали, не имеет столько внутреннего ссылочного веса, как неканоническая.
Что делать. В этом случае может помочь объединение URL повторяющихся страниц.
Как правильно настроить внутренние ссылки на сайте
Не найдено (404)
URL нет в Sitemap, но Google всё равно его обнаружил. Возможно, это произошло с помощью ссылки на другом сайте или ранее страница существовала и была удалена.
Что делать. Если вы и не хотели, чтобы Google индексировал страницу, то ничего делать не нужно. Другой вариант — поставить 301-й редирект на работающую страницу.
Страница с переадресацией
Эта страница редиректит на другую страницу, поэтому не была проиндексирована. Обычно, такие страницы не требуют внимания.
Что делать. Эти страницы и не должны быть проиндексированы, так что делать ничего не нужно.
Для постоянного редиректа убедитесь, что вы настроили перенаправление на ближайшую альтернативную страницу, а не на Главную. Редирект страницы с 404 ошибкой на Главную может определять её как soft 404.
@JohnMu what does Google do when a site redirects all its 404s to the homepage? Seeing more and more sites do this and it’s such an anti-pattern.
— Joost de Valk (@jdevalk) January 7, 2019
Yeah, it’s not a great practice (confuses users), and we mostly treat them as 404s anyway (they’re soft-404s), so there’s no upside. It’s not critically broken/bad, but additional complexity for no good reason — make a better 404 page instead.
— ? John ? (@JohnMu) January 8, 2019
Ложная ошибка 404
Обычно это страницы, на которых пользователь видит сообщение «не найдено», но которые не сопровождаются кодом ошибки 404.
Что делать. Для исправления проблемы вы можете:
- Добавить или улучшить контент таких страниц.
- Настроить 301-й редирект на ближайшую альтернативную страницу.
- Настроить сервер, чтобы он возвращал правильный код ошибки 404 или 410.
Страница является копией, отправленный URL не выбран в качестве канонического
Эти страницы есть в Sitemap, но для них не выбрана каноническая страница. Google считает их дублями и канонизировал их другими страницами, которые определил самостоятельно.
Что делать. Выберите и добавьте канонические страницы для этих URL.
Страница заблокирована из-за ошибки 403 (доступ запрещён)
Что делать. Если Google не может получить доступ к URL, лучше закрыть их от индексации с помощью метатега noindex или файла robots.txt.
URL заблокирован из-за ошибки 4xx (ошибка клиента)
Сервер столкнулся с ошибкой 4xx, которая не описана выше.
Гайд по ошибкам 4xx и способы их устранения (на английском)
Попробуйте исправить ошибки или оставьте страницы как есть.
Ключевые выводы
- Проверяя данные в Отчёте помните, что не все страницы сайта должны быть просканированы и проиндексированы.
- Закрыть от индексации некоторые страницы может быть так же важно, как и следить за тем, чтобы нужные страницы сайта индексировались корректно.
- Отчёт об индексировании показывает как критичные ошибки, так и неважные, которые не обязательно требуют действий с вашей стороны.
- Регулярно проверяйте Отчёт, но только для того, чтобы убедиться, что всё идёт по плану. Исправляйте только те ошибки, которые не соответствуют вашей стратегии индексации.
The “Server error (5xx)” is a Google Search Console status indicating why some of your pages remain unindexed. “Server error (5xx)” means that:
- Googlebot requested to visit and crawl those pages,
- Your server wasn’t able to fulfill the request due to an error,
- As a result, Googlebot didn’t access the content of the pages, and Google didn’t index them.
“Server error (5xx)” is a problem worth addressing for two essential reasons. First, it may block your valuable pages from appearing and ranking on Search. Second, it shows that your server struggles with growing problems that can make it difficult for users to access your website in the future.
What is the cause for the “Server error (5xx)” in Google Search Console?
Google Search Console displays the “Server error 5xx” status for URLs that Googlebot couldn’t access because your server communicated a malfunction. Without access to your content, Google won’t initiate the indexing process.
Being indexed by Google is an absolute condition for your pages to appear in the search results and attract traffic to your business. By indexing a page, Google decides to keep its URL and information about its content in an enormous database called Google Index. The indexing is preceded by two steps:
- Discovery – when thanks to your sitemap or links, Google finds out about the existence of the URL,
- Crawling – when Google learns the URL content to assess its quality and assign it to relevant queries,
As you can see, Google will not index a URL without knowing its content, and that’s why the crawling stage is so important. Group 5xx server error severely disrupts this process. It means that your server error is preventing Googlebot from crawling the page.
As a result, Googlebot excludes the URL from indexing and is likely to leave your server alone to prevent causing additional overload.
Let me explain how it works.
What is a 5xx server error?
Server error from the 5xx group is a status code communicating that the request to visit the site fails because the server encounters a problem while processing the requested resource. In this brief message, your server informs a third party of its technical difficulties causing unavailability.
Every time you browse a website, you owe it to successful communication between the server and your browser. To standardize this communication, the HTTP protocol was created.
The HTTP protocol provides three-digit codes that servers use to inform crawlers and browsers whether a page is available to them and, if not, what went wrong.
Servers always return status codes after receiving a request. Sometimes the failure of communication is due to a faulty request, but sometimes it’s the server that is unable to fulfill its task. The second scenario is the situation described by the group of server errors starting with the digit 5.
Examples of 5xx server response codes and what causes them
The 5xx errors are caused by your server’s technical issues, like misconfiguration or overload.
Google Search Console doesn’t differentiate between different errors in the 5xx group because for Google, they all represent the same issue. On top of that, your server’s accuracy in returning specific 5xx status codes depends only on its settings, which makes it difficult to get reliable information when looking at 5xx error codes served by different servers.
It’s helpful, however, to know the most common responses from this group and understand their causes.
| Status Code | The cause |
|---|---|
| 500 – Internal Server Error | This is the most generic response of the group. It means that your server can’t fulfill the request due to unexpected conditions. |
| 502 – Bad Gateway | This error is most commonly associated with mistakes in proxy server configuration, but it can also result from poor IP communication between backend computers or firewall malfunction. |
| 503 – Service Unavailable | This response occurs when the server is temporarily overloaded by a large number of requests or temporarily closed for maintenance. |
How do 5xx server errors affect your SEO performance?
A messy server configuration is an enemy of organic traffic. Frequent 5xx server errors may significantly worsen your SEO performance in the following ways:
Bad user experience
The unavailability of your pages translates into a poor user experience. Users usually don’t have the patience to browse your site in search of a page that actually works.
Also, Google may not want to surface pages that will likely give users a bad experience.
Decreased crawl budget
Google has limited resources, so it deliberately refrains from crawling all content it discovers. For each website, it estimates the crawl budget. It determines how often Googlebot will visit a given domain and how many URLs it will crawl during that time.
Pages returning 5xx status codes are a strong signal for Google to scale back the crawling to avoid overwhelming your server. This way, Googlebot’s interest in your site will decrease, which affects both your existing and new content.
If Google crawls your website less frequently, your fresh content may be discovered with a significant delay when it’s no longer relevant for users.
The updates to your old content will also go unnoticed, which has the following consequences:
- Google users will still see the old search snippets and stay unaware that your articles contain the latest information,
- Google will rank your website based on the old content, disregarding any recent SEO improvements made.
Would you like to speed up the discovery of your content? Contact us for crawl budget optimization.
Indexing issues
As stated before, Google won’t index a page it can’t crawl. That’s why you see the “Server error (5xx)” status in your GSC, and your pages aren’t visible on Search.
Where can I find 5xx server errors?
The 5xx server errors are problematic but fixable! Before talking about the best ways to address them, let’s discuss where to identify affected URLs.
Google Search Console’s Page Indexing report
The first place is Google Search Console’s Page Indexing report which probably raised your attention to the problem. The “Server error (5xx)” status is one of many listed in this report.
By clicking on it and expanding it, you can view the list of affected URLs and a chart showing how their number was changing in time.
You can get additional information about each of them by running the URL Inspection Tool, as shown in the screenshot.
The list of URLs can be exported, which will certainly help you organize your work.
It’s a good idea to filter the pages so that you only see those that simultaneously return code 5xx status and are included in your sitemap (which means you care about them being indexed).
This way, you will quickly identify the URLs for which the problem is the most pressing.
Google Search Console’s Crawl Stats report
Another place that will help you quickly identify pages that return a 5xx response is Google Search Console’s Crawl Stats. To find them, scroll to the bottom of the left navigation bar and select “Settings.”
Then open the Crawl stats report.
Scroll down a bit to see the crawl requests breakdown and focus your attention on the report concerning server responses.
Just like in the Page Indexing report, you can select the status code you are interested in, expand it and view the list of URLs that return Googlebot such a response.
Server logs
Your server’s log files record information on all requests performed by users’ browsers or search engine crawlers. By inspecting the file, you can learn:
- Who, how often, and at what times of the day visited your website,
- Which parts of your website get the most interest,
- How often, and to whom individual parts of your site return 5xx server errors.
A server log file is where you will find the most valuable information about your server’s struggles. If you care about quickly finding the causes of the problem, use Onely’s comprehensive server log analysis.
How to fix “Server error (5xx)”?
In the section above, I told you how to get a list of “Server error (5xx)” URLs. Now, let’s focus on troubleshooting them.
The first step you should take is effortless. Open the pages in your browser and see if the problem persists. To ensure you have an up-to-date overview of the situation, clear the cookies and cache files from your browser.
Google reports 5xx error, but the site works fine for me! What should I do?
If the pages are available to you, Googlebot is most likely facing a temporary 503 error. This means that your server is overloaded easily and cannot cope with a large number of requests.
This situation puts your indexing and user experience at risk, so you may need to upgrade your server.
Switching to a more efficient server may be a short-term solution if your site is cluttered with uncompressed files. Contact Onely for web performance optimization to boost your SEO long-term.
5xx Server Error persists – What should I do?
If pages remain unavailable during your check, you may be dealing with some deeper problems. You can try fixing it with the following methods:
Disable faulty WordPress plugins
Sometimes, users and crawlers requesting your pages see a 5xx response due to outdated plugins in your Content Management System, e.g., WordPress.
If you can, try disabling your plugins one by one and checking if it solves the problem. Crawl your pages with a Googlebot user agent to see your website from its perspective and make sure the problem disappears.
Undo the recent server update
It’s possible that your last server update caused some configuration issues and conflicts. Try going back to the previous software version to see if the issue is resolved.
Fix errors in your .htaccess file
The .htaccess file provides configuration changes to your server. Typically, your Content Management System creates it automatically.
If you suspect errors in this file, you can deactivate the old .htaccess file and create a new one with a few clicks.
Contact your hosting provider
In shared hosting environments, there is a great possibility that the “Server error (5xx)” status appeared because of your service provider’s oversight. Contact the provider to resolve the situation.
Wrapping up
“Server error (5xx)” is a Google Search Console status describing URLs that are unindexed due to their unavailability for Google’s crawler. The reason for this unavailability lies on the side of your server, which can be overloaded or poorly configured.
You can troubleshoot the “Server error (5xx)” pages by upgrading your server, looking for bugs in your Content Management System, and contacting your hosting provider. To make sure that indexing issues won’t bother you in the near future, contact Onely for a technical SEO audit.
Working across the technical spectrum of SEO, Onely provides strong commercial value to clients through cutting-edge solutions.
Такие URL-адреса должны возвращать другую ошибку.
В переписке с Джоном Мюллером веб-мастер спросил, как реагировать на оповещение в Google Search Console о том, что страница сайта отдает код ошибки 5xx?
Реакция сотрудника поисковой системы:
«Необходимо избегать ситуации, когда страница веб-ресурса отдает код ошибки 5xx (проблема на стороне сервера). Если URL более не существует, используйте ошибку 404. Так мы узнаем, что страницы больше нет. Серверная ошибка URL 5xx таких сведений не передает».
Эксперт также добавил, что даже наличие ошибки 404 не запретит ботам Google сканировать недействительный контент. Поисковик будет снова и снова возвращаться к нему, если в интернете все еще остались линки на такой более несуществующий URL-адрес.
Ранее Джон Мюллер заявил, что использование HTML5 не должно навредить SEO.