Работа с панелями вебмастеров Яндекса, Google, Yahoo, Bing — Часть 3 – Добавление карты сайта Sitemap, тестирование robots.txt, 301 редирект в инструментах для веб-мастеров Google
В этой статье из рубрики SEO и SMO - продвижение сайтов мы продолжим знакомиться с возможностями сервиса под названием "Инструменты для веб-мастеров" от Google. С помощью этого сервиса вы сможете увидеть статистику сканирования и индексирования сайта поисковыми роботами Google, воспользоваться различным инструментами для анализа содержания сайта, посмотреть по каким поисковым запросам заходят на ваш сайт посетители и еще многое другое. В предыдущих статьях этой серии мы рассмотрели следующие темы:
В предыдущей статье Регистрация и работа в инструментах для веб-мастеров Google мы рассмотрели вопрос получения аккаунта в сервисах Google и пробежались по содержимому главного окна сервиса инструментов для веб-мастеров от Google. Сегодня мы более подробно поговорим обо всех возможностях, которые нам предоставляет этот сервис.
Еще раз повторюсь, что на главной странице приведена частичная информация о позициях сайта по наиболее частым поисковым запросам, информация об уже загруженных файлах карты сайта Sitemap, а так же об ошибках сканирования, если таковые имеют место быть. В левой колонке под названием "Панель инструментов" располагаются главные разделы сервиса "Инструменты для веб-мастеров" от Google – “Конфигурация сайта”, “Ваш сайт в интернете”, “Диагностика” и "Экспериментальные функции". Рассмотрим подробно каждый раздел.
Раздел "Конфигурация сайта" в инструментах для веб-мастеров Google
Рассмотрим попунктно содержимое раздела "Конфигурация сайта" в панели инструментов Google.
Добавление файла карты сайта Sitemap в инструментах для веб-мастеров Google
Первый пункт этого раздела "Файлы Sitemap" позволяет вам добавить путь к вашей карте сайта, блога или форма. Как создаются карты сайта в формате XML для проeктов на Joomla, блогов на WordPress и форумов на SMF, я подробно рассказывал в статьях:
- Создание карты сайта на Joomla с помощью компонента Xmap для улучшения индексации сайта
- Создание карты сайта для блога на WordPress с помощью плагинов Google XML Sitemaps и Sitemap Generator
- Как установить пакет модификации для SMF (на примере мода карты сайта — Sitemap)
- Как создать карту для любого сайта
Для того, чтобы Google подгрузил и использовал в дальнейшем ваш файл карты сайта Sitemap, вам нужно будет нажать на кнопку "Отправить файл Sitemap" и в открывшемся окошке прописать путь до вашего файла карты сайта, а затем нажать кнопку "Отправить файл Sitemap" в этом окне.

На этой странице так же можно удалить лишний файл карты сайта, если таковой присутствует. В приведенной таблице вы так же можете видеть сколько ссылок на страницы вашего сайта имеется в загруженном вами файле Sitemap и сколько из них проиндексировано Google.
Тестирование существующего файла robots.txt, мастер создания нового файла robots.txt и мастер удаления страниц из индекса Google
Следующий пункт этого раздела "Доступ для сканера" открывает страницу с одноименным названием, которая имеет три вкладки. Первая вкладка "Проверить robots.txt" по аналогии с панелью инструментов Яндекса позволит проверить работоспособность созданного вами файла robots.txt. О том как создать robots.txt для своего сайта, вы можете прочитать в этих статьях:
- Улучшаем индексацию сайта поисковиками с помощью настройки файла robots.txt и мета-тега Robots
- Назначение и синтаксис файла robots.txt
- Назначение и синтаксис мета-тега Robots
- Проблема дублирования контента, которую призван решать файл robots.txt
- Включение директивы Host в файл robots.txt для Яндекса
- Оптимальный файл robots.txt для форума на SMF (Simple Machines Forum)
- Оптимальный файл robots.txt для сайта на Joomla
- Оптимальный файл robots.txt для блога на WordPress
В верхнем окне этой страницы вы увидите содержание своего файла robots.txt, а в нижнее окно под названием "URL-адреса" вы можете вставить те ссылки на страницы вашего сайта, которые вы хотите проверить на доступность для поискового робота Google. Причем, кроме основного робота сканирующего ваш сайт Googlebot, вы можете выбрать так же и специализированного бота, например, Googlebot-Image, который сканирует страницы для индексации картинок.

Нажмите на кнопку "Проверить" и внизу окна вы увидите результат проверки, причем отдельно по каждому типу поискового бота:
Если этот результат не совпадает с тем, что вы хотели получить, то придется продолжить править файл robots.txt и проверять результат правки на этой странице до тех пор, пока у вас все не заработает как надо.
На странице второй вкладки "Создайте файл robots.txt" вы можете воспользоваться услугами мастера по созданию файла robots.txt. Вы выбираете нужное действие, выбираете поискового бота, для которого вы хотите задать это действие, а так же выбираете директорию или файл, на которые будет распространяться это действие. Вы можете загрузить созданный файл, для проверки его работоспособности в первой вкладке "Проверить robots.txt".
На странице третьей вкладки "Удалить URL" вы можете создать запрос на удаление из индекса Google какого-либо отдельного URL-адреса (это можете быть веб-страница, файл изображения и т.п.), целого каталога, всего сайта или какой-либо страницы из кеша Google. Для этого нужно нажать кнопку "Создать запрос на удаление", а затем выбрать что именно вы хотите удалить:

Если вы, допустим, хотите удалить из индекса какую-либо страницу вашего сайта, то выбрав первый пункт и нажав кнопку "След", на следующем шаге мастера удаления вам нужно будет прописать адрес удаляемой страницы и нажать кнопку "Добавить". В результате, ваш запрос на удаление будет добавлен и поставлен в очередь на выполнение.
Настройка отображения ссылок на внутренние страницы сайта в поисковой выдаче Google
Следующий пункт этого раздела "Ссылки сайта" открывает одноименную страницу. Зачастую на ней выводится надпись "Служба Google не создала ссылок сайта для ваших страниц" и следовательно настроить ничего будет нельзя. Google сама решает будут ли отображаться ссылки на внутренние страницы вашего сайта в поисковой выдаче над адресом страницы вашего сайта. В результатах поиска над url адресом страницы могут отображаться до четырех внутренних ссылок с этого сайта. Выглядит это примерно так:

Если же вам повезло и Google создала эти ссылки, то на этой странице вы сможете убрать ошибочные или не устраивающие вас ссылки. Добавить нужные вам ссылки в этот блок вы не можете, только удалить ненужные.
Переезд сайта на новый домен с использованием 301 редиректа
На странице "Изменение адреса", которая откроется по нажатию одноименного пункта, вам будет дана подробная инструкция по переносу вашего сайта на другой домен. Там вам посоветуют настроить 301 редирект (перенос навсегда) со старого домена на новый. Я писал о 301 редиректе в статье Домены с www и без www — история появления, использование 301 редиректа для их склеивания. В конце этой статьи я приводил пример постраничного редиректа с одного домена на другой. После того, как вы выполните все настройки по переносу сайта на другой домен, добавьте новый домен в панель инструментов веб-мастера от Google, а затем зайдите в настройки старого домена, перейдите на страницу "Изменение адреса" и в поле "Сообщите нам URL своего нового домена" выберете из выпадающего списка "Новый URL для kvash_stariy_domen.ru: " адрес вашего нового домена.
Проверка основных настроек для вашего сайта в инструментах для веб-мастеров Google
Перейдя по пункту "Настройки" на одноименной странице вы получите возможность внести коррективы в основные настройки вашего сайта для поисковой системы Google. В области "Основной домен" вы можете выбрать основной домен с www или без www, который вы хотели бы использовать для индексации страниц своего сайта и его же система Google будет показывать в результатах поиска . Но лучше все же будет установить основной домен на уровне хостинга, используя редирект 301. Тогда в этих настройках можно будет оставить значение по умолчанию - "Не устанавливать основной домен". О том как сделать 301 редирект на уровне хостинга вы можете прочитать в статье Домены с www и без www — история появления, использование 301 редиректа для их склеивания.
На правах рекламы: Кроме карты сайта, может вам понадобиться и топографическая карта, которую можно использовать для GPS навигации. Все города и области России в вашем навигаторе.
Об остальных настройках и возможностях предоставляемых нам панелью инструментов для веб-мастеров от Google мы поговорим в следующей статье данного цикла.
Вы так же можете ознакомиться с другими статьями на тему продвижения сайта:
- Продвижение сайта в поисковых системах (SEO)
- Панели вебмастеров Яндекса, Google, Yahoo, Bing
- Счетчики посещаемости LiveInternet, Mail.ru, Google Analytics, HotLog, SpyLog, Rambler, Я.Метрика
- Twitter и FriendFeed
- E-mail рассылки Subscribe, Content.Mail и MailList
- Постинг в сервисы социальных закладок для продвижения своего сайта, привлечения дополнительных посетителей и ускорения индексации сайта поисковиками
- Показатели продвижения вашего сайта — Google PageRank (PR), тематический индекс цитирования Яндекса (ТИЦ) и Alexa Rank
- Все про RSS (фид, feed)
- Улучшаем индексацию сайта поисковиками с помощью настройки файла robots.txt и мета-тега Robots
- GoGetLinks — самая выгодная биржа рекламных обзоров
- Получение множества бесплатных обратных ссылок (бэклинков) с трастовых сайтов
На сегодня все. Если вы не хотите пропустить появление новых материалов на этом сайте, то можете подписаться на рассылку новостной ленты через форму, расположенную чуть ниже, или же выбрать удобный для вас способ подписки на странице Подписка. Если у вас остались нерешенные вопросы из области вебмастеринга, то вы можете поискать на них ответы, посетив страницу Вопросы и ответы.
Удачи вам! До скорых встреч на страницах блога KtoNaNovenkogo.ru
Постовой (обмен постовыми): Вебмастер самоучка начал серию обзоров онлайн сервисов для мотивации и организации деятельности.















Неплохо написано. Приятно было почитать.
<<< с использованием 301 редиректа<<<
Откровенно говоря я после прикручивания к блоггеру своего домена ничего не менял, и не знаю – стоит ли? Блоггер автоматом перенаправляет на новый домен.
В кто подскажет ссылку на панель управления Bing?
Хорошая статья, хоть разобрался как панель управления от гугла пользоваться. =)