Ледачими бувають не тільки люди, але і сайти. Багато інтернет-портали своїм власникам на Мальдіви і на квартири заробляють. А ваш лінивець взагалі не хоче працювати! Швидше за все, ледачий не сам сайт, а його господар, який не подбав про розумної індексації сторінок. Або просто не знає, що це таке. А що це?

Між собою змагаються не тільки спортсмени, але і сайти. Кожен з них хоче бути на найвищому щаблі в результатах, що видаються пошуковою системою. Чим вище позиція ресурсу в результатах пошуку, тим вище його популярність серед користувачів. Або точніше кажучи, тим вище його відвідуваність.

Під індексацією розуміють оцінку сторінок сайту пошуковою системою щодо введеного користувачем запиту. Чим більше вміст сторінок сайту відповідає запиту користувача, тим вище буде знаходитися ресурс в результатах пошуку.

Індексація відбувається за допомогою пошукового робота Crawler. Досить часто цю частину пошукової системи називають «мандрівним павуком». Цей павук сприймає вміст веб-сторінки у вигляді тегів html. Він обплітає своєї «павутинної» вміст сайту і перетравлює його до результатів, зрозумілих для пошукової машини.

Ці аналітичні дані заносяться в спеціальну базу даних, і потім витягуються з неї після введення користувачем пошукового запиту. Найбільш часто вводяться фрази запиту називаються ключовими словами.

Існує багато методів того, як прискорити індексацію сторінок. Але найкраще для цього підходять соціальні мережі. Помістивши пост про новому матеріалі і посилання на нього у популярній соціальній мережі (наприклад, на особистій сторінці відкритої соціальної мережі) можна досягти швидких результатів.

Нещодавно опублікована сторінка ресурсу буквально «влітає» в результати пошуку. Важливо домогтися «гарячого» обговорення матеріалу в соціальній мережі і залишення коментарів про нього.

Як перевірити індексацію сторінки?

Перевірку індексації сторінок сайту можна провести самостійно. Ось кілька найбільш доступних способів:

1. Перевірка за допомогою спеціальних сервісів онлайн

Таких веб-сервісів в інтернеті налічується кілька десятків. Найбільш популярними є:

  • seogadget.ru;
  • raskruty.ru.

Інтерфейси цих сервісів практично ідентичні. Тому розглянемо їх функціонал на прикладі сервісу seogadget.ru:

Для початку перевірки в спеціальне поле потрібно ввести адресу сторінки сайту, а потім натиснути кнопку «Перевірити». Аналіз може зайняти деякий час, яке частково залежить і від завантаженості сервісу:

Індексація сторінок як метод боротьби з ледачими сайтами

Відображаються результати індексації сторінок у Яндекс та Google у вигляді маленької таблиці.

2. Перевірка з допомогою розширення RDS bar

RDS bar є безкоштовною надбудовою браузера, розробленої спеціально для професійного seo аналізу як сайту, так і його окремих сторінок. Доступні кілька версій цього доповнення:

  • Для браузера Google Chrome;
  • Для браузера Opera;
  • Для браузера Mozilla Firefox.

Розглянемо інтерфейс даного розширення на основі версії браузера Google Chrome. Воно доступне для безкоштовного скачування в інтернет-магазині Chrome:

Індексація сторінок як метод боротьби з ледачими сайтами

Після установки RDS bar готовий до роботи. Про це свідчить значок розширення, що з’явився в правому верхньому куті браузера. Після натискання на його іконку з’являється вікно програми, в якій відображаються показники індексування за трьома пошуковим системам. З допомогою RDS bar можна перевірити індексацію сторінок в Яндексі, Google і Bing.

Крім цього у вікні доповнення відображається ще декілька важливих показників популярності ресурсу. В тому числі і кількість посилань на нього, розміщених на інших сайтах.

При великій кількості перевірок, здійснених з одного IP-адреси, пошукова система блокує доступ до аналітичними даними. Тому може знадобитися введення капчі:

Індексація сторінок як метод боротьби з ледачими сайтами

Особливості індексації пошуковою системою Яндекс

Кожен з пошуковиків має свої особливості роботи. В Яндексі за аналіз і збір даних зі сторінок сайтів відповідають пошукові роботи. Вони бувають 4 типів:

  • Робот, індексуючі контент сторінок;
  • Робот, який відповідає за індексацію картинок;
  • Робот, який відповідає за індексацію дзеркал сайту;
  • Робот, що перевіряє доступність ресурсу.

Способи блокування індексації

Буває так, що деяку інформацію на сайті потрібно приховати від індексування. Це може знадобитися:

  • Якщо ресурс або одна з його сторінок знаходиться на стадії розробки або тестування.
  • Для приховування адміністративної частини сайту та реєстраційних даних користувачів:

Індексація сторінок як метод боротьби з ледачими сайтами

Тепер дізнаємося, як закрити від індексації сторінку або частину сайту.

«Мандрівні павуки» пошукових систем дуже ввічливі. Тому перш ніж «обшукати» сайт, вони питають, де їм не можна повзати. Обмеження індексації прописуються в спеціальному файлі robots.txt, розміщеному в кореневій директорії сайту.

Синтаксис написання обмежень:

  • Заборона індексації декількох папок:

User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /~joe/

Використовується інструкція Disallow, після якої вказується шлях до потрібної папки. Ім’я кожної папки прописується з нової строчки.

  • Заборона індексації певного файлу:

User-agent: *
Disallow: /docs/

З допомогою Disallow не можна накласти заборону на певний файл, але можна на певну директорію. Тому потрібно прибрати з папки всі сторінки, індексація яких дозволена, і залишити лише ту, яку потрібно приховати.

  • Індексація тільки головної сторінки:

User-agent: *
Disallow: /*.html

Таким чином забороняється індексація всіх файлів html, розміщених в підкаталогах кореневої папки.
Також можна заборонити пошуковим роботам обробку певної сторінки за допомогою мета-тегів html:

Індексація насамперед?

У гонитві за хорошою індексацією своїх ресурсів деякі веб-майстри забувають, що її показники важливі лише пошуковикам. А для користувачів найважливіше якість і достовірність матеріалів, розміщених на ресурсі. І це найкращий спосіб забезпечити хорошу індексацію будь-якого сайту.