Технічні аспекти в пошуковій оптимізації


« Від розкручування сайту - до інтернет-маркетингу   |   Мовна картина інтернету Можливі методики дослідження на прикладі Уанета »

Яким чином можна відстежити роботів пошукових систем? Оскільки роботи не запрошують зображень, та більшість широко поширених лічильників тут безсилі. Відстежити роботів можна за допомогою аналізу журналів доступу веб-сервера (лог-файлов.
Кожен робот має унікальне ім’я, по якому його можна ідентифікувати, наприклад GoogleBot - робот пошукової системи Google, StackRambler - робот Рамблера, BigmirSpider - Бігміра. Деякі пошукові системи мають декілька роботів, наприклад у Яндекса їх не меншого 6-ти, причому кожен виконує певні завдання.

Окрім того робота можна визначити по запитах файлу виключень - robots.txt.

Аналіз поведінки роботів на сайті може дати відповіді на багато питань: чому сайт не індексується пошуковими системами, чому рідко оновлюється інформація в базі пошукача, які частини сайту індексуються в більшому об’ємі, а які - майже не індексуються. Крім того, такий аналіз допомагає визначити проблемні області в програмній частині сайту.

Управління індексацією сайту

Поведінкою роботів пошукових систем в межах сайту можна управляти. Розглянемо деякі методи управління роботами пошукових систем.

Заборони індексації

Можна заборонити індексацію окремих сторінок, цілих розділів сайту, а в деяких випадках всього сайту повністю. Інструкції про заборону індексації розміщують або в спеціальному файлі виключень - robots.txt, або в спеціальному мета-теге . У кожного методу є свої переваги і недоліки.
За допомогою інструкцій у файлі robots.txt можна заборонити як одну сторінку, так і групу сторінок або навіть розділи сайту з сотнями або тисячами документів, при цьому роботи пошукових документів навіть не запрошуватимуть з сервера ці документи. Управління за допомогою мета-тегов гнучкіше, можна заборонити індексацію, але дозволити слідувати по посиланнях.
Мінусом використання мета-тегов можна вважати те, що у будь-якому випадку робот запрошуватиме документи з сервера.


Tags: , , , ,

Інтернет-маркетинг


Схожі записи