Индексация страниц с метками
Рубрика: Блог
Попалось на глаза: вдруг пригодится
Q: При просмотре проиндексированных Рамблером страниц своего сайта
обнаруживаю, что главная страница существует со множеством вариантов
УРЛ — каким-то образом индексируются ссылки с объявлений с реферами (в
частности, в директе). Как это в принципе может быть — ведь, чтобы
увидеть контекстную рекламу, надо набрать запрос в поисковике. И что с
этим делать — в результате главная страница сайта никак не попадает в
результаты поиска.
A: Со временем склеит. Если не хотите ждать, напишите в роботс.тхт
User-agent: StackRambler
Disallow: *partner=
и все урлы, в которых есть подстрока ‘partner=’ будут игнорироваться.
Это такая недокументированная фича Рамблера. До сих пор
поддерживается и бережно переносится из одной версии робота в другую.
https://groups.rambler.ru/groups/rambler.rambler.search/977672.html