robots.txt для сайтов ucoz
Как создать robots.txt знает не каждый начинающий web-мастер. Об этом наша статья.
Файл robots.txt создается на основе простого текстового файла, например в Блокноте. Для того, чтобы создать robots.txt нужно открыть программу Блокнот и сохранить файл с названием, состоящим из маленьких букв: robots.txt. Далее этот файл следует закачать при помощи ftp-менеджера на сайт. Или Файлового менеджера.
Что должно быть внутри файла robots.txt? Для чего служит этот файл?
Файл robots.txt разрешает или запрещает поисковому роботу индексировать те или иные страницы или разделы сайта, иногда весь сайт целиком.
Вновь созданные сайты ucoz, для которых создается файл robots.txt находятся примерно 1 месяц на так называемом карантине, поэтому что бы вы
ни прописали в файле robots.txt для такого сайта. там будет независимо прописываться:
Quote
User-agent: *
Disallow: /
Что означает: что всем поисковым машинам запрещено индексировать все страницы сайта.
Это написано во всех новых созданных сайтах на ucoz.
После изменения вами этого файла пройдет 1 месяц пока изменения вступят в силу,
такова политика бесплатного Хостинга. Чтоб ускорить вам надо оплатить любую платную услугу на сайте ucoz
То есть disallow - запретить к индексации.
Рекомендую секретные или пользовательские данные не пропускать в индексацию.
Пример robots.txt
[color=red]
Code
User-agent: *
Allow: /
Allow: /load
Allow: /index
Allow: /news
Allow: /publ
Disallow: /stuff
Disallow: /admin
Disallow: /secure
Disallow: /informer
Host: http://cstrike-34rus.ucoz.org
Sitemap: http://cstrike-34rus.ucoz.org/sitemap.xml
Sitemap: http://cstrike-34rus.ucoz.org/sitemap-forum.xml[/color]
Вы можете разрешить или запретить другие разделы. Все как захотите. Но не перехимичте так как это напрямую будет влиять на индекс ваших страниц у поисковых роботов всех поисковых систем.
|