Новые рипы сайтов, и шаблоны для ucoz.

Форум: UCOZ-COPY.RU



Что такое robots.txt?, Ответ на вопрос.
Сообщение Сообщение #1 
avatara
  • 51
VIP
Активный участник
Сообщений: 263
Репутация: 2
Публикаций на сайте: 1
[Смотреть всё]
Комментариев: 0
ICQ:--
]]> ]]> WMID:
BL: ]]> bl ]]> ]]> ]]>
robots.txt — файл ограничения доступа к содержимому роботам на http-сервере. Файл должен находиться в корне сайта (то есть иметь путь относительно имени сайта /robots.txt). При наличии нескольких поддоменов файл должен располагаться в корневом каталоге каждого из них. Данный файл дополняет стандарт Sitemaps, который служит прямо противоположной цели: облегчать роботам доступ к содержимому.

Использование файла добровольно. Стандарт был принят консорциумом W3C 30 января 1994 года в списке рассылки robots-request@nexor.co.uk и с тех пор используется большинством известных поисковых машин.

Файл robots.txt используется для частичного управления индексированием сайта поисковыми роботами. Этот файл состоит из набора инструкций для поисковых машин, при помощи которых можно задать файлы, страницы или каталоги сайта, которые не должны индексироваться.

Файл robots.txt может использоваться для указания расположения файла и может показать, что именно нужно, в первую очередь, проиндексировать поисковому роботу.


10/01/11 - 09:18
Зарегистрирован: 5.01.2011 |
 
« · FAQ по ucoz · »
Быстрый ответ Ответить

1 чел. читают этот форум (гостей: 1)

Пользователей: 0

{links_4}