Корректные правила обхода сайта

Входит в соответствующую работу

Результат

Управляет crawling определённых URL; файл не является механизмом защиты конфиденциальной информации.

Применение

Публичный сайт, где crawler directives полезны