User-agent: *
Crawl-delay: 5 # задает таймаут в 5 секунд
Clean-param: PHPSESSID