наверное это ваш хостер защищается от излишних нагрузок при заходе поисковиков и добавили эти строчки автоматом всем запустив скрипт (# Added by add_robots.sh)
Crawl-delay: 10 - я так понял что говорит поисковику что хост может быть загружен и страницу запрошенную ждать до 10-и секунд.
Request-rate: 1/10 - говорит поисковику что-бы он запрашивал не более 1-ой страницы за 10 секунд.