Форум: Форум PHPФорум ApacheФорум Регулярные ВыраженияФорум MySQLHTML+CSS+JavaScriptФорум FlashРазное
Новые темы: 0000000
Самоучитель PHP 5 / 6 (3 издание). Авторы: Кузнецов М.В., Симдянов И.В. PHP Puzzles. Авторы: Кузнецов М.В., Симдянов И.В. PHP. Практика создания Web-сайтов (второе издание). Авторы: Кузнецов М.В., Симдянов И.В. MySQL 5. В подлиннике. Авторы: Кузнецов М.В., Симдянов И.В. C++. Мастер-класс в задачах и примерах. Авторы: Кузнецов М.В., Симдянов И.В.
ВСЕ НАШИ КНИГИ
Консультационный центр SoftTime

Разное

Выбрать другой форум

 

Здравствуйте, Посетитель!

вид форума:
Линейный форум Структурный форум

тема: Проблемы с robots.txt
 
 автор: EvgenLog   (03.11.2006 в 08:53)   письмо автору
 
 

Сдравствуйте! Я почему-то не могу правильно настроить данный файл. Когда проверяю яндексом
http://www.yandex.ru/cgi-bin/test-robots?host=krorspp.ru
То получаю надпись:
Данный файл robots.txt ничего не запрещает.
НО!
Содержание файла такое:
User-Agent: *

Disallow: /img
Disallow: /includes
Disallow: /style
Disallow: /content/admin
Disallow: /content/toppan.php
Disallow: /content/rspp/aims_inc.php
Disallow: /content/rspp/join_inc.php
Disallow: /content/rspp/rules_inc.php
Disallow: /content/rspp/structure_inc.php
Disallow: /content/rsppko/members/img.php
Disallow: /content/rsppko/news/dates.php
Disallow: /content/rsppko/news/months.php
Disallow: /content/rsppko/politic

И ещё, я запретил индексацию определённых файлов, т.к. они являются включениями в основные файлы, кторые грузфтся при переходи по ссылкам. В файлах типа *_inc.php хранится только текст. Я правильно сделал? Или нифига не проиндексируется?

   
 
 автор: SHAman   (03.11.2006 в 16:12)   письмо автору
 
   для: EvgenLog   (03.11.2006 в 08:53)
 

Если включение идет на стороне сервера, то тексты проиндексируются роботом при посещении тех страниц, куда эти тексты подгружаются.

   
 
 автор: EvgenLog   (06.11.2006 в 22:55)   письмо автору
 
   для: SHAman   (03.11.2006 в 16:12)
 

Но я где-то читал, что робот обходит сайт по всем папкам и подпапкам и индексирует ВСЁ! Это не правда?

   
 
 автор: DEM   (07.11.2006 в 00:00)   письмо автору
 
   для: EvgenLog   (06.11.2006 в 22:55)
 

Можно каким-то МЕТА-тегом запрещать индексирование даного файла.. ну и я точно не помню, но вроде при помощи .httaccess можно...

   
Rambler's Top100
вверх

Rambler's Top100 Яндекс.Метрика Яндекс цитирования