Robots.txt

Soubor robots.txt by měl být umístěný v rootu webu. Každý robot, který pak web navštíví, by se měl napřed podívat, zda nemá zakázaný přístup.

Vše povoleno

Pokud necháme robots.txt úplně prázdný, říkáme tím totéž, co tímto zápisem. Roboti vyhledávačů smějí všude.

User-agent: *
Disallow:
 
web/robots.txt · Poslední úprava: 2010/07/21 01:27 (upraveno mimo Lublog.cz)
 

(c)Lublog.cz | autor | kontakt

Recent changes RSS feed Powered by PHP Driven by DokuWiki