多拉A梦的小毛 发表于 2017-3-25 00:27:31

robots.txt的写法

【纵横数据小编Alice】robots.txt的写法
(1)允许所有的robot访问
User-agent: *
Disallow:
或者
User-agent: *
Allow: /
或者建一个空文件”robots.txt”即可。
(2)仅禁止某个机器人访问您的网站,如Baiduspider。
User-agent: Baiduspider
Disallow: /
更多关于robots讨论,可以qq442780253,关注纵横数据Alice分享
全球服务器租用|海外服务器租用|网站建站一站式网络解决方案-纵横数据

小小小童话 发表于 2017-3-25 00:27:31

搜索引擎(Search Engine):是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息,在对信息进行组织和处理后,为用户提供检索服务,将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。

SEO专用香港空间买12个月用16个月
美国服务器购买地址:http://www.zndata.com http://www.zoneidc.com
页: [1]
查看完整版本: robots.txt的写法