5 人参与回答
每个人的情况都不一样,自己网站的页面哪些不想被收录,就可以屏蔽掉
Disallow: /.asp
Disallow: /.aspx
Disallow: /.doc
Disallow: /.docx
Disallow: /.PHP
Disallow: /.shtml
Disallow: /*.xml
屏蔽掉一些不想要被抓取的文件及链接
每个人的情况都不一样,自己网站的页面哪些不想被收录,就可以屏蔽掉
Disallow: /.asp
Disallow: /.aspx
Disallow: /.doc
Disallow: /.docx
Disallow: /.PHP
Disallow: /.shtml
Disallow: /*.xml
屏蔽掉一些不想要被抓取的文件及链接