每个人的情况都不一样,自己网站的页面哪些不想被收录,就可以屏蔽掉
Disallow: /.asp Disallow: /.aspx Disallow: /.doc Disallow: /.docx Disallow: /.PHP Disallow: /.shtml Disallow: /*.xml
屏蔽一些不想被搜索引擎抓取的网址
屏蔽掉一些不想要被抓取的文件及链接
让更多人参与回答