3 人参与回答

disallow那些东西就可以了

推推蛙
用户144761 · 擅长SEOSEM爱采购诊断、方案编写、优化运维。微信:tuituiwaseo

1、如果不想被蜘蛛去抓取的页面,就不要出现在网站的内链指向,Sitemap里;
2、如果明确PHP不需要收录,也不需要抓取,也可以Robots去封禁;
ps:前端没有生成指向php的页面,蜘蛛不会去抓取和放出收录,只要不给通道即可

宝贝
用户194121 · 来打发时间。

Disallow: /*.PHP$