网站参数空白页面总是被蜘蛛抓取怎么办
<p>网站参数空白页面总是被蜘蛛抓取，也写了robots了，但还是有蜘蛛挺多抓取这些空白参数页面（返回码200）好像当成了首页（也可能是假蜘蛛），怎么解决？</p><p>/index.php?m=Home&c=Api&a=getstore</p><p><br></p>
相关问题
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- php让百度蜘蛛抓取403，百度蜘蛛不抓取页面的解决方法是什么？(0 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(3 个回答)
- 关于网站只收录新闻栏目页问题及robots屏蔽后台问题(7 个回答)
- 有没有懂帝国CMS TAG标签插件规则的大佬呢？遇到个TAG链接转换规则的问题(9 个回答)
- 看了下网站日志，百度老去抓取404页面，需要在robots文件里面屏蔽吗？(1 个回答)
- url被删除返回404后还用robots屏蔽吗？(2 个回答)
