怎么渲染屏蔽蜘蛛 悬赏8元 已结束
<p>每天早上一起床看一下蜘蛛统计 上百万 再一看日志都是 111.206.221. 111.206.198. 都是这两个IP段的蜘蛛 后来查了一下 是渲染蜘蛛 请问一下怎么能把这些蜘蛛给屏蔽掉呢?已经设置了robots 但是设置了就越来越多,每分钟上千个.很着急,哪位大佬给解决一下呗<br></p><p><br></p>
24 人参与回答
建议服务器设置极限,没大问题建议不动,如果太过分的话就屏蔽以及站长投诉。
我也是,每天都固定时间段很多
看了一个帖子,最好不要管,以防造成自己的损失
看对于你服务器是否造成压力影响,没有就不管了,有了就吧对应的ip段屏蔽
正常啊,你越屏蔽它越抓取。
因为蜘蛛来是有前提的呀
羡慕
牛逼的咋
想过来学习一下
我的跟你一样每次下午就来贼多
1、这种蜘蛛不必屏蔽,应该是你的站点被选中百度选中爬行,渲染蜘蛛不会经常访问一个站点,无需专门的屏蔽;
2、这类蜘蛛应该爬行的不是你的页面,只是你的css或者其他;
3、这类蜘蛛不会一直爬行你的站点,先观察,如果一直爬,去百度站长反馈下。
把相关ip屏蔽
<p>个人感觉这个不用管</p><p><br></p>
把ip段屏蔽了应该可以
对的,每天关注你的流量ip,可疑的加入黑名单。我的站最近有被采集了,只能发现了就屏蔽
* *
把这两个IP段加入网站访问黑名单,然后每天观察新增的IP,每天都增加更新黑名单,我就不信他有无限个IP,要知道IP可不是想搞多少就搞多少个的,此法绝对可行