做了404链接提交,但是发现近期还是有很多爬到这个入口的,无疑是浪费了蜘蛛资源,怎么解决呢?
内链排查一下就行,其他不用管,如果是从外链爬过来的想管也管不了。
提交了404之后去看看有没有生效 一般会延迟
要是觉得浪费,你直接Robots里面把这个路口给禁用了嘛。
1、有的是虚假蜘蛛,爬行不存在的页面,返回码404,这种不会被收录,忽略即可; 2、对于已收录的死链,返回码404,做死链提交删除即可,做好基础优化和提交推送引蜘蛛操作。
提交下404死链到百度站长平台
让更多人参与回答