是网站URL设计原因吗?访问网站日志发现搞了半天一直爬的都是死链,天天发文章也没收录。
@推推蛙[?]
推推蛙说的不错
1、日志里存在大量死链,这些死链是否是你主动提交的,是否真实存在,如果不存在多半是模拟蜘蛛,非真实蜘蛛; 2、真蜘蛛抓取,大量死链,抓取异常哪里也会体现,可以去看下; 3、在你另一个问题里,给出的截图,圈起来的不是死链,返回码是200正常码,非404。
让更多人参与回答