没有及时删除以前的外链 以前做的外链,后来网站改版某些链接没有及时的删除,蜘蛛定期回访的时候爬取了这条链接。 不存在的页面最近才被删除 如果网站页面是最近删除的,也会导致这样情况出现,因为网站页面删除了,但这些页面已经被搜索引擎收录,就会存在搜索引擎中,搜索引擎也就会重复进行抓取。 URL提交的地址有误 蜘蛛抓取不到的页面,一般情况下最主要的原因是外链地址有误,所以要经常性地检查一下网站外链的情况。
看看其他老板们的回答
让更多人参与回答