搜外网>搜外问答>问答页面

蜘蛛爬取不存在页面，和历史页面

微信

蜘蛛为什么会爬取不存在的页面和栏目，还有历史页面明明很早已经删除了显示还在爬取

追加问题
本帖由用户发布，如有侵权联系删除  2019-10-22 发布1,172 次浏览
举报
其他问题
 
    3 人参与回答
用户153443 · 精密齿轮

写好蜘蛛协议吧

6 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户151427

不想让 它爬就加进Robots里面，屏蔽这些页面

6 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户153943

其实页面还存在 只是你把入口给删了

6 年前
IP属地：北京
赞同 0 评论 0
收藏 举报
评论取消

收录宝

n/321 /5429 /5425 /5407 /5381 /2034 om/ta /5338 /5353 om/ta om/ta /2021 /2004 om/ta /1931 om/ta om/ta om/76 om/ta /5415

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司