搜外网>搜外问答>问答页面

查看了服务器日志，这样的抓取是不是有问题的呢？

微信

<p><br></p>

追加问题
本帖由用户发布，如有侵权联系删除  2019-10-30 发布1,062 次浏览
举报
其他问题
 
    2 人参与回答
用户142031

我的抓取的也是不存在的目录，一查是个假百度

6 年前
IP属地：河南
赞同 0 评论 0
收藏 举报
评论取消
用户9923 · 徐州网站建设QQ:307305719 www xuzhoukeji com

路径如果不存在就设置Robots禁止掉不存在的目录

6 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消

收录宝

ry/ti m/bei dongc m/xic jchao m/fen ijing m/hai mento /fang /tong om/sh chang om/da m/hua om/pi com/m m/yan /shan m/hua

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2026 SEOWHY 深圳市夫唯伙伴信息咨询有限公司