搜外网>搜外问答>问答页面

查看了服务器日志，这样的抓取是不是有问题的呢？

微信

<p><br></p>

追加问题
本帖由用户发布，如有侵权联系删除  2019-10-30 发布1,037 次浏览
举报
其他问题
 
    2 人参与回答
用户142031

我的抓取的也是不存在的目录，一查是个假百度

6 年前
IP属地：河南
赞同 0 评论 0
收藏 举报
评论取消
用户9923 · 徐州网站建设QQ:307305719 www xuzhoukeji com

路径如果不存在就设置Robots禁止掉不存在的目录

6 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消

收录宝

/5514 /5515 /5544 /5545 /5624 /5625 /5638 /5639 /5664 /5665 /5743 /5744 /5656 /5657 /5572 /5573 /5421 /5422 75567 94483

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司