搜外网>搜外问答>问答页面

有什么工具查询蜘蛛抓取数据？

微信

有什么工具可以查询蜘蛛抓取情况的数据？我想看看网站来蜘蛛没有，每天来多少次，被抓取的情况有多少，通过什么工具可以查询检测看看？感谢大家给我推荐一个！

追加问题
举报 本帖由用户发布，如有侵权联系删除  2020-11-05 发布649 次浏览
最新问题
 
广告位出租
广告位出租-排名优化
    3 人参与回答
学历提升，深户办理，喻老师
学历提升，

般在http服务器目录下配置Robots.txt文件,具体写法网上查; 不过也是有办法突破的,基本上防君子不防小人;大网站也用robots.txt这么做,不过更多的是一种

3 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
痫来无事
痫来无事

看一下日志吧

3 年前
IP属地：山西
赞同 0 评论 0
收藏 举报
评论取消
污水设备
污水设备

你只能从FTP吧日志下下来，然后进行分析，我这是最笨的方法吧

3 年前
IP属地：辽宁
赞同 0 评论 0
收藏 举报
评论取消
回复问答禁止带推广链接、违法词及灌水，违规将封禁账号！！了解合理带链接的方法
本贴交流超时，回复已关闭
  • 百度快照还有其他投诉办法？
  • 谁能帮我看一看啊，我这个网站为什么收录一直不上来呢
  • 百家号新手每天必须发布文章吗?
  • 为啥网站只收录手机端的，不收录PC的？
  • 终于恢复了，跟过山车似的
  • 咋办呀网站7天了还不收录呢！
  • 360小程序信息完善一直不通过是为什么
  • 360收录页面有部分连接开头还是http是为什么？
  • 网站单页面站怎么优化好？
  • 只是单纯说蜘蛛来到网站抓取首页就走了是因为啥
    • SEO培训招生中
    190
    搜外微信
    提供服务
    常用链接
    产品实验室
    ©2008-2024 SEOWHY 深圳市夫唯伙伴信息咨询有限公司