蜘蛛每天都会来网站抓取页面,但是抓取页面后没有记录,为什么抓取的没有记录痕迹,这是什么原因导致的,如何吸引蜘蛛正确的抓取方法?哪些可以让蜘蛛抓取有记录?没有记录蜘蛛是无效的,应该怎么办?
可以使用第三方工具监测看一下
原因之一是日志功能不全,有些服务商为了减轻服务器压力,就对网站日志做了功能上的限制,比如说只保留最近的100条记录,那之前的数据就看不到了。原因之二是不会分析,比如没有发现或者漏掉等。
正常情况应该不会的啊,你用工具分析一下日志看看
让更多人参与回答