蜘蛛爬取页面多数重复怎么办?
网站最近有点不正常,查看日志发现蜘蛛爬取页面很多,可是很多次数都是爬取重复的页面,这样的爬取也没有用,怎么引导蜘蛛正确的爬取方法,让蜘蛛爬取页面正常?
6 人参与回答
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭