蜘蛛反复爬取重复页面多次怎么回事?
蜘蛛就是爬取页面是重复的,经常爬取页面重复性太高了,爬取页面重复对网站也没有好处,为什么蜘蛛一次次的爬取重复的页面,如何引导蜘蛛爬取页面正确?真的不希望蜘蛛这样反复的爬取页面没有用的。
2 人参与回答
回复问答禁止带推广链接、违法词及灌水,违规将封禁账号!!了解合理带链接的方法
本贴交流超时,回复已关闭