搜外网>搜外问答>问答页面

蜘蛛爬取页面都是重复怎么处理?

网站页面蜘蛛来爬取了,但是爬取的页面都是重复的,爬取重复的没啥用,有方法引导蜘蛛到其它页面爬取吗?蜘蛛反复无常,太奇怪了怎么办?

追加问题
    3 人参与回答
浮生挽歌
浮生挽歌 · seo、网站建设

内链引导去爬别的内容页。

冷却塔
冷却塔 · 冷却塔

这没有关系 是真的还是假蜘蛛

鹰米讲解器
鹰米讲解器 · 徽马科技鹰米导览是一家专业从事团队无线讲解器、自助导览机、展厅分区讲解系统的品牌生产厂家。

不想让爬取的内容,可以将其链接放在Robots,不让其抓取

SEO培训招生中
189