搜外网>搜外问答>问答页面

假蜘蛛 爬取网站漏洞网站不收录怎么处理?

我是查看日志发现的,假蜘蛛,爬取网站漏洞的根本不收录,一般蜘蛛访问的都是404不存在的页面,如何不让这蜘蛛爬取了,这种情况怎么处理?

追加问题
    3 人参与回答
Liquor
Liquo · ..

可以设置一下 就像楼上说的

乐在古中
乐在古中 · 相信自己,一切皆有可能!

设置 Robots 可以屏蔽掉,你不想被抓取的页面

SEO培训招生中
189