搜外网>搜外问答>问答页面

robots禁止抓取某个链接如何写?

禁止抓取网址URL,网站robots禁止抓取某个链接怎么写?具体如何操作,哪位大神指点一下,我想禁止不让抓取页面的URL,禁止后蜘蛛也不抓取了,也不收录了?

追加问题
    1 人参与回答
安生
安生 · 本人有着5年以上的站长经验

Disallow: /

然后后面是你不想搜索引擎抓取的目录

SEO培训招生中
189