搜外网>搜外问答>问答页面

网站的接口老是被蜘蛛访问,需不需要写到robots协议里,禁止蜘蛛抓取呢?

追加问题
    5 人参与回答
你我皆凡人
你我皆凡人 · 小团队创业型,一直在失败,一直在向前努力

 有的搜索引擎不规矩,禁止了一样爬去,很麻烦

嗯,直接禁止就好了

三九问答
三九问答 · 专业的有问必答平台

无关的目录和文件建议写进去禁止爬

可以禁止的

可以。禁止爬行。

SEO培训招生中
189