请问网站网址后面输入:/robots.txt ,出现页面显示404,没有查询到哪些哪些是被禁止抓取的,这个对于网站有什么影响吗?对于收录、排名有影响吗
别纠结这些小问题了,,赶紧搞内容
1、你的网站有这个文件在根目录,域名/Robots。txt这样查询不会是404; 2、没有这个文件,检索这个返回码是404,这种很正常的,不会对网站造成不好影响。
让更多人参与回答