rt,最近检查蜘蛛日志,发现js和css文件的抓取词数已经是主力目录的接近五倍了,请问我这里如果屏蔽掉这些文件抓取的话,会不会影响到蜘蛛对页面样式的读取,如果不屏蔽的话,后续会不会影响收录,多谢各位大神。
1、css和JS一般都是渲染蜘蛛去抓取爬行,并不影响站点的收录; 2、网站内容优质,抓取无异常,持续更新内容,引蜘蛛来访抓取,会收录; 3、如果css和js被放出收录了,这种可考虑Robots封禁。如不收录,无影响。
可考虑Robots封禁一下试试,如果不行就改回来。
网站排名下降 如果某些重要的页面被屏蔽了,搜索引擎的爬虫无法访问这些页面,就会影响网站的收录和排名
基本不会有影响得
应该是没什么影响的
不会有影响,可以屏蔽掉这些文件
您可以考虑在Robots文件中指定对JS和CSS文件的抓取策略。例如,您可以使用Disallow指令来阻止爬虫抓取这些文件。另一种方法是使用Allow指令来明确允许爬虫抓取这些文件,但限制抓取频率。
基本上无影响,屏蔽掉JS和CSS文件夹即可
让更多人参与回答