robots 文件 140KB 是不是影响百度蜘蛛抓取 呢，
为了处理死链接，我提交后死链，发现死链百度处理了，为了不让蜘蛛继续爬虫死链接，我都加到了robots 文件，现在该文件大小为 140KB， 是不是影响百度蜘蛛抓取 呢，
相关问题
- 百度蜘蛛只抓取网站首页 不抓内页是什么原因？(1 个回答)
- 复制内容如何让搜索引擎快速收录呢？(0 个回答)
- 百度蜘蛛不来网站怎么提高浏览量？(2 个回答)
- 网站大量IP同时访问导致网站打不开，有好的解决办法吗(2 个回答)
- 如何利用百度蜘蛛的来路IP来判断网站的权重？(1 个回答)
- 百度蜘蛛抓取量为什么越来越少？(4 个回答)
- 网站安装地图后产生死链接太多咋回事？(2 个回答)
- 百度蜘蛛一天来你网站多少次才算不错？(8 个回答)
