搜外网>搜外问答>问答页面

这种url第二层被禁止抓取的,会影响到第三层的抓取吗?

<p>像这种url第二层被禁止抓取的,会影响到第三层的抓取吗?<br></p><p>比如<a href="https://www.360lj.com/zhuanti/2019/nb/fhc/sjzc/" target="_blank" data-url="www.360lj.com" class="show-5118-data" rel="nofollow">https://www.360lj.com/zhuanti/</a>被禁止抓取,但是<a href="https://www.360lj.com/zhuanti/2018dc-11/dp/jg/" target="_blank" data-url="www.360lj.com" class="show-5118-data" rel="nofollow">https://www.360lj.com/zhuanti/2018dc-11/dp/jg/</a>在站长平台上可以正常抓取是怎么回事?</p>

追加问题
    1 人参与回答

这个是服务器端的无法访问,并没有屏蔽蜘蛛,所以蜘蛛还是可以抓取,至于下级的内容,如果有入口就能找到