搜外网>搜外问答>问答页面

为什么网站会屏蔽蜘蛛抓取呢? 悬赏1元 已结束

<p>百度抓取诊断都没问题      robots也没问题   但是为什么就抓取不了呢???问题会出在哪里呢?   最近发的文章都没 收录会不会跟这个有关系呢?</p><p><br></p>

追加问题
    4 人参与回答
明月清风
明月清风 · 互联网运营师,交流QQ微信:1608196816

换个蜘蛛模拟抓取一下

是不是工具的问题,换个检测工具试试看

看日志,不要看工具,有些工具不准的

看看蜘蛛来不来