搜外网>搜外问答>问答页面

我最近蜘蛛抓的全部都是一些没有的文件路径,直接就返回了404错误怎么回事? 推荐热议

<p>现在网站一天60多的蜘蛛抓的全部都是一些PHP和CSS等一系列的404路径,全部返回的都是这些怎么回事</p><p>这个抓取异常是没问题的吗</p>

追加问题
    25 人参与回答

百度资源平台提交死链之后就没有了

用户181718 · 商标注册、商标查询、商标转让

我的网站今天发现蜘蛛抓取CSS路径错误 找不到原因

需要反馈一下

用户187189 · 西瓜商学院官网SEO优化,擅长cms建站、网站优化、电商运营等,如果说对自己网站有什么疑问的,可以点击右侧免费咨询。

站长之家模式抓取一下,然后在百度反馈一下

用户172546 · 金丝楠木、海南黄花梨木雕

反馈下

用户143324 · 城市家具·城市街具·公共艺术·创意·设计·生产制造全产业链。

提交死链吧

真假蜘蛛搞不清楚

真假蜘蛛先找出来,然后给他禁止

大概率是假蜘蛛,再被黑客扫描

用户162305 · 西安金泰福进口越野车、商务车、房车等!

我也偶尔会出现这种现象,把死链提交了后就没有了。

真假蜘蛛搞不清楚

看看站内有没有死链

用户179092 · 上海沈泉泵阀公司

有没有做404页面啊?

看看日志里面IP是不是蜘蛛

有可能有死链吧,最好是把链接直接查出来,在提交了

这个地方会给错误的链接,你具体分析一下吧。

遇到了同样的问题,过来学习一下

用户142346 · 无锡宏启财务:提供专业的工商代办、代理记帐、财税咨询等企业服务

Robots禁止下看看

你把日志下载下来,放在日志工具中看看,到底是蜘蛛抓的还是扫描

用户153443 · 精密齿轮

这个真假蜘蛛我也搞不清楚

用户174904 · 网站建设/SEO咨询/软件开发

你确定禁止了还来抓取的是真蜘蛛,不是漏洞扫描的假蜘蛛吗?

这就过分了   围观学习一下   看有没大佬

用户110045 · 山东欣希安药业官网(www。sincean。com)

看看站内有没有死链,修改一下协议文件,不让蜘蛛爬取那些文件