搜外网>搜外问答>问答页面

rotots这样写可以吗，怎么检测是否能爬取网站链接是出错

微信

<p><br></p>

追加问题
本帖由用户发布，如有侵权联系删除  2020-12-19 发布664 次浏览
举报
其他问题
 
    3 人参与回答
用户33988 · 冷却塔

可以的

5 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
用户161787 · 免费在线出卷组卷，千万资源免费在线浏览~

# Robots.txt generated at 

User-agent: *

Crawl-delay: 5

Disallow: /admin/

Sitemap: 

5 年前
IP属地：黑龙江
赞同 0 评论 0
收藏 举报
评论取消
用户189442 · 我只是混外链 的

干脆把第二行去掉

5 年前
IP属地：湖南
赞同 0 评论 0
收藏 举报
评论取消

收录宝

08922 17901 97870 25215 45727 57313 67460 26664 35934 45247 54221 63367 99257 09197 17840 75262 54787 67831 28072 36880

蜘蛛池

搜外微信
提供服务
常用链接
产品实验室
©2008-2025 SEOWHY 深圳市夫唯伙伴信息咨询有限公司