14 人参与回答
用户176661 · 主营小程序,微分销系统,app商城,直播商城

爱站工具包

用户182093 · 专业的战略咨询顾问

直接都允许

用户187263 · 中医世家,擅长PS,平面设计,织梦seo等
用户148382 · 游戏源码,整站源码,网站制作,网站seo优化

看你是什么内核的

用户191296 · 专注SEO优化12年

看别人怎么写

直接都允许就行   我感觉尽可能多抓

用户187050 · 低价模板建站、仿站扒站、定制建站,客户遍布370+城市,同行甩单合作56家

屏蔽掉不想抓取的页面就行了

用户183609 · 爱云查

看别人怎么写

用户189442 · 我只是混外链 的

百度一下   教程多

用户172206 · 贵州省茗北网络科技有限公司www,snmky,org☛☛☛☛☛☛☛☛☛☛☛☛☛☛☛☛☛☛☛点击领取优化工具☞☞☞

我之前好像在站长工具里面看到

我之前好像在站长工具里面看到过

用户181374 · 专注厂房、办公室装修

站长工具里面有

  • 1. Robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。
  • 2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。
  • 3. Robots工具目前支持48k的文件内容检测,请保证您的robots.txt文件不要过大,目录最长不超过250个字符。