搜外网>搜外问答>问答页面

急 急！懂robots.txt的请进！discuz开源程序。阻止搜索蜘蛛爬行分析。急 急！！！

微信
追加问题
Robots 开源程序 Discuz 举报 本帖由用户发布，如有侵权联系删除  2020-08-22 发布840 次浏览
最新问题
 
广告位出租
广告位出租-排名优化
    4 人参与回答
全速投票
全速投票

这个不知道啥意思啊

3 年前
IP属地：江苏
赞同 0 评论 0
收藏 举报
评论取消
互零网络
互零网络 · 擅长技术研发，互零网络：APP开发、小程序开发、网站建设

User-agent: *

Disallow: /

允许所有搜索引擎爬取网站所有内容

User-agent: *

Disallow:

只禁止百度抓取你网站的内容

User-agent: Baiduspider

Disallow: /

只允许百度抓取你网站的内容

User-agent: Baiduspider

Disallow:

User-agent: *

disallow: /

3 年前
IP属地：广东
赞同 0 评论 0
收藏 举报
评论取消
闪赚客
闪赚客 · 致力于分享手机赚钱软件丨手机赚钱项目

建立Robots.txt 文件，上传至网站根目录：

屏蔽所bai有搜du索引擎爬取zhi网站的语法：

User-agent: *

Disallow: /

允许所有搜索引擎爬取网站所有内容

User-agent: *

Disallow:

只禁止百度抓取你网站的内容

User-agent: Baiduspider

Disallow: /

只允许百度抓取你网站的内容

User-agent: Baiduspider

Disallow:

User-agent: *

disallow: /

3 年前
IP属地：湖南
赞同 0 评论 0
收藏 举报
评论取消
初见_
初见_ · 域名解析、dns解析、dns劫持、doss防御

没看懂你的问题， Robots.txt文件不是只要加在根目录，把你要屏蔽的东西加在文件里面就可以了吗？


3 年前
IP属地：福建
赞同 0 评论 0
收藏 举报
评论取消
回复问答禁止带推广链接、违法词及灌水，违规将封禁账号！！了解合理带链接的方法
本贴交流超时，回复已关闭
  • 为什么百度搜索引擎叫蜘蛛而不叫蚂蚁?
  • 如何将网站的其它栏目做上首页？
  • 网站怎么成这样了？
  • 我最近开发的，企业网站生成静态管理系统，适合SEO优化。可查看各在搜索引擎蜘蛛来访记录！
  • 用java编写 网络爬虫（又称网络蜘蛛）程序，即一个网络搜索引擎。寻求代码！急！
  • 这个站平均每天更新15篇文章
  • 有和我一样的吗？连续8个月掉了2万索引，流量下降一半。怎么办？
  • 蜘蛛爬虫系统是怎么回事，及做推广的是如何让各大搜索引擎抓取的。谢谢好心人
  • 采集那些古籍不知道有没有投诉
  • 大家的官网都是选择哪里的服务器，是多大的呢？
    • SEO培训招生中
    189
    搜外微信
    提供服务
    常用链接
    产品实验室
    ©2008-2024 SEOWHY 深圳市夫唯伙伴信息咨询有限公司