<p>WordPress刚建站一个月,百度就抓取乱七八糟的链接,后面用robots.txt禁止了,最近又开始抓取wp-json,用robots禁止几天都没用,该怎么办?需要在百度反馈下吗?帮我看看网站有违规吗?@蛙哥!</p><p></p><p></p>
1、百度蜘蛛抓取频次如何,这里的蜘蛛是否真实蜘蛛,抓取爬行的页面是否是自身网站里面实际存在的URL,如果是不存在URL,真的蜘蛛是不会抓取爬行; 2、看这些URL是否被搜索引擎给抓取收录,如果没收录无影响; 3、这些URL是否真实存在,如果是不存在URL,那么不用担心,不会被抓取,虚假蜘蛛才抓不存在URL。
抓取诊断看是否Robots掉,已封禁便不会被抓取
你这个Robots.txt的规则写的应该有问题的
Robots.txt可以禁止的,你可以先试试看
。。。不想被抓取的链接如果写在模板里面了,记得nofollw 如果太多就Robots.txt批量
匿名用户
不用管这个,没事
规则有问题吧
不懂,等大佬来解释~
一般只要在Robots禁止抓取了就不会再抓取的
一般是禁止就不会再抓取了的
一般禁止了就不会抓取的,可能还没调整过来
@推推蛙,查了都是百度真蜘蛛,每天100。99都是抓的这些页面。假蜘蛛抓的是文章页面。
试试用Robots.txt禁止
用Robots.txt禁止后还有的话 先屏蔽那些ip 过半天在解除屏蔽
让更多人参与回答