能让蜘蛛不抓取某些字的链接吗? 悬赏1元 已结束
www.xxx。Com/case-detail-9012.html
比方说网站里面含有case的内页链接,那怎样设置才能让蜘蛛不抓取链接里面含case字的链接呢?(没有目录,全是首页直接/地址的,所以没法disallow该目录),如果可以的话,该怎么设置呢
www.xxx。Com/case-detail-9012.html
比方说网站里面含有case的内页链接,那怎样设置才能让蜘蛛不抓取链接里面含case字的链接呢?(没有目录,全是首页直接/地址的,所以没法disallow该目录),如果可以的话,该怎么设置呢