网站因为是支持后台的网站,怎么让蜘蛛不要抓取?
网站www.zyxgjt。Com,是作为其他功能支撑的网站,所以不想让蜘蛛抓取,但是在服务器里写了robots,会跳到其他的内容上,和写的robots文件内容不同,返回服务器里又没有相对的文件。想问一下除了robots还有什么办法能让蜘蛛不抓取?
网站www.zyxgjt。Com,是作为其他功能支撑的网站,所以不想让蜘蛛抓取,但是在服务器里写了robots,会跳到其他的内容上,和写的robots文件内容不同,返回服务器里又没有相对的文件。想问一下除了robots还有什么办法能让蜘蛛不抓取?