新浪博客robots.txt地址:http://blog.sina.com.cn/robots.txt
一灰从新浪博客的robots.txt看到,虽然它有一句“开放百度的搜索引擎的User-Agent代码”,但下面有一段屏蔽所有蜘蛛的代码:
#限制的搜索引擎的User-Agent代码,*表示所有###########
User-agent: *
#临时限制对所有目录的禁止抓取
Disallow: /
里面也做了解释,是临时限制的。此举对于那些在新浪建博推广网站的SEOer来说是一个沉重的打击。
新浪屏蔽蜘蛛是否应对日益严重的群建博客发链接,从而提高博客文章质量,还是有其他运营上的考虑?
值得关注的是,这次屏蔽搜索引擎蜘蛛的还有搜狐博客,查看搜狐博客的robotx.txt。
http://blog.sohu.com/robots.txt
版权声明:转载时请以超链接形式标明文章原始出处和作者信息及本声明
http://www.yihui.info/blog/seo/sina-shield-robots.html