1. 论坛系统升级为Xenforo,欢迎大家测试!
    排除公告

用.htaccess阻止机器人漫游你的网站, 阻止那些你不想让他漫游的搜索机器人[给新手和我看]

本帖由 srsman2006-06-09 发布。版面名称:主机讨论

  1. srsman

    srsman Active Member

    注册:
    2005-11-08
    帖子:
    1,920
    赞:
    6
    众所周知,机器人漫游是要占用流量的,对于国内的站点来说,一些国外的搜索机器人对我们毫无意义,如果不想让那些机器人漫游你的网站,可以在你的.htaccess文件中添加下面的内容。

    当然如果你你不想让Google、Baidu漫游你的网站,大可把他们也加进去。


    代码:
    RewriteEngine on
    RewriteBase /
    RewriteCond %{HTTP_USER_AGENT} ^EmailSiphon [OR]
    RewriteCond %{HTTP_USER_AGENT} ^EmailWolf [OR]
    RewriteCond %{HTTP_USER_AGENT} ^ExtractorPro [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Mozilla.*NEWT [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Crescent [OR]
    RewriteCond %{HTTP_USER_AGENT} ^CherryPicker [OR]
    RewriteCond %{HTTP_USER_AGENT} ^[Ww]eb[Bb]andit [OR]
    RewriteCond %{HTTP_USER_AGENT} ^WebEMailExtrac.* [OR]
    RewriteCond %{HTTP_USER_AGENT} ^NICErsPRO [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Teleport [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Zeus.*Webster [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Microsoft.URL [OR]
    RewriteCond %{HTTP_USER_AGENT} ^Wget [OR]
    RewriteCond %{HTTP_USER_AGENT} ^LinkWalker [OR]
    RewriteCond %{HTTP_USER_AGENT} ^sitecheck.internetseer.com [OR]
    RewriteCond %{HTTP_USER_AGENT} ^ia_archiver [OR]
    RewriteCond %{HTTP_USER_AGENT} ^DIIbot [OR]
    RewriteCond %{HTTP_USER_AGENT} ^psbot [OR]
    RewriteCond %{HTTP_USER_AGENT} ^EmailCollector
    RewriteRule ^.* - [F]
    RewriteCond %{HTTP_REFERER} ^http://www.iaea.org$
    RewriteRule !^http://[^/.]\.your-site.com.* - [F] 
    
    
     
  2. 极品蜗牛

    极品蜗牛 New Member

    注册:
    2005-10-20
    帖子:
    673
    赞:
    2
    来的都是客...
     
  3. alistorm

    alistorm New Member

    注册:
    2006-05-29
    帖子:
    273
    赞:
    2
    我是新手~
     
  4. 江湖工夫

    江湖工夫 New Member

    注册:
    2006-02-28
    帖子:
    8
    赞:
    0
    看不懂~~
    :(