代码之家  ›  专栏  ›  技术社区  ›  Ian G

是否限制机器人对(特定)查询字符串(参数)值的访问?

  •  3
  • Ian G  · 技术社区  · 15 年前

    使用robot.txt是否可以限制robot对(特定)查询字符串(参数)值的访问?

    工业工程

    http://www.url.com/default.aspx  #allow
    http://www.url.com/default.aspx?id=6  #allow
    http://www.url.com/default.aspx?id=7  #disallow
    
    2 回复  |  直到 15 年前
        1
  •  6
  •   Espo    15 年前
    User-agent: *
    Disallow: /default.aspx?id=7  # disallow
    Disallow: /default.aspx?id=9  # disallow
    Disallow: /default.aspx?id=33 # disallow
    
    etc...
    

    您只需要指定不允许的URL。默认情况下,其他所有内容都是允许的。

        2
  •  0
  •   Matt    13 年前

    只能定义查询变量,如

    不允许:/default.aspx?ID=*

    还是更好

    不允许: ?ID=