Seo Robots.txt:此通配符规则有效吗?

Seo Robots.txt:此通配符规则有效吗?,seo,robots.txt,Seo,Robots.txt,简单的问题。我想补充: Disallow */*details-print/ 基本上,本例中以/foo/bar/dynamic details print--foo和bar形式出现的阻塞规则也可以是完全动态的 我原以为这很简单,但在www.robotstxt.org上有这样一条信息: 还请注意,在用户代理或不允许行中都不支持globbing和正则表达式。用户代理字段中的“*”是一个特殊值,表示“任何机器人”。具体来说,不能有“用户代理:bot”、“不允许:/tmp/*”或“不允许:*.gif”

简单的问题。我想补充:

Disallow */*details-print/
基本上,本例中以
/foo/bar/dynamic details print
--foo和bar形式出现的阻塞规则也可以是完全动态的

我原以为这很简单,但在www.robotstxt.org上有这样一条信息:

还请注意,在用户代理或不允许行中都不支持globbing和正则表达式。用户代理字段中的“*”是一个特殊值,表示“任何机器人”。具体来说,不能有“用户代理:bot”、“不允许:/tmp/*”或“不允许:*.gif”这样的行

所以我们不能这么做?搜索引擎遵守它吗?但是,还有一个文件:

那么,谁是对的——还是我误解了robotstxt.org上的文字

谢谢

答案是“视情况而定”。robotstxt.org上定义的robots.txt“标准”是机器人预计支持的最低标准。Googlebot、MSNbot和Yahoo Slurp都支持一些常见的扩展,而且很难说其他机器人支持什么。有些人说他们支持的,有些人不支持


一般来说,你可以期望主要的搜索引擎机器人支持你编写的通配符,而你那里的通配符看起来会起作用。最好的办法是通过一个或多个robots.txt验证程序运行它,或者使用谷歌的来检查它。

谢谢,这正是我想要的。干杯
Disallow: /ajax/
Disallow: /*/log
Disallow: /*/rss
Disallow: /*_POST