Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/http/4.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
所有蜘蛛都应该使用+;用户代理字符串中的http?_Http - Fatal编程技术网

所有蜘蛛都应该使用+;用户代理字符串中的http?

所有蜘蛛都应该使用+;用户代理字符串中的http?,http,Http,下面是我最近看到的一些spider用户代理字符串。它们似乎都包含一个前缀为+: Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html) Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.go

下面是我最近看到的一些spider用户代理字符串。它们似乎都包含一个前缀为+:

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)
Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
Mozilla/5.0 (compatible; meanpathbot/1.0; +http://www.meanpath.com/meanpathbot.html)
Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)
Mozilla/5.0 (iPhone; CPU iPhone OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5376e Safari/8536.25 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

这只是大多数蜘蛛遵循的惯例吗?或者是在什么地方指定的。我找不到它。

这只是一些蜘蛛遵循的惯例。对于用户可以在用户代理头中放入的内容没有限制


看一看包含“GoogleBot”的用户代理。您会注意到,其中许多不包含“+http”。

我不会称之为“前缀为+http的URL:”,我会称之为“前缀为+”的URL。这一点很好。我改变了描述。