Seo 这个robots.txt是什么意思?不';它不允许任何机器人吗?

Seo 这个robots.txt是什么意思?不';它不允许任何机器人吗?,seo,robots.txt,Seo,Robots.txt,我在我网站的一个根文件夹中找到了这个robots.txt文件。我不知道是我还是谁做的 我认为这个文件不允许任何机器人管理文件夹。这很好 但我想知道这是否会阻止所有机器人访问我网站中的所有文件 我已使用此文件对其进行了更改: User-agent: * Disallow: Disallow: /admin Disallow: /admin Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml 附:这个网站很长时间没有得到任何索引。旧文件有

我在我网站的一个根文件夹中找到了这个robots.txt文件。我不知道是我还是谁做的

我认为这个文件不允许任何机器人管理文件夹。这很好

但我想知道这是否会阻止所有机器人访问我网站中的所有文件

我已使用此文件对其进行了更改:

User-agent: *
Disallow:
Disallow: /admin
Disallow: /admin
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml

附:这个网站很长时间没有得到任何索引。旧文件有问题吗?

可能。我以与您相同的方式读取您的旧文件-根被禁止。无论哪种方式,新的robots文件都是按照我期望的方式设置的。

除了重复的/Admin条目之外,旧脚本是正确的。没有Allow:命令,一个空的“Disallow:”将向机器人打开站点


具体来说,请勾选“你应该避免的事情”下的第7项和“提示和技巧”下的第1项

对不起,我不太明白。你是说第一个文件阻止了我的根文件?或者不是?但是这个网站并没有以任何方式在任何引擎中建立索引。从不索引。有很多索引页面,但在2-3个月内没有任何操作(我认为旧robots.txt文件是2-3个月前上传的)。这可能是一个配置错误的问题。虽然空白的
Disallow:
允许访问整个站点,但它只是因为至少需要一个
Disallow:
。事实上,我会把它删掉。但是从新文件中删除
Allow:
语句。另一个很好的参考:
User-agent: *
Disallow: /admin
Allow: /
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml