Seo 如何设置robots.txt,它允许除主页以外的所有页面?

Seo 如何设置robots.txt,它允许除主页以外的所有页面?,seo,robots.txt,Seo,Robots.txt,如果我有一个名为的网站,在它下面我有文章,例如: 基本上,我不希望frontpage上的文本显示在谷歌搜索结果上,这样当你搜索“挪威国家石油公司ceo”时,你只能得到文章本身,而不能得到frontpage,它包含了这些文本,但不是文章本身。如果你这样做了,然后谷歌仍然可以显示你的主页,并在链接下注明他们无法抓取该页面。这是因为robots.txt不会停止索引页面。你不能浏览主页,尽管我个人不推荐

如果我有一个名为的网站,在它下面我有文章,例如:


基本上,我不希望frontpage上的文本显示在谷歌搜索结果上,这样当你搜索“挪威国家石油公司ceo”时,你只能得到文章本身,而不能得到frontpage,它包含了这些文本,但不是文章本身。

如果你这样做了,然后谷歌仍然可以显示你的主页,并在链接下注明他们无法抓取该页面。这是因为robots.txt不会停止索引页面。你不能浏览主页,尽管我个人不推荐