Indexing 搜索引擎爬行问题

Indexing 搜索引擎爬行问题,indexing,sitemap,web-crawler,Indexing,Sitemap,Web Crawler,我的网站的主页是/home.php 此页面具有带有锚定标记的分页,锚定标记链接到同一页面的许多其他查询, 比如说 /php?start=4 /home.php?start=8 等等 我的问题是,当我在网站地图中包含home.php页面时,爬虫会抓取home.php链接到哪个页面(例如/home.php?star=4)?或者我必须在网站地图上包含每一页吗 爬虫程序通常会跟踪他们在站点地图中找到的页面的所有正常链接,但他们可能会以不适合您的目的的频率&c这样做——一个完整的站点地图会给您更多的控

我的网站的主页是/home.php 此页面具有带有锚定标记的分页,锚定标记链接到同一页面的许多其他查询, 比如说

  • /php?start=4
  • /home.php?start=8
等等


我的问题是,当我在网站地图中包含home.php页面时,爬虫会抓取home.php链接到哪个页面(例如/home.php?star=4)?或者我必须在网站地图上包含每一页吗

爬虫程序通常会跟踪他们在站点地图中找到的页面的所有正常链接,但他们可能会以不适合您的目的的频率&c这样做——一个完整的站点地图会给您更多的控制(例如,通过频繁重新爬网未更改的页面来避免浪费带宽,等等),因此更可取。毕竟,自动生成站点地图对您来说应该不难。

感谢您的快速回复,我目前正在使用DW扩展生成站点地图,所以现在我已经掌握了站点地图的结构,我将使用PHP XML类编写脚本来修改现有的站点地图,以包括对动态页面的不同查询。谢谢