Web crawler 如果需要用户名和密码,谷歌如何抓取我的网站页面
您好,我正在使用谷歌网站管理员工具中提供的以谷歌身份获取选项,但当我获取某个页面,并将光标停留在提交的结果上时,它会显示我的登录页面,而不是我提交的页面。因此,我想知道谷歌对受密码保护的网站进行爬网是否存在问题,以及是否有任何选项可以将一些爬网脚本附加到我的页面,就像我在使用谷歌分析时所做的那样,刚刚有一个客户希望我解决同样的问题 我相信这就是你想要的:Web crawler 如果需要用户名和密码,谷歌如何抓取我的网站页面,web-crawler,fetch,Web Crawler,Fetch,您好,我正在使用谷歌网站管理员工具中提供的以谷歌身份获取选项,但当我获取某个页面,并将光标停留在提交的结果上时,它会显示我的登录页面,而不是我提交的页面。因此,我想知道谷歌对受密码保护的网站进行爬网是否存在问题,以及是否有任何选项可以将一些爬网脚本附加到我的页面,就像我在使用谷歌分析时所做的那样,刚刚有一个客户希望我解决同样的问题 我相信这就是你想要的: 在这里,你可以给谷歌的爬虫提供用户名和密码(如果需要,甚至更多)。只是一个想法:如果你让谷歌机器人进来,你真的需要登录系统吗?社交网络需要登录
在这里,你可以给谷歌的爬虫提供用户名和密码(如果需要,甚至更多)。只是一个想法:如果你让谷歌机器人进来,你真的需要登录系统吗?社交网络需要登录:)