通过curl在web服务调用中搜索创建问题的bot

通过curl在web服务调用中搜索创建问题的bot,curl,web-crawler,bots,robots.txt,search-engine-bots,Curl,Web Crawler,Bots,Robots.txt,Search Engine Bots,我实现了curl代码,以便在任何用户打开产品详细信息页面时从供应商web服务获取实时库存 但搜索引擎机器人正在访问该页面,这导致curl每秒调用web服务1000次 如何纠正这个问题。我在谷歌上搜索了一下,但还没有找到准确的答案。至少在调用页面时,您应该检测到用户代理和IP地址。若收到的参数匹配为机器人的数据,只需不调用web服务并使用永久静态数据(仅适用于机器人) 此外,您可以使用工具进行人工检查(captcha等):如果检查失败,不要调用web服务 此外,您可以使用缓存并仅为缓存更新调用we

我实现了curl代码,以便在任何用户打开产品详细信息页面时从供应商web服务获取实时库存

但搜索引擎机器人正在访问该页面,这导致curl每秒调用web服务1000次


如何纠正这个问题。我在谷歌上搜索了一下,但还没有找到准确的答案。

至少在调用页面时,您应该检测到用户代理和IP地址。若收到的参数匹配为机器人的数据,只需不调用web服务并使用永久静态数据(仅适用于机器人)

此外,您可以使用工具进行人工检查(captcha等):如果检查失败,不要调用web服务

此外,您可以使用缓存并仅为缓存更新调用web服务(例如,每小时一次):如果数据更新时间不到一小时,则页面应使用缓存数据