Python 带刮痕的地理编码ips

Python 带刮痕的地理编码ips,python,web-scraping,scrapy,geocoding,reverse-geocoding,Python,Web Scraping,Scrapy,Geocoding,Reverse Geocoding,我想知道为scrapy架构实现地理编码的最佳方法。其目的是在scrapy爬行时收集访问IP的坐标,因此不需要重新处理IP表以进行地理编码 现在,它被实现为一个ItemPipeline,它使用多个ip地理定位服务。这只是工作,因为当使用geo管道时,整个爬虫程序过程相当缓慢。可能爬虫会在管道中排队的许多请求中等待管道 有没有办法直接生成已使用scrapy进行地理编码的项目? 或者,为了更好的结果,你有什么想法吗?你可能想读一读。@boardrider我编辑了这个问题,认为它现在符合要求了。

我想知道为scrapy架构实现地理编码的最佳方法。其目的是在scrapy爬行时收集访问IP的坐标,因此不需要重新处理IP表以进行地理编码

现在,它被实现为一个ItemPipeline,它使用多个ip地理定位服务。这只是工作,因为当使用geo管道时,整个爬虫程序过程相当缓慢。可能爬虫会在管道中排队的许多请求中等待管道

有没有办法直接生成已使用scrapy进行地理编码的项目?

或者,为了更好的结果,你有什么想法吗?

你可能想读一读。@boardrider我编辑了这个问题,认为它现在符合要求了。