Ruby 异步截屏页面并将其与活动记录一起存储?

Ruby 异步截屏页面并将其与活动记录一起存储?,ruby,activerecord,concurrency,screen-scraping,Ruby,Activerecord,Concurrency,Screen Scraping,我需要截取一堆页面,并使用ActiveRecord将它们存储在数据库中。我在使用EventMachine和Typhous时弄得一团糟,但我得到的结果很不稳定,大多数神秘的空记录都被保存了下来 有什么诀窍?我在抓取页面并将其写入磁盘,然后将其插入数据库时得到了最好的结果,但我真的希望一次完成 有人这样做成功吗?我猜你的线程正在共享AR连接。这将导致问题,而且并发性不会更快地将记录输入数据库。我建议您同时下载并将它们插入到单个线程中(就像您一直在做的那样)。我猜您的线程正在共享AR连接。这将导致问题

我需要截取一堆页面,并使用ActiveRecord将它们存储在数据库中。我在使用EventMachine和Typhous时弄得一团糟,但我得到的结果很不稳定,大多数神秘的空记录都被保存了下来

有什么诀窍?我在抓取页面并将其写入磁盘,然后将其插入数据库时得到了最好的结果,但我真的希望一次完成


有人这样做成功吗?

我猜你的线程正在共享AR连接。这将导致问题,而且并发性不会更快地将记录输入数据库。我建议您同时下载并将它们插入到单个线程中(就像您一直在做的那样)。

我猜您的线程正在共享AR连接。这将导致问题,而且并发性不会更快地将记录输入数据库。我建议您同时下载并将它们插入到一个线程中(就像您一直在做的那样)。

问题可能发生在许多不同的地方。如果没有示例URL和示例代码,我们就无法给您提供非常有用的答案。您能让它正常工作吗?为什么要将空的ActiveRecords归咎于抓取工具?你要么得到空白页,要么没有。是否以及如何存储它们是一个单独的问题。我不知道,并发性问题。这就是我问的原因。你能用吗?你是做什么的?你没有给我们足够的信息来测试它的“工作”。。。您是否尝试过在屏幕刮擦前后添加日志消息?可能指示页面的长度(在后刮日志消息中)?问题可能发生在许多不同的地方。如果没有示例URL和示例代码,我们就无法给您提供非常有用的答案。您能让它正常工作吗?为什么要将空的ActiveRecords归咎于抓取工具?你要么得到空白页,要么没有。是否以及如何存储它们是一个单独的问题。我不知道,并发性问题。这就是我问的原因。你能用吗?你是做什么的?你没有给我们足够的信息来测试它的“工作”。。。您是否尝试过在屏幕刮擦前后添加日志消息?可能指示(在后刮日志消息中)页面的长度?