Ruby on rails 轨道&x2B;瓦蒂尔。硒-can';t运行超过4个chrome实例

Ruby on rails 轨道&x2B;瓦蒂尔。硒-can';t运行超过4个chrome实例,ruby-on-rails,selenium,watir,selenium-chromedriver,Ruby On Rails,Selenium,Watir,Selenium Chromedriver,我有一个基于Rails、Watir和chromedriver的解析器 解析器每分钟运行一次新的chrome实例。每个实例都有不同的代理服务器。完成一个解析任务需要5-6分钟 因此,在同一时间可能有多达6个chrome实例。问题是,chromedriver在尝试生成第5个实例后没有响应,它会杀死所有chrome进程 看起来是这样的 13:00 - parse start - chromes=1 13:01 - parse start - chromes=2 13:02 - parse start

我有一个基于Rails、Watir和chromedriver的解析器

解析器每分钟运行一次新的chrome实例。每个实例都有不同的代理服务器。完成一个解析任务需要5-6分钟

因此,在同一时间可能有多达6个chrome实例。问题是,chromedriver在尝试生成第5个实例后没有响应,它会杀死所有chrome进程

看起来是这样的

13:00 - parse start - chromes=1
13:01 - parse start - chromes=2
13:02 - parse start - chromes=3
13:03 - parse start - chromes=4
13:04 - parse start - chrome crashes, all instances killed, chromes=0
13:05 - parse start - chromes=1
日志文件:

08/13 - 02:47 [1407890822] -- !! chrome not reachable
  (Session info: chrome=36.0.1985.143)
  (Driver info: chromedriver=2.10.267518,platform=Linux 3.13.0-30-generic x86_64)
08/13 - 02:47 [1407890762] -- !! chrome not reachable
  (Session info: chrome=36.0.1985.143)
  (Driver info: chromedriver=2.10.267518,platform=Linux 3.13.0-30-generic x86_64)
08/13 - 02:47 [1407890702] -- !! chrome not reachable
  (Session info: chrome=36.0.1985.143)
  (Driver info: chromedriver=2.10.267518,platform=Linux 3.13.0-30-generic x86_64)
尝试改用Firefox,但它也有同样的问题,在生成进程4后浏览器崩溃

代码,生成浏览器

headless = Headless.new(display: 100, reuse: true, destroy_at_exit: false)
headless.start

proxy_serv = ProxyServer.order(last_use: :asc).first
proxy_address = "#{proxy_serv.ip}:#{proxy_serv.port}"

$browser = Watir::Browser.new :chrome, :switches => ["--proxy-server=#{proxy_address}"]
proxy_serv.update_attribute('last_use', DateTime.now)


解析运行期间的系统负载-2%

我听说如果您通过javascript触发弹出窗口,那么您可以使用
windows
方法访问额外的窗口,然后转到,等等。虽然有点邋遢,但我猜系统的功能不够强大,无法分配所需的资源,所以它正在崩溃。系统有32GB的RAM,在生成浏览器期间,系统负载为2.4%。#5i可以在我的debian机器上生成$browsers^n。我不知道发生了什么事。你试过升级你的宝石吗?@Duck1337你能试试这个吗?100.times{Thread.new{b=Watir::Browser.new:chrome b.goto''放置b.title}效果很好。100.times{Thread.new{b=Watir::Browser.new:chrome;b.goto'google.com';put b.title}我正在用XFCE4.8运行香草Debian 64-7.6.0。核心i3 8gb ram。
OS: Ubuntu
RAM: 32GB
PROC: Intel® Core™ i7-4770