Performance Web机器人最快的技术和最佳性能

Performance Web机器人最快的技术和最佳性能,performance,selenium,phantomjs,htmlunit,bots,Performance,Selenium,Phantomjs,Htmlunit,Bots,我正在尝试建立一个网络机器人,我正在研究最快的技术。 读了很多书后,我发现最快的技术是无头浏览器。 PhantomJS和HtmlUnit是我发现最快的 PhantomJS似乎对javascript有很好的支持,而HtmlUnit似乎没有,另一方面HtmlUnit速度更快 在性能方面(CPU和内存使用),我没有发现任何关于它的东西 你们知道其他技术吗 我正在尝试构建一个速度非常快的机器人来完成特定的流程。我将并行运行这个流,让多个线程做同样的事情。理想情况下,我想选择一种导航速度快的技术,但这种技

我正在尝试建立一个网络机器人,我正在研究最快的技术。 读了很多书后,我发现最快的技术是无头浏览器。 PhantomJS和HtmlUnit是我发现最快的

PhantomJS似乎对javascript有很好的支持,而HtmlUnit似乎没有,另一方面HtmlUnit速度更快

在性能方面(CPU和内存使用),我没有发现任何关于它的东西

你们知道其他技术吗


我正在尝试构建一个速度非常快的机器人来完成特定的流程。我将并行运行这个流,让多个线程做同样的事情。理想情况下,我想选择一种导航速度快的技术,但这种技术也很轻,以便允许我打开尽可能多的线程。

对您的用例进行基准测试。如果你有很多并行处理,注意内存的使用和CPU的使用。“做一个特定的流程”是相当广泛的。对于普通的废纸,硒是完全错误的选择。