Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/360.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 在Heroku上运行flask时有没有办法运行scrapyd_Python_Flask_Scrapyd - Fatal编程技术网

Python 在Heroku上运行flask时有没有办法运行scrapyd

Python 在Heroku上运行flask时有没有办法运行scrapyd,python,flask,scrapyd,Python,Flask,Scrapyd,我对Scrapy和Scrapyd是新手,我正在用它们做实验 我已经使用Gunicorn部署了一个简单的Flask应用程序,它有一个API端点,可以向scrapyd发送一个调用来调度spider 在本地,我必须在一个单独的终端中启动scrapyd来监听来自Flask端点的呼叫,但是如何在Heroku上执行同样的操作呢?我的意思是能够处理对Flask端点的请求,同时监听Flask对scrapyd的调用 非常感谢您的帮助。 谢谢 您可以使用scrapyd端点从烧瓶前端调度一个spider,该spide

我对Scrapy和Scrapyd是新手,我正在用它们做实验

我已经使用Gunicorn部署了一个简单的Flask应用程序,它有一个API端点,可以向scrapyd发送一个调用来调度spider

在本地,我必须在一个单独的终端中启动scrapyd来监听来自Flask端点的呼叫,但是如何在Heroku上执行同样的操作呢?我的意思是能够处理对Flask端点的请求,同时监听Flask对scrapyd的调用

非常感谢您的帮助。
谢谢

您可以使用scrapyd端点从烧瓶前端调度一个spider,该spider向scrapyd发送http请求,为了检查作业是否完成,如果正在运行的作业中存在作业id,您可以调用正在运行的作业。还有更好的方法,您可以在爬网完成后返回信号。

我尝试将scrapyd作为工作进程运行,但我不确定如何在
scrapy.cfg
中设置正确的端口,很可能是因为端口错误,我获得了
[关键]工作超时(pid:8)