Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/291.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 我可以在Django类中使用Scrapy函数吗_Python_Scrapy - Fatal编程技术网

Python 我可以在Django类中使用Scrapy函数吗

Python 我可以在Django类中使用Scrapy函数吗,python,scrapy,Python,Scrapy,我已经建立了一个网站。我需要使用网络爬网功能。所以我安装了Scrapy。如他们在教程中所述,Scrapy通过使用 scrapy startproject dmoz 但这在有自己文件的diff文件夹上有效 是否可以在Django类中使用Scrapy函数并将数据放入Django变量中?爬行是一项耗时的任务。它不能很好地与短HTTP请求混合使用。因此,您应该使用一个用户界面(大概是用Django编写的)来启动抓取,并使用一个共享存储来监视抓取的状态 但您不希望在HTTP请求的生存期内爬网。这不是Sc

我已经建立了一个网站。我需要使用网络爬网功能。所以我安装了Scrapy。如他们在教程中所述,Scrapy通过使用

scrapy startproject dmoz
但这在有自己文件的diff文件夹上有效


是否可以在Django类中使用Scrapy函数并将数据放入Django变量中?

爬行是一项耗时的任务。它不能很好地与短HTTP请求混合使用。因此,您应该使用一个用户界面(大概是用Django编写的)来启动抓取,并使用一个共享存储来监视抓取的状态


但您不希望在HTTP请求的生存期内爬网。这不是Scrapy的用途。

爬行是一项漫长而耗时的任务。它不能很好地与短HTTP请求混合使用。因此,您应该使用一个用户界面(大概是用Django编写的)来启动抓取,并使用一个共享存储来监视抓取的状态


但您不希望在HTTP请求的生存期内爬网。这不是Scrapy的用途。

但如果我只想在运行时抓取一页或两页,那该怎么办?如果我只想在运行时抓取一页或两页,那该怎么办。