Python 为什么我的scrapy解析器没有被调用?
我正在使用scrapy对整个站点进行爬网,但我的解析器从未被调用。我一直在关注这个问题,做了一些小的改变,但它不起作用。也许它只是需要一双新的眼睛。这是我的密码:Python 为什么我的scrapy解析器没有被调用?,python,scrapy,Python,Scrapy,我正在使用scrapy对整个站点进行爬网,但我的解析器从未被调用。我一直在关注这个问题,做了一些小的改变,但它不起作用。也许它只是需要一双新的眼睛。这是我的密码: import scrapy from scrapy.spiders import CrawlSpider, Rule from scrapy.linkextractors import LinkExtractor class FirstSpider(CrawlSpider): name = 'firstSpider'
import scrapy
from scrapy.spiders import CrawlSpider, Rule
from scrapy.linkextractors import LinkExtractor
class FirstSpider(CrawlSpider):
name = 'firstSpider'
allowed_domains = ['http://example.com']
start_urls = ['http://example.com']
rules = (Rule(LinkExtractor(), callback='parse_page', follow=True),)
def parse_page(self, response):
print('made it to the parser...')
我在日志中没有看到任何错误。请求从example.com获得200响应。过滤到“www.iana.org”的场外请求
我正在Ubuntu 16.04上使用python3
提前感谢您提供的任何提示。问题如下
allowed_domains = ['http://example.com']
它应该是域名,而不是url
allowed_domains = ['example.com']
问题如下
allowed_domains = ['http://example.com']
它应该是域名,而不是url
allowed_domains = ['example.com']
你的
回调
参数应该具有字符串的函数吗?它在Scrapy文档中是一个字符串,所以我相信是这样的。我删除了引号只是为了查看,得到了NameError:name'parse_page'没有定义
您的回调
参数应该具有字符串的函数吗?它是Scrapy文档中的字符串,所以我相信是这样的。我删除了引号只是为了查看,得到了name错误:没有定义名称“parse\u page”