用scrapy-splash爬取网站 为啥iframe下的内容没有被返回
用scrapy-splash爬取网站 为啥iframe下的内容没有被返回?
import scrapyfrom scrapy import Selector
class Music163Spider(scrapy.Spider):
name = "music163"
allowed_domains = ["music.163.com/#/discover/toplist"]
start_urls = ['http://music.163.com/#/discover/toplist/']
def parse(self, response):
print("parse:",response.text)
def start_requests(self):
for url in self.start_urls:
yield scrapy.Request(url, self.parse, meta={
'splash': {
'endpoint': 'render.html',
'args': {
'wait': 0.5,
}
}
})
回答:
你需要在parse中获取iframe的url再次请求内容。
回答:
没有import scrapy_splash
要用yield SplashRequest(...)
以上是 用scrapy-splash爬取网站 为啥iframe下的内容没有被返回 的全部内容, 来源链接: utcz.com/a/160012.html