首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python 学习手册
Python Cookbook
Python 基础教程
Python Sites
PyPI - Python Package Index
http://www.simple-is-better.com/
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
V2EX  ›  Python

关于 pyspider 的 post 请求中 data 被转义导致无法抓取

  •  1
     
  •   foxyier · 215 天前 · 653 次点击
    这是一个创建于 215 天前的主题,其中的信息可能已经有所发展或是发生改变。
    用 requests 请求时可以正常返回结果:
    import requests
    import json
    headers = {
    "Accept": "*/*",
    "Accept-Encoding": "gzip, deflate",
    "Accept-Language": "zh-CN,zh;q=0.9",
    "Connection": "keep-alive",
    "Content-Length": "56",
    "Content-Type": "application/json",
    "Host": "www.bw30.com",
    "Origin": "http://www.bw30.com",
    "Referer": "http://www.bw30.com/",
    "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36",
    }
    data = json.dumps({"channeltype": "shortvideo", "tid": 8, "index": 0, "size": 10})
    a = requests.post("http://www.bw30.com/videoserver/RPCACBCABF433DB30A893DC6C5863E3102C?tid=7", data=data, headers=headers)
    print(a.text)

    同样的代码逻辑放到 pyspider 中则无法正常返回数据:
    def on_start(self):
    for tag, tid in {"美食": 7, "资讯": 8, "体育": 10, "亲子": 9, "微记录": 11}.items():
    url = "http://www.bw30.com/videoserver/RPCACBCABF433DB30A893DC6C5863E3102C?tid={}".format(tid)
    headers = {
    "Accept": "*/*",
    "Accept-Encoding": "gzip, deflate",
    "Accept-Language": "zh-CN,zh;q=0.9",
    "Connection": "keep-alive",
    "Content-Length": "56",
    "Content-Type": "application/json",
    "Host": "www.bw30.com",
    "Origin": "http://www.bw30.com",
    "Referer": "http://www.bw30.com/",
    "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36",
    }
    data = {"channeltype": "shortvideo", "tid": tid, "index": 0, "size": 10}
    data = str(data)
    self.crawl(url, callback=self.index_page,save={'column_name':tag},method="POST",data=data, headers=headers)
    3 回复  |  直到 2019-05-13 09:42:40 +08:00
        1
    foxyier   215 天前
    emmmm, 有没有大佬协助一下, 我在网上搜过之后, 只有提问的, 没有解答的。。
        2
    Sum0l   212 天前 via Android
    data 不用转 str 的吧? 多看看文档
        3
    foxyier   211 天前
    @Sum0l 原网站的 data 是需要转的,一般转不转 str 取决于原网站对于 data 的封装方式。同样的代码在 python 下是可以走通的,可是在 pyspider 里边就会请求失败。
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2792 人在线   最高记录 5043   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 22ms · UTC 12:25 · PVG 20:25 · LAX 04:25 · JFK 07:25
    ♥ Do have faith in what you're doing.