V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
ErenJaeger
V2EX  ›  Python

搜狗微信公众号抓取

  •  
  •   ErenJaeger · 2019-05-24 13:59:18 +08:00 · 2376 次点击
    这是一个创建于 1770 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近有个需求,抓取微信公众号文章,调研了一下。公众号抓取现在登陆之后还需要扫码才能进的去。退而其次,研究搜狗微信抓取,发现搜狗公众号页面也改版了,看以前的帖子在搜索之后的列表页直接就可以获取到微信公众号平台的链接,现在是还要请求搜狗的链接,之后给你返一段 js 代码,拼接出微信公众号平台的链接再页面重载一下才能进的去。我用 requests session 先请求列表页保存 cookie,请求那个链接还是跳转二维码验证界面。有没有大手子给点思路啊。。

    5 条回复    2019-09-01 09:02:16 +08:00
    yangyaofei
        1
    yangyaofei  
       2019-05-24 15:21:44 +08:00
    究极办法,android 虚拟机
    ErenJaeger
        2
    ErenJaeger  
    OP
       2019-05-24 15:36:40 +08:00
    @yangyaofei 靠,终于搞定了。。太坑爹竟然在 url 里面下毒。
    yangyaofei
        3
    yangyaofei  
       2019-05-24 23:13:25 +08:00 via Android
    感觉…人家随机改个参数…你就要重写…直接模拟才一劳永逸……
    smidayou
        4
    smidayou  
       2019-05-25 10:53:03 +08:00
    反爬机制太恶心了 现在已经基本没戏了
    akaayy
        5
    akaayy  
       2019-09-01 09:02:16 +08:00
    @ErenJaeger 兄弟能不能分享一下方法啊
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1180 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 18:18 · PVG 02:18 · LAX 11:18 · JFK 14:18
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.