首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  程序员

求大佬指点,毕业一年的爬虫的职业发展

  •  
  •   boom7 · 179 天前用 Android 发布 · 3231 次点击
    这是一个创建于 179 天前的主题,其中的信息可能已经有所发展或是发生改变。
    17 年毕业,来了现在的公司做爬虫,涨薪几次后现在到手 14k,社保公积金什么的交的少…这一年也写了不少爬虫,因为在学校学的安卓开发,所以工作里涉及到 App 逆向脱壳什么的也偶尔做一做,图片验证码和滑动验证码也用机器学习解决过(都是 google,然后参考大佬的代码撸一个出来),框架是公司 CIO 临时撸出来的,flask+celery+redis 做分布式,因为我是第一个 python 爬虫,所以框架就归我维护了,也一直在修修补补改框架的 bug。

    一直都有点迷茫,爬虫这职位好像没什么发展,过两年技术提升做爬虫架构师吧,市场好像也没什么需求。所以一直想转到隔壁数据科学组去,但是个人的数学能力 emmmm 一言难尽,机器学习的各种算法也是看得懵逼。

    因为这份工作着实不忙,每周 10,7,5 上班,周末双休,所以一直想学点别的东西,机器学习部分有在看吴恩达的课程和 tensorflow 官方教程,另外又觉得需要学门新的语言,于是又在学 golang。

    前些天和数据科学组的妹纸聊天,他们似乎很缺人,也在招人,转岗的念头又冒出来了,但又下不定决心。昨天发现 BI 组一位同事已经转岗到数据了,再次动心😐而我的数学确实差,大学的线性代数已经还给老师了,矩阵的加减乘除都搞不明白

    所以求大佬指点职业方向:
    1,继续做爬虫,工作很安逸,但是技术确实没什么上升空间。爬虫组刚任命了爬虫技术经理,当然不是我…所以职位上也不会有什么变动。但是工作确实很闲,大家上班都在划水。

    2,学 go,转后端。本来在学校我是学安卓开发的…所以 java 还算熟悉,但是确实不是很喜欢 java。最近在学 golang,它的发展似乎也还不错,转 golang 后端也是一条路。

    3,直接试试转去数据组,他们是用机器学习做评分卡,里边个个都是硕士😂不过之前和领导聊过,本科生也可以,并没有实际的学历要求,而且内部转岗可以先进组再学习。但是我的数学确实是硬伤,所以希望有熟悉机器学习的大佬指点一下。
    44 回复  |  直到 2019-02-15 13:55:39 +08:00
        1
    claymore94   179 天前   ♥ 1
    帮顶~
        2
    boom7   179 天前 via Android
    @claymore94 感谢😁
        3
    bzzhou   179 天前   ♥ 1
    年轻可以去尝试,转之前,先花个 3 个月把西瓜书啃了
    要是啃不下来,还是继续做工程吧
        4
    boom7   179 天前 via Android
    @bzzhou 多谢指点,西瓜书之前有想看,但是急于求成,还是放下来去看了些速成教程。接下来会好好啃一啃这本书,再次感谢😁
        5
    thursday   179 天前   ♥ 1
    顺路问下 做爬虫工作 做过 xposed hook 功能吗
        6
    boom7   179 天前
    @thursday #5 做过,不过不多。
        7
    ARhen   179 天前   ♥ 1
    果然没有对比就没有伤害
    同样 17 年毕业工作,不同的是我 java 干了爬虫 涨薪幅度和环境都让我羡慕..... 当然有差距是我自身原因啦~
    不过,老哥已经很棒了~
    ps:原来不止我觉得干爬虫有时候太摸鱼(小声 bb~
        8
    boom7   179 天前 via Android
    @ARhen 简直每天都在摸鱼🤣
        9
    lz850610   179 天前   ♥ 1
    个人建议,选定一个目标。
        10
    jiangnanyanyu   179 天前 via Android   ♥ 1
    到手 14k 羡慕,一年
        11
    boom7   179 天前 via Android
    @lz850610 我的问题就是,不知道选哪个目标😭其实更想搞机器学习,但是对自己信心不足,加上跳出舒适区的胆怯。
        12
    boom7   179 天前 via Android
    @jiangnanyanyu 也是最近才到 14,但每个月也不知道怎么就花没了😐
        13
    cyhulk   179 天前   ♥ 1
    硕士毕业吗?
        14
    boom7   179 天前
    @cyhulk #13 本科,要是硕士的话我也就不纠结了,直接提申请转岗去了 hhh。
        15
    cyhulk   179 天前   ♥ 1
    本科毕业的话,机器学习那么好转的吗?推荐转 go
        16
    boom7   179 天前
    @cyhulk #15 这也是我纠结的点 hhh,所以也在学 go,感谢
        17
    HongJay   179 天前   ♥ 1
    到手 14 还是牛皮啊。。
        18
    boom7   179 天前
    @HongJay #17 公积金社保蛮低的。工资现在看还可以,但是爬虫这个职位的话,之后工资似乎也不会有什么大的提升了 orz。。
        19
    yang2yang   179 天前
    怎么才能涨薪?(真诚脸)
        20
    luckybo   179 天前   ♥ 1
    想跟你了解了解爬虫的图片验证码和滑动验证码
        21
    boom7   179 天前
    @yang2yang #19 找个大方的公司? hhh
        22
    dengtongcai   179 天前   ♥ 1
    情况和你差不多。。不过我们这好像没什么好转的,哎。。很烦就
        23
    yang2yang   179 天前   ♥ 1
    想跟大佬学习爬虫技术
        24
    boom7   179 天前
    @luckybo #20 baidu or google or github 搜一下,教程还是蛮多的。图像验证码简单的就二值化去噪切割然后
    tesseract 识别,麻烦点的直接上 tensorflow 训练模型就好。滑动的比较麻烦一点,贴个以前看过很有帮助的链接:
    https://www.zhihu.com/question/32209043/answer/228776686
        25
    boom7   179 天前
    @dengtongcai #22 我们做爬虫就是很烦 hhh,入门简单,但是后来就要很纠结后续发展
        26
    boom7   179 天前
    @yang2yang #23 大佬们都不做爬虫 orz。。。
        27
    holajamc   179 天前   ♥ 1
    羡慕大佬~也在做爬虫,不过还要兼职数据处理+部分 NLP 工作,在西安工资是大佬的 1/2,想溜)
        28
    xiao38245   179 天前   ♥ 1
    我也有这个困扰, 同 17 年毕业,我倒是想直接转机器学习,但是最近看 tf 和傅里叶,实在 捉急,楼主什么打算,一起交流一下?
        29
    glacer   179 天前   ♥ 2
    楼主你和我两年前几乎一模一样。
    我也是毕业后进入某厂做爬虫,做了一年多后跳槽做了后端。做爬虫期间也做了不少破解工作,像验证码,js 加密破解,APP 的逆向等。
    当时做久了觉得这份工作很无聊,平时的工作基本都是在做爬虫的修修补补,应对对方的反爬虫策略。业绩上我们基本都是背锅侠,一旦数据出了问题我们要第一时间顶上,数据没问题的时候就是理所应当。不过现在回想起来其实并不是那么无聊。很多人觉得写爬虫没有一点技术含量,没错,写一个爬虫确实很简单,但写一个「优雅」的爬虫却并不简单。一个靠浏览器模拟爬取的爬虫怎么能喝一个通过破解加密直接请求 API 的爬虫比呢?我在那一年的爬虫工作中最大的收获并不是写爬虫这个技能,而是在爬数据的过程中额外接触到的多个层面的知识。像 HTTP 协议,JavaScript,图像处理,机器学习,逆向等等,以及一些爬虫架构和服务,像去重、调度分发、断点续爬、分布式、缓存、数据库等,还有与其他数据上下游的合作中熟悉的整个数据处理流程和一些大数据的知识。这些基本都是在那一年的爬虫工作中获取到的知识,也是我现在能转型后端的一个原因。这份工作给我带来的不是某个专精的技能,而是拓宽的知识面。
    在目前的大环境下,我还是不建议主业做爬虫,前景不是很明朗(合法性)。楼主可以多利用业余时间学一些感兴趣的方向转型,多去试试总会成功的。
        30
    qianc1990   179 天前   ♥ 1
    评分卡 并不需要太深的算法。。。,理解逻辑回归就行了
        31
    boom7   179 天前
    @holajamc #27 溜来上海 hhh
        32
    boom7   179 天前
    @xiao38245 #28 这不正在想该怎么打算嘛
        33
    boom7   179 天前
    @glacer #29 感谢前辈回复,爬虫确实接触的技术很广,但是深度确实一般,也有转后端的想法 hhh,趁现在还清闲好好学习
        34
    boom7   179 天前
    @qianc1990 #30 聊天的时候数据组的同事也说不需要太多数学知识,反正都是调包侠。但是总要考虑以后的发展嘛。。肯定不能一直做评分卡,之后再深入学习的话,不确定自己的数学知识够不够用。准备先像 3 楼说的那样啃一啃西瓜书。
        35
    fyxtc   179 天前
    哈哈,我最近也在学习 tf,google 出的官方教程就挺不错的了
        36
    FakeLeung   178 天前   ♥ 1
    一年,到手 14k (羡慕脸)
        37
    boom7   178 天前 via Android
    @fyxtc hh 确实不错,正在跟着教程学
        38
    Leigg   178 天前 via iPhone   ♥ 1
    go- blockC
        39
    tingyunsay   178 天前   ♥ 1
    和你情况差不多,写了一年的爬虫,基本啥都搞过( but 逆向没人带搞不太定,涉及到 native 那层的代码就不知道怎么调了),然后其他业务需要人,转去做 c++了
    现在看看感觉立法要是更严格点,爬虫以后都没法做,还是早点转行,后端比较稳定,go 也是趋势,建议选 2,要是特别想去做 3,还是花点时间打好基础,光用框架,前途不太明朗
    楼主加油
        40
    boom7   178 天前 via Android
    @tingyunsay 感谢。native 层用 ida 调试确实费事。准备趁现在清闲,go 和 机器学习一起学吧,三个月后如果机器学习没有进度,就直接全心全意转后端。争取 2019 能跳个新岗位
        41
    yanzixuan   178 天前   ♥ 1
    用 python 搞爬虫搞了 1 年多点。爬虫搞深了还是很有技术含量的,尤其是各种验证码,都要上人工神经网络了。
    如果往这个方向深挖下去,AI 工程师就是你的目标
    我目前转了大数据方向,学习 scala 和 spark 中。。。
        42
    boom7   178 天前
    @yanzixuan 大数据好玩吗?
        43
    SpiderXiantang   178 天前
    我转后端了
        44
    asus10tu   130 天前
    楼主请问现在怎么样了,我跟你情况一样,也打算跳出爬虫了。但是我纠结的是往大数据方面发展,还是往数据科学发展。
    对数据科学感兴趣一些,数学方面属于不上不下的水平,怕硬啃到最后要放弃。
    大数据方面貌似挺多方向的,分采集清洗、分析挖掘、可视化、平台架构开发什么的,一时半会不知道如何入门。
    想看看楼主现况如何。
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   3771 人在线   最高记录 5043   ·   Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 35ms · UTC 09:54 · PVG 17:54 · LAX 02:54 · JFK 05:54
    ♥ Do have faith in what you're doing.
    沪ICP备16043287号-1