V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  locoz  ›  全部回复第 300 页 / 共 313 页
回复总数  6259
1 ... 296  297  298  299  300  301  302  303  304  305 ... 313  
2018-10-19 18:09:15 +08:00
回复了 CharlieBrown 创建的主题 Python 爬虫工程师这个岗位是否对新手很不友好
爬虫工程师已经是一个对新手很友好的职业了,大部分公司的需求其实都不难,需求难搞的都是那种做的事情偏灰 /黑产的
研究方向的话可以往逆向和机器学习方面发展,毕竟难搞的东西都需要这两个。尽量减少使用 headless、appium 之类的东西,毕竟很浪费资源且爬的速度慢,对技术水平也不会有太大的提升。
2018-10-19 17:53:37 +08:00
回复了 CharlieBrown 创建的主题 Python 爬虫工程师这个岗位是否对新手很不友好
@zidian9 #28
1. 如果网站的 JS 有(黑盒) uglify,读懂他的 JS 非常困难,成本非常高
你说的应该是混淆 /加密后的代码吧,如果只是简单混淆的话,有很多方式能快速找到需要的东西;如果是加密的话,不管怎么加密最终还是会需要还原出原来的代码来执行的,只需要处理一下就可以把原始代码弄出来。弄得多了之后并不需要花费多少时间就能找到需要的部分

2. 存在解不了的 JS,比如 cloudflare 动态下发的 JS (动态下发一个 JS,每次都不一样),无法破解
动态下发的 JS 都会是按一定规律生成的,毕竟最终是为了执行后生成一个加密字符串放到 cookie 或请求里,只要找到规律就破掉了

3. 就算把 JS 取出来,用 V8,node,之类的引擎去运行,也只能解决构造请求的问题。各种验证码,人机验证。IP 限制,请求频率限制的防爬手段依然难以解决。
图片验证码要么机器学习要么接打码平台靠“人工智能”的力量打码
IP 限制、请求频率限制这种无非就是堆 IP、堆账号就能解决的问题
而人机验证就是多来一步 1、2 的步骤之后加上各种拟人轨迹 /设备指纹 /浏览器指纹的生成罢了,实在不行不还有搞灰产的那种打码接口卖么

其实主要看的还是值不值得砸钱堆 IP (高质量 IP 贵)、堆账号(需要手机号接验证码 /需要实名认证 /很容易封号 的贵)、打码(大量打码的情况下贵、人机验证搞不定的情况下用别人的打码接口贵)
2018-10-19 17:01:10 +08:00
回复了 bertsir 创建的主题 Android 这是 QQ 调皮了还是知乎调皮了
2018-10-19 16:58:28 +08:00
回复了 xssp 创建的主题 互联网 一种加密方式,没看懂是啥加密的,大佬们帮忙看看
这种没有特征的东西光看加密后的字符串没法看出到底是什么,直接把网站 /APP 名发出来吧
2018-10-19 12:24:36 +08:00
回复了 ladypxy 创建的主题 Python 初学 Python ,请问这段代码的含义。。return base64.b64decode(s+b'==')
这不就是把 s 变量加上两个等于号然后 base64decode 吗。。
2018-10-19 00:16:35 +08:00
回复了 519718366 创建的主题 程序员 入秋了,说说自己被电的那些事吧
被车门电出条件反射,现在用手直接碰到车门的时候会条件反射地把手往回缩一下。。所以我现在下车之后都不用手掌关车门了,就是因为之前有段时间天天被电🙃
2018-10-18 15:47:33 +08:00
回复了 pytth 创建的主题 广州 毕业 2 年,刚好存款 10 万,广州上班族,是不是很差?
自从注册了 V2ex,整个人都膨胀的不要不要的,连存款 10 万的贴都敢点进来看了
2018-10-18 14:41:21 +08:00
回复了 zjsxwc 创建的主题 程序员 IDEA 的 gradle 下载好慢,你们怎么解决?
挂梯子就好了
2018-10-18 12:10:42 +08:00
回复了 dirk88 创建的主题 宽带症候群 准备装修房子了。宽带是什么时候叫电信公司来装比较好
弱电箱要移位的话就移完再装吧,免得改道的时候搞得很麻烦,装宽带一下午就搞完了。然后建议先设计好墙上的网线口位置,埋线的时候自己买好网线不要让装修的人买,要不然会出现买屏蔽线给你埋进去但是不接地的情况,等后面想换线的时候就换不了了。
2018-10-17 21:38:23 +08:00
回复了 PandaRun 创建的主题 问与答 曾经的小米用户,还会再次购买小米产品吗?
可能会买也可能不会买,主看其他手机厂商出的机子怎么样了。。不过小米手机的品控是越来越垃圾了,不到万不得已的情况下打死都不买小米。然后除手机以外的东西一律不买
2018-10-15 23:35:09 +08:00
回复了 Keita1314 创建的主题 问与答 开车单程通勤 30-40 公里是怎么样的体验?
@locoz 接#68
但是再堵也比在地铁上站着舒服,地铁上的时间也要平均 1 小时了,还要加上下了地铁之后走路那一段花费的时间,如果下雨的话更烦人🙄
2018-10-15 23:32:37 +08:00
回复了 Keita1314 创建的主题 问与答 开车单程通勤 30-40 公里是怎么样的体验?
坐标深圳,单程 40-43km,其实还好吧,就是碰上大堵车和那种因为几个开得特别慢的车挡住路导致堵车的情况比较烦。早起一点 7 点多出门一路畅通 58 分钟左右到公司;晚起一点 8 点多出门一般就堵个 8km 左右,1 小时 10-20 分钟左右到公司(看路上有没有开得特别慢挡路的)
2018-10-15 17:47:48 +08:00
回复了 zcsnbb 创建的主题 Python Python 如何实现 a = 10 或 20
这个问题其实只要你能描述清楚就能在搜索引擎上找到,确实是应该先学一下如何提问,二楼说的没毛病
默默 clone 下来怼上之前写的几个房源爬虫😂
2018-10-15 16:44:24 +08:00
回复了 6xiaowu9 创建的主题 分享创造 独立开发的扭蛋小程序《胶囊酱》
炸了?啥都加载不出
2018-10-15 16:04:08 +08:00
回复了 alwayshere 创建的主题 程序员 女性上班用的电动车,哪个最靠谱安全?
自行车吧。为了老婆不是应该你继续把驾照考下来吗。。
2018-10-15 16:01:33 +08:00
回复了 097ecom 创建的主题 C 刚弄的新网站 大佬们给点意见
bug:
鼠标移到头像位置出来的菜单背景是透明的??
2018-10-15 15:57:36 +08:00
回复了 097ecom 创建的主题 C 刚弄的新网站 大佬们给点意见
ui 问题:
问答详情页的回答部分可以考虑和问题部分分开展示,而不是全部塞到一个 content 里,虽然现在的都是爬别人的
bug:
问答详情页的回答部分有些是“[]”( http://www.biecheng.cn/q/3178),有些是堆在一起的( http://www.biecheng.cn/q/2574)
1 ... 296  297  298  299  300  301  302  303  304  305 ... 313  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2314 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 70ms · UTC 02:36 · PVG 10:36 · LAX 19:36 · JFK 22:36
Developed with CodeLauncher
♥ Do have faith in what you're doing.