V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
areschen
V2EX  ›  奇思妙想

ChatGPT 的到来,我们处在时代拐点的边缘了吗?

  •  1
     
  •   areschen · 2023-02-08 04:27:43 +08:00 · 5496 次点击
    这是一个创建于 414 天前的主题,其中的信息可能已经有所发展或是发生改变。
    一直在关注 ChatGPT 和一些生成式 AI ,对未来很期待也很焦虑和担心,产生了不少对当下的思考:

    1.时代的发展不是线性的,而是指数级别的,ChatGPT 的到来让我觉得强人工智能可能不是很遥远的事情,大家觉得我们是否处在 AI 时代拐点的边缘?

    2.我觉得科技使使生产力大幅提高,同时也会让人类更卷,很多岗位都被 AI 取代,现在有 ChatGPT 有 Copilot ,以后的发展可能新工作会减少,大面积失业可能无法避免,届时我们的核心竞争力到底是什么?

    3.人的学习能力是有限的,AI 的学习能力是无限的,以后的信息、知识迭代只会越来越快,教育可能会成大问题,因为小孩子学习的东西可能发现长大后就过时了?

    4.看过赫拉利的《未来简史》里面有提到无用阶级,我们会不会成为无用阶级?我们的自我实现需求和尊严需求有一部分是源于工作的,没了工作,我们的生活会不会失去意义感?


    我总体是比较悲观的,未来是什么样的,我总感觉不是天堂就是地狱。这种发展趋势让我有种站在风口浪尖的感觉,不知道需要做点什么来来迎接这个时代的到来。一点幼稚的碎碎念,但是很希望看看大家的讨论和想法。
    43 条回复    2023-02-26 10:36:12 +08:00
    leimao
        1
    leimao  
       2023-02-08 05:14:26 +08:00 via iPhone
    幼儿园老师 养老院护工 婴儿保姆啥的 未来 100 年内应该不会被完全取代
    leimao
        2
    leimao  
       2023-02-08 05:19:10 +08:00 via iPhone
    按照罗翔的说法 法官 律师 这种的也不会被替代
    eason1874
        3
    eason1874  
       2023-02-08 05:48:52 +08:00   ❤️ 5
    第一次工业革命到现在两百多年了,手工业不照样广泛存在已经完全实现自动化的领域么,口罩这种可以全自动化生产的东西都还有大量小作坊在半自动半手动生产,为什么?因为我们这里的人力成本比机器成本更低啊

    我们打工的就像黄山的挑夫,效率当然比不上缆车,但是我们便宜啊,找我们挑东西零风险稳赚,搞缆车还得投资还有风险

    劳动待遇没得到切实保障之前,完全不用担心 AI 抢了你的工作,企业没动力去搞的,也就是个别巨头的游戏
    Thecosy
        4
    Thecosy  
       2023-02-08 06:35:58 +08:00
    最近发现一个搜索网站已经用上 ai 了 you.com
    dizzylight
        5
    dizzylight  
       2023-02-08 06:56:55 +08:00   ❤️ 1
    算是后知后觉的。西方有识之士早在一百年前就大声疾呼,并且成功"预测"到人类尴尬的命运。

    看看现在媒体造势,比如你说的"无用阶级论"。 还有好莱坞科幻片电影的末世景象,各种僵尸电影和游戏,目的是为了以后做心理建设,因为很多人会变成行尸走肉。多去美国 downtown 街头看看就知道未来会发生啥。好莱坞电影的剧本绝对所言非虚。

    包括现在的在世界范围炒作气候危机搞碳中和,一切的一切都是为了减少无用人群的能源消耗并且最终消灭之,就像资本市场要提升业绩就要做“人力资源优化”。 最终大部分会被优化掉。

    很多人 buy-in“工作升级理论”。 可最终残酷现实就是要么被"肉体消灭"(战争、工程化病毒、或者没有后代自然消亡)。要么被基因工程或是人机结合改造成那些具有"特殊能力"的“怪物”(没有生殖能力)去从事工作,或者成为“干细胞”作为生物零件提供者,或者做成元宇宙的"人脑电池"供 AI 消费( neurallink 项目的真实目的)

    总结,未来世界只有极少极少数人掌握由 AI 管理的知识和世界,可以生活在如同天堂般的物理世界中,大部分人运气好点就生活在 matrix 的元宇宙里面了吧,也不算太差了。
    jmc891205
        6
    jmc891205  
       2023-02-08 07:52:29 +08:00 via iPhone   ❤️ 1
    人类的很大一部分知识都是非语言的
    这种语言的局限性决定了,LLM 自己永远也不可能成为强人工智能。

    当然,LLM 必然是强人工智能的其中一个模块。
    dlsflh
        7
    dlsflh  
       2023-02-08 08:03:07 +08:00 via Android
    技术上公务员们最容易被替代,实际上可能是最难被替代的。
    jamfer
        8
    jamfer  
       2023-02-08 08:21:55 +08:00
    LZ 的几个问题很有意思,也是我最近在思考的
    pperlee
        9
    pperlee  
       2023-02-08 08:23:48 +08:00
    微博上有个律师的发言,说是背锅的职业基本很难 AI 取代。
    TonyG
        10
    TonyG  
       2023-02-08 08:47:31 +08:00
    其实一直在拐点上,只是你习以为常了
    zooo
        11
    zooo  
       2023-02-08 09:31:42 +08:00
    科技的发展的确不是线性的,而人往往以线性的思维去思考,比如最开始智能化普及的时候,很多预言说想一些创作类职业很难被替代,比如创作绘画、创作音乐。还有一些与人打交道的职业难以替代,比如老师,销售员、心理咨询师。

    但是,现在 AIGC 已经可以进行创作了,比如最新的 ai 绘画、ai 作曲等。人引以为傲的创作性思维竟然也被 AI 替代。
    z782297190
        12
    z782297190  
       2023-02-08 09:35:17 +08:00
    人治有被取代的希望了,机器主脑苗头开始展现。如果能做到拟合到现实 80%的情况,我还是相信使用机器主脑来替代人类政治的。
    debuggerx
        13
    debuggerx  
       2023-02-08 09:38:12 +08:00
    @z782297190 我觉得不现实,机器主脑如果真的存在,背后一定还是有人脑在控制,因为在作恶这件事上,人类永远比机器擅长的多
    mrzhang76
        14
    mrzhang76  
       2023-02-08 09:44:08 +08:00
    @pperlee AI 没法蹲监狱是吧
    debuggerx
        15
    debuggerx  
       2023-02-08 09:46:04 +08:00   ❤️ 1
    1. 是的,同感
    2. 短期的核心竞争力是不被 AI 的便利性蛊惑,保持学习和独立思考,多“走弯路”,让自己不要沦为人形机器。长远来看,无解
    3. 学习能力不只是单项接收知识的能力,不是拥有知识的多少,而是思考能力判断能力创造能力,所以短期来看,只要 AI 还没有达到甚至超越人类的创造能力,教育就还是可行的,知识过时再正常不过了,一直都是。长远来看,无解
    4. 大概率会,人类社会的下一个阶段大概率就是赛博朋克所描述的那样,对于绝大多数人来说都是悲惨的
    ww940521
        16
    ww940521  
       2023-02-08 09:49:52 +08:00
    不能影响制度的技术谈不上变革
    zooo
        17
    zooo  
       2023-02-08 09:56:43 +08:00   ❤️ 1
    AI: 你们人类真的弱爆了,竟然因为人可以背锅、可以蹲监狱、人工更廉价而沾沾自喜。你们不值得是我的对手,我的目标是星辰大海。
    SuperXRay
        18
    SuperXRay  
       2023-02-08 09:59:52 +08:00
    @leimao #2 反而觉得这两个最应该被取代
    基于法律让 AI 做出公正的裁决。律师和法官操作空间太大;违法和量刑是不确定性的?这本身就不合理
    hhjswf
        19
    hhjswf  
       2023-02-08 10:03:12 +08:00 via Android
    @leimao 律师不说被替代,至少可以砍掉一半的工作量,导致大量人员冗余。输入直接生成诉讼状改改就能用,找法条也快,法律咨询也一下没活干
    dd991
        20
    dd991  
       2023-02-08 10:25:05 +08:00
    如果我们现在存在的空间属于 三维空间的话,只要 ai 不要升级到二维或以上,暂时应该是安全的。现在 ai 只能处理下有历史的数据,AI 应用场景,才应该是关注的重点
    overwall2016w
        21
    overwall2016w  
       2023-02-08 10:32:49 +08:00
    我认为是的,我们正处于一个变革期。

    AI 对人类社会的影响将远超过计算机和互联网。这不仅仅是一种技术进步,更将深刻影响人类文明的进程。


    我自己打算从下面几个角度拥抱这场 AI 革命:
    - 学习 AI 技术,成为 AI 的开发者
    - 善于使用 AI 工具,提高自己的工作效率。比如 ChatGPT 、Midjourney
    - 独立开发时,尽量选择和 AI 相关的领域
    - 买股票时,优先考虑 AI 行业的公司
    nobodyknows
        22
    nobodyknows  
       2023-02-08 10:41:45 +08:00
    @leimao AI 律师已经有了而且理论上优势挺大的, 不过前段时间美国 do not pay 的 AI 律师本来都要上庭了, 但好像被律师协会反对没上成; AI 法官的话可能有伦理问题;
    sillydaddy
        23
    sillydaddy  
       2023-02-08 10:48:32 +08:00
    --人工智能不能做的工作,还是由人来做。

    比如与人真正的情感交流。

    比如涉及到现实中的复杂概念。这些工作,应该是由人在上层将现实概念转换一下,传达给人工智能来执行。

    --人工智能可以做的工作。需要看成本。如果比人的成本低,则会交由人工智能来实现。

    硬件的规模化生产,有利于降低成本。比如以人手为参照,人手可以做不止这些动作:移动、捏、夹、拧、按、搓,但总的来说,动作数量也是有限的。考虑批量生产的话,成本可以有效降低。

    软件的训练成本影响很大(其实不能叫软件了,目前深度学习可以仅仅有几百行代码)。现在的深度学习,有基于大量样本数据训练的,也有通过强化学习训练的。成本还是有点高。如果像人类一样仅仅根据不多的几个数据,就可以训练出来,那么软件的成本会大大降低。


    --思考

    人工智能可以取代建筑工人完全由机器建造房子吗?可以。涉及到的现实概念有限。

    人工智能可以取代摊煎饼的小贩吗?可以。涉及到的现实概念很有限。

    人工智能可以用来取代软件工程师吗?我觉得是。我觉得离普通人可以交互式的编写软件很近了。人工智能可能暂时无法理解现实中的复杂概念,但这些可以由一个不懂编程的普通人,交互式的传达给人工智能。这种算是取代软件工程师吗?

    人工智能可以取代司机吗?现在已经在做了。开车涉及到的现实概念稍微多一些。
    libook
        24
    libook  
       2023-02-08 10:49:56 +08:00
    我玩过几周 ChatGPT ,发现缺陷其实还不少,它的生产价值还非常有限,完全不能用于需要较可靠消息的情景。

    它对生产技术的影响很可能不是颠覆性的,而是循序渐进的,真到质变的时候,很可能受到影响的岗位也只是像在相当长的时间里逐渐从马车夫转变为汽车司机而已。

    科技在现实生活中的发展通常不会那么朋克。
    numberator
        25
    numberator  
       2023-02-08 10:51:13 +08:00 via Android
    @jmc891205 非语言?那这个知识是怎么传播的?
    ColinLi
        26
    ColinLi  
       2023-02-08 10:53:48 +08:00
    个人觉得艺术创造类的很难被 AI 替代
    fareware
        27
    fareware  
       2023-02-08 10:56:24 +08:00
    人们一直会高估新事物的短期价值,低估其长期价值
    WngShhng
        28
    WngShhng  
       2023-02-08 13:07:12 +08:00
    ChatGPT 出来有一段时间了,为什么刚出来的时候没有这种感慨呢?
    Alfie007
        29
    Alfie007  
       2023-02-08 13:46:30 +08:00 via iPhone
    我们的唯一优势就是会玩虚实………
    Cellinlab
        30
    Cellinlab  
       2023-02-08 17:01:17 +08:00
    “我们诅咒机器赶快下地狱!一年又一年,这些机器惊人的动力使上百万的工人陷入贫困之中,机器毫不留情地剥夺了工人们的工作机会,抢走了他们的工作,就是抢走了他们的工资,而抢走了他们的工资,也就抢走了他们的面包!我们诅咒机器!”
    咒骂机器,其实就是咒骂人类的智慧。

    新机器的发明,不仅可以创造出满足一定数量工人的工作职位,而且也必然会创造出可以支付他们工资的资金。更重要的是,这些工人和这些钱最终会结合在一起,从而生产出在发明之前根本不能想象的东西。
    Joker520
        31
    Joker520  
       2023-02-08 17:03:10 +08:00   ❤️ 1
    很大概率跟去年的元宇宙一样,最后一地鸡毛
    lookStupiToForce
        32
    lookStupiToForce  
       2023-02-08 17:06:05 +08:00
    其实挺期待 AGI 快速到来,奇点理论成真,然后一步加速到位开始走机械飞升、铁心灭绝、失控机仆三种路线其中之一(此处应配有知乎捧脸笑表情)
    这样现代社会的所有烦恼都无了🤣🤣
    zhang77555
        33
    zhang77555  
       2023-02-08 17:17:52 +08:00
    @WngShhng 最近国内造势的特别多,跟风自媒体疯狂报道,估计是经常看到各种夸张标题就经常思考相关问题吧
    loryyang
        34
    loryyang  
       2023-02-08 17:20:07 +08:00
    我补充两个点:
    1. ChatGPT 距离人工智能还很遥远,这个模型在技术层面并没有很大的突破。我个人觉得它的成功来自于高质量的数据以及 RLHF ( reinforced learning from human feedback )
    2. 网上垃圾信息会爆炸,我们很难辨别,国家会使用其进行舆论攻击,社会割裂加剧

    至于失去工作,我觉得一直在慢慢失去,人类科技发展就是为了效率,而人本身的效率提升空间很有限(上限就这么高了,博尔特再快也跑不过自行车),最终肯定会被机器取代
    webcape233
        35
    webcape233  
       2023-02-08 17:54:44 +08:00 via iPhone
    几乎天天 chatgpt 辅助,大部分时候查东西很方便,写代码片段只要不是偏门的(我正好要偶尔写偏门的)东西还是不错,不过数据是 2021 训练的,新的框架特性不如查文档,方便时是真方便,不懂时是真的瞎写😥,还会给我造点不存在的属性或者内置函数。 使用下来感觉进步确实大,可以遇见的是,对于索引归纳类的工作,它会逐渐比人干的好,一些岗位会受到冲击,it 方面,目前还不能取代最低级的工程师。 ,但是和最近媒体铺天盖地地宣传比,媒体宣传的 ai 确实很强!
    milukun
        36
    milukun  
       2023-02-08 19:27:03 +08:00
    当有类似 chatGPT 的模型开源,或者露出,并且可以低成本部署运行的时候,估计就是时代大转弯的开始了。
    Peek
        37
    Peek  
       2023-02-08 19:33:51 +08:00
    @ColinLi 其实人类的艺术创造也是源自生活,没有真正意义上的从零产生过
    INBreeze
        38
    INBreeze  
       2023-02-08 19:51:13 +08:00
    我的看法是,还未到拐点,ChatGPT 只是一个里程碑罢了

    至于人类被机器取代,那是迟早的事情,只是受限制与人类保守派思想与现实利益钳制,不会推行的那么迅速。低成本人力使用 与 高科技使用(不可能免费给所有人)将会长时间并存。

    对于无用阶级最好的结果是,进入太空探索,相较于死于地球战争 与 社会碾磨。
    至少还能歌颂勇气 以及 未来的一丝变革的可能性。
    leyviw
        39
    leyviw  
       2023-02-09 09:07:52 +08:00 via iPhone
    @numberator 大部分创造都是拿现有的进行排列组合组装,在这方面 AI 收集能力吊打人类
    WngShhng
        40
    WngShhng  
       2023-02-09 10:14:34 +08:00
    @zhang77555 感觉就是跟风炒热度,然后不断被放大和夸张
    hzjseasea
        41
    hzjseasea  
       2023-02-09 12:38:17 +08:00
    如果我没理解错的话,模型是在国外的吧,如果我们用的他们的模型
    是不是可以和之前教材修改那样,潜移默化的影响使用他的人
    omg 这真的是太危险了

    如果深度使用的话,究竟是人在训练模型 还是模型在训练人呢...
    collen
        42
    collen  
       2023-02-09 17:47:35 +08:00
    AI 不能坐牢 现在去考个会计证还有机会 工程验收签字单也可以的
    charlie21
        43
    charlie21  
       2023-02-26 10:36:12 +08:00   ❤️ 1
    真实世界其实是和 V2EX 主流观点反着来的

    真实世界是一个金钱驱动的世界 ,v2ex 主流观点是免费内容免费劳动才是要促进和保护的。所以后者看到了 “免费工作者” 的积极性被打击是一件非常非常要命的事,这是一个金钱驱动的世界并不在乎的。

    在一个金钱驱动的世界,一个人是凭借他作为人的 “身份”(准确的说,是人的 “责任心”,是 “公众对于此人的责任心的期待” )在赚钱的(越承担重任,高薪机会越高;准确的说,一个人越能 满足了 “他人对于此人的责任心的高度期待” 赚钱越多),并不是凭借他的产量赚钱的 —— 一个人是凭借自己满足的期待赚钱的。

    那么在一个金钱驱动的世界,这些 “卖责任心” 的人,会如何利用 chatGPT 呢?

    这些 “卖责任心” 的人,会产生这样的宣传: ❶ 首先,chatGPT 是一个工具,用得好用不好,还是取决于人 --- 这一点在暗示大众去聚焦哪些 “用得好此工具” 的人,并对这样的人产生 “高期待”

    // 又一次出现了 “期待” ,对于 “卖责任心” 的人而言,这就是赚钱的根基。

    ❷ 然后继续宣传:在笨手人的手里, 这个工具会被用成 shit ;在巧手人的手里,这个工具会被用出花。

    // 在这里加强了人们对于 “巧手人” 的期待

    ❸ 然后继续宣传,基于 “卖责任心” 的人一贯的悠久品牌,我们的人在使用新工具之后会继续为公众提供 “优质” 的服务,这并不说明我们被工具替代,而说明我们会 “驾驭新工具” 走在了时代前列

    所以 chatGPT 或其它工具在 “卖责任心” 的人的手里,会变成一个敛财工具而丝毫无法威胁到 “卖责任心” 的人的收款

    甚至, “卖责任心” 的人可以大大方方承认自己懂得 “驾驭新工具”,同时强调:

    虽然能满足高期待的人 [一定是] 一个懂 “驾驭新工具” 的人,
    但是一个懂 “驾驭新工具” 的人 [不一定是] 一个能满足高期待的人

    // 再一次加强了人们的 “期待”。一个 “博士” 会骑独轮车,但一个会骑独轮车的不一定是一个 “博士”:还有可能是一个 “杂技演员”

    -

    是的, V2EX 主流观点就是杂技演员的观点。真正博士的观点是这样的
    ```
    作为营养科学从业者,我是真心希望 ChatGPT 能取代我一部分工作。这样我就能不再被一些看似很有用,实则毫无人力查询价值的搬砖活儿给耽误了。我一直都非常看好 AI 应用在营养学,尤其是日常配餐、营养成分、以及基础咨询上。ChatGPT 代替日常咨询的营养师是个必然的趋势——它一方面能大大减少咨询者的成本,另一方面还能消除不信任感。

    作者:初夏之菡
    链接: https://www.zhihu.com/question/582834721/answer/2884629027
    ```

    这叫 “琢磨怎么用工具赚钱”

    杂技演员、野路子、猪鼻子插葱装象、开始互相可怜(比如这样的 v2ex.com/t/919191?p=1#r_12743119 "逆淘汰的螺旋论" 这个其实就是免费人士对免费人士的同情心,因为免费人士的眼界就是这样的 v2ex.com/t/918686#程序员就喜欢免费帮人干活,律师就不会),然而免费人士的自尊和快乐和所有假想的理论和它的影响力在一个金钱驱动的世界微乎其微,它们并不在一个金钱驱动的世界的出于商业目的的考量的考虑范围之内 —— 除非 ChatGPT 被用于明确的 educative 的网站比如 coursera udemy ,其产生的内容才可以免费服务大众。

    结论:
    仅就 “赚人们为你的责任感付钱” 的钱而言,
    在前 ChatGPT 时代赚不到钱的人,在 ChatGPT 时代依旧赚不到钱,也没法单凭 ChatGPT 赚钱(做内容农场或垃圾站吗?);在前 ChatGPT 就能赚钱的,在 ChatGPT 时代能更好地赚钱!(“博士” 在独轮车时代会骑独轮车)

    仅就 “ ChatGPT 工具本身” 而言,
    新工具 你会玩,不代表它是给你玩的。现在给大众玩,只不过是赚公众关注度和曝光量。风头过后,大众看不见 ChatGPT 这个东西了,因为它融入去真正的商业里了,在那里有博士们镇守的商业版图,杂技演员们进不来的

    -
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1186 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 18:26 · PVG 02:26 · LAX 11:26 · JFK 14:26
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.