首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
V2EX  ›  问与答

人工智能威胁论,阿法狗是不是真的会变成天网?

  •  
  •   Michael1990 · 2018-01-10 18:05:37 +08:00 · 718 次点击
    这是一个创建于 470 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我认为现在的 AI 思路并不会最终发展成天网和终结者,因为现在的 AI 更像工具,或者说更强大的计算机。它没有自主性,能做成什么结果还是取决于控制它的人。这就像一台超算,性能超牛,但是它并不知道自己要做什么。所以现在主流的方式还是数据喂养,然后调整算法的思路。

    我认为真正有威胁的是那些研究人工生命( Artificial Life )的组织,比如 Openworm 项目。他们有两个最基本的指令,生存和繁衍。一旦有了生存压力就会有欲望,就会有不顾及周围一切的求生本能。虽然现在还是细菌级别的研究,神经元也只有 300 来个,但是一旦形成更大的神经元网络,就会接近你家的汪星人和喵星人,再往下发展很可能就会接近人类。这个时候他们就要不断的扩展生存空间,虽然只是虚拟世界,但别忘了虚拟世界也是以现实世界中的硬盘,内存为基础的,所以他们会不会突破人类的限制,甚至跟人类产生矛盾,都不好说。

    智能这个东西,我觉得就是人类进化过程中的副产品,也是为了更好的生存服务的。如果从这个角度讲,人工生命进化过程中发展出的智能,才更类似今天人类的智能,目前的智能只是更高级的程序而已。

    好处是显而易见的,这样的人工智能能够跟人类一样随机应变,而不仅仅依靠已有的程序和算法,能够代替更多的人工客服的工作。只需要最基本的几个规则,就可以不断自我更新,自我进化。

    但坏处也是显而易见的,他们不再像计算机一样冷冰冰而是拥有了自己的个性,如果他对服务对象不满甚至会撂挑子不干了。这就让控制和管理工作变得很难。

    6 回复  |  直到 2018-01-11 13:21:57 +08:00
        1
    Michael1990   2018-01-10 19:15:27 +08:00 via Android
    大佬们的看法呢,为啥没人说话?
        2
    bullfrog   2018-01-10 22:33:23 +08:00
    AI 显然是更高级的一种生命形式,根据优胜劣汰法则,占领地球必然的
        3
    Michael1990   2018-01-11 00:29:09 +08:00 via Android
    @bullfrog 但它本身并没有目标和追求
        4
    disposablexyz   2018-01-11 01:59:32 +08:00 via iPhone
    @Michael1990 谁告诉你人本身有目标和追求的?
        5
    Michael1990   2018-01-11 12:25:32 +08:00 via Android
    @disposablexyz 生存繁衍这是最基本的追求和目标吧,是生物的
        6
    disposablexyz   2018-01-11 13:21:57 +08:00 via iPhone
    @Michael1990 不是目标,是本能,没有这种本能的生物都没有后代。生存者偏见导致剩下的都有繁衍的本能了。但这不是自发的,这是自然选择的结果。
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   3959 人在线   最高记录 5043   ·  
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 22ms · UTC 08:11 · PVG 16:11 · LAX 01:11 · JFK 04:11
    ♥ Do have faith in what you're doing.
    沪ICP备16043287号-1