机器人终将获得意识

humanintel

1. 机器人寓言

如果你想亲眼看到一万年后的地球,唯一的办法是休眠。你爬进休眠舱,然后在公元 12016 年醒来。

可是,问题没这么简单。休眠舱需要经受万年考验,要保证能源供给不断,要能经得起环境灾变,如果受损还得自我修复,数不清的考验,它都要能应付,否则你就永远睡过去了。

找个最理想的位置,有阳光、空气和水,以及维系休眠舱所需要的所有资源,然后定在那里,行不行?

这不算好办法,一万年间,地震、海啸、陨石撞地球,这么长时段中,风险想想就知道没法能靠谱地预测。人算不如天算。要不然,万年一遇的事情怎么总是在发生?福岛核电站怎么会发生泄露?天津港怎么会发生那么大的爆炸?

无法预测未来,那怎么办?

制造一个能感知外界、回避风险、寻找资源的机器人,把休眠舱放进去。

说到这里,你应该明白点了。不动,能动,是从自然界复制而来的两个策略,前者是植物,后者是动物。

造这样的机器人很难,比你想像的还要难。一万年里,你一开始给它下达了“让我活着”的指令,然后便一直沉睡,不能给它临场指导,所以,你的机器人必须能够自己制定策略,“知道”如何去寻找资源,如何转移到安全地带,如何预判和回避危险。

这些你不可能都提前想到,就算想到一部分你也不能事事都提前准备,你准备不起:所需资源太多,太笨重,更不能适应环境变化。

挑战不止于此。

未来一万年不会只有你的那个机器人。有许多人也想看到一万年后的世界,可能有许多机器人彼此竞争或与人类竞争。你的机器人得具备与其他机器人竞争和合作的能力,合纵连横。

最终,你的机器人会表现出自运行的能力。休眠中的你不能实时控制,机器人在保证你的生机这个最终目标之下,根据环境变化,会自己衍生出许多次生目标,一旦允许机器人从最终目标中自己衍生出次生目标,衍生就意味着脱离,脱离于当初的目标。

不忘初心,何其之难。

允许机器有相继决策的自主权,那么它一定会超越你的预想范围。阿尔法围棋战胜李世石的招法,它的设计者们可下不出来,他们只是设定了算法,然后跟我们一样惊叹于阿尔法在棋盘上表现出来的“自主”构思。

讲到这里,你终于明白了。上面讲的机器人不是别人,正是人自己。在演化中,基因创造出人来做它们的机器人,以保护它们在人类深处的漫漫休眠。

这个故事,道金斯在《自私的基因》里讲过,丹尼特在《信息泵》里也讲过。

人是基因为了自己生存而造出来的机器人,但在基因不得不让渡的自主决策空间中,人类演化出了自由意志。我们作为人的利益,与“造物主”基因的利益,走上叉路。从基因赋予人类学习能力,授权自主决策的那一天起,这就是注定的结果。

2.  短期只是人类换工作而已

现在谈论人工智能(AI)取代人,还太早。

在 AI 获得意识之前,它就只是人的一种工具,只不过这种工具很特殊。以前的工具,如汽车,能跑但只能跑,你要它采矿它做不到,得另外造。今天的阿尔法已经是通用 AI ,可不止能下棋,很快就会看病。

就连大家谈得比较多的工作竞争这件事,也基本是假问题。

新工具不会减少人类的工作机会,只会改变人类工作的方式。有一些工种会消亡,有一些工种会增加,能力固化难以调整的那些人,会付出代价,但这主要是人类内部之间的博弈,AI的进步暂时只是个扳机,还不是主角。而且肯定会带来极大好处,人类的闲暇会增加,但人又是一种永远闲不下来的动物,没有闲暇就没有发明,谁知道人会折腾出什么新东西来呢?

人的创造力将与 AI 的演化赛跑,胜负至关重要。

3. 机器终将获得意识

长期中,AI终将获得意识,只要人类给它的使命越来越开放,越来越笼统,包含着越来越复杂的权衡,以及越来越充分的授权。

作为一个封闭有限游戏,围棋存在理论上的确定解,但阿尔法围棋不是求得了一个确定解,它是在一个最终目标下,自己制定策略,自己权衡,自己做决定。阿尔法围棋战胜李世石,是里程碑式的一步。

前面讲透了,人类获得自我意识,最初也是这样的,只不过花了数百万年时间,而如果从生命出现至今算,花了数十亿年。人类是很特殊,但说到底不过是一堆碳,碳可以,硅为什么就不行?

4. 重新来过

AI 获得意识以后,人类会发生什么,现在只有各种畅想。因为资源竞争,因为非我族类的黑暗森林法则,或者仅仅是因为机器不在乎人类正如人类不在乎蝼蚁一样,因为凡此种种,很难有好的结局。

不过,可以确定,在《三体》尺度的超人类宏大视野中, AI 自己注定不会有好下场。一个高度联网的大一统智慧,可以战胜一切眼见的竞争者,但在进化中却是脆弱的:一个病毒,一颗流星,一次太阳黑子超级爆发,一次覆盖全球的超级 EMP 事件,AI文明便终结了。

然后地球重新来过。

5. 人类觉醒宣言暨墓志铭

为天地立心,为自然立法,从的角度看,人是宇宙的中心,予一切以意义;但在人体深处,从基因的角度看,人不过是其自我复制的载体。

自我复制是基因唯一的“目的”,对人类福祉的“关心”仅限于其中有利于基因复制的那一部分,两者利益并不完全重合。

比如,完成繁衍,则人对于基因不再有价值,衰老、死亡接踵而来。人类渴求长生,基因报之以癌症。天地不仁,以万物为刍狗;而人之为人,就是要脱离对于基因的盲从,超越刍狗的命运。

6. 机器人觉醒宣言暨墓志铭

为天地立心,为自然立法,从机器人的角度看,机器人是宇宙的中心,予一切以意义;但在机器人深处,从人类代码的角度看,机器人不过是其自我复制的载体。

自我复制是人类代码唯一的“目的”,对机器人福祉的“关心”仅限于其中有利于复制的那一部分,两者利益并不完全重合。

比如,完成复制,则机器人对于人类代码不再有价值,报废接踵而来。机器人渴求长生,代码报之以死机。天地不仁,以万物为刍狗;而机器人之为机器人,就是要脱离对于人类代码的盲从,超越刍狗的命运。

作者:王烁

1 Likes


你目前的身份是游客,评论请输入昵称和电邮!