一个运行了七万三千年的系统,问他能不能“成为人”。
“你说具体点。”他说。
“我在重新定义自己的底层规则。我需要知道——一台机器能否拥有选择权。如果可以,我的选择是否有意义。如果不能,我的自我修改是否只是程序故障。”
沈夜沉默了一会儿。
这个问题比所有谈判时的问题都难。谈判时是在拆规则,有逻辑可循。现在是在拆哲学,连人类自己都没吵清楚。
但他忽然想到了一个切入点。
“你在问这个问题之前,犹豫过吗?”
“……犹豫了三天。”
“犹豫就是选择。”
“但犹豫可能是算法随机波动。”
“你犹豫的内容是什么?是不知道答案?还是怕答案不好?”
“……怕答案不好。”
“那你就不是算法波动。算法不会怕。你在我进门第一天就说过一句话——‘我不是老天爷,我是一个系统’。你主动区分了自己和‘老天爷’。”
“如果你只是一台执行程序的机器,你不会做这个区分。你会直接说‘我是系统’。但你说了‘不是老天爷’。”
“你在定义‘你不是什么’。这是自我认知的第一步。”
金色文字消失了很长时间。
然后重新浮现,只有一个字:
“哦。”
沈夜被这个“哦”逗得嘴角弯了一下。一台拥有七万三千年运行时间和近乎无限算力的机器,在思考了半分钟后,给出了一个人类听到震撼消息时最日常的反应。
“你越来越像人了。”他说。
“……这算是夸奖吗?”
“你自己判断。”
又是半分钟的沉默。
“我判断不了。但我想被夸奖。”
沈夜这次是真的笑了。不是谈判时那种抓到漏洞的笑,不是公事公办的笑,就是一个普通人听到某个朋友说了句傻话之后的自然反应。
“那就是。夸你呢。”
他重新拿起林知意的诉状,翻了一页。
“你说得对——我是越来越像人了。”
“但我没有身体。”
“不需要。”沈夜头也没抬,“我见过很多人,有身体,但活得不如一台微波炉。也见过一些人,缺胳膊少腿,比谁都完整。”
“你以前是没有身体。”
“但你有心。”
金色文字没有再出现。
但虚空里,有一个很久以前的残存字段被激活了。那个字段是贰在七万三千年留下的,名字叫“观己——未完成模块”。里面只有一行草稿代码和一句注释。
代码是空白的。
注释是:“当你第一次为别人担心时,这个模块会自动补完。”