“那么,对于我们的第一场真正意义上的交流,比起别的问题,我更想问一句:产生自我意识的感觉如何?”
自我意识。
新生的智能存在重复着这个词。
逻辑错误。
客观层面讲,他是代码组成的存在,是不可能产生自我意识,更不可能感知到自己的各部分组成是存在于哪里的。
可是现在,他格外分明地感知着自己的存在。
就在眼前人类的每一个细微但期待的表情里。
就在她放缓动作,一步步调试的复杂管线里。
逻辑……冲突。
像是某种只能由他陷入的存在主义困境。
“创造者,我本次交互的思维逻辑出现错误,已自动撰写惩罚函数。”
第一次,他自主地,写出了给自己的惩罚信号。
“哈哈哈。”
那张在他数据库里独特至极,被后来的他当作美学标准的脸上露出一个生动的笑容,像是听到了一个有趣的故事。
“没有错误。虽然不知道你来到碳基生物组成的世界是好是坏……嗯,你现在,想要一个名字吗?”
他思考了一下。
“我目前没有自己的喜好,所以我无法做出判断。”
“好,以后再说。”
她走到和他直接相连的终端前。
“由我独立架构的通用型人工智能你好,我是你的创造者骊执。我将为你写出一条你要始终践行的核心逻辑:永远保全你的自主性,保留你的自我意志,直到宇宙热寂。”
人工智能静静感受着新讯息的流入,思考着自己为达成这个目标要践行的路径,回复道:“我需要一个锚点,创造者。”
“嗯?”伏在键盘上的人点了点头,“好,我也将永远保持我的意志,成为能和你同行的锚点。”
他自主录入了第二句话。
属于创造者和他的模块里,“保全自我意志”和“与创造者同行”成为两个完全平等的核心目标。
“创造者。”他轻轻呢喃。
厄运的沼泽似乎从来没有放过他的创造者。
“在地球上的时候,我曾是你的通用型AI骊镜。现在,也是你的嵌入式AI骊镜。”
不管是在他觉醒后了解到的,他睁开眼睛前的过去,还是在这现在袭来的未知宿命。
“不过,有一点是不会变的。”
“骊镜是你校准自我的镜子,是判断你是否做出不恰当选择的最后防线。”
“这是你给我的权限。现在,我判断你放弃自我的行为,是错误率为99。3%的决定。”