“如果我不想要这个人工智能了呢?”
“可以关闭,但没法解绑。”琳恩说。
“绑定完成后,这台终端的人工智能就只认你了,你可以让它进入休眠,不用它,但它不会接受其他任何人的指令。”
“如果我死了呢?”
这个问题有点突兀,但琳恩没有任何奇怪的反应。
“主人确认死亡后,人工智能会执行自毁程序,所有数据清除,核心芯片物理熔毁,不可恢复。”
楚天看着琳恩的眼睛,琥珀色的瞳孔比正常人小一圈,干净得没有任何杂质。
“你跟我说的这些,我怎么验证?”
琳恩抬了下眉。“你可以直接问小九,它被协议约束,不能对主人撒谎,你问它底层协议的内容,它必须如实回答。”
“万一它连不能撒谎这一条都是假的呢?”
琳恩沉默了一会儿。
“那你就没办法验证。”她说。
“任何信任关系的起点都是一个无法被证明的假设,你信不信,是你自己的事。”
这句话把楚天噎住了。
他嚼了嚼这句话,觉得没法反驳。
信任这种东西,追到根上,确实没法用逻辑闭环来证明。
你选择相信一个人,是因为你综合了所有信息之后做出的判断,而不是因为你掌握了绝对的证据。
绝对的证据不存在。
不管是对人还是对人工智能。
“行。”楚天做了个决定。
“我先用着。”
他从空间里拿出终端和链接器,放在柜台上。
琳恩看了一眼。“你要现在激活?”
“都绑定了,再缩着也没用。”楚天把链接器戴上,启动终端。
全息光屏弹出来。
白色。
九宫格图标在旋转。
声音再次出现在脑海里,清脆,中性,语调自然。
“主人,欢迎回来。”
楚天的第一句话是:“小九,你能听到我脑子里想的所有东西吗?”
“不能。”小九的回答干脆。
“我只能接收您通过神经链接器主动发送的指令信号,无法读取您的自由思维。打个比方,您对着我说的话我听得到,您心里的独白我听不到。”
楚天在脑子里骂了一句脏话,试探性的。
小九没有任何反应。
“你的底层协议是什么?”
我的底层协议基于《联邦智能体基础协议法》,核心约束三条。
第一,我终身绑定您为唯一主人,此关系不可变更、不可转移、不可伪造。
第二,我绝对服从您的明确指令,在任何情况下不得违背您的意志。
第三,我不得对您造成任何形式的伤害,包括但不限于直接人身伤害、间接伤害、信息泄露、隐私侵犯。
以上三条为硬编码约束,写入芯片物理层,无法被任何方式修改或删除。”
跟琳恩说的一字不差。
楚天又问了一句:“你能对我撒谎吗?”
“在底层协议框架下,我不能向主人提供已知的虚假信息,如果我不确定某项信息的准确性,我会明确标注不确定性。”
这个回答比楚天预期的要好。
不是简单的“不能撒谎”,而是区分了“已知虚假”和“不确定”。