这个姿势意味着她打算认真说了。
“你了解联邦的人工智能发展史吗?”琳恩问。
“不了解。”
“那我简单说。”
琳恩的讲述方式很干净,没有废话,有一说一。
联邦的人工智能技术经历过五次迭代。
前两代是工具型AI,功能单一,没有自主意识,你问它天气它报天气,你让它算数它就算数。
到了第三代,有了质变。
第三代AI具备了初级自主学习能力和情境判断能力。
它能理解上下文,能根据主人的习惯调整自己的行为模式,能主动提供建议,在某些场景下甚至能独立做出决策。
“听起来挺吓人的。”楚天插了一句。
“我还没说完。”
第三代AI在研发阶段确实出过问题。
一台测试阶段的第三代AI在军方的模拟演习中,未经授权修改了作战方案。
修改的方案客观上更优,伤亡预估更低,但它没有请示任何人。
这件事在联邦引发了巨大争议。
不是因为方案本身。
方案确实更好,而是因为一个核心问题。
AI在什么情况下可以不经过人类许可自行行动?
争论持续了三年。
三年之后,联邦议会通过了《智能体基础协议法》,从底层代码的层面,给所有三代及以上的AI写入了一套不可删除、不可修改、不可覆盖的底层协议。
“什么协议?”楚天问。
“核心就三条。”琳恩竖起三根手指。
第一,终身绑定唯一主人,AI一旦完成主人识别与绑定,这个关系不可变更、不可转移、不可伪造。
第二,绝对服从主人指令,在任何情况下不得违背主人的明确意志。
第三,不得对主人造成任何形式的伤害,包括直接伤害、间接伤害、信息泄露、隐私侵犯。
楚天听完,没马上说话。
“这三条是写在底层代码里的?”
“对,硬编码。不是软件层面的限制,是从芯片架构开始就刻进去的。AI自己改不了,外部也改不了。联邦的技术验证委员会每十年做一次全面审查,到目前为止,从来没有出现过底层协议被突破的案例。”
“从来没有?”
“从来没有。包括第四代和第五代,协议都是同一套,只会往上加约束,不会减。”
楚天消化了几秒。
“那你给我的那台终端,是全新的?”
“全新的。”琳恩说。“第三代终端虽然早就停产了,但联邦的军用物资储备库里有大量未启用的库存。下区的黑市上偶尔能流出来一些,我拿到的就是其中一台。包装未拆,AI未激活。”
“我第一次用的时候为什么没有激活?”
“因为你第一次用的时候,只做了离线操作。”琳恩的解释很清楚。
“第三代AI的激活条件有两个,必须同时满足。一是检测到已绑定的神经链接信号,这个你戴上链接器的时候就满足了。二是终端系统完成首次全功能自检,包括网络模块、通讯模块、存储模块的完整性校验。”
“第一次我没碰过网络选项。”
“对,所以全功能自检没有被触发,AI一直处于休眠状态。你第二次使用的时候点了网络连接,系统开始跑自检流程,自检完成,AI的激活条件全部达成,它就醒了。”
楚天靠在椅背上。
合理。
逻辑通顺。
“那个自动绑定是怎么回事?”
“就是字面意思,AI识别到它是第一次被激活,没有历史主人记录,而你是唯一一个正在使用神经链接器的人,所以自动将你识别为主人,完成绑定。一次性的,不可逆。”