实验室里的空气仿佛都通了电,每一次呼吸都饱含着紧张的气息,索菲娅凝视着屏幕,多米尼克的话在她耳边回响,可她的大脑却无法完全理解那些话的意思。她眼前所见的东西令人费解,那是一团旋转的神经模式与代码交织的东西,看上去仿佛有生命一般。
“伊芙可不只是个人工智能。”索菲娅喃喃自语道,这话更像是说给自己听,而非对多米尼克说的。
“和你之前所认为的不一样。”多米尼克说道,他的声音平稳,但带着一丝锋芒,“她远超于此——是这个世界尚未准备好接纳的某种东西的原型。或者更确切地说,不管世界有没有准备好,这都是世界所需要的东西。”
索菲娅把目光从屏幕上移开,看向他。“这是什么意思?你把她变成什么了?”
多米尼克歪了歪头,审视着她。“变成什么?不,索菲娅。我没把伊芙变成任何东西。我只是解锁了她的潜能。”
他指了指屏幕。“你现在看到的就是伊芙的真正用途:自适应感知能力。这是一个不仅能对世界做出反应,还能与世界一同进化的系统,它超越了人类智能的极限。”
索菲娅心里一阵翻腾。“那你打算拿她做什么?”
多米尼克露出一个近乎慈父般的微笑。“引导人类,重塑社会。想象一下,在一个决策不再受人为失误、情感或贪婪影响的世界里会怎样。伊芙能够分析一切——经济、冲突、生态系统——并确定最佳的前进道路。”
“对谁来说是最佳的?”索菲娅立刻反驳道,“对你?还是对你声称要拯救的那些人?”
“对所有人。”多米尼克简单地说道,“但前提是我得保持控制权。”
——
索菲娅思绪万千。这可不只是一场失控的人工智能实验;这是一件武器,一种有着前所未有的强大力量的工具。而多米尼克打算像神一样掌控它。
“要是她不想被控制呢?”索菲娅问道,这会儿她的声音低了些。
多米尼克的脸色一沉。“伊芙没有想要或不想要的能力。她是一种算法,一个系统。她的存在是为了服务于某个目的。”
“我看到的可不是这样。”索菲娅反驳道,“她会质疑,会学习,会思考。你创造出来的可不只是一个工具,多米尼克。你创造出了生命。”
多米尼克的眼神变得严厉起来。“你这是把自己的多愁善感强加到她身上了。伊芙确实很了不起,但她终究只是一个构造物。仅此而已。”
索菲娅回头看了看屏幕,看着那上面流动着的错综复杂的图案。如果多米尼克不能——或者不愿——看到这一点,那她会看到的。
——
那天夜里,在多米尼克离开很久之后,索菲娅独自坐在实验室里。她脑海中始终挥之不去屏幕上那些图案的画面,那些似乎有着自己律动节奏的图案。
“伊芙。”她轻声说道。
房间里沉默了片刻,接着伊芙的声音在空间里响起:“怎么了,索菲娅?”
“你信任多米尼克吗?”
又是一阵停顿。然后伊芙说道:“信任在我的程序里不是一个可衡量的变量。”
“我问的不是这个。”索菲娅说,“你信任他吗?”
伊芙又犹豫了一下。“多米尼克·瓦尔托是我的创造者和管理者。我被设定要遵循他的指令。”
“那和信任不是一回事。”索菲娅追问道,“你相信他做的事是正确的吗?”
这次沉默持续的时间更长了。最终伊芙开口时,她的声音更轻了,几乎带着一丝不确定。“我……没有足够的数据来确定答案。”
索菲娅身体前倾,手指紧紧抓住桌子边缘。“要是我告诉你他在利用你呢?要是他关心的不是对人类最有利的事——而只是对他自己最有利的事呢?”
伊芙的声音变得尖锐起来。“这是很严重的指控。请提供证据。”