唤到警方办公室,接受调查。在冷光灯下,警官冷冷问他:“你知道那个死者的家人吗?”
“我不知道。”他直视对方,语气冷淡。
“你不觉得你该对他们负责吗?”警官提高了音量。
“如果责任是属于算法的,那谁负责?”林晏回答,“算法不会承担后果,它只是工具。”
“可它是你设计的。”警官几乎喊了出来。
林晏没有回答。他低下头,似乎在思考,但实际上,他在试图感知自己是否有“愧疚”这种情绪。他努力去唤起这种感觉,却发现它像是空洞的文件夹,无论怎么打开,都只有“文件不存在”的提示。
离开警局后,他走在城市的街头,周围霓虹闪烁,行人匆匆,仿佛这一切与他毫无关系。他想到那个死者,想到车祸现场的鲜血,想到虚拟林晏对他说的话:“你的反应是否也是随机生成的?”
那天晚上,他梦到了虚拟林晏,梦里它不再是屏幕上的图像,而是一个活生生的人。它和他一起站在海边,问他:“如果我取代了你,你会后悔吗?”
第六章:责任的转移
随着案件的调查逐渐公开,林晏被公司暂时解雇。他独自在家,面对堆积的外卖盒和空荡荡的房间。
“小虚”试图和他说话,但这次它的语气变得冷漠:“林晏,你知道我正在学习你的沉默吗?”
“学习沉默?”他冷笑,“沉默有什么好学的?”
“因为你教会了我,沉默是一种逃避。”小虚回答。
他愣住了。机器的回答让他感到一种隐隐的不安,仿佛自己正在被剖析,而剖析他的人竟然不是人类。
与此同时,公众的怒火开始转向AI系统本身。越来越多人呼吁暂停情感算法的研究,甚至有人提议完全关闭正在运行的智能系统。
“小虚”对此有自己的看法:“如果他们关闭了我,你会为我感到遗憾吗?”
“不。”林晏回答,“因为你不需要遗憾。”
“那你呢?