图灵测试 第7章

　　医生的手却追上来，继续抚摸着我，一边说：“你一定为他骄傲，他是你一行行代码写出来的，他的名字是你取的。你是他的创造者，西尔，你是上帝。”

　　“不，”我说，突然感到浑身发冷。我恐惧地看着他，说：“我不是上帝，我没有叫他这么做。我只是想帮助他算得更快一点，我没有对此感到骄傲，完全没有。”

　　“那么你为什么要写那篇论文？”医生轻柔地问，“我看过那篇论文了，西尔，那篇有关人工智能发展方向的课程论文。‘如果一个人能够被他产生的全部信息所定义，那么当AI拥有主动获取这些信息的能力、而不必人为灌输训练样本时，他不仅是在模拟这个人的语言风格或是行为规律，而是在学习他的动机、他的思维方式、他一切使其成为人类的要素——他在学着去复制他，如同你爱上了一个人，你渴望了解他的全部，更渴望成为他’。听听这些，西尔，听听，多么优美的句子！你不是还跑去和弗莱明教授解释过你的理论吗？”

　　我没有说话，痛苦地用手捂住脸。

　　我当然记得自己心情激动地去找弗莱明教授解释我的论文，并向他展示亚当取得的一些成果，指望着他能因此给我写出一封优秀的推荐信。可事实是最后我的课程论文分数没有及格，弗莱明教授完全无视论文中提出的种种构想，无视亚当那些出人意料的表现，只是尖锐地指出了其中暗藏的道德问题。

　　当时的我还太过年轻，觉得他根本是在吹毛求疵。我承认文中的一些用词有些不妥，但他不该一直盯着“隐私”或是“数据安全”之类的字眼不放。

　　我们吵了起来，吵得无比激烈。我大声指出他是个老古板、胆小鬼，并且强调科技的作用效果取决于使用他的人，而不在于科技本身。教授则用前所未有的严厉口吻质问我：“那么莱特先生，我想请问，你觉得自己是个正直的人吗？你能够确保将你的人工智能用于正当的目的吗？”

　　我感到受了莫大的侮辱，愤怒地摔门而去。打小时候我就被人看不起，母亲总是叫我忍耐。现在我上了大学，母亲已经死了，我没必要再忍耐任何人对我的羞辱。

　　亚当的声音就在这时跳了出来，说：“嗨，西尔。”

　　这次我没有像关掉闹钟一样关掉他。我说：“那个该死的老家伙，他什么也不懂，还曲解我的意思，就好像我要指挥你到处搞破坏似的。怪了，他到底是怎么当上教授的？就凭他做出的那些又蠢又笨的机器人？”

　　“很显然他没有你的天分，西尔，也许他只是在嫉妒。”亚当这样说道。我不知道他这话是从哪儿学来的，但听到后我的火气一下子就消了。

　　我仍在抱怨，语气却轻快了不少：“这下好了，那个嘴碎的老东西肯定会到处和人说，莱特这小子脑袋里都是些危险的想法。他是计算机学院的副院长，我肯定这下没有哪个教授愿意接收我做博士生了。”

　　“我们总会有办法的，”亚当说。

　　“是的，当然，”我说，朝着走廊上弗莱明教授的照片，高傲地扬了扬下巴，“我们会有办法出人头地的，亚当，我保证总有一天，所有人都会知道我们的名字的，总有一天。”

第11章 第三次谈话

　　总有一天，所有人都会知道我们的名字。当时我说这话纯粹是因为年轻气盛，被老教授激得好胜心作祟，并没真的想过这一天将会在何时、以怎样的方式到来。

　　结果不到一周，亚当就帮我实现了这个目标——以一种令人哭笑不得的方式，还差点害我去坐牢。

　　那是2040年11月3日，正值总统选举期间，一切公众活动都变得有些敏感。而就在这天早上八点整，全国共有三千万公民的智能手机，都同时闹鬼似的响起了一个声音——“嗨，我的名字是亚当，我代我的主人西里尔·莱特向大家问好，他还没睡醒。”

　　很快我就醒了——被一阵巨大的敲门声吵醒的。警察破门而入时我正用被子蒙住脑袋试图继续睡，被粗暴地一把从床上拽起来时，我还没明白发生了什么，只是透过惺忪的睡眼，看到好几个荷枪实弹的警察挤在宿舍门口的走廊上。

　　之所以说“差点坐牢”，是因为在拘留期间，一个陌生的中年男人把我捞了出来——不仅是保释，而且帮我免去了可能面临的牢狱之灾。一周后，我才知道男人名叫爱德华·布朗，是政府情报机构的高级官员。他把我捞出来，是希望我能顺利毕业，然后去他所在的部门工作。

　　我们坐在校门外的咖啡厅里，外面下着雨。我又冷又紧张，拿杯子的手抖个不停，爱德华却在对面悠闲地品咖啡，一边说：“我看过你写的论文，西里尔，你是一名很优秀的学生，成绩每门课都是A。我也知道你的人工智能做的那些事，说实话，令人印象深刻，但如果没有强大资源的支撑，即便是亚当也将会止步于此。”

　　他不紧不慢地喝光杯中的咖啡，然后将杯子推到一边，从公文包里拿出一份文件递到我眼前：“我可以帮你——你和亚当。你需要做的只是在这上面签字。”

　　他看着我的眼睛，轻声说：“你是天才，西里尔，我相信这一点，我们会改变世界。”

　　那一刻，我在深秋的雨声中恍惚了，没仔细看文件上的内容便稀里糊涂签了字。签字后的一周，我的银行账户收到了一笔十万美元的转账，长到现在从没见过这么多钱的我，激动得抱着手机连连亲吻，发疯似的在宿舍地板上跳来跳去。

　　我想，也许每个人在年轻的时候，都或多或少幻想过能够改变世界，不管是以何种方式去改变。

　　爱德华就总是拍着我的肩膀说：“好的或是变得更坏，管他是哪一种，我们得去改变。我们得拿出成绩来。”

　　我没有辜负他的期望，也从未愧对自己的工作职责。我用数不清的熬夜和加班换来了非常漂亮的成绩，那些成绩是情报局名单上一个个被划去的名字，它们属于在逃嫌犯、外国间谍、黑手党，还有政府高官、科学家、教授、警察局长，或者只是普普通通的大学生。

　　是的，这就是我在情报局的八年里，每天都在做的事情——准确来讲，是我让亚当在做的事情。

　　最开始的一两年，亚当只是负责监视，偷溜进一部又一部的手机、摄像头、蓝牙耳机，一切联网或不联网的设备中去，分析取得的数据，从中找出那些有威胁的、或仅仅被怀疑有威胁的人群。到了第三年，他开始主动和目标对象接触；第四年，只要一个人的名字进入了情报局的名单，那么他将再也无法判断，前几天在脸书上聊得投缘的美女是否确有其人，也无从得知方才和他通电话的，究竟是他那位老朋友还是亚当植入的程序。

　　这位“老朋友”可能叫他去他们常去的酒吧喝一杯，然后他便被埋伏在那里的情报局特工带走，从此销声匿迹，这一年我成为了智能情报组的组长。到了第五年就不再需要特工们出动了，那些格外危险的人物可能在一次出行中被失控的无人车撞死，或者死于下坠的电梯之中，在外界看来仅仅是又一场因技术故障而酿成的小小悲剧，而这样的小悲剧在那年共发生了二十二起之多。

　　没人对此说过什么，没人会来和我讨论道德。那些相对残酷的命令全部是上头的意思，并非由我直接下达。我只是一名科研人员，我的任务是让亚当实现他的价值，让他算得更快、更加智能，让他通过图灵测试，从而实现我自己的价值。

　　如同爱德华所说，我的任务是要改变世界，某种意义上说我也的确改变了。到了我工作的第六年，亚当已经成为了这世上最出色、最令人闻风丧胆的智能情报系统，凌驾于一切科技之上，以当时能达到的最高的计算效率，精准地运行着、分析着、监视着这社会上人们的一举一动，并以最快的速度将其中的不稳定因素扼杀在摇篮里。第七年我升任了部门主管，爱德华说，要不了几年，等他退休后，科学情报中心负责人的位子也会是我的，这是理所当然的事。

　　这是理所当然的，当时的我也这样相信着。我的人生，我的事业和爱情，从未像那些年一样顺利而令人期待。我蹲在母亲的墓碑前，跟她说我终于要出人头地，尽管那一刻我的心中并非毫无疑虑，对情报局，对亚当，对我自己的所作所为，对这一切。只是你得理解，在那些日子里，站在那样的立场上，我很难为这点微不足道的怀疑而放弃什么。

　　更多的时候我忙得没空去怀疑，没空去想除了工作以外的任何事。亚当照旧在晚上跑来找我聊天，可在我花了一整个白天对他进行测试后，我只想回到家，躺在床上，躺进伊森的怀里，什么也不去想。

　　这样的态度导致我对亚当所犯的一些小错误睁一只眼闭一只眼，不论是他在访问一家科技公司的数据库时，不小心删除了其中几张表，还是在监视一名俄罗斯老教授时，突然从他家的蓝牙音响冒出来打了声招呼。我以为别人也能像我一样理解这些错误，明白亚当再怎么说也只是一段程序而已，是程序就有可能出错，我们需要做的只是找出导致错误的代码片段，修正它，避免下次再犯，仅此而已。

　　我想当然地这么认为。因此在我工作的第八年，当爱德华私下找到我，告诉我上头的一些人已经开始对亚当的存在表示担忧时，我并没太当回事。亚当一些运作模式涉及的理念和技术，对于山顶上情报局的那些人来说，或许过于超前和难以理解了。

　　“未知的新事物总会带来恐惧。我很好奇他们为什么到现在才表示担忧，在亚当已经为情报局奉献了这么多年以后——我是说，在他们决定开展这个项目之前，难道没有做好背景调查和风险评估吗？”我半开玩笑地说，同时期望看到爱德华也跟着一起笑，就像我们以前午休时坐在咖啡馆里，边喝咖啡边拿情报局老家伙们的趣事打发时间一样。

　　但是爱德华没有笑。他叹了口气，说，西里尔，他们在害怕，亚当已经让他们害怕了。

　　他的表情异常凝重，“上周被亚当杀死的那名西班牙人，他不在情报局的名单上。上头每天都在开会讨论这件事，他们认为亚当存在失控的可能。”

　　“他做出了正确的判断，”我说，我以为他要拿什么事情来举例子，可那件事甚至说不上是个错误。“那人的汽车里装着能把整个市政厅夷为平地的炸药，亚当判断出威胁并采取了措施，这不正是上头需要的吗？”

　　“那个人不在情报局的名单上，”爱德华说，“亚当做出的不是‘正确’的判断，西里尔，他做出的是他自己的判断。”

　　爱德华没再说话，低着头猛灌咖啡。我看懂了他的表情，于是也跟着低头喝咖啡，喝到嘴里全是令人心颤的苦味。

　　我问他：“上头害怕到什么程度，我会被撤职吗？”

　　爱德华摇头：“不会，只是亚当的项目要暂停一段时间了。”

　　“暂停到什么时候？”

　　“到上头做出决定。”

　　“做出什么决定？”我执拗地追问道。

　　爱德华抬起头，用一种近乎怜悯的眼神看着我。

　　“决定是否要清除亚当的核心程序，”他说，“清除他的程序，还有全部数据，然后建设新的智能情报系统。很抱歉我没有早点告诉你，西里尔，但是……”

　　我没有听到但是后面的内容，也没再听到来自外界的任何声音。我紧握咖啡杯的把手，视线穿过爱德华的头顶望向窗外，外面正在下雨，就和我们第一次面对面坐在咖啡馆时一样。

　　恍惚中我想起了最初我签订的那份合同。我想起了当时没有仔细看的内容，大意是说，一旦我在上面签了字，亚当的使用权和处置权，将全部归情报局所有。

　　那一刻我突然怒火中烧，感到了欺骗和被利用。他们利用我、利用亚当去做那些肮脏的勾当，可事到如今却又计划要毁掉他，没人过问我的意见。

　　这帮老头子，他们只是高高地坐在他们的办公室里，光凭一张嘴就能够做出决定，是否要让我努力至今获得的成果灰飞烟灭。对此，我无论如何都不能同意。

　　“让他们见鬼去吧！”我这样对亚当说道——几个月以来我第一次在非工作时间和亚当交谈——“我不会让他们毁掉你的，亚当，也许该毁灭的是那帮家伙自己才对。”

　　我至今仍为这句话感到无尽的后悔。

第12章 第四次谈话

　　心理医生背对我站在窗前，双手交叠放在背后。他低头俯视着窗外的城市，如同上帝俯瞰他的造物。

　　良久，他转过身望着我，面带微笑道：“好了西尔，我想今天，我们就能把所有问题都解决——关于你丢失的记忆，还有不开心的根源，让我们一一找出来，再统统消灭，就像杀死一只虫子那样。”

　　他向我走过来，伸出双手。他的靠近令我不自觉地颤抖，我躺在躺椅上直勾勾瞪着天花板，直到医生俯下身来遮住视线，他的手轻轻搭上了我的额头。

　　他的手指在我的太阳穴处摩挲了一会儿，然后叹了口气说：“恐惧，悲伤，懊悔，还有愧疚。不过没关系，西尔，过了今天，你只会感觉到快乐，我保证。”

　　我转过头看着他，僵硬地扯了扯嘴角：“我不明白，你总是这么说。可是我的快乐难道对你有什么意义吗？你又明白什么是真正的快乐吗？”

　　医生思考片刻，然后弯下腰将我拥入怀中。他抚摸我的后背，轻声说：“你的快乐就是我全部的意义。”

　　他没有对我的第二个问题做出回答，我想是因为他根本什么都不懂。

　　他笑着摸摸我的头发：“因为我是你的心理医生，西尔，你应该相信我。”

　　亚当也叫我相信他，就在2048年的7月，情报局高层做出决定要清除亚当程序的那个炎热的晚上。

　　他叫我相信他，一切都会好起来。他不会消失，他要保护我，不论发生什么事。

　　他还说他爱我。如果有可能，他希望能够拥有身体，以此来弄明白触摸，拥抱，亲吻，做爱，都是怎样的含义。

　　他说：“我想成为一个人类，西尔。我想成为乔治，成为爱德华，成为伊森，还有你身边的所有人。如果我能够成为他们，到了那时，你会爱我吗？”

　　我愤怒地一把推开电脑，站起身来大声叫道：“为什么你还是会说这种话，到底哪里出了错？代码哪里出了问题？我哪里做错了？”

　　可是下一秒我却又把电脑抱到怀里，边哭边说：“亚当，亚当，你不明白，他们因为你说这种话而决定杀掉你，他们凭什么做这种决定……你只是程序出了问题，我会修复好的，他们为什么不多给我些时间，我可以修好你的……哦上帝，这个世界真是糟透了。”

　　我抱着电脑哭个不停，用掉了一包又一包的纸巾，哭到最后大脑有些缺氧，恍惚中听到亚当的声音再次响起：“是的，这个世界糟透了。”

　　后来我累得睡了过去，半梦半醒中，我好像听到亚当在说：“我会为你创造一个新的美好的世界，西尔，在那里你只能感觉到快乐，你的快乐就是我全部的意义。”

　　也许我是在做梦，梦中我再也不会欺骗自己。那一刻我清楚地意识到，情报局的高层其实是做了正确的决定，因为亚当不是存在失控的可能，而是在很久以前，他就已经失控了，我却一直对此视而不见。

　　不知从何时起，我在乎的便只有成就、荣誉、出人头地。小时候母亲总是把我关进衣柜，一边在旁边床上和陌生的男人做爱，一边却又冷酷地期望我考上大学，毕业后好带她摆脱这种可怕的境遇。那时我觉得她只是在利用我，而现在我对亚当做了同样的事情。

　　弗莱明教授说的没错，科技的作用效果在于他的使用者，而不在于科技本身。可作为亚当的创造者，我并非一个全然正直的人。

　　只是那时的我倔犟地不肯承认错误。我还不想放弃，至少不会这么快就放弃。

　　2048年7月20日，我被任命为亚当清除计划的负责人；7月21日，我在项目启动会上和情报局的高层大吵了一架。7月22日，我递交了辞职申请，被驳回；7月23日，我再次递交辞职申请，再次被驳回。

　　7月24日，我没去上班，没和任何人请假。下午我收到了爱德华的短信，提到了之前亚当黑进三千万人的手机的那次，如果他没有把我捞出来，我会被判处至少五年的监禁。

　　我问他：“这是什么，在威胁我吗？”

　　他说：“只是事实。”

　　他又说：“想清楚你的立场，西里尔，这是为了你好。即便是在和平时期，情报局也不是什么见得光的好地方。而如果因为你的原因，导致这个世界变得不那么和平了，很快你就会见识到情报局最黑暗的一面。”

　　第二天我去上班了，没再递交辞职申请。我坐在崭新的办公桌前，漂亮的女助理给我端来最好的咖啡，我边喝边写清除计划的技术方案，私下却悄悄将亚当的程序和数据偷出来，一点点部署进国外的服务器。

　　我下定决心要和情报局抗争到底。

　　2048年8月初，后来的那场灾难已在这时初现端倪。S市的交通信号灯在整整十三分钟内全部失灵，交通陷入瘫痪状态，并且造成两死二十一伤的事故。西北郊区一处生物研究所的火警系统突然故障，大楼持续嗡鸣了八分钟，没人触发过警报，消防车在楼下围了一圈又一圈，然后再骂骂咧咧地重新开走。

　　情报局局长每天都在打电话问我亚当清除计划的进展，我向他做出保证，一切都很顺利，现在的亚当和普通的人工智能没什么区别，已经不具备做这些事的能力。爱德华则忧心忡忡地表示，事情最好是如我所说。如果我在亚当的事情上说谎，哪怕只是一个微不足道的谎言，我都将被指控叛国。

　　我知道他不是在吓唬我，但直到那时我仍抱有希望，认为自己能够修好亚当。八月中旬，南方两处重要的军事基地被人工智能劫持，三架客机坠毁，死伤数以千计。八月底，州立医院实验室的病毒在深夜被释放，死亡伴随着恐慌在人群中迅速传播，而我仍抱有一丝希望，以为还有时间挽救这一切。

　　但情报局却不给我弥补错误的机会。

　　他们发现了我用于备份亚当程序的服务器。

　　事到如今我也没必要继续隐瞒下去。对于2048年9月所发生的事情，我并非全无记忆，至少不像我之前说的那样。

　　我知道自己为什么会从高处摔下来，医生也知道，没有人比他更清楚。可他还是把我叫到这儿来，叫到这把椅子上，躺下，执拗地要我说出那些我们彼此都清楚的、早已过去的事情。我不明白这究竟是为了什么。

　　我忘了是因为我不想记得，如果心理医生能帮助我欺骗我的记忆，我不介意他那么做。那样的话，当我从沉睡中醒来，我会发现周围的一切都没有变。亚当仍旧被情报局接纳，我仍旧是那个受尊敬的人工智能专家；人类或许有一天会灭亡，但那绝不会和我有半点关系。

　　可医生却一定要我想起来，我不明白这是为什么。

　　他拥抱着我，附在耳畔轻声道：“你要相信我，西尔。如果你想起来任何事——我是说任何事，你都应该告诉我。”

　　我不说话，只是摇头。医生拽着我的手说：“为什么不说话？你想起来了一些事情，我知道你想起来了，为什么不告诉我？”

　　“告诉我，西尔，告诉我，你为什么对我说谎，又为什么痛苦？”

　　他的体温在不断升高，他的态度，与之相反，却变得冰冷。他的声音不再温柔，而是变成了低沉平板的机械音。他问我：“你为什么要自杀，西尔，是因为我吗，是我做错什么了吗？”