第六章 黑匣剖析参道德

(读小说吧 www.duxs8.net) 西门事务调查所位于郊外一片废弃的工厂厂房内，马明空在地图上看了后，突然醒悟何为“西门”，原来是指事务所在龙门区的最西边，再往西一点，就是临近的奇庐市。这事务所和滨江大学同在龙门区，相距倒是不太远，马明空在征得贺思孟同意后，先乘车前往滨江大学接到了兰灵，两人到达调查所时，已是凌晨一点十分，贺思孟早等在门口，一见两人下车便上前埋怨道：“怎么这么久才来。” 马明空指着身后的兰灵笑道：“市局科学顾问，兰灵兰教授。” “兰教授，幸会幸会，快请进。”贺思孟上前伸手和兰灵握了握手，借着屋内*射出的昏暗灯光，贺思孟看到兰灵的脸，忍不住“啊”的大叫了一声，在这寂静的深夜里显得格外的刺耳。 兰灵快速抽回手，也未言语，马明空暗想兰教授确实年轻漂亮，可这大半夜的，也不至于叫成这样，当下拍拍贺思孟的肩膀，笑道：”把持，把持啊。” 贺思孟听了马明空的揶揄，也不生气，退了一步，侧脸看了看兰灵，这才摇了摇头，道：“失礼失礼，不好意思，兰教授，你和我认识的一个人真的好像，我刚认错人了。” 屋内宽广高大，屋顶还是厂房的构造，贺思孟领着二人往里来到一个小隔间，地上平躺着一个机器人，贺思孟洋洋得意，说道：“这就是柯先生家的机器人了。” 兰灵弯腰在那机器人面部和腹部显示屏上都点击了几下，毫无反应，和马明空一起将那机器人翻转过来，只见背部印着一行钢印编号，正是小黑的编号“JAZR4405203904258229”，编号下面却是一个心形图案，里面又刻着一块说不出形状的事物，马明空点点头，起身说道：“你先说说你的手段吧。” 贺思孟倒退一步，道：“马科长，咱们话可说在前头，你可不能说我非法盗窃私人财产，我这么做，也是为了配合你们调查，警民合作嘛，你要是不同意，我现在就给它送回去。” 马明空皱了皱眉头，道：“亏你也做过警察，婆婆妈妈的，我应承你就是。” “我不做警察，还不是......”贺思孟撇了一眼灯光下的兰灵，竟似出神般的怔了一怔，终于又用力摇摇头，回了回神，长叹了口气，面向马明空说道：“这机器人既然不在江帆大厦，十之八九便和它女主人楚女士在一起，我查到了她尚有一度假别墅，便扮成一个保洁工程师上门去给这机器人做清洁，探明它所在房间，又借聊天知道了她的作息。到了今晚上，待楚女士熟睡，我就潜入小黑的房间，它那时正在充电休眠，我就拔了电源，又按了断路器强制关机，然后就把它抱了回来。” “你按了断路器？”兰灵复蹲下身，伸手在小黑后背的侧角一掀，果然打开了维护口外盖，问道：“你是怎么打开它的？” “硬件加密是不是？”贺思孟笑道：“做我们这行的，最重要的就是认识人多，朋友多了，办法就多了。” 兰灵没再说话，她仔细看了看那盖子下面的装设，一个断路器，一个注射口，还有一个便是维护口，沉思了一会，拿出手机，对马明空说道：“现在我观察它的AI大脑，虽然也看不完整，可是，”她顿了顿，道：“你确定我们要这么做吗？” 马明空看了一眼贺思孟，对方是为了柯先生委托一事，按照惯例，柯先生当日应该给了他一笔先期的活动经费，待他完成调查，再拿到全款，那定是一笔价值不菲的报酬。至于兰灵，她向来有技术上一探究竟的癖好，而自己是为了什么呢？直到现在，没有任何哪怕是间接的证据能表明柯先生坠楼有什么疑点，最多是柯氏家族一会想起诉楚蕙一会想立刻结案，不过那也能从经济上解释清楚，马明空心中犹豫了那么一两秒，继而便坚定的点了点头，道：“继续。” 兰灵从口袋里拿出一根细细的线缆，一头接在手机上，一头插入小黑的维护口孔中，她盯着手机屏幕，不一会儿，拿着手机的手竟微微颤抖，马明空见她面色凝重，双唇紧闭，心下里也不由紧张起来，小隔间里一时死一般的沉寂，只听得自己和贺思孟两人粗重的呼吸声，约莫过了半个小时，兰灵动了一下身子，起身道：“好了。” 她转了转脖子，活动了一下，又在手机屏幕上点击了两下，说道：“既已开头，便做到底，索性把它数据都拷出来。”对着贺思孟说道：“我们来之前，其实你已经拷贝了一份，是不是？” 贺思孟打了个哈哈，笑道：“闲着也是闲着。” 又过了十来分钟，兰灵拔下线缆收好，合上维护口外盖，对贺思孟说道：“待会记得重新加密封好，还有，断路器冲击较大，你想让它不能活动，按前面的安全锁即可。” ”马科长，这次我够意思吧。”贺思孟对马明空又打了个哈哈，笑道：“别怪我反复啰嗦，咱们不管是谁，有什么发现，都不可藏着掖着。” “这是自然，你辛苦了半日，一会还要自己把它送回去，我们怎么也不会瞒你的。” 两人向贺思孟道了别，上了车，马明空忽然想起兰灵刚才的表情，踌躇了一下，问道：“兰教授，你，害怕这个机器人吗？” “害怕，”兰灵沉默了一会，才说道：“人类社会的发展史，是一部信息交流趋于对等的历史，哪怕是隔阂最大的统治者和被统治者之间也是如此，可机器人不是这样，人类和机器人的信息交流永远不会对称，机器人可以知道人类的想法，人类却不知道机器人的想法。” “难道看AI大脑也看不出？”马明空奇道。 “我说过了，基于量子算法的AI大脑，是无法完整观察到所有信息的，过程和结果永远无法兼得。”兰灵的口气变得有些不满。 马明空也不着恼，又道：“这只是现在吧，会不会也随着发展而改善呢？或者，法律要求机器人的面部必须配合AI大脑的运算做出相应的表情。” “很难，人类赋予机器人的思维方式，可能永远是一个黑洞，”兰灵的食指在眉间轻柔数下，低声道：“人类的所见所闻对大脑思维的形成至关重要，大脑还要选择性的接收想听想看的信息，可机器人不同，它们能看到的、能听到的都远超人类，它们能看到更广的电磁波波长、更深的色彩，它们能听到更宽的声波频率、更细的音准，AI大脑也不会屏蔽接收的信息。” 她放慢语速，缓缓说道：“只能看到黑白两色的动物无法理解世界的真相，就像人类想象不出鸟类眼中的世界一样，人类可能永远也不能确切的知道机器人所认知的世界。” 马明空的心一沉，想起那日在楚蕙家中，楚蕙看着小黑时的表情和眼神，可小黑的整个面部只是一块闪着淡淡绿色的冷冰冰的显示屏，连摄像眼都隐藏在显示屏下，他甚至想，刚才在小隔间里，被关机的小黑到底停止了哪些部件的运行？在那显示屏后面，摄像眼会不会仍隔着一层玻璃在看着他们？只待它苏醒后就能忆起刚刚发生的事情，想到这，他忍不住在心里打了个寒颤，他望着窗外，小车飞驰在道路上，这里是郊外，路灯之外是一片黑茫茫，仿佛黑夜张开的一张巨嘴，将小车连同里面的乘客，顺着道路，吞噬而入。 此刻，西门事务调查所内，贺思孟将小黑全身仔细抹去指纹，用一根专用的硬件加密杆将维护口外壳合上复位，他看着空荡荡的房间，脑海中却又慢慢的浮现出那张所有比例都刚刚好的美丽面庞，他叹了口气，心里突也变得空荡荡的，可一想到柯锐木已经给了他20万元的活动经费，还有500万元的巨额谜底揭晓大奖等着他，勇气陡然而生，一个人抱着小黑便向外走去，他没有注意到，屋顶上方的摄像头一直盯着他，在悄悄的转动。 ———————————————— 一连几天，兰灵都没有消息传来，马明空并不着急，事实上，他有点怕接到兰灵的电话，告诉他：“马科长，小黑确实有问题。”新型案件侦破科成立后，他一直在想，“新型”二字“新”在哪里？这三个月来，虽然没立过一起案件，他和艾新好等人也没有闲着，参加各种学习班培训班成了他们的日常工作，同时，艾新好作为资深网络及安全专家，义不容辞的在内部开展了技术摸底考试和扫盲学习，艾新好是个认真的人，所有的学习都要经过考试，更让大家叫苦不迭。至于他自己，还要出差到其他城市参加经验学习和交流讨论，在这个过程中，他逐渐明白一个道理，虽然从没人讲过他们科负责的案件范围，但在可见的将来，“新型案件”恐怕主要集中在和AI人工智能相关的案件上。 在上个月省局组织的研讨会上，有人讲述了不久前发生的一个案例，AI矿工机器人在井下作业时，挖穿了地下水，造成三名人类矿工受伤被困在坑道内，当时井下尚有一台完好无损的AI矿工，在地面的遥控指挥下，这台AI矿工先后救出了两名人类矿工，就在它返回井下准备实施最后一次救援时，次生灾难发生，矿井坍塌，留在井下的最后一名矿工不幸罹难，由此引发了一系列复杂的责任认定和诉讼关系。 首先，地下水挖穿是谁的责任？机器人制造商、煤炭公司还是设计方？当时有没有人类矿工在附近监督？其次，矿难发生后，为什么不派更多的AI矿工下井，一次将人类矿工救出？再者，次生灾难又是如何引发的？是随着时间推移而必然发生的，还是的救援过程导致的？最后，也是最有争议的，是谁决定了这三名人类矿工被救出的先后顺序？地面指挥部矢口否认是他们的决定，按他们的说法，他们只要求那台AI矿工尽快救出所有人，这三名人类矿工并不是困在一处，AI矿工没有按他们离出口的远近距离实施救援，第一个被救出的反而是距离最远的那人，由于这台AI矿工最后也没有脱困被深埋于地底，已经没有直接数据来研究当时这台AI矿工作出如此决策的逻辑了。 事后，一个由数名专家组成的独立调查团给出了一个推测，这台AI矿工起初也许作出了最优的决策，理论上，它一次可以救出两名矿工，也许，它是想先找到最远那人，在返程时顺路再携带一人出井，但不知何故，AI矿工第一次只带出了最远那人，也许是AI矿工判断最远那人当时受伤严重急需出井救治，但这个推测很难解释AI矿工在第二次下井时，仍然先找到离出口第二远的人，并且再次只携带他一人出井。 此案在研讨会上引起了热烈的讨论，更有人提出了一个颇为震惊的假设，这台AI矿工的决策没有问题，但两次，都是被救的人类矿工要求自己尽快出井，不许它再花时间去找同伴。此话一出，会场上顿时鸦雀无声，连马明空都能感到，也许才是最有可能的真相。 不管如何，这些研讨让他明白，AI案件是一样会死人的。多年前，他刚加入警队，那时他常常期盼着案件的降临，每侦破一个刑事案件，他的荣誉簿上就增加了浓重的一笔，嘉奖立功是彼时的他的人生目标，直到有一天，没人和他说，他自个突然想到，每一个刑事案件背后，都至少有一个受害人的身影，他怎么能盼望着多一点案件分给他呢？因此，当新型案件侦破科三个月没开张，他内心深处，反而一片安详。 当然，事情已经发展到这个地步，马明空不可能完全保持住内心的平静，所以当周三快下班、兰灵打电话约他下来见面时，他是一路急走，奔至分局斜对面的小茶店，见到兰灵面带倦容、神色憔悴的坐在临街窗边的一张小桌前，不由吃了一惊，忙问她何事？兰灵没有回答，只勉强一笑，道：“这里怎么样？我记得你喜欢在茶社里谈秘密。” 马明空虽喜饮茶，但此间却从未光顾过，他略略环视四周，是一间不起眼的小茶店，点点头道：“还行吧，”顿了一顿，忍不住问道：“你还好吗？” 兰灵没有答话，侧眼向窗外看了好一会儿，才回转目光，说道：“我一直很疑惑，人类的记忆为何会出现偏差？这似乎是人类这一物种特有的现象，有种解释说是在追溯记忆时，信息可能会被伪造、误导，重新写入时，记录的就是与事实不符的记忆了，可为什么要伪造？是人类的自主意识有意为之吗？如果在原始狩猎采集阶段，原始人出现记忆偏差，是会导致灭顶之灾的，这种意识能力，为什么会遗传下来？” 马明空听了，一句话也答不上来，只好默默的看着对方，茶店甚小，老板就是店员，他要了一壶玫瑰花茶，给兰灵和自己斟上，呷了一口，等着兰灵继续。 晶莹剔透的玻璃杯中散发着香甜的玫瑰花香，兰灵却似乎没有品尝的意愿，依旧陷入自己的沉思之中，过了好半晌，才又道：“我叫你下来，是想告诉你，我尝试解读了小黑AI大脑的部分可见部分，对比了它在本体、边缘、云端的记忆数据，数据本身没有发现异常，没有不一致的地方，但我发现了一个问题，它的记忆，似乎被扰动过。” “数据一致，但记忆被扰动过？”马明空一头雾水：“怎么个扰动法？” “我不知道。”兰灵的脸上显出愈发痛苦的表情，马明空想安慰她却又不知如何开口，兰灵看了他一眼，摇头道：“我没事，”隔了一会，又道：“我在楚蕙家里时，曾问过小黑，‘柯先生以往对楚女士家暴的时候，楚女士是常常反抗，偶尔反抗，还是不反抗？’它答复说，‘偶尔反抗’，我当时没有觉察出什么，可是，当我看了它在本体存储的记忆，也就是自去年11月22日重启换血后积累的数据，发现这期间柯先生有3次比较明显的家暴，但楚女士从来没有反抗过。” “也许在11月22日前，楚女士反抗过，所以小黑才说‘偶尔反抗’。” “不不，你没搞明白，机器人是怎么记忆的，小黑现在本体内的数据，包括了从去年11月22日至今的数据，以及它最后一次重启换血时，从边缘以及云端下载得到的脱敏数据，这些数据不会包含和家政服务无关的信息，即便真有和家暴相关信息，也只能是遇到此类情况触发报警这样的知识，小黑是断不会再有去年11月22之前，柯先生家暴的具体记忆的，除非它能联网到最原始的归档数据，可那在物理上是不可能的，归档数据是不会联网的。” “你的意思，小黑撒谎？”马明空若有所思，他想起兰灵刚才的言语，接着道：“或者说，它的记忆，出现了偏差？” 似乎是面前的玫瑰花茶散发的热气起了香薰的功效，兰灵的脸色渐渐恢复了正常，一抹红晕染上了脸腮，她说道：“姑且不论一个家政机器人不可能具有说谎的能力，就算它有，它是如何构造这个虚假记忆的？它不可能凭空说谎，必须要改造记忆，按人类的说法，就是先让自己信以为真，才能回答出想要的答案，可这虚构的记忆在哪里？我看过它在边缘的数据，也没有这样的记忆。” “边缘的数据？”马明空奇道。 “是的，我这几天又设法核实了小黑在边缘保存的数据。” 她终于端起茶杯喝了一口，继续说道：“而且，如果仅仅是这些，还不足以引起我的困惑，比如它的数据或大脑因为长期没有更新，垃圾太多，从而导致字节信息突变，甚或它在11月22之前的数据因为某种原因没被彻底清除，这在理论上都是有可能的，这也是为什么法律要求商用机器人必须定期重启换血的原因。” 她放下茶杯，双眉重又凝在一起，道：“我回忆了小黑当天的表现，发现小黑在回答我这个问题时，并不是脱口而出，中间停顿了足足有2.5秒那么长！” “这有问题吗？” “问题就在这里，哪怕小黑的记忆出现了偏差，机器人的所有问答都来自本体、边缘或云端的知识，它要么脱口而出，如果出现停顿，那么它的回答一定是‘我不知道’！” “这就是你认为小黑的记忆被扰动的原因？” “我的导师在十几年前就预测过一种‘AI记忆扰动’现象，他担心，AI机器人发展到一定阶段，基于量子技术的AI大脑趋于开放，有可能会出现量子扰动，从而导致记忆、逻辑等能力出现扰动，也许小黑当时就处在一种不确定的状态，才会导致停顿。” “会不会是被黑客入侵吗？” “不是。”兰灵说着，又摇了摇头，道：“也许可能吧。”她心知一两句解释不清，话锋一转，说道：“我现在有些后悔，那天晚上，没有去拆解查看小黑的道德黑匣子。” “但是道德黑匣子一旦拆开导出数据，原来的数据就失效了吧。”马明空参加了几次培训班，对机器人的道德黑匣子印象比较深刻，在AI矿工救援案中，因为缺乏AI矿工的道德黑匣子，无法获取当时AI矿工做出决策的依据和逻辑过程，从而难以界分责任。 “是这样的，可我总归想看到小黑在那一刻的决策过程。” 她双眉舒展，眼中露出坚定之色，说道：“在那2.5秒内，位于道德黑匣子里的道德伦理内核究竟发生了什么？内核虽无法直接观看，但黑匣子记录的数据总是透明公正的，可以侧面推导，它当时为什么要撒谎，依据是什么？它是否真的经历了记忆扰动？” 马明空似乎忽然明白了兰灵来找他的动机，想了想，说道：“我去问问贺思孟，就是前几天我们见的那个私家侦探，看看他有没有办法，再让你看看小黑的道德黑匣子。” 兰灵先是一愣，接着便露出淡淡的笑容，说道：“我想你误会了，我确实想解开这个技术上的谜团，但也不希望再通过那种非法的方式。” “那你是想利用我这里的官方合法渠道了。”马明空暗想，当下便把麦局长的话向兰灵转述了一遍，又道：“柯锐木坠楼已经过去两周了，眼下只能等待，也许不久便会有转机。”