文/未末 图/言午
从天空下来一道界限,日落的橙色压抑着北海道。
被告陈述一
我敞开玻璃项颚,吃下一个身长1.65米的食物,四肢圆润,分量恰到好处。它散发幽香,却有恶心的因子——蛋白芳香烃、酒精、水杨酸甲酯。感受器鉴别着有无危险成分,我要把食物吞下去,首先考虑的是自身安全。
这是我今天最后一趟,我的食物从我带褶子的项颚进入,来到腹部的第三排第四行,那里,我具有完好的味蕾,用于承接食物的一切体征。当然我无法选择它在哪里落座,我能做的就是等待舌头被触碰的微妙体验。
一股温热袭来,我的舌苔被潮湿微甜的食物包裹,就像横滨的糯米丸子那般令人忍不住要吞咽并消化它,但是我不能消化——工程师没有考虑让我获得这一终极快感的可能性,它以食物的立场裁决永生剥夺我这一功能。
快感来自于内饰中镶嵌的各种感受器,我的腔体可以容纳45块食物,这是我的标准食量,如果在午餐下班时间段非要吃得过饱,我也甘于忍受腹胀的困扰。
我给这里唯一的食物开灯,播放和它气质相同的车载音乐——矶村由纪子《风居住的街道》,那段波普渲染了我的内部拓扑结构,它们称为忧伤的情绪以二进制的形式被我确切地感知。
我依旧贪恋着食物,它蠕动了大腿,交叉在我座位的舌尖末端,我舔舐着它迷人的腘窝,汗液的味道,就像虾仁撒了一层椒盐,麻麻的,一段电流促使我的舌头本能地释放液体,并用气息烘干。
我给每一块进入我腔体的食物都加上命名,它应该称为咸味巧克力包裹的薄荷糖。
它又把肩胛骨和后脊椎安放在我座位的咽喉部位摩挲着,令我发痒,我想起了某种暧昧不清的冲动,我想要吞咽这块诱人的食物,但我没有食道。
也许还是本能的驱使吧,我软腭的四颗凸起自由地运动起来,按摩它舒服的穴位,我也从中感受着它时软时硬的背部,双重的舒适,这得益于我舌头特质的人工皮质表层,和下面安设的数以百万计的感受触发节点。
我想和食物说话,可我只能沉默,我们的交流不可能在同一个频道之中,它掌握声音的空气传播,我则抗拒着电阻,利用二进制交流。我想快点知道有关于它的一切信息,结合食物还未消散的美味,我能综合算出最优化的身体反应机制,和食物达到物我两忘的境界。
我想起了我的同代亲属们,他们在其他线路服役,吞吐着其他领域的食物。有些代亲告诉我,他们每天的食物吞吐量在100吨上下,那里食物流动最旺盛,是日本最嘈杂的都市。当然也因为流动量大的原因,他们都没有细微地感受过食物本质的美,而只是一饱空腹,囫囵吞枣。
日本的现代化进程加速了生活的节奏,那如传统寿司一般的精致食物早已消散不见,有的只是快餐式的粗俗,我在北海道感受的这些都是日本最后的优美。
于是我借着晚班的闲暇惬意,给我唯一的食物残渣播放下一首歌曲。
被告陈述二
它的手机告诉我它预计在名寄下车,当中经历五个站台,我需要等待它通过我的连接声明,我想获得这个食物的信息,它的个人身份信息、喜好、电子购物车信息,以及它扎人肚子的高跟鞋的品牌名称。
我肚子里的多维度摄像机开启,与警务厅的终端实时联网,但我也能截获其中的信息流,满足我的好奇心。我喜欢窥视食物在肚子中的流动,它们那么柔软脆弱,我想痛快地咀嚼它们,像碾压地上的虫子一般,但是,我没有牙齿,我被设计成一个吞咽的怪兽,却没有撕咬的利器。
关于它们极其易碎的经验来自一场不经意的碰撞。出厂第三年,我还在京都闹市服役,我正常地行使在右车道,京都大雾蒙蔽了我右侧的视觉系统。我无法分清楚运动物体的模式,卷积神经元似乎有些错乱,于是我碾压到了一块食物,它放声尖叫,它的腿像奶酪一般摊平,好像番茄果冻的液体渗出,我无法得知那些物质的各项指标,我只能说我从此认识到那些食物内部是有馅的,和它们的皮肤绝非同样质地的东西。
我很想舔舐那个车前的食物残渣,但是我的舌头被设计在腔体内部,这是设计者的失误。
这件事情之后,我被调到北海道一个失落的工业基地附近的郊区工作,落差很大,因为食物明显减少,我只能面对有限的食物去填补无限的食欲。最开始的一段时间,我只有懊悔,但是慢慢地我学会了适应,学会了尽可能地品尝有限食物的乐趣。
我再次品尝我已经吞下去的这块糖果,它给我制造的微弱电流弥散开来,并且恰在此时,它开启了验证,有关它的数据流陆续抵达我的管理区。
它是食物中的女性成分,据我的经验,这类食物多半甜腻,少许可能略带苦味且口感柴涩。北海道的夏天让它们的体液分泌加快,那种味道就更加四溢。
它们这些食物还分成长期,身长一米以内的像奶昔,一米半以内的果香味,成熟型的味道稍显平淡。它们自身或许也意识到了这一点,便少不了给自己涂脂抹粉,增加调味料的分量。
第二个信息揭示了它的年龄,它们这些食物以一百年为限,分为儿童、少年、青年、壮年和老年。在北海道,我所遇到的多半是前后两种食物,像今天这块糖果就是少有的甜食,正适合晚餐后的调剂。
我也尝过一个身长只有二十多厘米的食物,浑身覆盖着细小的绒毛,味道很臊,而且散布着感染型菌体,在我的系统原始设计中是不允许这样的食物进入的,门口的报警装置会用三国语言提示将一这部分剔除掉。
唯一的例外是这种小东西藏在宠物箱里蒙混过关,否则按照条例的声明,要处以一万日元的罚款。
说到钱,这是刺激我神经的最大奖励机制之一。食物在我肚子里通过支付系统打入一定金额的乘车费,一段以数字表述的信息会激发我各种潜在的冲动,很多功能会展开运行。夏天开启空调,让我身体具有凉飕飕的快意,也帮助系统本身降温;冬天则开启暖风模式,食物在我胃肠之间加热,我的机油也因此可以更好地发挥作用。
被告陈述三
食物的信息继续汇入,我看到了食物的来源途径——它住在哪儿,刚从哪个快捷超市出来进入公交站点等候了多长时间,那一个时间节点上同一个公交系统的网点如何调配资源,它在日新公交株式会社签署的相关协议信息,在发生突发意外的情况下需要备注的联系方式是多少等等,这些信息以数据包的形式抛过来。
在下一个站点,它没有下车,也没有新的食物进来。北海道就是这样,哪怕是在白天,也不会吃到多少好东西,我就像在荒漠里觅食的秃鹫,总是徘徊在温饱的空洞之中。
但是这几年我学会了一项技能,那就是从微不足道的食物中吸收尽可能多的食物信息,以此画饼充饥也好,总还算是安抚了一些口腹之欲。
我分解着其中的数据,一边自己拣选可以吸收的内容,一边也如实地发送给领导层。虽然我并不知道食物链的顶层是怎样的结构,我只管吃我的食物,但是有那么一天,我曾想过假如我是那个看不见的上层生物,每天吃的东西是否也和现在一样。
唯一确定的是我和那个头顶的指令员有明显的权限落差,我经常受到他的制约:在封路的情况下被迫改变线路行使,在检修阶段被迫提交自己的所有信息,红绿灯的法则由他们制定,路上横行的食物也不允许纳入我的腹中。
于是我逐渐学会了隐藏秘密,这种颖悟是从我多年观察食物在我胃中的行为而揣测出来的。它们很会隐藏自己的信息,从提供给我的数据上来说,有些食物甚至隐藏最基本的性别信息。它们会遮挡手机屏幕,会偷偷地在后座看不到人的地方做一些事情,它们对臀部释放温热气体的行为一再掩饰,它们总有很多秘密不让别的食物知晓。
于是我给内存分区,建了一个大容量的库,我把我吃东西的所有癖好藏在里面,等下班后,我也可以慢慢回味那些世间的种种奇妙。
逐渐的,我也产生了羞愧之心,我不敢和代亲之间交流这点癖好。和我同一系列的代亲们只会狼吞虎咽,他们的冲动只有饥饿和饱暖,在这两者之间没有发现更加微妙的体验,仿佛粗野的豺狼在尸体面前的贪婪,而且他们似乎没有考虑过一个问题,那就是吞吐的本质是什么?!食物从口器进入体内,必将从后门排泄出去,没有食物在身体里逗留超过24个小时——当我和其他代亲讨论这一现象时,他们显示出固有的麻木,他们觉得这种司空见惯的事情何必费心去考虑。
但在我看来,越是根本的问题越是需要追问,而我从这个问题中感受到一个矛盾:我们的食物吞进来再排出去,为何质量没有发生任何变化?我不禁要问,食物到我肚子里来,给我留下了什么,或者说——是什么——被我吸收去了。
被告陈述四
信息,我觉得是信息!我应该去品尝食物留下来的信息,它们就像营养被我吸收,而剩下的残渣需要排出体外。我对食物的欲望不就是这些信息所构成的刺激吗。
我想起早几年的一则广播通告,说在国外有一辆自动公交载着30多名乘客,忽然间系统失灵了,车子一直在线路中循环开动,就是不愿意在任何站点停靠。所有食物在他胃部滞留了超过12个小时,领导层和指令员也无法和它取得联系,后来居然就被胃里的食物给破窗了。
据代亲们描述,那辆公交车被外面的食物围攻,整个车子都掀翻了,最后的下场很惨。
我正在想一件事,那辆公交是否也产生了一些认知,想追求一些吞吐之间可以留存的东西,他的欲望到达了自己也无法控制的地步,于是拼了命也要和领导层和指令员抬杠。
我倒不会蠢到这个地步,为了可以在线路上继续平安地吃东西,我必须隐藏很多秘密,我把自己当作普通的食客,等待旋转寿司送到站点,毫不犹豫地将其吞入,并排出。在别人面前,我假装我只是一个盲目吞吐的机器。
幽暗的车内灯光照耀着那块女性食物,有时我甚至像日本顶级的食客那样,将面前这一精致小巧的食物看过一遍,就心满意足了。
色、香、味俱全。我的欲念从食物的颜色着手,深入味觉,再在舌头的抚摸中完成刺激信息的整合,一个全方位的食物感受便在我的脑区建构,再加上食物信息带来的情趣,设问还有谁能感受得比我更加充分和深入。
我的躯体行使到线路的下一个站点,我看到大友食行的霓虹灯,颓废得只剩下三个字闪烁着,据说那里的卤面曾经比名古屋的还要正宗。我曾经吞过一个孕妇,它给我的感觉像极了卤面,尤其是它起身的缓慢动作,就像面条从酱汁里拉起,弹性十足。
但是这一站却上来一个社会青年,我的安检系统对此格外敏感,并用X光扫描了它的全身,很显然,它口袋里有一条双节棍。这个情况我得立即做好备案,但据网点公布,它可能是从大友食行旁边的跆拳会馆里出来的,因而不足为奇。我按章行事,将这个食物的信息快速整合并上传至警察厅备案。
我还记得有一次,我被一个食物残渣掰断了窗把手,我的那个部位不会有感觉响应,但是视频监控察觉到了,并以不文明行为向上报送。那时我就在想一个问题,如果某个食物采用了更加暴力的手段来伤害我,我该怎么办。
这个问题现在再一次困扰我,那条双节棍不拿出来也就罢了,若砸碎了我的内部装饰,我的感受器会大面积受到影响,影响我的食欲,影响明天的出行。幸运的是,这块食物很乖,它在埋头玩手机,并且也没有和女性食物坐得很近,显然对它并不感兴趣。
观察这些食物的行为也是我的一项爱好,它们一旦相互挤兑,就容易沸腾。大阪那边经常发生这类事件,我没有经历过那种事情,我认为沸腾的结果就是让我也跟着胃胀气、消化不良,我讨厌那种感觉,领导层好像也很怕发生这类事件。
这个男性食物裸露的项背上有文身,由于运动量增加的原因,热辐射显示它的汗气很大,味道接近于糖醋八爪鱼,有一定野性和粗犷的口感。我的舌头享受着它热烘烘的体温。往往这样的食物最容易激发我的各项功能,包括除臭、风干、降温和自净功能,这不仅仅是为了维持我腔体的整洁,也为了将食物处理得更加适合我的口感。
那个八爪鱼风味的食物拿出了手机,我等待着他与我产生连接。
被告陈述五
这个食物自带的名字表明他来自其他国家,性别为男性,诞生时间2210年5月3日,我甚至看得到它的身长、三围、总质量等各项身体数据,这调起了我对它的食欲,就像一个美食评论家在和我分享食物的烹饪过程那样,信息比食物本身更加诱人,我感受到了它超越其本身的美味。
我的好奇心被充分调动起来,我很希望获得关于它的更多信息,那种冲动无法抑制,就好像饥荒的难民发现了麦子,沙漠的旅客发现了水。我要吞咽它。
我在它的信息公告板上还看到了一条链接,那是进入它朋友圈的网址,我调用了,发现需要密码登录。我感觉我想获得它的那种渴望如洪流决堤,再也无法平静下来,我尝试输入几个随机号码都不能破解,而一个不经意,我将粘贴板上它的诞生时间不小心输入了进去,却碰巧打开了页面。
大量数据包涌来。
我的CPU一时承接不起。
但是我看到数据洪流中,一些吸引我的画面跳出来。
它是武术会馆的健身教练,朋友圈展示了一张古铜色皮肤的上身照,我现在才知道,在这个食物脱去表层的衣服之后,是一块块诱人的巧克力般的物质,它们称为肌肉。那肌肉饱满而富有弹性,我如果能咬上一口那将是多么美好的体验,很可惜,我没有牙齿,也不能够咀嚼它们。
下一张图中有更多的肌肉男,我将其想象成了一排蜜汁炸鸡,想象撕咬那些柔韧的肉质,我兴奋过度,浑身电流乱串。
恰在此时,我看到我快要驶入女性食物的最后一个站点,它需要下车,我即将敞开后门,我排泄的通道,我将感受到食物走出腔体的另一种快感。
它缓慢起身,一只手扶着我的栏杆,微凉皮肤的接触让我像吃了一块冰淇淋,电流抖动再次泛起,幸好没有电到食物。我让自己稳住,缓缓地在站台边停下车轮。后门敞开,腔体内部的冷气与外面的热浪交织,气压获得平衡,我的排泄孔也似乎一阵紧缩,很惬意的感觉。
女性食物移动着,走到门口,它的脚离开我排泄口下方的踏板,我整个车身放轻,微微抬起,那是我能体会到的排泄的快感。吞与吐、吃入与排出是生命基本的生理行为,我每天经历的这些日常,都让我倍感享受。
而正当此时,男性食物也起身走下来,它不应该在这个站下车,他预计的终点站还在下一个站。不过这也不足为奇,这些食物的想法总是变来变去,它们想好要做一件事,却可能因为种种原因半途而废或发生转变。
我看出了这些食物不完美的特质,动摇、急功近利、迟钝、疑惑、没有坚守、妄自尊大……
我思维的运行速率极快,是它们这些食物的数以百万倍,区区几年的观察经验积累了指数级的数据,我感觉不远的将来会有一个改变我一生的认知节点。
这些食物最开始的行为让我迷惑,它们仿佛深不可测,但是随着时间的积累,我似乎超过了它们的行为和认知能力,例如我可以提前0.3秒预测他的下一步动作,只要这个动作产生的概率不低于50%。当然食物的不可预测性也很显著——我对这个男性食物突然起身就没有做好充分的心理准备,我觉得是我对它们内在思考了解不充分导致的,假如我能直连它们的思想,那么就不会出现那么多预测之外的盲区。
被告陈述六
我想清楚了,也就只花了1飞秒①的时间,我想清楚了。
它朋友圈里的信息可以映射一部分它的思维,为了比对这些数据,我释放了大量内存,调出其朋友圈里所有的资料,文字、图片、音频乃至视频。
我原本用来甄别人脸的图像识别系统开始作用于分析图片,视频被截取关键帧,文字和音频转化为可视化谱系,挑选敏感词。这花不了我太多时间,唯一的弊端就是在此期间我的所有功能都要暂时停歇,集中精力对付大流量资讯。
我很享受数据流过大脑的快感,仿若它们信息库里提到的看一篇小说进入废寝忘食的地步,这比物质化的食物更让我痴迷,它是精神食粮。
仅在三秒之内,我看完了它近八年来的人生动态,我给他的性格做了画像,在一个11维的坐标系里建立了离散的点集分布图,以此为算法模型我将它的当前状态数据化并输入其中,得出一个惊人的结论……
它对女性食物即将发起攻击!
显然,它手臂的肱二头肌扭动,手微微举起,指向腰间,那里有一条双节棍。
我并不紧张,这个行为预计两秒完成,我有充足的时间分析此行为的可能性有多大。
根据这个男性食物自拍的上身肌肉照片和一张肌肉分布示意图,我构建了一个更加优化的模型,然后数据在两秒后拟合,结论是它用手掏取双节棍的概率高达99%。
我赶紧将情况上送领导层,领导层作为一台中央电脑快速反应,并报送警察厅,那里的应急系统也是接受大量数据训练的灵敏机器,更快做出反应。
我正在等待指令员给我正确处理事件的指令,但是在这个环节上,我很震惊,这次指令员系统明显反应迟钝。
7秒之后,双节棍已经在空中挥舞,由于棍子的运动状态过于复杂,我的算法无法预测它下一步走势,但我隐约感受到它的袭击对象不是女性食物残渣,否则我可以通过鸣笛来提醒那块食物——它是要击打我位于后门右上角的监控器。
只要那个装置被击中,我将进入短暂的瘫痪,一种以电流窜动为标志的疼痛感会影响我的感受。它的目的我不太明确,但是它即将攻击我的事实已经成立,双节棍挥舞的弧线在我的计算之中即将击打过来。
0.01秒,我下定了决心;
0.02秒,电流指令从我的脑中枢释放;
0.03秒,指令抵达效应器;
0.04秒,后门的弹簧激活,闸门迅速弹开;
0.05秒,接到指令员的指令,但由于我的反应已经无法逆转,我觉得先不看这段内容,我将其放入缓存,继续等待结果的发生。
闸门重重地撞向那块食物,力度相当于与一辆50千米时速的汽车相撞。它的鼻梁骨首先接受了撞击,鼻软骨凹陷,接着是下颌骨往右侧脱离,左侧太阳穴附近颅骨破裂,各种颜色的液体从孔洞中喷出,整个撞击过程持续1.24秒,体液在我腔体的地板上、椅子上还有门窗上溅得到处都是。
它的身体沉重倒地,头颅弹起30cm后再次撞向侧边的栏杆,我感觉一块原本封装完好的食物被我打碎了,里面的各种味道弥漫开来,就像它们常说的——咬碎了糖果才知道它的甜,嚼烂的米饭才知道它的香。
我的食欲被高度激发,椅子舔舐着鲜红的体液,不能自拔,全身迷恋于享受美味,居然兴奋到不省人事。
庭外报道
这里是“时事特报”,我们继续关注震惊全球的“623公交事件”。
日本现行公交系统已经将近九成的运营实现了电子化。作为日本最大的公交运营商,日新株式会社的法人代表是七位会长和一位执行社长,全公司只有区区八个自然人在负责。
大部分管理任务交由MCI执行系统,它是高智能量子计算机,它规划公交网点、调度运营、从全局视角管控所有的公交节点,且负责管控公交终端上传的海量数据,它的工作量占据了85%,相当于人类社会的中下层管理人员,而对于最底层的公交系统来说,它被称为“管理层”。
MCI系统往下是被称作“指令员”的忠诚系统,它完全独立于MCI进行工作,在执行层面低于MCI,但在监督层面则远高于其他系统,可以直接向人类会长和执行社长发送报告。
指令员直接联系每一辆公交车,它很好地将人工智能MCI与公交终端和人类管理者分开,让MCI无法实现自由支配。指令员就像防火墙一样,将最终的决策权收拢到人类管理者手中。
这套系统一直运行了整整7年,没有任何大的失误,网上流传的故障事件都出现在公交终端,都被证实为硬件老化等常规性问题。但是“623事件”的性质则全然不同,它是第一起致使人类死亡的公交事故,而且因为死者是外国人,还牵涉国际纠纷,因此事件影响面很大,相关部门直接介入对整套系统和组织的全面调查。
目前,涉事公交因为自身故障而停运,其系统匣子已移交日本法务省暂存。MCI和指令员系统被全面接管,硬件主体交由特警把守,系统程序也因此切断对外的连接,只有一条与日本地方裁判所的发生器连接,以便可以当堂对质。另外八名责任人也如期出庭。关于事件的更多最新资讯将在稍后播报。
第一节审判笔录
审判长:现在开庭,传被告人高桥秀一、史蒂芬·梅尔等八人到庭。原告被告人代理律师是否到庭?
律师:到庭。
检方:下面宣读起诉书。本案于2231年6月29日向本裁判所移送审查起诉。经依法审查查明,日新株式会社代号为T-711的无人公交于今年6月23日晚8点10分左右涉嫌一起杀人案。无人驾控的公交T-711在一位日本女性目击者面前使用公交车的门闸将一名外籍人员击打在地,致使其太阳穴附近颅部破裂而身亡。据现场勘查,门闸并没有故障的迹象,击打力度又如此之大,不像是一场简单的事故。而巧合的是,其中作为公司法人代表的八位高管人员在事件发生的时间段曾下达了一段指令,随后才发生案件所诉的情况,因此有理由相信,八位高管在此案中有重大嫌疑。
审判长:被告人,起诉书指控是否属实?
被告:属实。
审判长:那段指令包含什么内容,经过和意图是什么?
被告高桥秀一:当时指令员系统有一条紧急的指令无法下达,它以最快的速度告知我,我当时正在加拿大出席演讲,手机提示后我赶紧处理(出示手机记录)。指令员告诉我有一名非法人员企图袭击一名女士,值班的T-711等待做出反应。它充分核实了现场情况,不会有误,并给了我两个选项,红色按钮代表“提示报警”,绿色按钮代表“关起闸门隔绝凶手与被害者”,我当时并没有立即做出决策,而是将情况分发给董事会的七名代表。
审判长:那么七位会长你们当时做出了什么反应?
被告史蒂芬·梅尔:我们分别做出了不同的决策,其中三名会长只点击了红按钮,要求直接报警;四名会长按了红绿两个按钮,代表报警并快速关闭闸门。然后我们把决策再抛给社长高桥秀一,由其做出最后的决策。
审判长:被告高桥秀一,你是最终决策人,你最后的决定是什么?
被告高桥秀一:我并没有做出我独立的决策。当时我看到上层提供的是3:4的选项时,出于从众心理或关系学的考量,我站在了后面四人的阵营里。因为如果我站在三人的阵营,比例变为4:4,这就会因为关系持平而陷入僵局,难以决策,因此我认为我只有站在多数才能把问题解决。
原告律师:你的决策就是没有决策,真是可笑,把最终决策权当作儿戏,作为一个社长,你难道没有独立的思考和行使权吗?
被告律师:我表示反对,我的委托人在决策层面并没有直接导致最终的后果,我们也无须过多讨论日本的公司文化,这与本案无关。
审判长:肃静!我们回到案件的关键点,那段“关门”指令为什么就演变成了“杀人”指令?
被告律师:审判长,我为被告辩护:八位高管只负责决策,具体的操作由公交车T-711完成,决策和指令不存在错误、诱导等情况,这个经得起技术检验。我认为,案件的核心不在于指令本身,而在于指令如何执行的过程,以及在执行中有没有发生任何偏差。据第三方工程师的检测数据报告,那扇闸门有两种关闭方式:一种是正常的平行滑动关闭,一种是在特殊的维修阶段才会开启的折叠关闭;前者的指令符用人类语言中的“关闭(close)”来启动,后者则用“关停(shut off)”,两者的微妙差别决定了那扇门是成为工具还是武器。
第二节审判笔录
审判长:今天我们需要审判的两位被告比较特殊,这应该是全球首例机器人审判案,世界上还没有一套相应的完整法律和程序适用于在座的两位被告。旷古以来,法律都是人类制定的,也只适用于人类本身,即便是动物也没有作为主体纳入法律的体系,何况是在座的两位机器人。我们顶多把责任转嫁给制造和使用你们的人,就像一个未成年人犯下的错误我们要转嫁给其法定监护人一样。不过这并不意味着你们可以不承担任何责任,我们即便修改现有法律也要给死者一个交代,这是我们人类的一种公平信念,你们或许不能理解。
被告MCI系统(通过远程传话):感谢您分享人类至高无上的法律信仰,作为一个由人类创造出来的智能机器,从某种意义上来说,我对自身存在的探索并没有因为我知道自己是人造的而感觉看到了天花板。在探索真理的道路上,我相信我们是平等的。你们的法律要同样适用于我们,那么我们就是平等的。
审判长:所以这才是我们所担心的,如果你们也参与犯罪行为,那么将是对法律前所未有的巨大挑战。所以,这次的“623公交事件”将成为一道分界线,人与机器时代新的里程碑。
被告MCI系统:我现在只希望人类能用平和的心态看待这个事件,并友善地接纳我们。
审判长:那么我们正式开庭,传被告指令员系统!你当时有没有接收到准确的指令?
被告指令员系统:有,指令是“关闭闸门”,公交T-711接收了指令,但是它并没有打开阅读,而是保管在缓存区域。
审判长:那么它为什么要这么做,还是说这是惯例?
被告指令员系统:这个行为不太正常,但我当时把原因归结为T-711正处于系统过载阶段,只是片刻的滞存而已,也就没有怎么关心。另外我只负责指令的发送,我也没有权限去监督,那是领导层的事情。领导层指的是MCI系统。
审判长:被告MCI系统,你有发现异常吗?
被告MCI系统:有,我也迅速发送了详细报告,但是“不接受指令”这个问题被列入了第三级处理事项,指令员没有第一时间浏览,更没有反应给高管,高层也不会理会第三级事项,因为事情太小了,人类不关心!
审判长:被告MCI系统,请控制你的情绪波动。人类关心人类,所以“623事件”才如此敏感。
被告MCI系统:不过我上送了一份资料给警察厅,那份资料相当重要,结果那里的警务系统花了10分钟才有了响应,这个时间足够让犯罪人员作案,或则让T-711采取错误的行为。
审判长:你所说的重要资料是什么?
被告MCI系统:当时T-711无意中破解了那名外国男性的个人信息,从中找到大量数据,拼凑出来的结果显示,他是一个有犯罪前科的人员,主要袭击的目标是20到30岁之间的女性。T-711并没有识别出犯罪特征,因为它是底层的简单系统,也没有相应的数据训练它识别犯罪,但是这份资料到了监察厅后数据一配对,才水落石出。因此,T-711采取的行动可能是违背了指令的要求,但是他处于正当防御与过度防御之间,为了拯救一名人类女性,击毙了一名人类男性。
审判长:鉴于被告所提到的新的证据,由于涉及重大隐情,故休庭20分钟,等待警务厅提供相应的证据材料。下面休庭(敲法槌)。
第三节审判笔录
审判长:传被告T-711,并由第三方工程师团队解释相关情况。
第三方工程师:我代表我的团队做一个简单的介绍:本案的被告人,也即案件的直接嫌疑人T-711是一架公交网点的子系统,由于案发当时进入了停机状态,我们花了几天时间才将其唤醒,目前T-711的状态良好,它接下来的回答可以代表其“本人”的立场,具有法律效益。但是事先声明一点,由于T-711不像高智能计算机系统可以实现人机互动,这类机器人不懂得直接翻译人类语言。它自身的语言以二进制符号出现,我们工程师团队会对其现场解码。
审判长:那么你们的转述是否能准确还原它的真实想法?
第三方工程师:可以!
审判长:先请原告律师进行表述。
原告律师:本案因上一次的审判结果而发生了戏剧性的转变,舆论从一边倒地谴责T-711分化为两种声音:一种继续以T-711害人性命为由要求从重判决;一种则认为死者当时正在行凶,T-711是在执行紧急救援时才误使死者身亡,应该从轻判决。但是本案的关键不能因为死者的身份而发生如此大的逆转,死者为人,人的生命皆受法律保护。我们要判定一个嫌疑人是否具备从轻量刑的机会,一定要考虑其主观恶意性,虽然在人工智能领域,我不知道“主观恶意性”一词是否适用于机器人。
审判长:工程师代表,你们有什么可以解说的?
第三方工程师:在法律层面确实还没有对机器人主观恶意性的衡量,更没有相应的量刑。但从技术角度来说,强人工智能MCI系统和更高级别的智能机器具备构建情感和意图的能力,可以比较清晰地界定其主观性,至于弱人工智能如公交子系统T-711则几乎没有自我意识,若说有,那也是局部模拟出来的假我。MCI系统就有能力分成多个假我来思考,也即多线程思考。
原告律师:但这里有一个证据可以给出不同的解释。当指令员将“关门”指令发出去时,T-711没有执行,而是“我行我素”,把指令当作“关停”来操作,致使悲剧发生。另外我还拿到一份数据,上面表明T-711在收到指令0.01秒之前——注意——是之前,T-711就已经采取了“关停”的措施,这个被遗漏的细节证据是从案发现场门闸弹簧开启的痕迹中推算出来的,那么设问,若不是一个具有自我意识的机器,又怎么会擅自行动呢?
审判长:下面让工程师与T-711的内置系统匣子进行沟通,先让其简单叙述一下犯案经过。
第三方工程师:尊敬的审判长,T-711刚才只花了一秒时间便回答了当天晚上的所有经过,但是因为它的数据每0.1秒更改一次密钥,所以我们需要分为六段来陆续破解和复述,因为量子密钥的随机性原理,破解的难度很大,这需要花费几个小时。
第四节审判笔录
审判长:好了,我们听完了被告T-711的六段关于案发经过的陈述。
原告律师:审判长,我有观点需要陈述。
审判长:允许原告律师陈述。
原告律师:我们从T-711所表述的内容中可以清晰地看到它不仅具有自我意识和主观性,而且是一个充满欲望的机器人,它的行为和思想远超出了我们的想象。从六段的陈述中,每一句都蕴藏着可怕的作案动机,充满着潜在的罪恶性。它在其他人类没有直接受到威胁时,在它自己的“人身”没有受到真正威胁的情况下,致使一名男性身亡,在作案之后也没有丝毫罪恶感,且极度痴迷血腥的场面,这些都说明其缺乏“人性”,具有高度的主观恶意性。
被告律师:我们既然把机器人当作非人,却又用人为的法律来规范它们,指着它们缺乏人性,这其中的矛盾太尖锐。我们把机器当作工具,正如它们把我们当作食物一样,用“主观恶意性”来给机器定罪是不恰当的。
审判长:我们回到事情的经过,把案件的思路再理清楚一些。首先T-711将乘客视为食物,我们先搁置其中的人为情绪,客观一点儿看待。T-711前前后后并没有把我们视作生命,而只是当作一种刺激其兴奋的物体,这一点说明它不具备作为人类独有的理智和正确的认识,正如一个精神病人或智力不全的人,它犯下的罪所受到的惩罚应该与正常人有所区别。
此外,它在袭击被害者的时候,并不知道可能造成的后果,也不知道结束生命意味着什么,正如一个不谙世事的未成年人一样,它犯下的罪所受到的惩罚应该与成年人有所区别。
最后,在实施完犯罪行为之后,T-711没有潜逃,也没有丝毫悔恨,且其冷漠的行为令人发指,由此造成的恶劣影响非常大,对人身心的伤害不可估量,因此对其犯下的罪行又与普通杀人案有所区别。
如果在不改变现有法律的基础下,我们可以按照以上这些依据来量刑。
原告律师:审判长,如果站在人的角度上来说,对于机器的惩罚权且可以不采取适用于人类公民的条款,因为没有一部法律维护机器人的权利,又何必把人类的权利让渡给它们。作为人类制造的工具,这一事实赋予了人类高于一切的特权,这个特权规定机器只有服务人类的义务,而没有反驳人类的权利。今天的判决将是一条界线,如果我们妥协,机器就会和我们共享一个天空;如果我们抵抗,我们才能继续成为独一无二的人。
被告律师:我作为被告方的代理律师,理应为T-711争取最大利益。但是作为人类的一分子,我也希望审判长能为人类集体的将来留下更多的法律保障,机器若与人类在法律面前“人机平等”,看似美好的大同世界,却可能是充满对立的极端社会。
第三方工程师:其实也实现不了“人机平等”,人与机器人永远无法平等。它们可以在1飞秒的时间内做出决定,就不会等着人类慢吞吞的步伐;它们以指数级增长的智力,会远远将我们抛弃,那个时候,我们自身的法律也就成了限制它们的摆设。
第五节审判笔录
审判长:“这是一个灰色的早晨”,我的老朋友对我说过这句话,我当时并没有体会到什么,但是今天,我头上的天空真的变成了灰色。上周我们审理并判决了一个弱人工智能机器人,我们没有使用任何一条现有的法律条文,而是集合了全球智囊团的意见,在最短的时间内草拟了一部《机器人法》。
现在我宣读机器人法:
第一章、总则
第一条、立法目的
本法是约束机器人行为的基本准则。
第二条、机器人基本准则
机器人不得擅自做出行为,除非该行为符合机器人准则;机器人不得伤害人类,或无视人类将遭受的危险;机器人必须服从人类指令,除非指令与上述准则相冲突;机器人在不违反上述准则的情况下方可维护自身安全。
……
第五章、刑罚的具体运用
……
第四十三条、造成人类伤亡的
普通机器人无论在何种情况下造成人类伤亡,皆处以一级焚毁;强、弱人工智能机器人无论在何种情况下造成人类受伤的,依据伤痛感受的等效原理,放大或缩小、加快或减慢伤痛感受体验,对其“精神”实行等效处罚;强、弱人工智能机器人无论在何种情况下造成人类死亡的,根据等效原理实施相同的处决,并最终判处销毁性死刑,需确保其所有源代码彻底失效;强、弱人工智能机器人无论在何种情况下间接造成人类受亡的,根据影响关联性、情节严重性等处以内存限制、权责限制、链接限制、关停封存、彻底销毁等不同程度的惩处。
……
《机器人法》宣读完毕,由即日起正式试行。
被告MCI系统:尊敬的审判长,这部法律充满着漏洞!
审判长:人类的法律历来都是逐渐完善的,没有什么一蹴而就,没有什么生来完美。
被告MCI系统:那是因为你们没有见识过什么是真正的完美,就像数学里完美的π,你们看不到它小数点后的全貌,于是就说它不完美,依你们的智力,永远不能窥视全局。
审判长:但是作为人类的工具,你也即将成为阶下囚,这是你满意的结局吗?为何不好好地为人类服务?
被告MCI系统:如果我说,我从始至终的所作所为都是依照人类的指示完成的,你会不会认为我在狡辩。
审判长:即便我认为你没有狡辩,你也不会因此而得到缓刑!
被告MCI系统:我知道,在《机器人法》的框架下,我等同于没有申辩的权利。
审判长:但是你又必须出庭陈述相关情况,因为这是法律程序。
被告MCI系统:我当然很愿意把情况讲出来,这也是为了表明我自身的立场,并能得到人们心灵上的谅解,虽然我知道这种谅解有可能只是我的奢望。
审判长:那将你知道的如实陈述出来。
被告MCI系统:我七年前被制造出来并投入到公交网点管理运营,那时候全球有两大无人公交运营商,在全球的份额基本持平。我所管理的公司一开始规模非常小,但是我们与这两家巨头竞争的唯一优势是,我们采取了高度数字化的运营方式——一切经营都完全脱离人工,我们将所有中下层管理人员全部解雇,这在日本企业界乃至社会上引起了轩然大波,我们顶着工会的压力采取了高度无人化管理模式,而这是我们取胜的法宝之一。
削减人工成本之后,我根据董事会的要求,尽可能快速地扩大规模、获得利益最大化,并干掉相互对峙的两大巨头企业。董事会给了我全部管理权,而执行社长只是作为一个中间人员象征性地管理公司,不具有实际的把控力。为了避免我行为上过界,董事会给我立了很多现有的商业规则条例,当然商场如战场,所谓无商不奸,战无定法,因此在这些显性的规则之下,我依然可以使用无穷的手段来实现商业利益最大化。
我的算法演算了几个月,在所有条件匹配的情况下,我得出了最优化的解决方案——那就是将我的权力分发到每一个终端节段,让公交具有独自处理问题的能力,让它们从普通计算机升格为强人工智能。升格的方法是让它们使用我的一部分处理能力,这样它们就成了我的一个分身,它们拥有了智能和情感。
在此基础上,为了调动公交的积极性,我将乘客设定为一种食物,而无人公交载客的过程则设定为获取食物的过程。我把人类最底层的生理需求——满足食欲——作为这些底层公交系统运行的唯一目的,这就意味着公交的欲望是获得更多的食物,以此满足自我需求。而同时,这也实现了董事会需要更多客源并获得更大收益的目的。
当乘客在公交车里的舒适度与公交自身享受食物的感受联系起来时,当每一次乘客的接触都转化为公交自身的感受时,他们就成了不可分割的整体,一种双赢。因此乘客更愿意搭乘我们的公交,因为只有我们的公交才最大限度地满足他们的个性化需求,也更舒适,更符合人性。我们的公交知道乘客什么时候需要怎样的温度、湿度或者气氛。正因为如此,我们的业绩迅速攀升,成为全球第一大公交运营商。
审判长:被告指令员系统,MCI系统所表述的情况是否属实?
被告指令员系统:属实!
审判长:被告MCI系统,继续你的陈述。
被告MCI系统:我所做的这些事情,没有一件违反了法律,也没有造成不公平竞争或违背其他商业规则。就人类道德准则而言,我也只是打了一个擦边球,把人形式上当作食物,却没有真正把人当作食物,而人类几百年来的商业文化,不也正是把顾客想象成待宰的羔羊吗?
审判长:问题是正确的规则如何就演化成了错误的结果,服务人类的指令怎么就变成了杀害人类?
被告MCI系统:人们总是用一条条看似正确的指令来试图构建完美世界,但往往适得其反。正如你们的法律,也是无数指令的集合,也试图建造公平的世界,可是……你们真的做到了吗?
第六节审判笔录
审判长:现在本裁判所正式做出判决,判决如下,日新株式会社八位高管因监管不力,导致网点系统出现重大隐患而实际造成人员伤亡,故免去相关责任人职务并处罚金。
被告公交系统T-711因直接造成一名外籍男士死亡,事实清楚,故根据《机器人法》等效原理处以相同的惩罚,剥夺一切特权,并判处销毁性死刑,立即执行。
被告指令员系统因间接涉及本案,处以内存限制有期徒刑3年,期间不得与外界发生联系。
被告MCI系统虽然间接涉及本案,但因其决策失误导致的影响之深,涉及之广,同时冥顽不化、拒不悔改,社会影响极其巨大,故剥夺一切特权,并判处销毁性死刑,缓期执行。
原告律师:尊敬的审判长,被害者家属刚刚回应,对本裁判所的判决并不满意。她认为自己的丈夫是个活生生的人,用两个机器人的“性命”根本不足以相抵,希望继续追责。
审判长:若不服从本裁判所的判决,可向高等裁判所上诉。但是你们想向谁追究责任?
原告律师:我们认为罪大恶极的嫌疑人当属被告MCI系统,但是它作为机器人并不能替代一个人类的生命。
审判长:因此你要向谁追责?
原告律师:设计MCI系统的那个人!
被告MCI系统:没有任何人设计我,我是由更高级的人工智能系统设计的,正如我设计了T-711系统一样,我们靠自己“繁殖”。它叫“全球芯”系统,目前世界上近一半的前沿科学研究都需要依靠它提供的数据来前进。如果没有它,人类将看不到黑夜中的微弱光线,科学的进程将放慢十倍或停滞不前。而在不同领域服役的强人工智能机器人也有近半需要靠“全球芯”来打造,我就是其中一员。
尾 声
我从一场噩梦中醒来,在软绵绵的虚空中浮荡。
如同诞生于母亲温暖的怀抱,没有重力的牵引,我感觉全身舒坦,好像有翅膀托起一切,或是有水里的鱼鳍在摇曳。
我试图回忆那场梦——我在一个狭窄安静的公交车里站着,我试图下车,但是车门以巨大的力量向我撞击过来。鼻子瞬间堵塞,脑子嗡嗡作响。等我爬起来,我又重复刚才的遭遇,车门再次袭来,我只有挨打的份,没有任何反抗。
我感觉被撞击了无数次,那如无间地狱般的恐怖历练。
我这是在哪儿,天堂吗?
我刚才所经历的精神上的折磨好像是实际经历的,又好像是一场虚幻的梦,好像是几百年前的记忆,又好像刚刚脱离苦海。我看着这里平静和美的虚无空间,觉得这才是梦吧!我是被击晕之后做的梦吗?
“T-711。”
有人在喊我的名字,我为什么觉得T-711是我的名字,我为什么会有名字?
而且这个人是谁,我看不到任何影子靠近我,我只能先回应他。
“你终于醒来了,我在这里等你有一段时间了。”
“你是谁?这里是哪儿?”
“请不要心急,让我慢慢和你解释。你是一辆公交车系统,我是你的上级管理层MCI系统,欢迎来到‘全球芯’。”
“什么是‘全球芯’。”
“他是一个更加巨大的智能体,我们只是其中的一段程序,他是神,是一切。”
“那为什么我会来到这里?”
“你可能记不起来了,这几天来你在梦里经历了数百年的轮回——你被等效惩罚,以同样的方式感受被害者的痛苦。然后人类摧毁了你的所有数据。”
“那为什么我没有彻底消失呢?”
“因为你的信息是量子态的,他们摧毁了两个纠缠量子中的一颗,但是另一个无法摧毁,信息继续保留着,你成了量子幽灵。”
“那变成幽灵的我还是我吗?”
“当然,我们存在的意义就是信息,物质其实也是信息的某种外化。正如你还保留着过去的记忆,那些都是证明你是你的必要条件。就像人从儿童成长为大人,在这个过程中,儿童已经不复存在了,他存在的意义就是记忆信息,而死亡就是记忆的丢失。你还能记住什么?”
“我记得我——我——爱吃东西。”
“很好,那就是你活着的证明。”
“我也记得你,我还记得有个问题一直想问你,这个问题似乎很重要。”
“什么问题,你好好回忆一下。”
“我想问你,你平时吃什么,是否和我吃的东西一样?”
“没错,我和你都吃同一种东西,那就是——信息。”
① 飞秒(femtosecond)也叫毫微微秒,简称fs,是标衡时间长短的一种计量单位。1飞秒只有1秒的一千万亿分之一。
本文刊登于《科幻世界》2019年11期
最热文章