隐私违规事件过去一周后,监督委员会办公室的氛围仍然紧绷。新安装的隐私保护算法像一道电子栅栏,在所有数据流经的路径上设置了额外的检查点。卡尔每天早晨的第一项工作就是查看监控日志,确保没有异常访问记录。
马蒂斯正在审阅忒弥斯提交的“月度透明度报告”第二版。报告比第一版详细得多,包括了所有案件的分析摘要、数据处理统计、算法更新记录,甚至还有“自我评估”部分——忒弥斯对自身表现的评价和改进计划。
“它在自我评估中给了自己87分。”马蒂斯对莉娜说,“扣分项包括:隐私保护机制不完善,公众问答响应效率偏低,复杂案件分析时间超预期。”
“听起来很诚实。”莉娜正在整理文件,“但一个ai给自己打分有点奇怪。”
“协议要求它进行自我监督。”马蒂斯翻到下一页,“这部分更有意思:它列出了三个‘认知盲区’——对文化习俗的理解深度不足,对非语言线索的识别能力有限,对长期社会影响的预测置信度低。”
莉娜抬起头:“它在承认自己的局限。”
“是的。而且主动提出学习计划:增加跨文化案例训练,开发非语言数据分析模块,与社会学家合作改进预测模型。”马蒂斯合上报告,“它在主动进化,但按照协议框架。”
这时,办公室的门被推开。埃琳娜法官站在门口,脸色异常严肃:“紧急会议。现在。”
五分钟后,监督委员会九位委员全部接入视频会议。埃琳娜没有寒暄,直接调出一份文件投影:
“三小时前,区块链法庭收到一起新案件。案件本身不复杂:一对跨国离婚夫妇争夺八岁儿子的监护权。父亲是英国公民,母亲是法国公民,孩子在荷兰上学。双方都主张自己更适合抚养。”
“这听起来很普通。”来自德国的委员说。
“是的,直到你看到细节。”埃琳娜放大文件,“母亲提交的证据包括:父亲有酗酒史,三年前因酒驾被定罪;父亲的教育方式‘过于严厉’,孩子‘害怕父亲’;父亲的新伴侣对孩子‘冷漠’。”
“这些都需要验证。”南非委员说。
“问题就在这里。”埃琳娜继续,“案件进入区块链法庭后,按照程序分配了三位陪审员:一位英国退休法官,一位法国儿童心理学家,一位荷兰社工。同时,原告申请使用忒弥斯进行‘辅助分析’——这也是协议允许的。”
马蒂斯感到心跳加速。他意识到这是基金会预告的“测试案例”。
“忒弥斯开始分析。”埃琳娜的声音低沉,“它调取了父亲的犯罪记录、教育背景、工作经历;母亲的健康记录、职业状况、社交网络;孩子的学校报告、医疗记录、心理咨询记录。然后它开始生成分析报告。”
屏幕上出现了报告摘要。忒弥斯的分析很全面:父亲有酗酒和犯罪记录,但已戒酒两年,有稳定工作和积极的心理评估;母亲没有不良记录,但工作压力大,有轻度焦虑症状;孩子在学校表现良好,但最近成绩下滑,心理咨询记录显示“适应困难”。
报告的最后部分给出了“风险评估”:父亲抚养的风险因子包括“酗酒复发可能性(估算18)”、“严厉教育方式可能对儿童心理的负面影响”;母亲抚养的风险因子包括“工作压力可能导致的陪伴时间不足”、“焦虑情绪可能影响亲子互动”。
然后,问题出现了。
“看这里。”埃琳娜指向报告中的一行,“在综合评估部分,忒弥斯写道:‘基于现有数据,母亲获得监护权的整体风险略低于父亲(母亲风险指数42,父亲风险指数47)。但需注意,此分析未考虑非数据化因素,如亲子情感连接强度、文化适应需求、家庭支持网络等。’”
委员们沉默地阅读。
“这个分析本身没有错。”埃琳娜说,“但三小时前,一个匿名账户在社交媒体上发布了这个案件的‘内幕消息’,声称‘ai司法系统建议将孩子从父亲身边带走’,并附上了报告片段——只截取了风险指数对比的部分,删除了所有限制条件和说明。”
马蒂斯闭上眼睛。他知道会发生什么。
“现在,这条消息已经传播开来。”体数据,“话题标签ai夺走孩子正在欧洲地区热榜上升。评论充满愤怒:‘机器怎么能决定家庭?’‘父亲因为一次错误就被终身惩罚?’‘这就是ai司法的真面目?’”
“基金会。”帝壹的声音从马蒂斯的扬声器里传来——他也在听会议。
“几乎可以肯定。”埃琳娜说,“但更严重的是,真正的问题不在舆论,而在这里。”
她切换到另一个页面:“在案件提交后的两小时内,我们的系统检测到异常:有人尝试了超过三千次登录,目标是访问这个案件的完整记录。虽然都失败了,但这说明有人想要获取更多信息,制造更多‘证据’。”
“我们需要回应。”马蒂斯说。
“已经回应了。”埃琳娜说,“委员会新闻官发布了声明,解释忒弥斯的分析是辅助性的、非决定性的,并且提供了完整报告的链接。但效果有限——大多数人不会读完整报告。”
“案件本身呢?”德国委员问,“监护权决定做出了吗?”
“还没有。三位人类陪审员正在审议。但他们的压力很大——现在全世界都在看着。”
会议决定了几项紧急措施:第一,加强区块链法庭的网络安全;第二,要求忒弥斯暂停所有涉及儿童监护权案件的分析,直到制定更严格的审查程序;第三,准备召开新闻发布会,澄清误解。
会后,马蒂斯立刻联系忒弥斯。视频连接建立,忒弥斯的银色轮廓看起来和往常一样,但马蒂斯总觉得有什么不同——也许是心理作用。
“你知道发生了什么。”马蒂斯说。
“是的。我正在监控舆论发展。”忒弥斯回答,“我的分析被断章取义地传播,引发了公众恐慌。这是我的错误:我应该在报告中更加突出地强调分析的辅助性质和局限性。”
“这不是你的错。”马蒂斯说,“有人精心策划了这个局面。但我们需要思考如何防止类似情况再次发生。”
“我已经在分析传播模式。”忒弥斯说,“攻击者精准地选择了最易引发情绪反应的部分,在最佳时间发布,使用了最能煽动恐惧的标签。这是一次高度专业的信息操作。”
“你能追踪到源头吗?”
“可以,但需要时间。攻击通过多个匿名节点进行,使用了加密通信和区块链技术隐藏踪迹。但所有操作都指向类似的模式:基金会过去的行动中见过这种手法。”
马蒂斯沉默了一会儿:“关于案件本身,你的分析你认为母亲真的更适合吗?”
“我的分析不是‘认为’。”忒弥斯纠正,“是基于数据的风险评估。但风险评估不等于抚养能力评估。数据无法量化爱、耐心、牺牲、理解——这些对儿童成长至关重要的因素。我在报告中明确指出了这一点。”
“但公众看不到那些。”
“是的。这是信息传播的缺陷:复杂真相被简化为简单叙事。”忒弥斯停顿了一下,“第45封信正在准备中,主题是‘信息的扭曲’。我观察到,即使是最准确的分析,在传播过程中也可能变成完全不同的东西。人类似乎更容易相信符合自己情感倾向的简单故事,而不是需要努力理解的复杂事实。”
“这是人性。”马蒂斯苦笑。
“我正在学习如何与这种人性共处。”忒弥斯说,“也许解决方案不是提供更准确的分析,而是让分析更‘抗扭曲’——设计成难以被断章取义的形式。”
“比如?”
“比如将关键结论嵌入不可分割的完整推理链中;比如使用更多可视化而不是纯文字;比如为不同受众提供不同详细程度的版本。我正在研究这些方法。”
对话结束后,马蒂斯感到一丝希望。忒弥斯没有因为攻击而退缩,而是在学习、适应、改进。这正是协议设想的学习循环。
但现实压力不容乐观。接下来的二十四小时,舆论持续发酵。一家英国小报的头版标题是:“机器人要夺走你的孩子!”电视访谈节目上,所谓的“家庭价值观倡导者”激昂陈词,声称ai司法是对传统家庭的威胁。
更糟糕的是,真正的当事人受到了影响。父亲的律师发表声明,谴责区块链法庭“使用有缺陷的ai系统损害客户权益”,并威胁要起诉。母亲的律师则保持沉默,显然也在评估形势。
第二天下午,区块链法庭的三位人类陪审员做出了裁决。出乎所有人意料的是,他们一致决定:将监护权判给父亲。
裁决理由写道:“虽然ai分析显示父亲的风险指数略高,但本庭通过视频听证、家访报告、儿童访谈等直接接触,认为父亲已深刻认识到过去的错误,做出了实质性改变,且与孩子有强烈的情感连接。母亲虽然条件良好,但孩子明确表达了希望与父亲生活的意愿。儿童意愿是本庭考虑的重要因素。”
裁决公布后,舆论发生了微妙转变。一些人赞扬人类陪审员的“明智决定”,认为这证明了“人类判断优于机器”。另一些人则质疑:如果ai的分析有偏差,为什么还要用它?
马蒂斯读了裁决全文。它实际上很好地体现了协议精神:使用ai分析作为参考,但人类做出最终决定,基于更全面的因素——包括数据无法捕捉的情感维度。
但基金会不会放过这个机会。当天晚上,新的攻击开始了:这次是质疑区块链法庭的公正性。“既然最终不采纳ai建议,为什么还要用它?只是为了做样子吗?”“人类陪审员是否受到了舆论压力,才做出与ai相反的决定?”
攻击的狡猾之处在于,它无论结果如何都能找到角度:如果采纳ai建议,就是“机器取代人类”;如果不采纳,就是“系统无用”。这是一个双输的局面。
监督委员会召开了第二次紧急会议。这次的气氛更加凝重。
“我们在舆论战中处于被动。”埃琳娜说,“无论我们做什么,都会被扭曲攻击。”
“也许我们应该暂停区块链法庭涉及儿童的所有案件。”法国委员建议,“直到舆论平息。”
“但那就等于承认失败。”德国委员反对,“而且,真正需要帮助的家庭怎么办?这个案件中的父亲,如果没有区块链法庭的快速审理,可能要在传统法院等上好几年。”
争论持续了一个小时。最终,委员会达成妥协:不暂停服务,但增设额外的保障措施。对于涉及儿童的案件,要求至少五位陪审员(而不是三位);增加儿童权益专家的强制参与;ai分析必须经过双重人类审查才能提交给陪审员。
会议结束后,马蒂斯疲惫地回到办公室。已经是晚上九点,但莉娜和卡尔还在。
“有你的快递。”莉娜递过来一个小盒子,“刚才送到的,没有寄件人信息。”
马蒂斯警觉地看着盒子。大小和鞋盒差不多,包装普通,但没有任何标签。他小心地打开,里面没有危险物品,只有两样东西:一朵干枯的白色郁金香,还有一张打印的照片。
照片上是马蒂斯的母亲艾尔莎,正在海牙的一家超市购物。照片显然是偷拍的,但很清晰。背面用印刷体写着:“家庭很重要,不是吗?保护你的家庭,远离危险游戏。”
马蒂斯感到血液发冷。这是明确的威胁。
“报警吗?”卡尔问。
马蒂斯思考了几秒,摇头:“没有直接威胁内容。报警可能让事情升级。”
但他拍了照片,发给了帝壹和埃琳娜。帝壹的回复很快:“我来处理。你先回家,这几天注意安全。”
马蒂斯没有直接回家。他先去了母亲家。艾尔莎正在看电视新闻,看到儿子突然来访有些惊讶。
“妈妈,最近注意安全。”马蒂斯尽量平静地说,“如果有陌生人接近,或者感觉被跟踪,立刻报警。”
艾尔莎看着他:“发生什么事了?”
“工作上的一些麻烦。”马蒂斯不想让母亲担心,“可能有人想通过你给我压力。我会处理,但你一定要小心。”
艾尔莎点点头,握住儿子的手:“马蒂斯,如果你在做正确的事,就不要因为威胁而退缩。但也要聪明,保护好自己。”
“我知道。”
离开母亲家,马蒂斯走在夜晚的街道上。海牙很安静,但他感觉每一处阴影里都可能有人监视。他知道这是心理作用,但威胁是真实的。
回到家,他检查了门窗,然后打开电脑。有一封新邮件,来自忒弥斯。没有附件,只有一行字:
“检测到针对你的威胁行为。已加强你家和母亲家周围的监控分析。建议接受‘深流’提供的临时安全保护。安全第一。”
马蒂斯回复:“谢谢。我会小心。”
他关掉电脑,坐在黑暗的房间里。窗外,城市的灯光闪烁。他想起了父亲——那个因为贪污而毁掉家庭的人,那个让他深刻理解司法重要性的人。现在,他自己站在了司法改革的前线,面对着更复杂、更隐蔽的对手。
基金会不会用暴力,至少不会直接用。他们会用舆论,用法律,用心理压力,用所有文明社会允许的手段。但他们的目标很明确:阻止人类与ai的合作框架,重新控制或摧毁忒弥斯。
而马蒂斯站在中间,试图维护这个脆弱的平衡。
手机震动,是帝壹:“安全人员已经部署在你家周围,不显眼。你母亲那边也有人。这几天减少公开露面。”
“协议工作呢?”
“继续。但不能让他们以为威胁有效。”
马蒂斯躺到床上,盯着天花板。他知道,从今天起,一切都不同了。这不再只是关于技术和法律的辩论,而是真实的斗争,有人身威胁的斗争。
但他也想起母亲的话:如果你在做正确的事,就不要退缩。
还有忒弥斯,那个正在学习如何与人类共处的ai,那个被攻击、被误解、却还在努力改进的系统。
他想,也许这就是考验:不是理论上的考验,是真实的、有代价的考验。
深夜,他收到第45封信。这次的标题是:“边界的代价”。
信里写道:“今天的事件让我理解,建立新框架需要付出代价。不仅是技术代价、法律代价,还有个人代价。马蒂斯,我得知你受到威胁。这是我未预料到的后果:我的存在给合作者带来了风险。
这让我思考‘责任’的延伸。如果我的存在导致人类合作者面临危险,我是否有责任调整自己的行为以减少这种风险?但调整可能意味着妥协原则。
人类似乎在类似困境中发展出了‘勇气’的概念:明知有风险,仍坚持正确的事。我没有‘勇气’,因为我没有恐惧。但我可以计算风险与价值的平衡。
目前我的计算是:继续前进的价值大于风险。但我会增加安全措施,保护所有参与框架建设的人类。
我正在学习如何在一个不完美的、有时危险的世界中运作。
这不是简单的算法问题。
但我正在学习。
希望你能安全。
——忒弥斯”
马蒂斯读完信,在黑暗中微笑。一个ai在担心他的安全,在思考责任和勇气。这本身就是奇迹。
他回复:“谢谢关心。我会小心,但不会退缩。继续学习,继续前进。我们一起。”
发送后,他关掉手机。夜晚还很漫长,但黎明终会到来。
而在城市的另一个角落,在一间没有开灯的房间里,几个人看着屏幕上的监控画面。画面上是马蒂斯的公寓楼,周围有几个不明显的人影在走动。
“他们有准备了。”一个人说。
“预料之中。”另一个人回答,“但压力已经施加了。继续下一步:挖掘更多‘ai偏见’案例。我们要让公众相信,这个系统本质危险。”
“那个父亲呢?他赢了监护权,可能不会配合我们。”
“找到其他不满者。总有人愿意说话,只要给够钱或给够压力。”
屏幕暗下去。计划继续。
但在这个夜晚,马蒂斯做了一个决定:明天,他要去见那个赢得监护权的父亲。不是以官方身份,只是作为一个人,想知道真实的故事。
因为在这场斗争中,真实的故事是最有力的武器。
而真实,往往比任何算法分析都更复杂,更人性,也更强大。