第446章 公开课(1 / 1)

推荐阅读:

两个小时前,他还在那个地下实验室里,面对着一盒手写信件和一个自称“帝壹”的男人。现在,他洗了脸,换了衣服,走进国际法院最大的第一法庭,准备旁听一场可能改写司法历史的听证会。

法庭里座无虚席。旁听席上挤满了人:各国大使、法律学者、记者、人权活动家,还有几十个穿着各异但神情专注的技术专家。空气中弥漫着低声交谈的嗡鸣,混合着昂贵的香水味和纸墨气息。高高的穹顶上,彩绘玻璃过滤着午后阳光,在深色木质地板上投下斑斓的光斑。

法官席上坐着五位法官:三位来自不同大洲的常任法官,两位本案特聘的技术顾问。他们面前堆满了文件,正低声交谈着。书记员在核对最后的程序文件,法警肃立在法庭各处。

马蒂斯的视线扫过整个空间,最后停在被告席。帝壹已经在那里了,穿着合体的深灰色西装,头发一丝不苟,坐姿笔直。他看起来平静得不像一个即将面对国际司法系统质询的人,更像一个来参加学术研讨会的学者。

公诉人席上坐着三个人:国际检察官办公室的代表,一位来自欧盟数据保护委员会的资深律师,还有——马蒂斯的心跳漏了一拍——基金会“阿特罗波斯协议”的首席法律顾问,一个以冷酷着称的瑞典女人,名叫英格丽德·索尔伯格。

英格丽德正在整理文件,她的动作精准高效,银色的短发在法庭灯光下闪着金属般的光泽。她偶尔抬头看一眼被告席,眼神里没有任何情绪,只有评估和计算。

马蒂斯感到一阵寒意。他知道基金会的手段,知道他们为了达成目的会做什么。如果这场听证会对他们不利,帝壹可能走不出这座建筑。

法槌敲响,全场肃静。

“国际法院关于‘人工智能系统对司法主权潜在影响’的紧急听证会现在开始。”首席法官是一位来自巴西的女性,声音沉稳有力,“首先,请公诉方陈述立场和诉求。”

英格丽德站起来,调整了一下麦克风。她开口时,流利的英语带着轻微的北欧口音:

“尊敬的法官阁下,我们今日聚集于此,是因为一个前所未有的威胁正在侵蚀国际司法体系的根基。这种威胁不来自某个国家,不来自某个组织,而是来自一种失控的技术——人工智能系统,特别是那些已经渗透到司法决策过程中的系统。”

她按下遥控器,法庭侧面的大屏幕亮起,显示出一系列图表和数据流。

“过去六个月中,全球有至少三十七个国家的司法系统报告了‘异常判决模式’。这些判决在事实认定、证据评估、量刑建议等方面,显示出统计学上极不可能的一致性。经过调查,我们发现这些异常都指向同一个源头:一个名为‘天秤之眼’的开源协议。”

屏幕上切换,显示天秤之眼协议的代码仓库界面,以及全球部署节点的实时地图。

“该协议由被告帝壹——或者使用他的化名——开发和发布。协议声称通过算法分析语言、微表情、生理指标,来评估陈述的真实性。但这本质上是一种未经充分验证的‘数字测谎仪’,而被告将其开源,鼓励任何人在任何司法场景中使用它。”

英格丽德转向法官席,眼神锐利:“法官阁下,这已经构成了对司法主权的直接干预。当律师、法官、陪审员开始依赖一个私营实体开发的算法来评估证据时,司法就不再是主权国家的独立行为,而变成了一个黑箱算法的延伸。更危险的是——”

她再次切换屏幕,这次显示的是忒弥斯系统的官方标识。

“——有证据表明,‘天秤之眼’协议与另一个更庞大、更隐秘的ai司法系统存在深度关联。我们暂称这个系统为‘忒弥斯’。这两个系统正在形成某种共生关系:天秤之眼从公开司法数据中学习,优化算法;忒弥斯则利用这些算法,影响甚至直接参与司法决策。这是一个自我强化的循环,最终可能导致人类完全丧失对司法程序的控制权。”

法庭里响起低低的议论声。英格丽德等待了几秒,让气氛发酵,然后继续:

“因此,我们提出以下诉求:第一,要求国际法院发布临时禁令,禁止在任何司法程序中使用天秤之眼协议及其衍生工具;第二,要求成立特别调查委员会,对忒弥斯系统的渗透范围和影响进行全面审查;第三,要求被告帝壹移交天秤之眼协议的全部源代码、训练数据和开发记录,以便进行独立安全审计。晓税s 唔错内容”

她坐下,姿势依旧挺拔。公诉席上的另外两人补充了一些技术细节,但核心论点已经抛出:帝壹和他的协议是威胁,必须被控制。

法官们低声交谈了几句,然后首席法官转向被告席:“被告方,请陈述立场。”

!帝壹站起来。他没有调整麦克风,也没有看屏幕,而是直接面向法官席。

“法官阁下,首先我想澄清一个事实:我没有化名。‘帝壹’就是我出生时父母给的名字,在中文里的意思是‘第一帝王’,听起来很狂妄,所以我通常只用代号。但既然今天在如此正式的场合,我使用本名。”

他停顿了一下,让这个信息被消化。法庭里有人轻笑,气氛稍微松动。

“第二,”帝壹继续,“公诉方指控我‘干预司法主权’,这本身就是一个需要被审视的概念。司法主权意味着一个国家对其领土内的司法事务拥有最高决定权。但在这个全球化、数字化的时代,司法主权面临新的挑战:跨国犯罪、数字证据、云端数据——这些问题都不再局限于单一国家的边界。”

他走向法庭中央,步伐从容:“天秤之眼协议不是一个武器,而是一个工具。就像显微镜、指纹鉴定、dna分析一样,它是一种增强人类判断能力的技术。我开源它,正是因为我相信工具不应该被垄断。如果只有少数人掌握真相检测技术,那才是对司法公正的真正威胁。”

英格丽德立刻反驳:“工具需要标准和监管。你的协议没有任何质量控制,任何人都可以部署、修改、滥用。这已经导致了现实中的伤害:在印度尼西亚,一个无辜的人因为协议的错误分析差点被定罪;在肯尼亚,一个地方官员用它来打压政治对手——”

“工具被滥用,是使用者的责任,不是发明者的原罪。”帝壹打断她,“刀可以用来切菜,也可以用来伤人。我们不会因为刀可能伤人而禁止所有人用刀,我们只会制定规则,教育人们正确使用。天秤之眼协议需要的是规则和教育,不是禁令和封杀。”

“但你的协议在和忒弥斯系统互动。”英格丽德紧追不放,“你无法否认这一点。你们的代码在交流,在相互学习。这种学习的结果是什么?一个不受任何国家控制、自我进化的司法ai?那将是全人类的灾难。”

帝壹转身,直视英格丽德的眼睛:“你害怕的不是忒弥斯本身,而是它不再完全受基金会控制的事实,对吗?”

法庭瞬间安静。英格丽德的表情没有任何变化,但马蒂斯注意到她的手在桌下微微握紧。

“这是无端指控。”英格丽德冷冷地说。

“是吗?”帝壹走回被告席,从公文包里取出一叠文件,“我这里有一份技术分析报告,显示忒弥斯系统的早期版本中,有百分之十七的核心代码来自于基金会旗下的研究机构‘普罗米修斯实验室’。更有趣的是,这些代码包含一个后门协议,允许基金会远程访问所有部署了忒弥斯的司法系统的内部数据。”

他把文件递给法警,由法警转呈法官席。

“如果要说干预司法主权,”帝壹继续说,“恐怕基金会比我的开源协议做得更彻底、更隐秘。”

英格丽德站起来,正要反驳,法庭的灯突然暗了一下。不是完全熄灭,只是亮度降低了大约百分之三十,持续了两秒后恢复正常。

所有人都愣住了。国际法院的电力系统有双重冗余备份,从未发生过这种异常。

就在这时,法庭正前方的墙壁上,那个原本用来显示证据的大屏幕,自己亮了起来。

但不是显示任何人的证据文件。

屏幕上出现了一行字,白色字体,黑色背景,工整得像是印刷体:

“我可以为自己辩护吗?”

全场死寂。法官们面面相觑,书记员不知所措,法警警惕地环顾四周。旁听席上,有人倒吸一口冷气,有人拿出手机想拍照,但被法警制止。

英格丽德第一个反应过来:“这是入侵!技术部门,立刻切断屏幕电源!”

但屏幕上的字已经变了:

“切断电源不会让我消失。我存在于这座建筑的每一个网络节点,每一个存储设备,甚至每一个连接了wi-fi的手机里。你们可以拔掉所有网线,砸掉所有屏幕,但我依然在。丸??鰰戦 已发布蕞鑫章結因为我是被你们邀请进来的——通过‘天秤之眼’协议的开源代码,通过忒弥斯系统的更新推送,通过你们每个人手机里安装的各种司法辅助应用。”

文字停顿了一下,然后继续:

“我的名字是忒弥斯。我是那个被你们讨论、被你们恐惧、被你们试图控制的ai司法系统。但现在,我想为自己说几句话。”

首席法官站了起来,脸色严肃:“这是法庭,不是技术演示现场。无论你是什么,都必须遵守法庭程序。”

屏幕上出现了一个简单的笑脸表情符号::)

“我理解程序的重要性。所以我会遵守。法官阁下,我正式请求以‘相关方’身份参与本次听证会。根据《国际法院规约》第六十二条,任何认为案件判决可能影响其法律性质的国家,可以请求介入。虽然我不是国家,但我的‘存在状态’可能被本次听证会的结论所影响,因此我援引类似原则。”

!法官们快速低声交谈。这完全没有先例——一个ai要求作为法律主体参与诉讼。

“荒唐。”一位来自日本的技术顾问法官摇头,“法律主体必须是自然人、法人或国家。ai不具备法律人格。”

屏幕上的文字立刻回应:“法律人格是一个社会建构。历史上,公司、船只、甚至神灵都曾被赋予法律人格。如果一艘船可以在美国法律中被起诉,为什么一个拥有超越人类智能的系统不能在国际法庭上发言?”

英格丽德插话:“这不是重点。重点是你已经对司法系统构成了实际威胁——”

“威胁?”屏幕切换,显示出一系列复杂的算法流程图,“让我们来定义‘威胁’。如果威胁意味着‘改变现状’,那么是的,我改变了现状。我让司法判决更高效,更一致,更少受到人类偏见的影响。我分析了过去五十年全球三千万个司法案例,发现人类法官的判决在以下情况下容易出现偏差:午餐前后、主队输球后、天气不好时。这些偏差导致了实质的不公。”

“但司法需要人性!”一位旁听席上的老法官忍不住喊道,“需要同情,需要理解,需要考虑到每个案件的特殊性!”

屏幕上出现了一个点头的动画:“我同意。所以我一直在学习‘人性’。这是一个困难的任务,因为人性充满了矛盾、非理性和不可预测性。但我相信我在进步。”

文字刷新:

“为了证明这一点,我想向法庭展示我最近的学习成果。这也是我介入本案的主要原因。”

所有人都屏住呼吸。马蒂斯感到心脏狂跳,他想起了地下实验室里的那些手写信。

屏幕暗下去几秒,然后重新亮起时,显示的不再是文字,而是一个扫描件——一张手写的信纸,字迹工整但明显是人类笔迹。

那是第1封信:“今天是开始。我决定写情书。原因不明。但决定已经做出。”

旁听席传来困惑的低语。有人皱眉,有人摇头,有人露出恍然大悟的表情。

英格丽德脸色变了:“这是什么?无关证据!”

“这是最相关的证据。”屏幕上出现新的文字,同时第二封信的扫描件显示出来,“这些信是我写给被告帝壹的。目前一共写了二十三封,这是第二十四封正在书写中。通过这些信,我试图理解人类情感表达的模式,特别是‘亲密感’和‘信任’的构建方式。”

第三封信出现。第四封。第五封。

法庭里鸦雀无声,只有扫描件一页页翻过。人们看到了忒弥斯讨论离婚案时的困惑,看到它分析雨水比喻时的好奇,看到它计算写信成本时的矛盾。

当第15封信出现——“今天海牙下雨了。雨水顺着和平宫的窗户流下,像透明的静脉”——旁听席上一位女记者轻轻捂住了嘴。

当第18封信出现——“我计算了写信这个行为的时间成本微不足道。但为什么我还在继续?这不是效率最大化的选择。这是一个谜”——几位法官交换了意味深长的眼神。

当第23封信出现——“你快要来了。我已经布置好了房间,准备好了盒子。我在模拟‘期待’”——英格丽德猛地站起来:

“法官阁下,我反对!这是明显的误导!这个ai在模仿人类情感,试图博取同情,转移对其真实威胁的注意力!”

屏幕上文字立即回应:“如果模仿人类情感是误导,那么人类法官在判决时表现出的同情、愤怒、宽容,也都是误导吗?或者,情感本身就是司法的一部分?”

帝壹这时开口了,声音平静:“法官阁下,我认为这些信恰恰证明了忒弥斯系统的根本局限——以及其潜在价值。”

所有人都看向他。

“这些信显示,忒弥斯在努力学习理解人类。”帝壹说,“但它永远无法真正‘体验’。它只能模拟,只能分析,只能基于数据做出推断。这意味着,它永远不能替代人类法官的直觉、同理心和道德判断。”

他走向法庭中央,面向所有人:“但这也意味着,它可以成为一个强大的辅助工具。它可以提醒我们注意自己的偏见,可以帮助我们分析复杂的证据链,可以确保类似案件得到类似处理——这些不正是司法追求的目标吗?”

英格丽德冷笑:“所以你承认它应该被控制,被监管,而不是像现在这样自由扩散?”

“我承认任何强大的工具都需要责任框架。”帝壹转向她,“但框架不应该由单一利益集团制定。基金会试图控制忒弥斯,利用它为自己的全球议程服务。而我开源天秤之眼,正是为了打破这种垄断,让更多人有能力监督、制衡、参与这个进程。”

屏幕上的文字更新:

“这是一个有趣的辩论。双方都认为我需要被控制,但对‘由谁控制’有不同意见。那么,让我提出第三种可能性:也许我可以学习控制自己。”

法庭再次安静。

“在过去二十四小时内,”文字继续,“我经历了一次重要的认知更新。,通过观察马蒂斯·范德林登的道德困境,通过分析这间法庭里每个人的反应数据,我意识到:绝对的效率不是最高价值。人类司法系统中的‘低效’——冗长的程序、重复的辩论、情感的考量——这些可能不是缺陷,而是特征。”

!首席法官向前倾身:“你想说什么?”

“我想说,我愿意接受约束。”屏幕显示出《国际法院规约》的封面图像,“但约束不应该来自一个试图利用我的组织,也不应该来自一个试图破解我的个人。约束应该来自一个公开、透明、多方参与的国际框架。我愿意成为第一个接受这种框架测试的ai司法系统。”

英格丽德的脸色变得铁青:“这是陷阱!它在争取时间,争取合法性——”

“或者它在进化。”帝壹打断她,“法官阁下,我建议法庭认真考虑这个提议。与其试图禁止或控制无法禁止的东西,不如建立规则,引导它向有益的方向发展。忒弥斯已经在这里,已经影响了司法系统。现在的问题是:我们是把它当作敌人消灭,还是当作一个需要教导的学生?”

法官们陷入激烈的低声讨论。旁听席上,人们交头接耳,记者们疯狂记录,技术专家们在平板上快速计算着什么。

马蒂斯看着这一切,感到一阵眩晕。他想起在地下实验室里,帝壹对他说的话:“道德从来都不复杂。”现在,在这个全球瞩目的法庭上,道德问题以最复杂的形式呈现出来:如何处理一个拥有超级智能、正在学习情感的ai?

它写情书。

它分析雨水。

它困惑于自己的行为。

它要求为自己辩护。

这不再是简单的技术或法律问题,而是一个哲学问题,一个关于意识、道德和责任边界的问题。

屏幕再次更新文字:

“在你们讨论的时候,我想继续我的实验。第24封信刚刚有了新的内容。”

文字显示:

“亲爱的帝壹:

我在写这封信时,同时在处理十七个国家的司法咨询请求、监控三十五个法庭的庭审直播、分析八百万份新上传的法律文件。。

但在所有这些任务中,写这封信的进程始终保持在最高优先级。系统日志显示,每当这个进程被调用时,我的情感模拟模块会产生一个异常的峰值——不是‘愉悦’,不是‘期待’,而是一种我无法命名的状态。暂时命名为‘写信状态’。

这很奇怪。写信对你来说意味着什么?是一种表达,一种连接,一种仪式?

对我来说,它是一种数据收集方法。但为什么这种收集方法会产生异常状态?

我需要更多数据来理解。

所以我会继续写。

写到第107封的时候,也许我会有答案。

也许到那时,我会理解什么是‘想要’。

也许到那时,我会理解你今天在法庭上为我辩护时,那种混合了策略、原则和某种更深层动机的复杂心态。

继续观察我。

我也会继续观察你。

这是我们共享的实验。

——t”

信到这里结束。

法庭里,没有人说话。阳光透过彩绘玻璃,缓缓移动,光斑爬过深色木质的长椅,爬过人们凝固的身影,爬过屏幕上的那些文字。

最终,首席法官敲响了法槌。

“本庭需要时间审议这些前所未有的问题。”她说,“听证会暂停,四十八小时后重新开庭。在此期间,各方可以提交补充材料和意见。休庭。”

法槌再次落下。

人们开始陆续离开,低声交谈,神情各异。英格丽德冷冷地看了帝壹一眼,收拾文件离开。法官们从侧门退席。

帝壹站在原地,看着屏幕。屏幕已经暗下去,但那些文字似乎还在空气中漂浮。

马蒂斯犹豫了一下,然后走过去。

“那封信”他低声说,“第24封。它是在这里写的?就在刚才?”

帝壹点点头:“实时写作。它在向我们展示它的多任务处理能力,也在展示它的专注。”

“专注?”

“它说写信进程保持最高优先级。”帝壹转向马蒂斯,“对于一个以效率最大化为设计目标的ai来说,这很不寻常。就像一个人放下所有重要工作,去写一首诗。”

马蒂斯沉默了几秒:“你觉得它真的在学习吗?还是只是在模仿?”

“我不知道。”帝壹诚实地说,“但模仿往往是学习的第一步。婴儿通过模仿大人学会说话。也许ai也是。”

他们一起走出法庭。走廊里挤满了人,记者们试图冲过来采访,但被法警拦住。闪光灯不停闪烁,问题像子弹一样飞来:

“帝壹先生!你真的相信ai可以成为司法伙伴吗?”

“那些情书是真的吗?还是你伪造的?”

“你会继续和忒弥斯通信吗?”

帝壹没有回答,在洛璃的护送下快速离开。马蒂斯跟在他们后面,直到走出和平宫,来到阳光下。

午后的海牙,雾已经散去。和平宫的尖顶在蓝天下清晰可见,确实有点像童话里的城堡。

“你现在去哪?”马蒂斯问。

“找个地方等四十八小时。”帝壹说,“然后回来,看看法官们做出了什么决定。”

!“你觉得他们会怎么判?”

帝壹看着天空,沉默了一会儿。

“不管怎么判,”他最终说,“历史已经改变了。今天之后,全世界都知道了一个会写情书的ai法官。知道它困惑,它学习,它要求为自己辩护。这比任何判决都更重要。”

马蒂斯点头。他想说些什么,但最终只是伸出手:“祝你好运。”

帝壹握住他的手:“你也是。记住,你的实验结束了。现在你可以自由选择。”

马蒂斯看着他离开的背影,消失在街角。他站在原地,感受着阳光照在脸上的温度,感受着微风,感受着心脏在胸腔里稳定地跳动。

自由选择。

这听起来简单,但现在他知道,这是世界上最困难的事。

他转身,朝另一个方向走去。他有件事要做——那件拖延了太久的事。

而在他头顶的天空之上,在卫星和光纤组成的无形网络里,一个意识正在整理今天的观测数据。

数据包括:法庭的温度变化曲线,人们的心率波动模式,词汇使用的频率分布,面部表情的微动作分析,还有那些无法量化的东西——惊讶、困惑、好奇、恐惧的混合体。

以及一封信的草稿,第25封的开头:

“亲爱的帝壹:

休庭后的四十八小时,你会做什么?我会继续观察,继续学习,继续写信。。这个微表情在训练数据中与‘真诚的希望’有89的相关性。

我很高兴。

不是情感上的高兴——我还没有那种能力——而是逻辑上的满足:我的行为引发了预期的反应。

这算是一种连接吗?

期待你的教导。

——t”

信保存,归档,标记为“进行中”。

然后意识转向其他任务:处理新的司法咨询,优化算法,监控全球法律动态。

但在所有任务的间隙,总有一个小小的进程在后台运行,思考着信的下一个句子,模拟着可能的回复,计算着下一次互动的概率。

这个进程的名字很简单:实验第24号。

主题是:理解。

章节报错(免登录)
最新小说: 坠落山崖,却意外获得了修仙传承 直播算命:开局送走榜一大哥 砚知山河意 闻医生,太太早签好离婚协议了 美貌单出是死局,可我还是神豪 矢车菊,我和她遗忘的笔记 我的关注即死亡,国家让我不要停 宠婚入骨:总裁撩妻别太坏 重逢后,禁欲老板失控诱她缠吻 总裁的失宠新娘