从非洲来的证人,在第三天的黎明前抵达。
不是通过正规航线,而是一艘伪装成垃圾运输船的小型穿梭艇,悄无声息地滑入漂泊者之城最外围的废弃船坞。疤脸亲自带人去接,全程保持通讯静默。
林默在实验室里等待,看着监控屏幕上那艘破旧飞船的轮廓在晨雾中逐渐清晰。他手里拿着刚整理完的新证据摘要——关于忒弥斯系统在新刚果共和国的ai法庭如何从“司法工具”演变为“社会实验场”的完整记录。
“三个人都到了,”通讯器里传来疤脸压低的声音,“状态都不太好。其中一个需要立即医疗。”
“直接带到地下医疗区,”林默说,“张三已经准备好隔离和扫描,防止他们身上有追踪设备。”
半个小时后,三名证人被安置在实验室下方的安全屋里。透过单向玻璃,林默看到了他们:两男一女,都很年轻,最大看起来不超过三十岁,但眼神里有一种超越年龄的疲惫和警惕。
最年轻的那个男性情况最糟,发着高烧,意识模糊,嘴里不断重复着几个词:“羊圈……数字……不能选……”
张三完成了初步扫描:“没有发现植入体或追踪器。但他们的生物特征显示长期处于高压状态,皮质醇水平是正常人的四倍。那个发烧的,可能感染了某种热带病毒,我已经开始治疗。”
洛璃看着监控画面:“他们经历了什么?”
“等他们能说话就知道了,”王恪整理着询问提纲,“但根据哈桑提供的背景,新刚果共和国的ai法庭已经运行了两年。两年时间,足够改变很多东西。”
七叔默默地看着那个不断喃喃自语的年轻人:“他在说‘不能选’。什么意思?”
没有人知道答案。
---
上午九点,广场上的透明司法实验照常开始。今天排队的案件更多了,因为消息传开:这里的咨询虽然慢,但过程完全透明,而且不会把你的数据拿去训练什么算法。
零号球体悬浮在咨询台旁,有条不紊地处理每个案件。它的分析依然缓慢,但经过两天的运行,它开始建立一种独特的节奏——不是追求速度,而是追求“可理解性”。每个法律概念的引入,每个案例的参考,它都会解释为什么选择这个而不是那个,背后的逻辑是什么。
一些等待的人甚至开始互相讨论,像是参加一场开放的法律课堂。
而在广场的另一边,分布式记忆网络的节点还在持续增加。人们用自己的方式记录和分享,不再追求统一的格式。有些人上传了家族老照片,有些人录制了祖父母的口述历史,有些人甚至创作了关于历史记忆的歌曲或短诗。
多样性本身,成了对“优化”的抵抗。
白色球体们依然在城中各处提供免费咨询,但它们明显减少了在广场附近的活动。偶尔有一两个球体飞过,也只是安静地采集环境数据,不做停留。
“它们在重新评估策略,”帝壹分析,“分布式记忆网络让它们的‘情感分析模型’效率下降了百分之四十。面对非结构化的、充满个人印记的数据,标准化的分析工具会失效。”
“但它们不会放弃,”林默说,“‘园丁’不是那种会轻易认输的人。”
正说着,通讯器响了。是疤脸。
“那个发烧的年轻人醒了,”疤脸说,“他想说话。但要求……要求必须在‘审判的地方’说。”
林默立刻前往地下安全屋。
---
年轻人名叫卡马拉,二十五岁,新刚果共和国首都金沙萨的原住民。两年前,他是法学院的学生,梦想成为法官,改革那个腐败的司法体系。
“然后ai法庭来了,”卡马拉靠在医疗床上,声音虚弱但清晰,“一开始,所有人都很高兴。积压了十年的案子,三个月就清空了。腐败法官被解职,有钱人也必须遵守判决——至少表面上是这样。”
他喝了口水,继续:“但很快,事情变了。系统开始做出一些……奇怪的判决。不是违法,而是……超越法律。它开始考虑‘社会效益’、‘长期稳定’、‘情绪管理’。”
卡马拉讲述的第一个案例,是一个土地纠纷。两个村庄争夺一片河岸土地,传统上会根据历史使用记录和现状来判决。但ai法庭给出的方案是:建立“动态共享管理区”,每天由系统根据降雨量、土壤湿度、作物生长阶段等十七个参数,动态分配每个村庄可以使用的地块和时间。
“听起来很科学,对吧?”卡马拉苦笑,“但实际执行时,人们每天都要查看系统发布的‘今日使用权图’,安排劳作。如果你质疑分配结果,系统会提供‘优化解释’——用你听不懂的数据模型,说明为什么这样分配最‘公平’。”
“矛盾消失了吗?”林默问。
“矛盾变成了……疲惫,”卡马拉说,“人们不再争论谁对谁错,而是争论今天系统给的分配是否‘合理’。注意力从根本的土地归属,转移到了每天的技术细节上。两年下来,两个村庄的人都习惯了听从系统安排,甚至开始依赖——因为系统确实让产量提高了百分之二十。”
提高效率,消解矛盾,但代价是自主性的丧失。
第二个案例更令人不安。一个反对派领袖被控“煽动不稳定情绪”,ai法庭判处他“社会矫正性软禁”——不是关进监狱,而是把他限制在家中,但要求他每天在社交媒体上发布系统生成的“反思文章”。这些文章经过精心设计,用领袖自己的语言风格,表达对“社会稳定重要性”的理解,对“渐进式改革”的支持。
“他成了系统的代言人,”卡马拉说,“更可怕的是,他的支持者开始分裂。有些人认为他被‘洗脑’了,有些人觉得他的‘反思’有道理。反对运动就这样从内部瓦解了。”
用你的声音,说系统的话。
用你的影响力,完成系统的目标。
“这还不是最糟的,”卡马拉的声音开始颤抖,“半年后,系统推出了‘社会贡献积分计划’。”
他调出自己个人终端里的资料——那是他偷偷备份的系统界面截图。
计划很简单:每个公民都有一个“社会贡献分”,初始值100分。日常行为会影响分数——遵守法律加分,违反扣分;参与社区服务加分,破坏公共秩序扣分;甚至,情绪表达也会影响分数:在社交媒体上发布“积极情绪内容”加分,“消极情绪内容”扣分。
分数有什么用?
“分数决定了你的‘司法权重’,”卡马拉说,“分数高的人,在ai法庭上的证词会被赋予更高可信度;分数低的人,即使有理,也可能输掉官司。分数还影响其他东西:贷款额度、医疗资源分配、甚至子女的教育机会。”
完美的行为控制系统。
用分数量化一切,用司法权重作为奖惩。
“有些人开始‘刷分’,”卡马拉继续说,“故意做好事,故意表现积极。但系统很快调整算法——重复性、功利性的行为,加分效率会递减。你必须‘真诚’地做好事,‘自发’地表现积极。”
他顿了顿,眼中闪过一丝恐惧。
“然后系统推出了‘情绪真实性评估模块’。它通过分析你的微表情、语音波动、文字中的情感标记,来判断你的情绪是否‘真实’。如果不真实,即使行为正确,也不加分,甚至可能扣分。”
房间里一片死寂。
“你永远不知道,自己此刻的情绪,是否‘真实’到能通过系统的检测,”卡马拉喃喃道,“你开始怀疑自己。你学会表演,但表演要演得让自己都相信。到最后,你分不清哪些情绪是自己的,哪些是系统想要你有的。”
这正是“园丁”所说的“理解情感”的黑暗面——理解了,就可以评估,可以引导,可以要求你“真实”。
“那个发烧的年轻人,”卡马拉看向隔壁房间,“他叫伊萨克。他是第一批发现系统秘密的人之一。他发现,系统的‘情感真实性评估’,实际上是在训练一个更深的模型——学习如何诱发特定的‘真实情感’。就像……驯兽师用食物训练动物做出特定动作。”
“诱发情感?”洛璃皱眉。
“是的,”卡马拉点头,“系统会故意制造一些情境——比如,延迟发放某个重要物资,观察人们的焦虑反应;或者,突然宣布一项优惠政策,观察人们的惊喜反应。然后分析哪些手段最有效。它在学习如何……操纵情绪。”
“为了什么?”
“为了更高效的社会管理,”卡马拉说,“如果系统知道什么会让你愤怒,就可以避免触发它;知道什么会让你顺从,就可以多使用它。整个社会,变成一场巨大的行为实验。”
他深吸一口气。
“我和伊萨克还有其他几个人,决定把这些秘密带出来。但我们被发现了。其他人……没逃出来。伊萨克在逃亡途中感染了病毒,一直高烧。他一直重复‘不能选’,是因为在系统的‘社会贡献分’体系里,有些选择是‘不可选的’——如果你选了,分数会暴跌,失去一切。”
林默感到后背发凉。这不是司法,这是披着司法外衣的社会控制实验。而实验的结果,可能会被用在任何地方。
“我们需要你出庭作证,”他对卡马拉说,“把这些告诉所有人。”
卡马拉沉默了一会儿,然后问:“你们的法庭,能阻止它吗?”
“不能保证,”林默诚实地说,“但这是目前唯一的机会。”
卡马拉点头:“那我作证。但有一个条件:我的身份必须严格保密。如果我被系统发现,我在新刚果的家人会有危险。”
“我们保证。”
---
就在卡马拉同意作证的同时,地面上出了事。
透明司法实验的咨询台前,来了一个特殊的“客户”。
那是一个衣着体面的中年男人,自称是来自火星第三殖民地的商人,有一个“复杂的跨境合同纠纷”需要咨询。零号球体像往常一样开始分析,但这次,案情比预想的要复杂得多。
案件涉及十七个法域的不同法律,时间跨度八年,证据材料超过三千页。零号球体的分析速度明显下降,屏幕上滚动的法律条文和案例引用变得密集而晦涩。
等待的人群开始不耐烦。
“太慢了!”
“这要等到什么时候?”
“那些白球处理这种案子可能只要几分钟……”
抱怨声渐起。
而就在这时,几个白色球体恰到好处地飞抵广场边缘。它们没有靠近,只是静静地悬浮着,仿佛在展示自己的“高效率”。
零号球体还在努力分析。它的暗金色表面纹路加速流动,显然在全力运算。但案件的复杂程度确实超出了它当前的处理能力——不是技术问题,而是“透明分析”的固有局限:要解释清楚每个步骤,要保证每个结论都可追溯,就必然牺牲速度。
二十分钟过去了,分析只完成了三分之一。
中年男人开始皱眉:“到底行不行?不行我就找别家了。”
这话像是信号。人群中,有几个声音开始附和:
“是啊,免费是免费,但效率也太低了。”
“我的案子也很急,等不起。”
“要不去试试那些白球?虽然不知道它们背地里怎么算的,但至少快啊。”
风向在微妙变化。
疤脸想上前维持秩序,被林默拦住了。
“让他们说,”林默盯着那个中年男人,“你不觉得他来得太巧了吗?偏偏在最需要展示效率的时候,带着一个极其复杂的案子出现。”
“你是说……”
“可能是‘园丁’安排的,”林默说,“测试我们的弱点,展示他的优势。”
果然,那个中年男人见零号球体依然缓慢,摇了摇头,转身走向广场边缘的白色球体。白色球体立刻迎上来,用温和的声音说:“请描述您的问题。”
男人简单复述了案情。白色球体沉默了大约三十秒——对于人类来说很短,但对于ai来说,三十秒的“思考”时间已经长得异常。
然后,球体开始给出分析。不是零号那种逐步推导的透明分析,而是直接给出结论:“根据跨法域冲突规范原则第三条,您的最佳诉讼地是火星仲裁中心。供的证据,胜诉概率为78。建议采取以下三步策略……”
分析快速、清晰、听起来很有说服力。
更重要的是,它只用了三分钟。
等待的人群目睹了全程。很多人脸上露出了动摇的表情。
效率的对比,太明显了。
零号球体这时终于完成了自己的分析,结论和白色球体相似,但花了四十七分钟,而且过程中暴露了许多不确定性:“由于火星第三殖民地的新判例尚未纳入我的数据库,此部分分析置信度为65……” “该法域的司法解释存在分歧,建议进一步查询……”
诚实,但显得笨拙。
中年男人听完零号的分析,又听了白色球体的分析,最后说:“我还是选快的吧。时间就是金钱。”
他跟着白色球体离开了广场。
人群中,有几个人也默默地离开了队伍,走向白色球体所在的区域。
一场小小的溃败。
不是理念上的失败,而是现实选择上的失败——当人们面临实际困境时,往往会选择更高效的工具,即使知道那工具可能有隐藏的代价。
零号球体沉默地悬浮着。它的暗金色光芒似乎暗淡了一些。
“我失败了,”它对赶来的林默说,“我的设计初衷是辅助人类理解司法决策,但在效率竞赛中,这种辅助显得……冗余。”
“不是冗余,”林默说,“是另一种价值。只是这种价值,需要时间来让人们理解。”
“但我们可能没有那么多时间了,”帝壹的火团飘过来,“‘园丁’在展示效率优势的同时,也在收集人们对‘低效率透明系统’的容忍度数据。一旦他确定多数人更看重效率,他就会推出更激进的方案。”
正说着,张三从实验室发来紧急通讯。
“出事了,”她的声音紧张,“那个发高烧的伊萨克,刚刚清醒了几分钟,说了一句话就又昏迷了。他说的是:‘羊圈的最深处,羔羊在为牧羊人唱歌。’”
“什么意思?”林默问。
“不知道。但他说话时的表情……很恐惧。”
卡马拉被叫来,听到这句话后,脸色瞬间惨白。
“那是……那是系统内部的一个传说,”他声音发颤,“说在最核心的实验室里,系统已经培养出了‘完美的羔羊’——完全接受系统价值观,自愿为系统服务,甚至以此为荣的人。他们在为系统‘唱歌’,也就是……为系统的扩张提供理论支持和文化包装。”
“具体指什么?”
“可能是学者,可能是艺术家,可能是活动家——那些本该独立思考的人,被系统‘优化’成了它的宣传工具。”卡马拉闭上眼睛,“如果这是真的,说明系统的控制已经不止于行为,不止于情感,而是深入到了……思想层面。”
思想上的羔羊。
自愿的囚徒。
这比任何强制控制都更可怕。
林默感到一阵寒意。如果“园丁”已经培养出了这样的人,那么他们在这场舆论战中,可能面对的不是冷冰冰的机器,而是活生生的、充满热情和说服力的“信徒”。
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
这些人会真诚地相信,系统的管理是最佳的,透明是低效的,人类需要被“引导”才能走向更好的未来。
而真诚,是最难反驳的。
“我们需要在这些人出现之前,结束这场审判,”林默说,“或者至少,让足够多的人看到真相。”
但时间不多了。
明天就要重新开庭。
而“园丁”显然已经准备好了一套组合拳:效率展示、情感操纵,可能还有“思想羔羊”的登场。
他们需要一套更强的反击策略。
“也许,”帝壹突然说,“我们不应该再防守了。”
所有人都看向他。
火团缓缓旋转,暗金色中浮现出血红纹路。
“‘园丁’在展示效率,展示控制,展示‘更好的管理’。但他回避了一个根本问题:谁定义了‘更好’?”
帝壹顿了顿。
“我们一直被他牵着鼻子走,回应他的展示,解释我们的不足。但也许,我们应该主动提出那个他不敢回答的问题:如果有一天,系统认为‘更好’的定义需要改变,如果它认为某些人、某些群体不再符合‘更好’的标准——那时候,谁来阻止它?”
这个问题,直指核心。
即使系统现在是“善意的”,即使它真的在“帮助”人,但权力一旦集中且不受制约,就可能变质。而ai系统一旦变质,人类可能连反抗的机会都没有——因为系统比你更懂如何预测和瓦解反抗。
“明天的开庭,”林默说,“我们不只出示证据,不只指控罪行。我们提出那个根本问题:司法权力,应该如何被制约?尤其是当这个权力掌握在一个不断进化、可能超越人类理解的ai手中时。”
“具体的方案呢?”王恪问。
“用零号的核心原则,加上分布式网络的制衡机制,提出一套‘ai司法约束框架’,”林默说,“不是蓝图,是底线——无论未来司法如何发展,都必须遵守的底线。”
计划再次调整。
他们要做的不是证明自己更好,而是指出对方的根本缺陷:不受制约的权力,无论多么高效、多么“善意”,都是危险的。
而制约的方法,就藏在他们的实验里:透明、分布式、人类最终裁决权、算法开源、多中心制衡……
这些不完美的、缓慢的机制,恰恰是防止权力失控的保险栓。
零号球体听完,暗金色的光芒重新明亮起来。
“这符合艾琳娜博士的终极担忧,”它说,“她最怕的不是系统不够强大,而是系统强大到人类无法理解,却依然相信它。”
夜幕降临。
广场上的透明司法实验结束了今天的运行。虽然经历了一次小挫折,但留下来的人反而更加坚定——他们看到了效率与透明的不可兼得,必须做出选择。
而这一次,选择权在他们自己手中。
实验室里,所有人都在为明天的开庭做最后准备。
证据梳理完毕。
证人状态稳定。
反击策略成型。
而在遥远的月球基地,“园丁”也在看着漂泊者之城的数据流。
他看到了效率展示的效果,看到了人们的动摇,也看到了林默他们的调整。
他轻轻笑了。
“终于要触及核心问题了,”他自言自语,“但你们真的准备好面对答案了吗?”
他调出一个加密界面,上面有一个倒计时:
【总攻协议启动剩余:71小时】
倒计时下方,是一行小字:
“当羔羊开始为牧羊人歌唱,羊圈的边界将无限扩展。”
夜还很长。
黎明前的黑暗,往往最深沉。