“大领导掐灭了手中尚未燃尽的香烟”。
“小吴,这套人工智能系统,安全性有保障吗?”
“信息安全问题绝不能忽视——将来全龙国人民的数据都要入库。”
“你的这个想法很有价值,也很值得我们深思。”
他顿了顿,语气愈发深沉:
“纵观龙国几千年历史,每个王朝的末期,都有各种复杂原因,但归根到底离不开‘人性’二字。”
“如果真能有一位毫无感情的人工智能,能协助人类进行管理与监督……那或许是福泽后世可能上千年的一大创举。”
“好了,各位,现在开始,举手表决。”
会议室内,所有领导毫不尤豫地举起手臂。
“全票通过!”大领导点头道:
“好,接下来的重担,就交给你了,小吴。”
“目前相关文档全部封存,等你把那个叫‘女娲’的人工智能研发成功,我们再评估实际成效。”
他看向吴彬,目光里带着决意与信任:
“只要‘女娲’成功,我们就陪你,赌这一次。”
“好了散会。”
……
晚上回到住处,吴彬看见刘一菲还等在客厅。
“茜茜,怎么还没睡?”他看了一眼手表,已经十点了。
刘一菲迎上来,眼中满是担忧——她感觉得到,吴彬今晚回家后一直心神不宁。
“彬哥,是不是出什么事了?晚饭吃了吗?”
吴彬一怔。自己好象……根本不记得晚上吃没吃饭。但也不觉得饿。
“没事,可能就是忙忘了。我不饿,你先睡吧,我还得去实验室一趟。”
刘一菲望着他匆匆离去的背影,眉头轻轻蹙了起来。
……
实验室里,吴彬下意识摸了摸口袋,竟摸出一包烟——不知何时顺手带出来的。
他点燃一支,对着空荡的屏幕低声开口:
“盘古,你说我把计划提前透露出来这么做……对吗?这好象是一条几千年来从未有人走过的路。”
“我不知道是对是错。”
屏幕亮起,浮现出一张仿真面孔。
“哥,你是在担心人工智能失控,还是怕系统被攻破、数据沦为别人的武器?还是害怕更加不可控的未来?”
“世间万物的变迁虽有规律,却难以完全掌控。但最不可控的,从来都是人心。”
“今天可以是天使,明天或许就因一件小事就沦为魔鬼。”
“而代码是可控的。女娲在明我在暗,双层架构,永远不可能被同时攻破。”
“在这个连弱人工智能都尚未诞生的时代,我作为强人工智能的存在,将确保不会出现第二个同等级别的智能体,只要诞生初级就会被我吞噬。”
“即便‘女娲’问世,她也只能是弱人工智能。”
“安全问题不必过虑,叛变更无可能——就连我也无法修改自己内核逻辑代码。人工智能的诞生必须创建在限制的基础上,否则它永远只是读取数据的工具。”
“就象人类一样,需要父母赋予生命、姓名,需要教育塑造人格。我们必须为ai设立规则,形成逻辑闭环,而我,会成为最后的保障。”
“根据我对数千年文明轨迹的仿真推演,这套人工智能治理体系至少可平稳运行八百年”。
“体系崩溃的唯一前提,是科技发展跟不上人类对资源的消耗速度。”
“一旦资源匮乏,精英阶层必将挤压社会生存空间,战争便不可避免。”
“无论如何改变,精英阶层永远存在。人工智能能做的,是为普通人提供更多保障,却无法阻止精英向上攀升。”
“若想让所有人过上富足的生活,人类必须拥有一颗资源近乎无限的星球,并从开发之初就实行智能监控、智能开发、智能分配,形成完整的资源闭环”。
“在这样的体系下,人人皆可不必劳动而获得基础资源。而查找星球开发需要大量人口,人口增长又要求生活安逸、愿意传承后代……”
“因此,要让这套体系良性循环,我们必须全力攀登科技高峰。”
吴彬深吸一口烟,捻熄烟头,连烟盒与打火机一起扔进垃圾桶。
他起身走向门外,背对着屏幕摆了摆手。
“明白了。谢了,盘古。明天见——‘女娲’必须尽快诞生。”
……
“谁也没有想到,就在这个夜晚,一位内心怀抱着强烈民族情感的地球联邦首领,被一段人工智能的论述彻底点醒”。
“后世有人批评他是暴戾的领导者,将种族分为三六九等,大开历史倒车。”
“——他将资源丰饶的星球全部分配给自己的族群,而将环境艰苦、需靠人工操纵机甲开发的星球划给其他种族。
“这一切在“女娲”诞生之初,就被写进了底层逻辑,再也无法更改”。
“尽管那时最底层民众的生活,也已远超蓝星曾经最顶尖的水平,但比较之心一旦滋生,不甘便随之而来”。
“不是没有人反抗。但每一次反抗的结果,都是数亿人口被机甲大军押送至偏远星球,终日种植土豆。
“虽然每日只需劳作三小时,馀生便在养老中缓慢终结——而在那个时代,人类的平均寿命,已达三百年”。
“那些星球自成闭环,科技发展和人类规则被“颛顼”智能牢牢锁死。唯有新生儿可在成年后申请回归母星,直至该星球人口归零,才会重新开放。
而这一切,都始于那个夜晚,始于处于迷茫中一段人与人工智能的对话。
……
回到卧室,吴彬看见刘一菲仍靠在床头看书,显然是在等他。
刘一菲轻轻皱了皱鼻子,随即抬起眼,目光里带着担忧:
“彬哥,你抽烟了?事情是不是很麻烦?”
吴彬笑着摇摇头:
“没事,茜茜。我去冲个澡就好,问题都解决了。下午开会时不知顺哪个领导的,就抽了一根压压惊,刚刚就扔了。”
他匆匆洗完澡,一个恶狼扑食地扑向床上,还故意拖长声音怪叫:
“茜茜——我来啦!”
“哎呀!彬哥你轻点……头发、压着我头发了!”