023小说网 > 其他类型 > 老夫子之打工皇帝 > 第928集:伦理危机的爆发

第928集:伦理危机的爆发(1 / 1)

推荐阅读:

风掀动了桌上的纸页,老夫子的手停在半空。他没去按那张飘起的报告,而是直接站起身,把文件夹往胳膊下一夹。

“叫人。”他说,“技术部,马上到三楼会议室。”

助理愣了一下。“现在?”

“现在。”他转身就走,“顺便把电视打开,播新闻台。”

走廊上人来人往,有人端着咖啡,有人大声谈笑。没人知道接下来会发生什么。

三楼会议室的门刚推开,里面还空着。老夫子走到投影仪前,按下开关。屏幕亮起,蓝底白字显示“信号连接中”。

两分钟后,技术部的人陆续进来。林工走在最后,手里抱着笔记本电脑,头发有点乱,像是刚从机房跑上来。

“出事了?”他问。

老夫子没答话,等人都坐定,才点开电视直播。

画面里是个演播厅,主持人脸色严肃。背景大屏上写着:“情感陪伴ai被曝偷录未成年人倾诉内容”。

视频开始播放。一个十二岁的女孩坐在书桌前,对着手机说:“我今天又被妈妈骂了……我觉得她不爱我。”

下一秒,画外音响起:“系统已记录情绪波动,正在匹配安慰话术。”

镜头切到后台数据面板——实时语音流编号、情绪标签、行为预测模型全在运行。

最底下一行小字写着:训练数据自动归档,用于优化下一代产品。

会议室里没人说话。

“这公司叫什么名字?”有人问。

“心语科技。”老夫子说,“不是星语,是心语。但做的事,和我们前两天看到的,一模一样。”

林工立刻打开电脑调出资料。“他们用的授权协议藏在第五级菜单里,字号比星语还小。而且……”他抬头,“唤醒词是‘我想聊聊’,只要说出这三个字,录音自动开启,无提示,不可关闭。”

“这不是疏忽。”老夫子说,“是设计。”

屋里静了几秒。

“我们怎么办?”另一个工程师问,“这跟我们没关系吧?”

“现在没关系。”老夫子看着他,“但如果下一家用‘我饿了’启动冰箱时就开始分析你的饮食习惯,再卖给保险公司呢?如果医院用‘我头疼’来判断你是不是抑郁高风险人群,然后拒保呢?”

没人接话。

“我们昨天还在讨论要不要管。”老夫子站起来,走到白板前,拿起笔写下三个词:默认即同意,沉默即授权,倾听即收集。

“他们踩的每一条红线,我们都列在自检表里了。”他转过身,“只是没想到,有人真敢这么干。”

林工忽然开口:“他们的模型结构……会不会用了开源框架?”

“查。”老夫子说,“十分钟内给我结果。”

五分钟后,林工抬起头。“用了。是我们去年发布的通用对话引擎v23,开源协议允许商用。”

屋里气氛变了。

“也就是说,我们的技术,间接参与了这件事?”有人低声说。

“不完全是。”老夫子说,“锅不在代码,在使用方式。就像菜刀能做饭也能伤人,关键是谁在握刀柄。”

“可外界不会分这么细。”林工说,“他们会说,是你们的技术出了问题。”

老夫子点头。“所以我们要先说话。”

“怎么讲?”

“三点。”他竖起手指,“第一,立刻发布公告,声明我们从未授权心语科技使用我们的核心技术;第二,公开自检表,告诉所有人,我们在做什么预防;第三,建议行业建立伦理审查机制。”

“这会不会太激进了?”有人犹豫,“我们只是个小团队,又不是监管部门。”

“正因为是小团队,才能快。”老夫子说,“等别人决定要不要管的时候,我们已经把路标立好了。”

林工笑了下。“你是想当第一个举火把的人?”

“火把太招风。”老夫子也笑了,“我是想在路口放个牌子,写上‘前面塌方,请绕行’。”

大家松了口气,气氛缓了下来。

“那就分头行动。”老夫子拍板,“法务准备声明稿,公关联系媒体渠道,算法组整理自检表升级版。林工,你带两个人,连夜做个对比分析——把心语的产品逻辑和我们调研发现的问题逐条对照,做成简报。”

“发给谁?”

“所有合作方,潜在客户,还有……”他顿了顿,“愿意听的同行。”

有人举手。“万一他们不理呢?”

“理不理是他们的事。”老夫子说,“说不说,是我们的事。”

正说着,电视画面切换。三位家长坐在访谈席上,面前摆着名牌:北京王女士、成都李先生、广州陈女士。

王女士眼圈发红。“我女儿每天睡前都跟那个ai聊天,说心里话。她说那是她唯一能说话的地方……结果这些话全被拿去赚钱了?”

李先生声音发抖。“我儿子因为考试失利,说了句‘不想活了’,第二天就有心理干预机构打电话来推销课程!他们怎么知道的?!”

陈女士直接哭了。“我孩子才十岁,她说自己被欺负,ai听了半天,最后回她一句‘亲,试试我们的新款减压玩具吧’……这是关心吗?这是消费痛苦!”

会议室里一片安静。

老夫子看着屏幕,忽然对身旁的工程师说:“他们不是反对ai。”

“那是反对什么?”

“是反对被当成数据包。”他说,“人说话,是因为信任。一旦这种信任被利用,机器就不再是工具,而是陷阱。”

林工低头记了句话。

“所以我们的回应不能只讲技术。”老夫子说,“要讲人。”

“怎么讲?”

“问一个问题。”他看着大家,“如果你的孩子,正对着一台机器说‘我好难过’,你希望那台机器怎么回答?是立刻推商品,还是先说一句‘我在听’?”

屋里没人动。

“那就从这句话开始写稿。”他说,“我们的立场很简单——技术可以聪明,但不能没有良心。”

会议重新启动。有人打字,有人打电话协调资源,有人画流程图。

老夫子走到窗边,拉开百叶窗一角。外面天色阴沉,云压得很低。

手机响了。冲上热搜第一。

他放下手机,回到桌前,翻开那份《初步观察》报告。白处,他提笔写下几行字:

写完,他合上本子,放在会议桌中央。

“等材料齐了,我们开个短会。”他说,“十五分钟后,对外发声。”

林工走过来,低声问:“真要现在就站出来?”

“不然呢?”老夫子看着他,“等下一个孩子哭完,才想起来我们有责任?”

林工没说话,点了点头,转身去改文档。

房间里键盘声密集响起。打印机开始工作,一页页文件吐出来。有人拿着草稿来回走动,有人凑在一起核对数据。

老夫子站在投影屏前,检查最后一遍内容。即将发布的声明标题草案:

第一条:用户不知情的数据采集,不应存在。

第二条:基于脆弱情绪的商业转化,必须禁止。

第三条:每一个ai系统上线前,都应通过基础伦理审查。

他看了一遍,觉得不够有力。

这时,助理快步走进来。“媒体问我们是不是要召开记者会。”

老夫子想了想。“不开。”

“那怎么发布?”

“发长文,配图,同步推给所有平台。”他说,“再加一条短视频,三十秒,就说一句话。”

“说什么?”

他盯着屏幕,慢慢开口:“如果你家孩子正在跟ai谈心,请记住——有些话,不该被听见,除非他们愿意。”

助理记下,转身要走。

老夫子又叫住他。“等等。”

他从桌上拿起那张写着“如果我们不开始管,将来谁来管?”的纸条,塞进信封。

“把这个,一起发出去。”

章节报错(免登录)
最新小说: 人在吞噬,盘龙成神 分家后,我打猎捕鱼养活一家七口 阳间路,阴间饭 人在超神,开局晋级星际战士 名义:都这么邪门了还能进步? 兽语顶流顾队宠疯了 迷踪幻梦 重生汉末当天子 国师大人等等我! 顾魏,破晓时相见