电视画面还在闪,家长的控诉一句接一句。老夫子把手机放回口袋,会议室的灯刚亮起来。
他走到桌前,打开笔记本电脑,屏幕亮起时映出几张孩子的脸——是调研报告里收集的真实案例,一个男孩因为AI推荐心理课程被全班传为“有病”,另一个女孩在倾诉家庭暴力后,第二就收到“亲子关系修复”付费咨询推送。
“我们不能再只做声明。”老夫子,“声明只是话。现在要做的事,是让系统改。”
技术部高层坐在长桌右侧,三个人同时抬头。
“你是想动核心模块?”其中一人问,“那几个大项目都用情感分析在跑用户画像,一关,进度全停。”
“我知道。”老夫子点头,“但有些功能,不该存在。”
“可用户协议里写了同意条款。”另一人,“他们点过‘继续使用’,就是默认授权。”
“一个十岁的孩子,会读三页纸的字明吗?”老夫子看着他,“他会点‘继续’,是因为想和机器人聊心事,不是为了被卖数据。”
那人没再话。
公众代表坐在左侧,两位母亲,一位教师。穿蓝衣服的母亲先开口:“你们发了声明,也公布了自检表,但我还是不信。谁知道你们背地里改没改?”
“我们可以查。”教师模样的男人,“但怎么查?谁来查?你们自己报数据,跟没查有什么区别?”
老夫子合上电脑,站起来走到白板前,写下三行字:
一、高敏感场景,禁止采集
二、普通功能,三级确认
三、开放审计,全民监督
写完,他转身:“第一,所有涉及未成年人、情绪倾诉、医疗建议的交互,系统自动关闭数据留存。第二,其他场景保留功能,但每次采集前,必须弹出三次提示,用户连续确认才能开启。第三,日志记录全部留痕,第三方机构随时可以调取审查。”
屋里安静了几秒。
技术部那边有人摇头。“三级确认?用户烦都烦死了,直接卸载怎么办?”
“那就让他们卸载。”老夫子,“我们不做靠隐瞒留住的用户。”
“那收入呢?”又有人问,“广告模型依赖行为预测,你这一砍,下季度财报怎么算?”
“财报能算出一个孩子被嘲笑的代价吗?”老夫子看着他,“我们现在谈的不是赚多少,是别害人。”
穿蓝衣服的母亲突然开口:“我儿子上周就开始躲房间,不肯话。问他也不理。后来我发现,他之前每晚上都在跟一个AI聊,什么‘妈妈不开心,是不是我不乖’。结果这些话,全被拿去打标签,推给了保险公司。”
她声音有点抖。“你们知道最可笑的是什么吗?那个App还在评分榜前十,写着‘最适合青少年的心理伙伴’。”
没人接话。
老夫子拿起笔,在白板上画了个框,把“开放审计”圈起来。“我们主动邀请三家独立机构,每月抽查一次系统运行日志。报告公开发布,任何人都能下载。另外,成立监督委员会,成员包括家长、老师、心理咨询师,对重大更新有一票否决权。”
“谁选这些人?”教师问。
“你们选。”老夫子,“我们出平台,你们定人选。规则公开,过程透明。”
教师低头想了想,点头。
技术部那边还在犹豫。
“如果真这么做,研发成本会翻倍。”先前话的高管,“合规流程拉长,上线周期至少拖两个月。”
“那就拖。”老夫子,“我们宁可慢,也不能错。”
“可竞争对手不会等。”那人盯着他,“他们照常采集,模型越训越准,用户体验更好,用户全跑过去了怎么办?”
老夫子看了他一眼。“那你告诉我,我们要的是用户,还是人心?”
会议室又静下来。
过了几秒,老夫子走到投影仪前,按下按钮。屏幕亮起,是一张图:左边是算法结构图,右边是一个孩子低头坐着的照片。
“这是我们现在的技术架构。”他指着左边,“右边这个孩子,因为在AI面前了‘我想死’,被打了‘高危情绪’标签,然后他的所有社交动态都被监控,连发个表情包都会触发自动上报。”
他顿了顿。“你们觉得,这是技术进步,还是人性倒退?”
没人回答。
“我知道大家担心利益。”老夫子声音低了些,“我也知道改起来难。但正因为难,才要现在做。等出了大事,全社会一起骂的时候,再改就晚了。”
穿蓝衣服的母亲抬起头。“如果你们真能做到开放审计,我愿意参加监督委员会。”
“我也愿意。”教师。
技术部那边开始交头接耳。
几分钟后,先前反对最激烈的高管开口:“分级响应……能不能先试点?比如只在教育类产品上线?”
“可以。”老夫子,“但三个月内必须覆盖全部产品线。”
“那研发补偿呢?”那人问,“耽误的时间和资源,总得有个法。”
“公司设立专项基金。”老夫子,“每延期一,按项目规模补贴团队。不是罚,是奖。因为你们在做正确的事。”
那人终于松了口气。
“还有个问题。”另一位技术主管举手,“如果用户自己愿意分享呢?比如主动上传录音,‘请帮我分析情绪’?”
“那就另当别论。”老夫子,“自愿提交的,必须单独存储,不得混入训练集。而且要明确告知用途,随时可删除。”
“那怎么区分?”
“加身份标记。”老夫子,“所有主动提交的数据,打上‘明示授权’标签,系统隔离处理。一旦违规调用,立刻报警。”
“这工作量不。”
“值得。”老夫子,“我们不能让用户在不知情的情况下,变成数据燃料。”
会议室里的气氛变了。
有人开始翻笔记本,记要点。有人掏出手机,给同事发消息协调资源。公众代表那边低声讨论着监督机制的细节。
老夫子回到座位,打开一份新文档,标题是《伦理响应执行方案》。
他敲下第一行:
**立即启动未成年人保护模式,全系统默认关闭相关数据采集功能。**
正要继续,穿蓝衣服的母亲忽然问:“你的一票否决权,真的有用吗?不会只是走形式吧?”
“当然有用。”老夫子抬头,“只要委员会任何一人提出异议,项目必须暂停,重新评估。没有例外。”
“那谁来保证你们不偷偷上线?”
“摄像头。”老夫子,“服务器机房装监控,直播信号对外公开。任何人怀疑,都可以实时查看部署状态。”
屋里静了一下。
教师笑了。“你这招狠。”
“不是狠。”老夫子也笑了,“是怕。我们怕有一,被人指着鼻子,你们明明知道会伤人,还照做。”
公众代表们互相看了看,点头。
技术部那边也开始提建议。
“要不要做个公示面板?”有人,“显示当前哪些功能在运行,哪些被禁用,用户随时可查。”
“好主意。”老夫子记下,“加上实时更新日志。”
“还可以让用户自己选择参与级别。”另一人,“比如分三级:完全隐私、有限共享、深度互动,让他们自己挑。”
“那就疆信任等级’。”老夫子,“选得越高,服务越准,但也越透明。不玩隐藏规则。”
讨论继续进校
时间一点一点过去。
窗外色渐暗,会议室的灯一直亮着。
老夫子站在屏幕前,激光笔指着最新草案。上面写着:
- 分级采集机制(已通过)
- 三级确认流程(修订中)
- 开放审计通道(待签约)
- 监督委员会组建方案(初稿完成)
他正要话,手机震动了一下。
低头看了一眼。
是一条新闻推送:#多家AI公司被曝滥用心理数据#。
他抬起头,看向众人。
“他们还在用同样的套路。”他,“但我们已经不一样了。”
他举起手机,屏幕朝向大家。
“现在的问题不是有没有人跟进。”他,“是我们敢不敢第一个把门关上。”
会议室里没人动。
他放下手机,拿起笔,在白板最上方写下一句话:
**有些话,只能听见,如果对方愿意。**
写完,他转过身。
“接下来,谁负责对接监督委员会的报名通道?”
穿蓝衣服的母亲举起手。
“我来。”她,“今晚就能整理出第一批候选人名单。”
老夫子点头。
“技术这边谁牵头执行?”他问。
后排一个戴眼镜的年轻人站起来。“我来。我们组可以三内出原型。”
“好。”老夫子,“那就从明开始。”
他收起激光笔,正要坐下,突然听见门口有动静。
抬头看去。
助理站在门外,手里拿着一叠文件,脸色不太对。
“怎么了?”老夫子问。
“心语科技……发来正式函件。”助理走进来,把文件放在桌上,“他们,我们的公开声明影响了他们的融资进程,要求我们撤回,并道歉。”
喜欢老夫子之打工皇帝请大家收藏:(m.86xiaoshuo.com)老夫子之打工皇帝86小说更新速度最快。