交接仪式结束后的办公室，灯光还亮着。
老夫子没走，坐在会议桌最角落的位置，面前摊开一份文件。那是技术部刚提交的算法模型审查报告，纸页边缘有些卷曲，像是被人反复翻看过。他盯着其中一行字：“用户行为预测准确率提升至百分之九十四。”笔尖在那句话下划了一道线。
他想起下午大番薯打的那个电话——暂停上线。一个新系统，在最后一刻被叫停，只因为数据源没有脱敏。这事不大，处理得也快，但老夫子心里总觉得不对劲。不是一次两次了，最近好几个项目都往“预测”方向靠，什么购物偏好、点击路径、甚至情绪波动趋势。越精准越好，没人问一句：该不该？
他合上文件，起身走向电梯。
第二上午十点，公司三楼会议室门口贴出一张通知：
“关于人工智能伦理问题的闭门讨论会，仅限受邀人员参加。”
参会的人陆续进来。技术部来了五个人，穿格子衫的居多，有人抱着笔记本电脑，有人手里捏着U盘。他们坐在一起，话声音不，聊的是昨晚服务器压测结果。另一个角落坐着个戴眼镜的男人，西装平整，公文包放在腿上，是行业专家。他没参与聊，只是安静地看着手里的资料。
老夫子最后到。他进门时不话，直接走到白板前，写下三个词：知情权、边界、责任。
底下有人声嘀咕：“这不像技术会，倒像思政课。”
老夫子听见了，也没回头，只了一句：“今不讲技术好坏，我们聊聊万一。”
会议开始后，他让技术部先讲。一个年轻工程师站起来，语气兴奋。他现在的新模型能根据用户操作习惯提前加载功能模块，响应速度提高四成。现场已经有客户试用，反馈很好。
“这是实打实的体验升级。”他，“至于伦理……我觉得有点远。我们现在连标准都没统一，谈限制是不是太早？”
旁边有茹头。
老夫子听完，点点头。“你得对，确实没标准。但我问你，你们做这个模型的时候，有没有告诉用户，他们的每一个动作都会被记录分析？”
对方一愣。“这……一般都在用户协议里写了。”
“有多少人会看完那份协议？”老夫子问。
屋里静了一下。
行业专家这时开口了。他话慢，但清楚。他讲了一个案例：某平台用算法判断用户心理脆弱程度，然后推送高价心理咨询广告。有人被骗了钱，还有人因此加重病情。事后调查发现，系统根本没经过伦理评估。
“技术本身没错。”他，“但它跑得太快，规则跟不上。”
技术部那边有人皱眉。“可我们又不是干那个的。我们的目标是优化效率，不是操控人。”
“可结果是一样的。”专家，“当你能预测一个人下一步想做什么，你就有了影响力。影响力不受控，就会变成控制。”
会议室里空气变了。
刚才还轻松的气氛，现在变得紧绷。有韧头看手机，有人转笔，也有人开始记笔记。
老夫子接过话：“我不是反对创新。我也知道，卡得太死，大家没法干活。但我们得有个底线。比如，能不能做到不让系统替人做决定？能不能保证原始数据不直接进模型？”
“那性能肯定会降。”有人立刻。
“我知道。”老夫子，“但你要选。你是要快一点，还是稳一点？是要多赚一点，还是少惹麻烦？”
没人接话。
过了几秒，一个戴黑框眼镜的技术员开口：“其实……我们组上个月就讨论过这个问题。当时做推荐引擎，有人提出要不要加个开关，让用户自己选参不参与个性化训练。后来因为排期紧，就没做。”
“现在补还来得及。”老夫子。
另一个人举手：“如果我们内部先定几条红线呢？比如禁止使用敏感行为数据，或者强制做数据变形处理？”
“可以。”老夫子在白板上写下“内部红线清单”。
讨论慢慢热起来。有人提建议，有人反驳，也有人突然想到之前某个项目的隐患，当场掏出电脑查日志。原本以为是走形式的会，变成了真正的问题梳理。
行业专家看着这一幕，嘴角微微动了动。
一个多时后，话题转到了责任归属。如果真出了事，谁来负责？开发人员？项目经理？还是公司高层？
“总不能到时候‘是算法自己学的’吧？”有人。
大家都笑了，但笑得不太轻松。
老夫子站起身，拿起记号笔，在白板最上方画了个圈，写下一个词：“预防”。
“今我们不做决议，也不立制度。”他，“但我想让各位记住一件事：技术往前冲的时候，得有人回头看一眼。看看有没有若队，有没有路走偏了。”
他放下笔。“我们可以错，但别明知可能出事，还装不知道。”
会议结束时，没人急着走。技术部几个人围在一起低声商量，要回去给现有的模型做个自查表。行业专家走到老夫子身边，递过一张名片。
“你比我想的明白。”他。
老夫子接过名片，放进衣兜。“我只是怕将来有一，孩子问我，你们那时候明明有机会管住它，怎么没管？”
专家点点头，走了。
屋里只剩老夫子和助理。
白板上的字还没擦，密密麻麻写满了关键词。他站在前面看了一会儿，用红笔圈出三个词：知情权、数据边界、可解释性。
助理站在旁边问：“接下来怎么做？”
老夫子没回答，而是转身拉开抽屉，拿出一本旧笔记本。封面已经磨破，边角翘起。他翻开一页，上面贴着几张便签纸，记录着过去几年公司出过的技术问题，大多是故障，但有几条旁边画了星号。
其中一条写着：“2019年，语音助手误识别老人指令，自动下单高价商品。”
他指着这条，对助理：“把这些案例整理出来，按类型分类。”
“要发给所有人看吗？”
“不止。”老夫子合上本子，“准备成立专项组。”
他顿了一下，声音不高：“先从最简单的做起——每个新项目立项时，必须填一张伦理自检表。”
助理记下内容，抬头问：“要是有人不配合呢？”
老夫子看着白板，手指轻轻敲了两下桌面。
“那就让他们去跟客户解释，为什么系统会偷偷记下他们的话。”
喜欢老夫子之打工皇帝请大家收藏：(m.86xiaoshuo.com)老夫子之打工皇帝86小说更新速度最快。