凌晨一点四十七分。我盯着屏幕上的第七版合同,光标停在第三十二页那个新冒出来的“可”字上。甲方把“平台应当对算法推荐结果进行人工复核”改成了“平台可对算法推荐结果进行人工复核”。就一个字。我眼睛干得像砂纸,但后背全是冷汗。
这一个“可”字,值多少个亿,甲方爸爸大概不知道。我知道。上个月刚判的那个案子,某短视频平台就是因为“可”没有“应当”,法院认定它没有强制审核义务,结果罚了不知道多少。我存了那个判决书截图,在微信收藏里,分了三个标签:“算法”“避风港”“老板问过”。
但这不是今天最让我血压高的事。
今天最让我血压高的是——老板下午六点多在群里@我,说:“小李,那个算法治理的合规方案,你晚上搞定,明早客户要。”然后配了一个咖啡的表情。我看了看我桌角那碗没吃完的黄焖鸡米饭,汤已经凝成冻了。保温杯里的枸杞——算了不说了,泡了三天了,颜色跟隔夜茶一个样。
所以当你说“算法治理”四个字的时候,我脑子里蹦出来的不是什么学术框架。是七版修改意见、十七条未读语音、二十三个被算法治理条款折腾到想摔电脑的深夜。
一、那个“可”字,和那条六十秒的语音
说实话,算法治理这个词,听起来特别宏大对吧。我第一次听到的时候还以为是搞什么数字宪法。后来发现,落到我们这些法务助理手上,就是一个个具体的、让人想骂人的条款。
甲方第七版修改意见里那个“可”字,我把它改回“应当”。然后我截图,发到项目群里,@项目经理说:“这个不能改,改了合规风险很大。”项目经理回了一个“嗯”,然后说:“客户说可不行,你给他们解释一下。”
解释。好。我最喜欢解释了。
我花了一个小时,写了一段话,引了《互联网信息服务算法推荐管理规定》第十七条,引了《个人信息保护法》第二十四条,引了上个月那个判决。然后删了。因为我知道,发过去之后,对方那个97年的法务专员会回我一个“收到,我们再研究研究”,然后下个版本又把“应当”改成“可”。
这不是我悲观。这是经验。

说到经验——上周二晚上十一点半,手机震了。不是地震。是当事人发来的语音方阵,十二条,每条六十秒。我闭上眼都知道内容是什么:“李律师啊,那个平台把我的账号限流了,说是什么算法规则,我根本不知道什么算法啊,我就是一个卖土特产的,它凭什么不让我卖啊,你说这个算法是不是违法的啊你说是不是啊……”
我打了三个字:“在的,姐。”删了。又打:“姐,明天上班回复您。”又删了。最后打了:“收到,我明天研究一下平台规则。”发了一个微笑的表情。我知道那个表情在法律行业里代表什么。代表“我已经活了,但还没死透”。
二、算法治理不是什么顶层设计,是你手上那沓没归档的卷宗
我工位左边那摞卷宗,最上面那本是关于一个电商平台算法歧视的。原告是几个小商家,说平台用算法给他们分配流量的时候搞暗箱操作。我看了一下午,发现最核心的问题根本不是算法本身。是合同。
平台用户协议第九条第三款:“平台有权根据算法规则调整用户内容的展示范围。”没有告知,没有说明,没有“显著方式”通知。我翻了翻《个人信息保护法》第十七条——哦,第十七条第一款说“个人信息处理者在处理个人信息前,应当以显著方式、清晰易懂的语言真实、准确、完整地向个人告知”。显著方式。清晰易懂。真实准确完整。
你知道我看到“显著方式”四个字时在想什么吗?我在想我们客户的App弹窗,那个弹窗小得跟蚂蚁一样,手指点上去都容易点错,然后它就默认你同意了。这叫显著方式?我要是法官我都不信。
但最搞笑的不是这个。最搞笑的是,这个案子开庭前三天,平台那边突然提交了一份“算法规则说明”,洋洋洒洒二十页。我看了三遍,看明白了——它把原来的推荐逻辑包装成了一个“优化用户体验的智能方法”,然后说“该规则不构成对用户权益的实质影响”。
不构成实质影响。那原告那些商家营业额掉了百分之六十,叫不构成影响?我有时候真的觉得,算法治理这个词,在某些人手里,变成了一个文字游戏。你拿它没办法,因为它藏在代码里,藏在用户协议里,藏在“优化体验”这四个字后面。

三、算法治理的核心矛盾:合规成本谁出,出事谁担

不过话说回来,算法治理这摊子事,最让人头秃的不是法条本身,是责任的边界。
你想想,一个推荐算法,工程师写的时候不知道它后面会干什么。运营调参的时候不知道它会不会搞出歧视。产品经理只看留存率。等到出事了,问你:“这个责任谁担?”
我去年跟过一个项目,客户是一个做在线教育的。算法给学生推荐课程,用的是“学习行为数据分析”。听起来很正当对吧。结果有人发现不同地区的学生收到的推荐价格不一样——虽然他们说“不是价格歧视,是优惠策略差异”。但法律不看你叫什么。法律看你干了什么。
那个项目最后开了三次会。第一次,算法负责人说:“这是商业模型的事,不是法律的事。”第二次,法务老大说:“我们最好做合规审计。”第三次,老板说:“审计要花多少钱?能不能先出一个免责声明?”
免责声明。我听到这四个字的时候,脑子里只有一个画面——我上个月打印判决书的时候卡纸了,卡在“应当承担侵权责任”那一页,打印机发出一种很绝望的嘎吱声。
算法治理说到底,就是在这个环境里找平衡。你写一个合规方案,写得再漂亮,最后落地的时候,会被人改成“可”而不是“应当”,会被人问“能不能先免责”,会被人说“这个风险你担一下”。
我担。我凭什么担。我一个月工资交完房租就剩不下多少,你让我担算法合规的无限责任?
但话说回来——这就是这行的真实生态。你在CBD写字楼里加班,日光灯管嗡嗡响,外卖盒堆了两三个没扔,打印机的墨盒换了四次。你手里的《算法推荐合规指引》第3.2.1条,和客户微信对话框里那句“这个没问题的对吧”,永远隔着一百个“差不多就行”。
我现在写这个方案,写到第三十二页,那个“可”字改回“应当”了。但我知道,这不算完。甲方还会发第八版。项目经理还会说“你再解释一下”。当事人还会发语音方阵。而算法还在那里,安安静静地,跑着它自己的逻辑。
所以算法治理到底是什么?对我来说,就是那个深夜看到“可”字时,后背一凉的那个瞬间。是那个知道事情会变成这样、但还是得改的那口气。是打印到一半卡纸时,我骂的那句脏话。
不崇高。不深刻。但很真实。
我先去把黄焖鸡热一下。已经凌晨两点了。对话框里客户又发了条消息,我没点开。但我猜得到——要么是“第八版意见”,要么是“那个算法的条款,我们还想再聊聊”。
行吧。来吧。