2026-09-07 12:50:55 分类：案例研讨
上个月在高铁站碰到了老熟人张师傅，他蹲在吸烟区抽烟，脚边放着外卖箱，脸拉得比驴长。
问了半天才说，攒了半年钱买了辆新能源，想闲了跑网约车赚点月供，注册的时候填完信息，三秒钟就给拒了。
找客服问原因，绕来绕去不说人话。
最后托了个圈内朋友打听，才闹明白——五年前刚出来打工的时候，张师傅一张信用卡晚还了三天，就三天，滞纳金都交了，钱早就清了。结果这个事被算法扒出来，直接给贴了个“信用不良高风险”的标签。
不光网约车跑不成，他手机里的共享单车月卡，都比同事贵五块钱。
算法标签是隐形的，歧视就是无声的。你连什么时候被贴了标签都不知道，更别说反抗了。
看不见的歧视，才最棘手
很多人对算法歧视的印象，还停留在招聘网站只给男性推高薪岗位那个旧案子里。
现在呢？早就变了。
算法已经把人群拆得稀碎，从征信记录到打车路线，从你买东西用不用优惠券，甚至你手机是什么型号，都能变成歧视你的依据。
前年碰到过一个姑娘，因为常年在挂号平台搜妇科病，结果买保险的时候，算法直接给她加了三成保费。她找保险公司说理，人家说我们是按风险定价，不算歧视。
网约车司机注册算法审核后台界面
说实话，这种事最憋屈。
明面上的歧视，你能拍桌子骂，能找记者曝光。这种藏在黑箱里的歧视呢？
平台说我们都是系统自动算的，没有人工干预，所以不存在歧视。
没有人工干预，就等于不用负责吗？
哪有什么完全自动的算法，还不是人喂进去的数据，人定的规则。
算法歧视治理，实操卡在哪了
不是没有法律管。《个人信息保护法》专门写了，不得利用个人信息进行自动化决策，对个人在交易价格等交易条件上实行不合理的差别待遇。去年新出的AIGC管理办法，也把算法歧视列成了红线。
但落到实操层面，全是坎。
第一个坎就是举证难。
你说算法歧视你，你拿出证据来啊。
算法规则是平台的核心商业秘密，不可能给你看。你连算法给你贴了什么标签都看不到，怎么打官司？
张师傅折腾了一个多月，连一份能证明自己被歧视的书面材料都打不出来。
第二个坎就是违法成本太低。
之前那个招聘平台算法歧视的案子，罚了多少？五十万。
对一年赚几百亿的平台来说，不就是两杯奶茶钱？连疼都不会疼，谁会真的改？
个人信息保护法算法歧视条款纸质文本
不过话说回来，也不是完全没进展。去年浙江有个小伙子，发现自己买机票比常驻地的用户贵，因为平台算法给他贴了“高消费出差用户”的标签，直接起诉了，最后赢了，拿了五百块赔偿。
钱不多，但是破天荒。
这是第一个法院明确认定平台算法差别定价侵权的判决，至少说明，法院认这个事，算法歧视真的能告赢。
治理不能飘在天上，得落在普通人身上
治理不能飘在天上，得落在普通人身上
现在一提算法歧视治理，很多人开口就是大模型伦理，就是数据安全，喊出来的口号都很大。
我反倒觉得，最该先管的，就是张师傅遇到的这种小事。
就是这些压在普通人身上的一根根小稻草，攒起来就是对整个算法规则的不信任。
要我说，其实不用一上来就要拆了整个黑箱，那也不现实，毕竟平台确实有商业秘密要保护。
先做几件小事行不行？
第一，给每个被系统拒绝的人，开一个免费人工复核通道。系统判了不行，你得让人找个人问问，为什么不行，给个明确说法，不能全让系统当挡箭牌。
第二，把算法标签的查询和删除权，真正落到个人头上。我有权知道你给我贴了什么标签，错的标签，过时的标签，我有权要求你删掉。就像张师傅那个五年前的迟还款，早就结清了，凭什么还拿出来卡人？
第三，罚就要罚到疼。别管平台多大，一次违法就罚到他舍不得，下次才不敢随便乱贴标签。
张师傅现在还在等平台的复核结果。他说我就是要个说法，我又没真的赖过钱，凭什么一辈子背着这个标签？
法律其实也和张师傅一样，在这块陌生的地方一步步摸着走。哪有什么完美的规则，都是跟着普通人遇到的坑，一点点改出来的。
对吧。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。如有侵权请联系删除。
文章名称：算法歧视治理：困在隐形标签里的普通人
文章链接：https://m.wuhanlihunlvshi.com/cases/1708.html
