5分钟生成假新闻5亿阅读，社交平台责任几何？

（本文作者陈宏民，上海交通大学行业研究院副院长）

社交平台的双刃都在变得锋利

社交平台是把双刃剑，这一点在今天已无需论证。真正值得警惕的是，随着媒体平台化和算法能力的快速迭代，这把剑的两面刀刃都在变得越来越锋利。

正面的一面，我们看到算法推送让民生诉求突破圈层。深圳市民“卷尺哥”自2023年3月以来在抖音发布千余条实测市政设施问题的短视频，深圳相关部门“闻令而动”，多数问题很快整改，有的连夜施工、第二天就解决。深圳市政府甚至建立了“未诉先办”机制，主动切入40多个互联网平台，已主动发现线索17万条；

反面的一面，2025年3月，一则“有顶流明星在澳门输了10亿”的假新闻在微博、小红书阅读量突破5亿，事后查明是网友用AI工具、输入热点关键词自动生成，全程不足5分钟。有MCN机构被曝日均生成4000至7000篇AI假新闻，通过算法精准推送牟利。多家社媒平台接连被有关部门约谈，原因正是“越骂越推、越推越骂”的恶性循环——算法将诸多不良内容包装成社会热点，持续投喂偏好用户，形成密不透风的“情绪茧房”。例如一位用户观看“职场性别歧视”内容后，平台便不断推送类似案例，久而久之其所见的“世界”只剩这一种叙事。

两面刀刃同时变锋利的根源，在于平台化舆论场的底层逻辑发生了质变。传统媒体时代，编辑决定“什么重要”；平台时代，算法决定“什么会被点击”。算法不判断公共价值，它优化的是停留时长和互动率。一篇政策解读在参与度竞赛中系统性输给一条冲突视频，不是偶然，而是设计使然。更关键的是，平台同时掌握用户行为数据、社交关系和内容库存——它不仅知道“什么在传播”，还知道“谁容易被什么打动”。这种知识在传统媒体时代分散在无数编辑手中，如今集中于少数平台的推荐系统之内。舆论权力与数据权力合流，可见性的分配标准被平台单方面掌握。

难点：“裁判员—运动员”困境

舆论场的算法权力之所以难以制衡，根源在于平台占据了一个在传统治理中本应被制度性拆解的位置：它同时是规则的制定者、规则的执行者和竞争中的利益相关方。

平台决定什么内容获得推荐、什么词条进入热搜、什么账号被处罚。这些决策在功能上类似传统媒体的编辑权，但传统媒体的编辑权受新闻规范、行业自律和出版法规的多重约束，而平台的算法规则多以“商业机密”为由拒绝公开，决策逻辑嵌入代码之中。在商业层面，平台又是流量经济的直接受益者：用户停留越长、互动越激烈，广告收入越高。这意味着平台在“治理”部分内容时可能面临内在的利益冲突——完全清除会损害商业模式，放任不管又会引发监管压力。

电商领域同样如此。平台既是交易规则的制定者，亦或从违规交易中获得分成，其整治决心难免令人生疑。搜索降权、大数据“杀熟”等乱象随之而来。更深层的问题在于，平台的算法规则不仅决定谁赢谁输，而且决定“什么算作比赛”：什么内容被定义为“有害”，什么行为被定义为“违规”，什么话题被定义为“热点”。当骑手因系统判定的“超时”被扣款时，他面对的不是一个可以申诉的工头，而是一个由平台单方面设定参数、单方面执行、单方面解释的自动化系统。

破题：历史路径及其比较

“裁判员—运动员”困境并非无解。体育、公共资源交易、金融监管等领域积累了若干制度工具，数字治理领域也出现了新的实验，路径各有侧重。

职能分离是最古典的制衡思路。在平台语境中，这意味着流量分配算法的设计不能由直接对广告收入负责的团队主导，内容审核标准不能由最关心用户时长的部门单方面设定。困难在于，平台经济的内在逻辑恰恰要求商业目标和治理目标一体化——推荐算法同时服务于用户体验、广告收入和内容安全，强行切割在技术和效率上代价高昂。但它是所有结构性改革的逻辑起点：不承认“运动员不应同时担任裁判员”，后续任何监督都只是对自我裁决的外部修补。

独立监督的代表如某平台的监督委员会。委员会由前国际法院法官、人权专家、学者和媒体代表组成，有权推翻平台的内容决策。这一“平台决策—外部复核—政策反馈”的嵌套结构确实缓解了合法性赤字。但边界同样清晰：委员会只能审查个案，无权审查算法设计本身，而算法设计才是内容分发权力的核心。它由平台自愿设立，管辖权来自平台授予，平台认为不应提交时委员会无从介入。独立监督提供了“外部声音”，但无法替代结构性的权力再分配。

算法透明是当前最可行的渐进路径。北京市网信办开展“清朗·网络平台算法典型问题治理”专项行动，聚焦6类典型问题27个检查项；抖音推出热点当事人核实机制，快手推出“信息茧房”自我评估和“一键破茧”功能；货拉拉公开分播单算法和降佣规则，美团公开订单分配和预估送达时间算法。但“可见不等于可问责”，透明化目前主要依赖平台自愿配合和监管专项行动，尚未形成稳定的强制义务。

几条路径并非互斥，而是分别针对困境的不同层面。

社交平台正在成为新的基础设施

走进智能社会，社交平台的重要性只会继续上升。随着新质生产力发展，新型生产关系也在形成之中；而舆论不是生产关系之外的“监督力量”，它本身就是生产关系的内在环节。但这种反作用力的方向是不确定的：它可能推动改良，也可能被流量逻辑吸收为又一轮情绪消费。决定方向的不是技术本身，而是制度选择。

第一财经一财号独家首发，本文仅代表作者观点。