华东师范大学教授张容南：AI时代如何守护人类尊严

9月12日，2026 Inclusion·外滩大会“AI浪潮下的智能替代与螺旋上升”见解论坛在上海黄浦世博园区召开，本场论坛由复旦大学哲学学院与第一财经联合主办，华东师范大学哲学系教授张容南发表主题演讲，题为《人工智能时代如何守护人类尊严》。

张容南表示，现在技术正在不断跨越过去属于人类的边界。AI越是模仿人、像人一样行动，我们就越要警惕一个风险：不要反过来把人降格，用机器的标准去衡量人。

AI会通过哪些方式损害我们的人类尊严？张容南将其归纳成三类风险：第一，人的主体性被算法剥夺；第二，人类独特的劳动经验被提取、复制；第三，真实的人际关系被技术替代，带来关系性贬低。

对此，张容南认为人类需要一套可以落地的尊严评估机制，并将其总结为以下七项原则：

第一，人类主导权原则。司法、医疗、招聘这些对人影响重大的关键决定，必须保留人类复核节点。算法给出的结论是可以被纠正的，当事人可以找到具体的责任主体进行申诉，不能把全部决策权交给黑箱算法。

第二，数据自决原则。采集生理、神经、情感这类高度敏感的数据，一定要做到具体、知情、可以随时撤回同意。产品要提供物理断开的途径，就算不交出个人隐私，用户也依然可以使用基础功能，不能把交出隐私作为使用服务的门槛。

第三，响应脆弱性原则。系统要给人提供停止、求助、人工接管的入口。当识别到风险信号，就要立刻降低自动化程度，把人类照护者请到前台，优先回应人的脆弱处境。

第四，能力支持而非取代原则。AI的定位应该是补足人的能力，而不是全盘接管。要保留人练习、独立判断、自主选择的机会，防止长期依赖自动化，造成人的能力萎缩、批判性思维退化。

第五，数据与叙事自主原则。我们有权访问、修改、删除自己和AI互动产生的数据。企业拿到我们的隐私数据，不可以不经二次同意，就拿去训练模型、做商业变现。我们自己的人生经验和故事，控制权要握在自己手里。

第六，反物化与拟像警示原则。没有经过本人许可，不能把人的形象、声音、身体特征，做成可以随意拼装的数字商品。所有拟人化AI产品，要有清晰标识，持续告诉使用者：它是机器，不是真人，避免使用者产生认知混淆。

第七，人机关系是补充，绝不可以替代人际交往。在老人、儿童、病患这些高依赖的场景，AI机器人只能做辅助工具，绝对不能成为人类唯一的互动对象。公共层面，财政、人员配置、公共服务，要保障真人照护、陪伴、教育的供给，不能把技术拿来当做社会结构性弃责的借口，不能因为有了AI照护，就削减真人服务投入。

张容南表示，这套理念落地需要三层实施路径：第一层，部署前开展独立伦理审查；第二层，建立制度约束；第三层，架构层面提前预设保护。

最后，张容南表示，守护人类尊严，不能单靠技术，需要制度、市场、文化三方协同发力。有三个关键词值得我们记住：第一是责任在场，关键决策必须有人类负责，算法可以被解释、被质疑、被纠正；第二是人类主导，个人的身体、数据、人生叙事，决定权属于本人；第三是关怀底线，技术不能消解人际责任，脆弱群体不能只收到冰冷自动化反馈，人类真实的关怀永远不可替代。