一财主播说｜AI造假越来越便宜，辨真的成本谁来承担？

#媒体原创 近日，一财记者调查发现，花25元、提供一张照片，就能在某平台买到AI换脸换声视频。骗子制造一个“熟人”越来越便宜，普通人确认对方是谁，却越来越难。当亲人的面孔和声音被伪造，老年人的钱袋子怎么守？要求每个用户追上每轮技术升级，既不现实，也代价高昂。谁更有条件发现风险、阻断损失，谁就应多承担一份防护责任。平台掌握账号活动、推荐和交易等信息，可以比单个用户看见更多风险线索。我国已有AI生成合成内容标识规定⁠，但标识说明的是制作方式，并不能证明商品可靠、索款合理。审核还应关注虚假身份如何获得推荐、如何引导付款。对核实存在欺诈的内容和账号，及时切断传播与变现、降低欺诈收益，才能遏制低成本造假的不断复制。识别假脸不应成为防骗唯一的着力点。即使一时看不出视频真假，只要有异常收款账户、突然改变的转账习惯，也应该有预警，然后依据风险核验、必要时延迟支付，为确认身份争取时间。监管协同的价值，则在于让这些线索形成合力。当造假可以批量完成，防护也需要成为普遍可用的服务。衡量技术进步，应当包括一个朴素的尺度：一个不懂AI的老人，能否也被妥善保护。这份安全，应当包含在技术带来的便利之中。