事关AI!国家互联网信息办公室近日起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。征求意见稿提出,提供和使用拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。提供者应当具备心理健康保护、情感边界引导、依赖风险预警等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为设计目标。提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户,提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。提供者向未成年人提供情感陪伴服务时,应当取得监护人的明确同意;提供监护人控制功能,监护人可以实时接收安全风险提醒,查阅未成年人使用服务的概要信息,设置屏蔽特定角色、限制使用时长、防止充值消费等。发现老年人使用期间出现危害生命健康和财产安全的,及时通知紧急联系人,并提供社会心理援助或者紧急救助渠道。提供者不得提供模拟老年人用户亲属、特定关系人的服务。
门庆兵 浦东创投集团总经理、党委副书记 同济大学技术经济及管理专业博士,曾任浦东新区金融工作局党组成员、副局长等职务。2025年集团分别荣获母基金研究中心“2025国资直投机构30强”、融中“2024-2025最佳市级政府引导基金”和清科“2025年中国股权投资市场有限合伙人50强”等荣誉。
1月8日,在外滩FTC金融科技生态伙伴大会暨“金融后街秀Bund Fin-Talk Club”沙龙上,金融投资创业者、《最强大脑》《闪闪发光的你》综艺嘉宾、小红书职场博主朱光晔表示,一个金融从业人员犯错可以罚钱、停职,甚至可以因为失职将其开除,但人工智能大模型做风控、做复核、做材料审查中出现错误,这个锅到底谁来背?他认为这个问题没有琢磨清楚之前,金融从业者的饭碗还稳得住。