遏制不法应用，全国人大代表邵志清建议对人工智能应用立法

随着新一代信息技术的快速发展，人工智能正对人类生产生活方式带来全方位的深刻变革。全国人大代表，致公党中央委员、上海市委专职副主委邵志清建议称，应制定人工智能应用管理法，以防范重大风险。

4日，上海团全国人大代表集体酝酿、讨论，提出议案建议。

邵志清表示，我国抢抓人工智能发展的重大战略机遇，各地纷纷抢占先发优势，制定发展规划，推动理论、技术、产业、应用等方面提高竞争力，特别是迅速扩大应用规模，在电子商务、自动驾驶、生活服务、医疗健康、工业机器人等领域的应用走在世界前列。

但在造福人类的同时，邵志清说，人工智能所带来的社会问题也逐渐显现，开始从技术领域、民事领域向刑事领域转变，比如利用使用人工智能技术侵犯公民个人信息、竞争对手商业秘密，甚至危害人的健康生命、社会的安全稳定。

2017年 9 月，浙江警方破获全国首例运用人工智能实施犯罪的案件。涉案平台利用人工智能技术快速识别验证码，截获、贩卖了 10 亿多组公民个人信息，供合作团伙进行网络诈骗。

邵志清说，传统刑法领域只有自然人才是刑法规制的主体，在人工智能应用场景下，很多机器成为了主体。另外，机器的主观意愿的认定也带来了困难。对于这类问题，现有的法律难以规范。

“由于涉及面太宽，社会对人工智能的认识也还处于初步阶段，目前对人工智能进行综合立法的条件还不具备。但是为了防范重大风险，需要针对人工智能的具体应用进行立法。”邵志清说。

从国际上来看，2016年以来，一些国家和机构对人工智能法律制订进行了一些探索。比如，欧盟议会法律事务委员会发布研究成果《欧盟机器人民事法律规则》，国际电气和电子工程师学会对利用人工智能和自主系统造福人类提出了一般原则、价值观、伦理、法律等方面。

而在自动驾驶领域，联合国对《维也纳道路交通公约》进行了修正；德国对《德国道路交通条例》所规定的“驾驶员在车辆行驶过程中全程保持警惕”“驾驶员的手不能离开方向盘”等条文启动立法修正。

近几年，我国也对自动驾驶车辆测试方面进行管理规范。2017年，工业和信息化部开始就《智能网联汽车公共道路适应性验证管理规范（试行）》初稿组织业界和专家讨论。2017年，《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》和《北京市自动驾驶车辆道路测试管理实施细则（试行）》发布。2018年3月，上海发布了《上海市智能网联汽车道路测试管理办法(试行)》。

邵志清说，这些探索和实践为制定人工智能应用管理法提供了有益参考和依据。

具体到立法的内容，邵志清表示，人工智能应用的管理应该重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分等方面进行立法。

比如，在伦理道德方面，应明确禁止应用人工智能技术实施违反人类伦理道德的行为，特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。

在资源获取方面，要明确禁止采集个人隐私、商业秘密、国家机密的资料、信息、数据，避免被人和机器恶意利用，从源头上遏制人工智能的不法应用。

而在主体认定方面，明确具有自主学习、思考、行动能力的机器人成为适格主体的应用场景和应用前提等，明确机器人与自然人主体进行区分认定和共同认定的条件和依据等。

在行为认定方面，明确认定机器人意图的原则，特别是要解决机器人基于人工智能进行独立判断和决定所实施侵害的主观方面认定问题。

在责任划分方面，明确责任划分和处罚的原则。一旦有侵害发生，让智能机器人的使用者、制造者、机器人本身承担严格区分的相关责任。