【两会提案】 关于规范人为智能安全健全发展的提案
颁布功夫 2019-03-05
全国政协委员、GA黄金甲信息技术集团股份有限公司首席执行官严望佳第二份提案倾情为您奉上。
人为智能是驱动新一轮科技革命与产业刷新的战术性技术力量。近年来，在党中央、国务院的战术政策疏导下，我国人为智能发展迅快，已经有力地推动了社会经济的发展和人民生涯水平的提升。然而必须把稳到，由于人为智能技术仍处于急剧发展中，若不把稳有效地安全节造和治理，则可能留下难以估计的安全隐患。习近平总书记在主持中共中央政治局第九次集体进建时指出：“要加强人为智能发展的潜在风险研判和防备，守护人民利益和国度安全，确保人为智能安全、靠得住、可控。”为了达到这一指标，在司律例范、监督治理、学术钻研等方面都必要做出相应的致力。
具体看来，当前人为智能技术的发展重要存在如下安全方面的问题：
1）人为智能安全健全发展律例和伦理路德钻研不及。当前人为智能利用越来越宽泛，但其在司法主体、权势、使命和责任方面还存在好多钻研和利用空缺。随着人为智能的利用推广，其在司法、社会规范和路德伦理的挑战将越来越显著。总体来看，目前针对人为智能的发展重要以战术、政策的大局进行疏导激励，而相应的司法律规以及路德规范要求还不健全，尚不能有效防备节造潜在的安全风险。
2）多种成分可能导致人为智能产品和利用存在缺点。在从算法道理、设计编码、出产实现以及到利用部署等等多个阶段中，由于算法自身未思考平正性、法式员编码缝隙、用于模型训练的数据样本存在误差等成分，均可能导致现实利用中人为智能算法决策出现谬误、误差或带来歧视性问题。若是问题产生在涉及国计民生的沉要领域（如自动驾驶、医疗、金融等）中，将会带来严沉的风险。
3）人为智能产品和利用的安全评估工作进展缓慢。当前，针对发作式的人为智能产品和利用，不少钻研机构在熟悉的技术点方面发现了多个安全缝隙，但险些都不足全面和系统性的安全评价。总体上，由于存在技术融合多、使用环境复杂、利用领域广等方面的原因，目前针对人为智能产品和利用的安全评估工作尚处于钻研索求阶段，在系统性评估技术、评估尺度规范、测评工作组织方面进展较为缓慢。
为了进一步加强全行业对人为智能安全的器沉，规范疏导人为智能技术安全健全发展，确保其成为驱动社会经济发展和人民生涯水平提升的靠得住战术性力量，应在大力推动新技术研发的同时健全安全管控措施，以达到习近平总书记的“安全、靠得住、可控”要求。
具体建议如下：
1）加快发展人为智能安全利用律例和伦理路德的钻研
除了要持续落实和加强对人为智能的激励疏导措施之表，建议还加快安全利用规章和规范的钻研，确保其沿着良性健全发展之路前进。具体的安全规范机造蕴含钻研出台有关司法律规，界定人为智能利用的司法主体及相应的权势和使命 ；发展人为智能伦理路德的探求，约束人为智能钻研与现实利用的领域界限。
2）成立关键领域内的人为智能利用安全审查机造
在一些直接影响国计民生和公共安全的关键领域中，例如医疗、金融、交通和教育等，人为智能利用和人身安全、社会不变和国度安全亲昵有关，一旦产生安全事务将会造成严沉的后果。因而在这些领域内，建议成立人为智能利用的准入审查机造，加强人为智能算法及利用的安全性、可控性和通明性的审查。
3）发展人为智能安全评估技术钻研，健全美满测评机造
提案二：
关于规范人为智能安全健全发展的提案
01 问题及原因分析
人为智能是驱动新一轮科技革命与产业刷新的战术性技术力量。近年来，在党中央、国务院的战术政策疏导下，我国人为智能发展迅快，已经有力地推动了社会经济的发展和人民生涯水平的提升。然而必须把稳到，由于人为智能技术仍处于急剧发展中，若不把稳有效地安全节造和治理，则可能留下难以估计的安全隐患。习近平总书记在主持中共中央政治局第九次集体进建时指出：“要加强人为智能发展的潜在风险研判和防备，守护人民利益和国度安全，确保人为智能安全、靠得住、可控。”为了达到这一指标，在司律例范、监督治理、学术钻研等方面都必要做出相应的致力。
具体看来，当前人为智能技术的发展重要存在如下安全方面的问题：
1）人为智能安全健全发展律例和伦理路德钻研不及。当前人为智能利用越来越宽泛，但其在司法主体、权势、使命和责任方面还存在好多钻研和利用空缺。随着人为智能的利用推广，其在司法、社会规范和路德伦理的挑战将越来越显著。总体来看，目前针对人为智能的发展重要以战术、政策的大局进行疏导激励，而相应的司法律规以及路德规范要求还不健全，尚不能有效防备节造潜在的安全风险。
2）多种成分可能导致人为智能产品和利用存在缺点。在从算法道理、设计编码、出产实现以及到利用部署等等多个阶段中，由于算法自身未思考平正性、法式员编码缝隙、用于模型训练的数据样本存在误差等成分，均可能导致现实利用中人为智能算法决策出现谬误、误差或带来歧视性问题。若是问题产生在涉及国计民生的沉要领域（如自动驾驶、医疗、金融等）中，将会带来严沉的风险。
3）人为智能产品和利用的安全评估工作进展缓慢。当前，针对发作式的人为智能产品和利用，不少钻研机构在熟悉的技术点方面发现了多个安全缝隙，但险些都不足全面和系统性的安全评价。总体上，由于存在技术融合多、使用环境复杂、利用领域广等方面的原因，目前针对人为智能产品和利用的安全评估工作尚处于钻研索求阶段，在系统性评估技术、评估尺度规范、测评工作组织方面进展较为缓慢。
02 具体建议
为了进一步加强全行业对人为智能安全的器沉，规范疏导人为智能技术安全健全发展，确保其成为驱动社会经济发展和人民生涯水平提升的靠得住战术性力量，应在大力推动新技术研发的同时健全安全管控措施，以达到习近平总书记的“安全、靠得住、可控”要求。
具体建议如下：
1）加快发展人为智能安全利用律例和伦理路德的钻研
除了要持续落实和加强对人为智能的激励疏导措施之表，建议还加快安全利用规章和规范的钻研，确保其沿着良性健全发展之路前进。具体的安全规范机造蕴含钻研出台有关司法律规，界定人为智能利用的司法主体及相应的权势和使命 ；发展人为智能伦理路德的探求，约束人为智能钻研与现实利用的领域界限。
2）成立关键领域内的人为智能利用安全审查机造
在一些直接影响国计民生和公共安全的关键领域中，例如医疗、金融、交通和教育等，人为智能利用和人身安全、社会不变和国度安全亲昵有关，一旦产生安全事务将会造成严沉的后果。因而在这些领域内，建议成立人为智能利用的准入审查机造，加强人为智能算法及利用的安全性、可控性和通明性的审查。
3）发展人为智能安全评估技术钻研，健全美满测评机造
建议通过产业政策疏导和组织治理措施，一方面疏导加快钻研人为智能产品和利用的安全评估评测技术，逐步堆集安全检测样例库、测试样本库等知识资源和研发测试工具集，提高人为智能产品和利用的安全评估评测能力 ；另一方面推动人为智能安全有关的国度尺度和行业尺度的造订工作，明确有关安全评估指标、步骤和要求，成立安全测评流程和治理规范，健全人为智能产品和利用安全测评机造。
其他提案内容将会陆续颁布,请持续关注！
京公网安备11010802024551号