人工智能伦理风险分析报告.pdf

发布时间：2022-05-31 发布人：admin 分类：说明书资料大小：1.32M 资料格式：pdf 举报版权申诉

第1页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第2页.png

第2页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第3页.png

第3页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第4页.png

第4页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第5页.png

第5页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第6页.png

第6页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第7页.png

第7页 / 共62页

richer-11373362-人工智能伦理风险分析报告.pdf-第8页.png

第8页 / 共62页

第一章人工智能伦理研究的背景与意义

第二章国内外人工智能伦理发展现状

2.1国外发展现状

2.2国内发展现状

第三章人工智能技术的伦理风险

3.1算法相关的伦理风险

3.1.1 算法安全

3.1.2 算法可解释性

3.1.3 算法决策困境

3.2数据相关的伦理风险

3.2.1 隐私保护

3.2.2 个人敏感信息的识别和处理

3.3应用相关的伦理风险

3.3.1 算法歧视

3.3.2算法滥用

3.4长期和间接的伦理风险

3.4.1 算法与就业

3.4.2 算法与产权

3.4.3 算法与竞争

3.4.4 算法责任

第四章人工智能伦理原则

4.1人类根本利益原则

4.2责任原则

第五章伦理风险评估及其管理

5.1人工智能伦理风险评估指标

5.1.1算法方面

5.1.2数据方面

5.1.3社会影响方面

5.2行业实践指南

5.2.1风险管理框架

5.2.2风险管理流程

5.2.3对相关人员进行培训

5.2.4定期进行风险评估

第六章结论

附录：国外有关人工智能基本原则的文献

一、《ASILOMAR AI PRINCIPLES》（《阿西洛马人工智能原则》）

二、《Statement on Algorithmic Transparency and Accoun

三、《The Japanese Society for Artificial Intelligence

四、《Principles for the Governance of AI》（《人工智能治理原则》）

五、《Montréal Declaration for Responsible AI draft pri

六、《TOP 10 PRINCIPLES FOR ETHICAL ARTIFICIAL INTELLI

七、《Artificial Intelligence—The Public Policy Opport

八、《Partnership on Al to Benefit People and Society》（

九、《The IEEE Global Initiative on Ethics of Autonomo

十、《AI Code》（《人工智能伦理准则》）

人工智能伦理风险分析报告国家人工智能标准化总体组二零一九年四月

专家咨询组潘云鹤高文戴红谭铁牛吴朝晖李伯虎林宁于海斌吴飞周志华董景辰黄河燕朱小燕张德政朱恺真曲道奎左毅钱恒国家人工智能标准化总体组组长: 赵波副组长: 闵万里胡国平徐波黄铁军吴文峻欧阳劲松秘书长：孙文龙

编写单位（排名不分先后）中国电子技术标准化研究院中国人民大学北京九天微星科技发展有限公司国家电网有限公司北京理工大学苏州中德宏泰电子科技股份有限公司深圳市腾讯计算机系统有限公司中国航空综合技术研究所北京航空航天大学大成律师事务所上海电器科学研究所（集团）有限公司北京爱奇艺科技有限公司京东数字科技控股有限公司北京西普阳光教育科技股份有限公司昆山炫生活信息技术股份有限公司华为技术有限公司美国科文顿柏灵律师事务所中国船舶重工集团公司第七一六研究所美团点评西门子（中国）有限公司编写人员（排名不分先后）郭锐李慧芳曹建峰代红董建张群王燕妮汪小娟马珊珊伍敏敏赵泽睿李依朱婷婷刘雅洁刘馨泽赵蕾蕾张钦坤蔡雄山周学峰丁海俊张凌寒蔡克蒙魏铭刘元兴杨银剑陈隋和罗嫣于智精罗治兵李燕吴鹏高畅宁皓胡鹰康丹付振秋何宇聪邢琳王涛赵弋洋王莲王小璞高伟符海芳何佳洲赵蕾张珺

目录第一章人工智能伦理研究的背景与意义..................................................................1 第二章国内外人工智能伦理发展现状......................................................................3 2.1 国外发展现状................................................................................................3 2.2 国内发展现状................................................................................................6 第三章人工智能技术的伦理风险..............................................................................8 3.1 算法相关的伦理风险....................................................................................9 3.1.1 算法安全............................................................................................9 3.1.2 算法可解释性..................................................................................10 3.1.3 算法决策困境..................................................................................14 3.2 数据相关的伦理风险..................................................................................15 3.2.1 隐私保护..........................................................................................15 3.2.2 个人敏感信息的识别和处理..........................................................17 3.3 应用相关的伦理风险..................................................................................19 3.3.1 算法歧视..........................................................................................19 3.3.2 算法滥用..........................................................................................24 3.4 长期和间接的伦理风险..............................................................................26 3.4.1 算法与就业......................................................................................26 3.4.2 算法与产权......................................................................................27 3.4.3 算法与竞争......................................................................................27 3.4.4 算法责任..........................................................................................28 第四章人工智能伦理原则........................................................................................29 4.1 人类根本利益原则......................................................................................31 4.2 责任原则......................................................................................................31 第五章伦理风险评估及其管理................................................................................33 5.1 人工智能伦理风险评估指标......................................................................33 5.1.1 算法方面..........................................................................................33 5.1.2 数据方面..........................................................................................34 5.1.3 社会影响方面..................................................................................34 I

5.2 行业实践指南..............................................................................................35 5.2.1 风险管理框架..................................................................................35 5.2.2 风险管理流程..................................................................................37 5.2.3 对相关人员进行培训......................................................................39 5.2.4 定期进行风险评估..........................................................................39 第六章结论................................................................................................................40 附录：国外有关人工智能基本原则的文献..............................................................42 II

第一章人工智能伦理研究的背景与意义自 1956 年的达特茅斯会议（Dartmouth Conference）提出人工智能概念以来，人工智能的发展经历了“三起两落”的曲折历程。2016 年 3 月，以 AlphaGo 以 4:1 战胜人类棋手为标志，人工智能开始逐步升温，并成为各国政府、科研机构、产业界以及消费市场竞相追逐的对象。为了在新一轮国际竞争中掌握主导权，抢占人工智能发展的制高点，各国投入大量的精力和资金，开展人工智能关键技术的攻关与应用相关的研究与产品开发，并纷纷推出了不同的人工智能平台与产品。我国人工智能的应用范围极广。从行业应用的角度看，在制造、物流、医疗、教育、安防等行业都有广泛应用。以制造业为例，当前的制造业不论是生产、流通还是销售，都正趋于数据化、智能化。大数据和人工智能技术可以协助企业分析生产过程中的全链路数据，实现生产效率、库存周转率、设备使用效率提升等目标。在智能制造进程中，工业机器人成为人工智能的典型代表，成为智能制造的重要实现端之一。就物流行业而言，人工智能的技术应用主要聚焦在智能搜索、推理规划、模式识别、计算机视觉以及智能机器人等领域。如今，现代物流企业纷纷尝试利用人工智能技术优化物流环节、提高物流效率。人工智能还能够帮助企业根据市场销售情况、供应链生产情况、物流配送、仓储库存水平，甚至每个环节的容错概率等等进行精准排产，最大限度利用已有资源。人工智能在医疗健康主要的应用领域则包括五个方面：临床决策支持、临床辅助诊疗系统、患者管理、辅助手术和患者照护的自动设备，即各种机器人、医疗机构的管理以及新药的研发。人工智能在自动驾驶、医疗、传媒、金融、工业机器人以及互联网服务等越来越多领域和场景下得到应用，一方面带来了效率的提升、成本的降低，，另一方面，人工智能系统的自主性使算法决策逐步替代了人类决策，而这种替代有时非但没有解决已有的问题，还让已有的问题更难解决，甚至给社会带来了全新的问题。这些问题不仅仅引发社会的广泛讨论，更是限制人工智能技术落地的重要因素。其中最为典型的便是自动驾驶领域，社会的巨大需求与技术的不断成熟让 1

自动驾驶成为了全球炙手可热的研究与发展领域，而其潜在的风险又驱使人们去反思技术带来的伦理问题。各国已有法律与政策的难以适用以及新政策的模糊不清也给自动驾驶技术的落地造成了困难。面对伦理风险与其潜能一样巨大的人工智能技术，人们急需一个广泛、普遍的伦理探讨，并在这些探讨的基础之上找到路径、梳理规范，以保证人工智能的良性发展目前，各国、各行业组织、社会团体和人工智能领域的商业公司纷纷提出人工智能的伦理准则，对人工智能技术本身以及其应用进行规制。中国政府把人工智能作为产业升级和经济转型的主要驱动力，鼓励、扶持并推动人工智能的发展。在我国推动人工智能发展的关键时期，推动对人工智能伦理和社会问题的探讨有极为重要的意义。因此，本报告以人工智能应用引发的社会伦理问题为出发点，在充分了解人工智能系统带来的伦理、法律和社会影响的基础上，分析人工智能应用即自主性决策结果而产生的社会公平、安全及问责等伦理道德问题，例如算法决策与歧视、隐私与数据保护、算法安全与责任、算法解释、算法与产权、算法与竞争、算法滥用以及强人工智能问题，通过遵循人工智能伦理原则与设计相应的风险指标体系，对人工智能的研发和应用提供风险管理指引，以便为人工智能伦理的行业实践提供初步的应用指南与建议，推动人工智能产业的良性、健康发展。 2

第二章国内外人工智能伦理发展现状 2.1 国外发展现状步入第三次人工智能发展浪潮以来，人工智能成为国际竞争的新焦点，各国各地区高度重视人工智能的发展，纷纷出台战略文件支持，促进人工智能的发展，确保人工智能对经济和社会产生积极影响，并造福于个人和社会。人工智能伦理由此成为各国人工智能政策的核心内容之一。以欧盟为例，其以多举措推进人工智能伦理立法。早在 2015 年 1 月，欧盟议会法律事务委员会（JURI）就决定成立一个工作小组，专门研究与机器人和人工智能发展相关的法律问题。2016 年 5 月，法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》（Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics，简称《报告草案》）；同年 10 月，发布研究成果《欧盟机器人民事法律规则》（European Civil Law Rules in Robotics）1。此后，欧盟委员会将“人工智能和机器人的伦理标准等”纳入 2018 年欧盟立法工作的重点，要在人工智能和机器人领域呼吁高水平的数据保护、数字权利和道德标准，并成立了人工智能工作小组，就人工智能的发展和技术引发的道德问题制定指导方针。在此背景下，2018 年 3 月，欧洲科学与新技术伦理组织（European Group on Ethics in Science and New Technologies）发布《关于人工智能、机器人及“自主”系统的声明》（Statement on Artificial Intelligence，Robotics and ‘Autonomous’Systems）2，呼吁为人工智能、机器人和 “自主”系统的设计、生产、使用和治理制定共同的、国际公认的道德和法律框架。而在近日，欧盟委员会人工智能高级专家组（The European Commission’s High-Level Expert Group on Artificial Intelligence）于 2018 年 12 月 18 日发布了《关于可信赖人工智能的伦理准则》（草案）（“Ethics Guidelines for Trustworthy AI”） 1 曹建峰.十项建议解读欧盟人工智能立法新趋势[EB/OL].[2019-03-25]http://www.tisi.org/4811. 2 欧洲科学与新技术伦理组织.关于人工智能、机器人及自主系统的声明[R].曹建峰译.北京:腾讯研究院, 2018. 3

分享到：

赞收藏

资料库

人工智能伦理风险分析报告.pdf

相关推荐

人工智能

热门标签

最新资料