关于人工智能安全问题的相关探讨

　　摘要：近些年，随着人工智能技术的不断革新，人工智能被广泛应用于各个领域。人工智能的快速发展不仅促进了经济的增长，同时，也深刻改变了人们生活的方式，引发伦理安全问题的思考，为此在我国人工智能进入新阶段的背景下国务院发布了《新一代人工智能发展规划》，相关领域的学者对于人工智能安全等问题的研究也逐渐增加。基于此，本文首先讨论了人工智能发展及其安全风险的特点，其次就人工智能安全问题进行了分析，最后提出了人工智能安全问题的应对策略。

　　关键词：人工智能,安全风险,智能计算模型

　　1人工智能发展及其安全问题

　　1.1人工智能安全问题的出现

　　人工智能安全问题是智能革命发展不可回避的主要问题之一，智能革命的发展会为当前社会的伦理标准、法律规则、社会秩序及公共管理体制带来一场前所有未有的变革，这种变革引起的一系列社会矛盾主要表现为对于人工智能强大能力的未知和担忧，同时，也表现为现存社会制度产品供给缺陷。

　　首先，对于未来人工智能拥有自主意识的担忧。比如，霍金先生提出的最大化使用智能性自主武器，可能招致人类的灭亡，基于马克思主义对科学技术二重性的分析，综合当前众多研究文献来看，人工智能具备超越人类智能的可能性，在发展到一定阶段，人类有可能面临着人工智能失控的风险，人工智能的发展将不受人类意愿的控制，这种可能性也构成了我们研究人工智能安全问题的必要性。

　　其次，当前人类社会面临的人工智能安全问题。鉴于人工智能算法与系统的特点，考虑到人工智能应用场景，可以把人工智能衍生的安全风险集中归纳为以下三个层次。

　　第一，系统安全层面。集中表现为基础安全技术缺陷、智能硬件的系统漏洞以及当前智能技术和产品供应链条的复杂性。

　　第二，算法透明度与可解释性层面。由于人类本身对人工智能算法的“自动化”学习与决策过程缺乏一定的认识，由此带来人工智能算法的可解释性和透明度缺失带来的隐患。

　　第三，数据使用和隐私保护层面。人工智能大数据的发展趋势，使得原有的数据使用机制和隐私保护制度都面临失效的困境。由此三个层次的安全风险问题本身就是风险，同时，引发的归责问题、监管问题乃至国家安全问题、社会安全问题等都需要引起我们的足够重视[1]。

　　1.2人工智能安全风险的特征

　　第一，人工智能安全风险的共生性。人工智能技术的不断发展本质上是由人类对于人工智能技术的内在需求导致的，而任何一项科学前沿技术的突破和创新都会不同程度作用于人类社会，改变人们的生活习惯、思维方式、发展理念乃至社会制度。由此这种共生形式会从技术本身以及技术对于社会上层建筑的影响两个方面形成安全风险。

　　第二，人工智能安全风险的技术性。人工智能技术是当前社会先进生产力的代表，当人类社会越来越多地使用这种生产力推动社会发展时，首先是基于对于人工智能技术的信任，其次，是对人工智能技术的保护，如知识专利权利。但是从反思的现代性出发，对于法律及其保护的先进技术仅信任是不够的，人工智能在其发展过程中出现的不可预测性和潜在的不可逆性本身就是一种风险。最后，技术本身对于上层建筑的影响带来的风险。

　　先进的生产力必然会变革社会上层建筑，改变不适应现代理念的上层关系，引起诸如一系列社会制度的创造和改变。这种创造和改变的过程需要经过时间和实践的检验才能够发挥作用，由此形成的是制度化风险。

　　第三，人工智能安全风险的时代性。智能革命的出现和发展既是人类需求的产物，同时，也是时代的产物。因此，人工智能安全问题的出现是发展的客观表现，不会因为人类主观意志的变化而改变。智能技术是智力物质化的客观推动力量，最终发展的形态是人类社会的智能化。而社会智能化本身需要经历一系列社会变革才能够稳定和实现，期间必然会经历不同阶段智力物质化性质、程度等方面的彻底变化，而这一过程也必然呈现出一系列的社会安全问题。

　　比如，当前计算机病毒、黑客对人工智能产品的侵蚀，恐怖组织以及反人类文明意识对于智能产品的使用等等都会带来持续的影响，是今后社会潜在的风险。

　　第四，人工智能安全风险的全球性。纵观人类社会四次科技革命的发展，我们能够认识到人类使用生产力的大小、规模、性质等提高使得人类社会的联系越发紧密，人与人之间的关系的处理和社会问题的解决逐渐经历了个人到组织的变化，而且这个组织规模不断扩大乃至波及每一个人的切身利益。

　　人工智能时代的到来导致的安全问题等诸多方面是这种社会关系处理的更高程度的发展，并且人工智能安全风险毫无疑问是全球性的，是关系到每一个人、主体组织、国家、区域性组织乃至人类社会命运的问题[2]。

　　2人工智能安全问题的应对策略分析

　　一方面，需要理性认识人工智能发展及其产生的安全问题。人工智能从提出至今短短六十多年的时间里，实现了惊人的发展，其技术不仅被应用到各行各业中，同时，也广泛渗透到人们的生活中。与此同时，智能技术的广泛应用也带来了理念的更新以及人们思维方式的变革。但是在注重人工智能推动人类社会发展的同时，也应理性认识到人工智能产生的负面影响。既要注重人工智能推动社会经济发展，还要持续关注和推动人工智能安全发展。

　　另一方面，需要加快人工智能技术安全评估和应用管理工作。从我国《新一代人工智能发展规划》来看，人工智能技术安全评估和应用管理工作力度还有待进一步提高。人工智能技术安全问题产生的主要原因是技术发展不成熟，要加大相关技术的研发力度，比如，针对智能算法透明性缺失的安全问题，应加强理论攻关，确定今后的技术研发与发展方向，研发更为透明和可解释性更高的智能计算模型，降低系统行为的不可预知性和不确定性。

　　此外，加快与智能化时代发展相匹配的法律法规体系的构建，制定人工智能技术及其系统应用的伦理准则，建立智能技术应用的安全标准体系，不断完善人工智能技术研发规范，提高人工智能产品的安全性能，确保人工智能产业的良性健康发展。

　　3结语

　　总之，通过上述分析可知，在当今互联网计算机技术飞速发展的现代，人们对于人工智能技术的研发力度逐渐加大。在人工智能技术被广泛应用于社会各行业当中的同时，一系列安全问题也逐渐显现出来，对人工智能的未来良好发展造成了极大的阻碍。在未来的研究当中，要将人工智能的安全问题作为一项长期研究项目来探讨，并协同各方面专家结合当今互联网计算机技术发展，为人工智能的安全发展构建一道坚固的屏障。

　　参考文献

　　[1]王美丽.人工智能安全问题及其解决思路[J].科技风,2018(11):8.

　　[2]作者不详.人工智能与信息安全[J].保密科学技术,2017(11):6-7.

　　相关期刊推荐：模式识别与人工智能(双月刊)创刊于1989年，是由中国自动化学会、国家智能计算机研究开发中心和中国科学院合肥智能机械研究所共同主办、科学出版社出版的学术性期刊。