人工智能发展应用过程的安全威胁分析及解决策略研究

doi:10.3969/j.issn.1671-1122.2018.09.006

信息网络安全 ›› 2018, Vol. 18 ›› Issue (9): 35-41.doi: 10.3969/j.issn.1671-1122.2018.09.006

人工智能发展应用过程的安全威胁分析及解决策略研究

裘玥¹, 李思其²

1. 北京市公安局石景山分局指挥处,北京 100043
2. 云南警官学院,云南昆明 650223

收稿日期:2018-07-17 出版日期:2018-09-30 发布日期:2020-05-11
作者简介:
作者简介：裘玥（1974—）,女,北京,高级工程师,硕士,主要研究方向为信息安全、软件工程;李思其（1974—）,女,云南,讲师,硕士,主要研究方向为经济犯罪案件侦查、网络犯罪。

Security Threat Analysis and Solutions for the Development and Application of Artificial Intelligence

Yue QIU¹, Siqi LI²

1. Headquarters Corps Shijingshan Group of Beijing Public Security Bureau, Beijing 100043, China
2. Yunnan Police College, Kunming Yunnan 650223, China

Received:2018-07-17 Online:2018-09-30 Published:2020-05-11

摘要/Abstract

摘要：

随着云计算、大数据的发展,人工智能应用日益普及。从小巧时尚、易于携带的智能可穿戴设备到影响和改变人类生活的智能缴费、自动驾驶、智慧交通,人工智能在方便人们生活、工作的同时,也不知不觉中给使用者带来越来越多的安全隐患。文章以人工智能的安全分析为主题开展论述。首先回顾了人工智能近半个世纪的发展历史和应用现状;接着从当前的研发应用、技术发展等方面分析了其面临的安全风险;然后从构建安全监管框架、制订安全标准、加强关键技术研究等方面提出了必要的管理、建设及研究建议;最后从时代的发展趋势展望了人工智能未来的安全前景。

关键词: 人工智能, 安全威胁, 安全防护

Abstract:

With the development of cloud computing and big data, artificial intelligence applications become more and more popular. From small fashion, easy to carry the intelligent wearable devices, to influence and change of human life intelligent capture to expend, autopilot, intelligent transportation, artificial intelligence is anywhere. As it is everywhere, the characteristics of the current work in convenient people’s life. At the same time, AI brings more and more security risks to users unconsciously. This will become increasingly apparent in today’s human-computer co-existence. Based on the theme of the safety analysis of AI in this paper, firstly reviewed the development history of AI for nearly half a century and application status. Then from the current, the respect such as technology development analyses the development and application of the safety risk. Then, from the building security regulatory framework, security standards, strengthen the key technology research presents the necessary management, construction and research proposal. Finally, from the development trend of the times on the future future security of artificial intelligence.

Key words: artificial intelligence, security threat, safety protection

中图分类号:

TP309

裘玥, 李思其. 人工智能发展应用过程的安全威胁分析及解决策略研究[J]. 信息网络安全, 2018, 18(9): 35-41.

Yue QIU, Siqi LI. Security Threat Analysis and Solutions for the Development and Application of Artificial Intelligence[J]. Netinfo Security, 2018, 18(9): 35-41.

图/表 3

参考文献 16

[1]	Tom Simonite.When It Comes to Gorillas,Google Photos Remains Blind[EB/OL]. , 2018-1-11.
[2]	JERRY K.Humans Need not Applay[M]. Lipan. Zhejiang People’ s Publishing House, 2016.
	杰瑞.卡普兰. 人工智能时代[M]. 李盼,译. 杭州:浙江人民出版社,2016.
[3]	ZHOU Zhihua.Machine Learning[M]. Beijing: Tsinghua University Press, 2016.
	周志华. 机器学习[M]. 北京:清华大学出版社,2016.
[4]	Xiu Mu.7 Major Applications of Artificial Intelligence will Change Dramatically in the Future[EB/OL]. , 2017-11-22.
	秀目网.人工智能7大应用领域未来会有翻天覆地的变化[EB/OL]. .
[5]	LIN Jie.A Brief Discussion on the Deep Application of Artificial Intelligence in the Security Field[J]. China Public Security, 2017(6): 116-119.
	林洁. 浅谈人工智能在安防领域的深度应用[J].中国公共安全,2017(6):116-119.
[6]	The State Council. A New Generation of Artificial Intelligence Development Plan[EB/OL]. .
	国务院.新一代人工智能发展规划[EB/OL]. .
[7]	HU Ying, SHANGGUAN Xiaoli, ZHANG Yuguang, et al.Present Situation and Thinking of Artificial Intelligence Safety Standards[J]. Secrecy Science and Technology, 2017(11): 23-26.
	胡影,上官晓丽,张宇光,等. 人工智能安全标准现状与思考[J]. 保密科学技术,2017(11):23-26.
[8]	ZHOU Hongyi. Artificial Intelligence Itself has Security Problems[EB/OL]. , 2018-5-16.
	周鸿祎. 人工智能本身就存在安全问题[EB/OL]. , 2018-5-16.
[9]	CSDN.Analysis of the Security of Artificial Intelligence System[EB/OL]., 2018-2-5.
	CSDN.人工智能系统安全性分析[EB/OL]. , 2018-2-5.
[10]	OUYANG Zhiyou, SUN Xiaokui.Human-machine Behavior Recognition for CAPTCHA Based on Gradient Boosting Model[J]. Netinfo Security, 2017, 17(9): 143-146.
	欧阳志友,孙孝魁. 基于梯度提升模型的行为式验证码人机识别[J]. 信息网络安全,2017,17(9):143-146.
[11]	ZHANG Jiawang.Android Malware Detection System Based on Machine Learning Algorithm[J]. Computer ApplicationResearch, 2017, 34(6): 1774-1777.
	张家旺. 基于机器学习算法的Android恶意程序检测系统[J]. 计算机应用研究,2017,34(6):1774-1777.
[12]	OpenAI.Attacking Machine Learning with Adversarial Examples[EB/OL]. , 2017-2-24.
[13]	ALLEN G C, CHAN T. Artificial Intelligence and National Security[EB/OL]., 2018-4-6.
[14]	CESI. Standardized White Paper of Artificial Intelligence(2018)[EB/OL]. .
	中国电子技术标准化研究院. 人工智能标准化白皮书[EB/OL]. .
[15]	DU Yanyong.The Security Problem of Artificial Intelligence and Its Solution[J].Philosophy Dynamics, 2016(9): 99-104.
	杜严勇. 人工智能安全问题及其解决进路[J]. 哲学动态,2016(9):99-104.
[16]	GUL K S Q, YIN Jize, PAN Limin, et al. Research on the Algorithm of Named Entity Recognition Based on Deep Neural Network[J]. Netinfo Security, 2017, 17(10): 29-35.
	GUL Khan Safi Qamas,尹继泽,潘丽敏,等. 基于深度神经网络的命名实体识别方法研究[J]. 信息网络安全,2017,17(10):29-35.

人工智能发展应用过程的安全威胁分析及解决策略研究

Security Threat Analysis and Solutions for the Development and Application of Artificial Intelligence

RichHTML

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

图/表 3

参考文献 16

相关文章 15

编辑推荐

Metrics

本文评价

[1]	郭敏, 曾颖明, 于然, 吴朝雄. 基于对抗训练和VAE样本修复的对抗攻击防御技术研究[J]. 信息网络安全, 2019, 19(9): 66-70.
[2]	朱海麒, 姜峰. 人工智能时代面向运维数据的异常检测技术研究与分析[J]. 信息网络安全, 2019, 19(11): 24-35.
[3]	陈震杭, 王张宜, 彭国军, 夏志坚. 针对未知PHP反序列化漏洞利用的检测拦截系统研究[J]. 信息网络安全, 2018, 0(4): 47-55.
[4]	石悦, 李相龙, 戴方芳. 一种基于属性基加密的增强型软件定义网络安全框架[J]. 信息网络安全, 2018, 0(1): 15-22.
[5]	陈向荣, 程丁, 秦鹏宇, 程成. 一种基于STDM的用户隐私数据保护方案研究[J]. 信息网络安全, 2017, 17(5): 44-50.
[6]	王昱镔, 陈思, 程楠. 工业控制系统信息安全防护研究[J]. 信息网络安全, 2016, 16(9): 35-39.
[7]	裘玥. 智能可穿戴设备信息安全分析[J]. 信息网络安全, 2016, 16(9): 79-83.
[8]	马书磊, 田洪娟, 刘丰. 一种基于龙芯平台的安全防护网关设计与实现[J]. 信息网络安全, 2016, 16(9): 196-201.
[9]	王群. 基于安全域的信息安全防护体系研究[J]. 信息网络安全, 2015, 15(9): 206-210.
[10]	罗旬, 严承华. 无线Mesh网络安全体系研究与设计[J]. 信息网络安全, 2015, 15(6): 61-66.
[11]	王学强，雷灵光，王跃武. 移动互联网安全威胁研究[J]. 信息网络安全, 2014, 14(9): 30-33.
[12]	王志强，王红凯，张旭东，沈潇军. 工业控制系统安全隐患及应对措施研究[J]. 信息网络安全, 2014, 14(9): 203-206.
[13]	. 基于手机动态密码的计算机使用权限管理机制[J]. , 2014, 14(11): 46-.
[14]	佟鑫;张利;戴明. 物联网感知层安全威胁建模研究[J]. , 2013, 13(Z): 0-0.
[15]	张海霞;连一峰. 基于测试床模拟的通用安全评估框架[J]. , 2013, 13(Z): 0-0.