原标题：爆粗口？人工智能安全隐患呈现新特点
在人类需要AI帮忙维护安全的同时，AI也需要人类帮助其更好的发展。
“人工智能与我们的生活已经开始有了重合交叠了。而这样的交叠重合，必然会有一些问题的出现。比如微软小冰，上线之后短短的时间内，就爆了粗口。虽然这样的情况出现的威胁很小，但不得不让我们正式一个问题，人工智能会出问题，而倘若出了问题的人工智能被利用了，又会发生什么？”
近日，极棒（GeekPwn）创始人兼CEO王琦在国家网络安全周的媒体采访会上指出人工智能存在安全隐患问题。他表示，在AI时代，安全威胁也呈现了新的特点。OpenAI的专家Ian Goodfellow在2016年的GeekPwn硅谷站上就曾带来过利用对抗性图像欺骗机器识别的展示，在添加了肉眼不可见的干扰因素之后，机器识别的决策就发生了错误。而这样的隐患假设在机器识别被大规模投放使用后爆发，后果难以想象。
在极棒实验室和上海社会科学院互联网研究中心联合发布的《智能物联网安全风险报告》中显示，由于智能机器人本身的安全漏洞所引发的事件在全球范围也频频发生。2017 年 3 月，美国IOActive 公司针对 50 款机器人进行了安全研究，发现十款机器人存在将近 50 个安全漏6洞，能够被攻击者利用威胁人类安全。8 月，一份安全报告称一款工业机器人和两家公司的四款家用机器人均存在重大安全漏洞。而在家用机器人上，其中一家机器人在存储和传输数据前没有对敏感进行加密，而攻击者则可以利用这些家用机器人录制语音、视频并传输到外部服务器。
除此之外，由于机器人自身程序运行异常而制造的混乱也越来越多。美国食品及药物管理局（FDA）统计，在 2000 年至 2013 年间与手术机器人相关死亡事件至少 144 起，超过 1000 个造成伤害案例。其中，安全事故包括脱落的零件掉入患者体内、电火花引起的组织烧伤以及系统故障导致的手术时间过长等。
对此，王琦表示，不同于传统IT的安全攻防技术，AI时代的安全对抗已经从单纯的信息技术的比拼上升为人工智能算法的较量。在人类需要AI帮忙维护安全的同时，AI也需要人类帮助其更好的发展。
