专栏观察

裁掉杰森伯恩,招揽人工智能,AI间谍厉害在哪?

 

图片来源:视觉中国

文 | 岳文纶

来源 | 智能相对论(ID:aixdlun)

 

间谍,是那些从事以窃密为主的各种非法谍报活动的特工人员。在《谍影重重》系列中,杰森伯恩(《谍影重重》主角)满足了人们对于间谍的一切幻想:身手了得,头脑敏捷,坚毅不屈,以一己之力单挑CIA(美国中情局),可以说是“谍中谍”了。然而,优秀如杰森伯恩,如今也面临失业的困扰。

4月25日,CIA宣布,计划用人工智能取代间谍。其技术开发副主任Dawn Meyerriecks表示,CIA正在适应新的情形,其主要对手是一台机器,而不是一名外国间谍。硅基特工究竟比碳基特工强在哪?

神出鬼没的间谍怎么也敌不过AI?

智能相对论(ID:aixdlun)分析师岳文纶认为,主要是以下几个方面:

一、作为伪装者,AI间谍让人习以为常

影视剧里,间谍们在执行任务之前总要通过假文件制造假身份,然而无论他们手法多么精妙,都难逃被人识破的命运。AI间谍相比于他们,是更加高明的伪装者,因为AI间谍能以人们习以为常的样子出现。

首先,AI间谍能伪装成电器这样的实体形式,被安排进每一个家庭、每一所办公间。2017年10月,谷歌推出了一款叫做Clips的AI相机,这是一款完全由AI进行主动决策的产品,它能像我们的神经网络一样,对场景进行自识别。据介绍,通过人工智能判断合适的拍摄时间,它能记录下家庭的美妙一刻。试想,如果AI间谍伪装成这样的摄录像设备被安放在我们身边,它会拍下怎样的特定场景呢?也许是商业机密,也许是生活隐私,而我们却浑然不知。还有更多的智能产品能以这样的形式伪装,被投放到我们身边。

其次,AI间谍能以聊天软件这样的虚拟形式,住进我们的智能设备里。2014年5月,微软小冰诞生了,微软将近7亿中国网民多年的公开聊天记录精炼为1500万条容量的语料库,再加上自身在大数据、自然语义分析、机器学习和深度神经网络方面的技术积累,使“小冰”具备了理解对话语境与语义的能力。它能干啥?一般人看来,它不过是陪你聊天,不论你是政府官员、军人还是科学界,你的话茬它都能接上,甚至还能主动引导你说话。与人聊天时,身心放松的人们无所不谈,无意间给小冰透露了很多有价值的信息,也正是这些信息被小冰利用起来,才让你觉得跟小冰聊天如此有趣。细思恐极的是,面对如此大规模搜集信息的工具,大部分人只是把它当作是一个朋友。那如果你的朋友是一个间谍呢?甚至不用严刑拷打,你就不知不觉地将机密出卖,之后再被这位“朋友”出卖。

二、作为潜伏着,AI间谍能渗透到每个领域

目前,互联网技术已经渗透到所有领域,而人工智能时代的来临,则赋予了硅基大脑更多的权限:自动驾驶、智慧家庭、金融和医疗,AI逐渐成为我们的司机、管家、会计和医生。这意味着AI间谍渗透到每个地方成为了可能,且拥有了更大的威胁。比起作为伪装者进入我们生活、工作的个案,AI间谍这种无处不在地潜伏更为可怕: 

当AI间谍潜入社交平台。去年,安全公司ZeroFOX做了一组实验,他们想测试人工智能是否比人类更容易欺骗Twitter用户点击恶意链接。科学家们从社交网站收集用户行为数据来训练模型,然后以此设计并生成恶意链接诱饵。在测试中,人工智能的表现显著超越了人类对手,它们撰写和发布假消息的能力远胜人类,而且转化率还更好。这个AI名叫SNAP_R,它以每分钟6.75条消息的速率向800名用户发送钓鱼消息,其中有275名用户成功上钩。相比之下,来自福布斯的专业作家Thomas Fox-Brewster平均每分钟只能产出1.075条消息,总共发送了129名用户,而仅有49名用户被吸引。幸亏这只是一场实验,但事实很明显地告诉我们,在公共的网络空间里,AI有能力且更加高效地完成人类间谍或者黑客能完成的一切工作。

当AI间谍潜入智能安防。在Geekpwn2017年的年中赛上的网络安全攻防战中,百度安全实验室的谢海阔、黄正利用一款智能锁默认设置网关不严谨的漏洞,轻易破解了通信协议、得知密码加解密算法,获得门锁的密码。赛事评委万涛认为,理论上利用这个漏洞可实现十分钟内获得此品牌销往全国的所有智能锁的密码。这些漏洞在人类面前尚且很容易被发现,可想而知,当它们被摆在AI间谍面前会怎样。实际上,在私密场景里,凭借电子产品取代传统锁匙、门禁建立起的安全防护网,正是AI间谍能大展其才的领域。当人类间谍面对智能识别系统无能为力时,AI间谍总有自己的办法愚弄自己的同类。

虽然AI间谍现在还未成为现实,但我们不妨开一个脑洞,假如自动驾驶的“大脑”被入侵,在北京的大街上就会瞬间多出数百匹“野马”,带着乘客上演《速激8》的戏码;正在为某个国家元首进行手术的“机器医生”程序错乱,本该进行的几毫米微创口,一下子变成了半米左右的血窟窿……而这样的场景是无穷无尽的。

三、作为超能者,窃密对于AI间谍只是小菜一碟

影视剧中,常有人类间谍在入侵到某个实验室后,将自己的U盘插入设备开始读条进行窃密任务的桥段,往往在读条快到100%的时候,他们被人发现,功亏一篑。这样的失败决不会发生在AI间谍身上。

先不论AI间谍能以虚拟的身份侵入,非常隐蔽,在信息搜集和信息处理这些窃密的核心能力上,相较于人类,AI间谍简直是超人。

AI能大量挖掘公共网站和社交网络的大数据,从中提取用户的出生日期、性别、常住地、电话号码、电子邮件地址等个人信息,这样的能力所有人都不会陌生,在此基础上,通过深度学习,它们获取信息的准确率和效率更高。可以说只要让AI间谍侵入了系统,所有信息对它而言一览无遗,极短时间内它就能一下子完成好几项窃密任务。

同时,拥有了强大信息处理能力的AI,在窃取信息后,面对海量数据,能当场进行分析,迅速将得到的结论传导出去,以人类间谍不可能想象的速度为大量的军事行动、商业决策赢得宝贵时间。前不久,美国研究人员训练出一个深度学习算法,用以识别“东亚某国”地空导弹基地。这些算法比人类的速度快几百倍,高效找出分布在一块近9万平方公里区域内的地空导弹发射场。这种人工神经网络基于能够过滤和学习大量数据的人工神经元层,达到人类图像分析专家90%的准确率。令人震惊的是,这种方法还将发现潜在导弹基地的时间从60小时(2.5天)减少到42分钟。

面对这些惊人的能力,也难怪Meyerriecks主任不得不说,在当前数字追踪和社交媒体的时代背景下,中情局间谍试图以一种假定的身份生活十分困难,因而,现代世界日益演变成为一个不适宜人类间谍居住的环境。智能相对论(ID:aixdlun)分析师岳文纶认为,不仅仅是因为人类间谍无处藏身,更因为人类间谍的能力比AI差上太多。而面对这些可能无处不在的AI间谍,我们能怎么办呢?

AI对抗AI,人工智能时代的左右互搏

《射雕英雄传》中,周伯通开创了武林绝学左右互搏术,他让自己的左手跟右手打架,却不经意提升了自己的实力。在未来,要抑制入侵能力、窃密能力都远胜于人类的AI间谍,恐怕别无他法,还得依靠AI,这简直是一场人工智能时代的左右互搏。

一、量化风险,在AI间谍入侵之前

未雨绸缪,在没遭到攻击之前封堵漏洞,可大量规避AI间谍入侵的风险,然而繁琐的网络风险评估让许多企业望而却步。这时AI技术可以派上用场,借助 AI 的强大计算能力,可以实时处理数以百万计的数据点,真正做到量化风险。与此同时,还能根据结论生成预测,帮助企业和网络保险公司获得最精确的网络风险评估。BitSight公司目前是此领域的佼佼者,它们通过部署在全球各地的传感器,收集了TB级的安全数据。从这些数据中,BitSight能够看到攻击指示器、受感染的机器、不当的配置以及有潜在危害的用户行为。随后,BitSight利用算法将这些数据依据严重程度、频率、持续时间和信心等指标进行分析,再将这些结果映射到公司的已知网络,对这些网络进行安全性能的整体评价。

二、分析行为,AI间谍不能愚弄所有“人”

AI间谍通过自动执行某些劳动密集型任务并更有效地确定潜在目标来实施网络攻击,攻击行为往往藏匿于用户行为中,对于人类安全分析员而言,监管少许用户行为或许难度不大,但当数据上升到一定量级,他们就必然会出现收尾难顾的窘态。MACIE Analytics推出的AI网络安全分析产品,就致力于解决基于巨量数据的用户行为分析。面对AI间谍的大量侵入,这款产品能实时监控客户的知识产权被何时以及如何访问,评估谁正在查看、复制或移动特定文档,以及他们在什么时候这样做,以便识别可疑的行为模式,并在其发生之前标记潜在的数据泄露行为。

三、断其后路,AI间谍也难全身而退

如果在预防端和监控端都无法阻止AI间谍,那只能尽最大可能地止损。AI间谍窃取信息后,必然要以数据的形式将信息传出,在发现异常网络流量输出时,及时阻止,成为最后救赎。这一类网络流量异常监测产品,不依赖入侵的深度数据包检查,通过AI技术寻找出跨协议相关性,分析内外部网络流量中无穷无尽的元数据相关性,进而发现问题。专注于该领域的初创企业包括 Vectra Networks、DarkTrace和 BluVector 等。

目前,基于机器学习、深度学习的人工智能网络安全正在引发新的产业爆点,除了智能相对论(ID:aixdlun)分析师岳文纶提到的一些抵御AI间谍入侵的解决方案,每天不断有新的AI技术被提出、运用。虽然AI间谍只是一个暂时的假想敌,但可以预见,这只戴着黑手套的左手将会与戴着白手套的AI反间谍系统打得不可开交,它们的水平将交替上升,共同推动人工智能的发展。

在《谍影重重》系列中,父亲无端死去、爱人香消玉殒让杰森伯恩逐渐对自我价值产生怀疑,最终选择隐退。而没有感情的AI间谍不惧拷问、也不会投诚,更不可能幡然醒悟,在未来,它或许将给我们带来比杰森伯恩们带来大得多的挑战。

 

【完】

智能相对论(微信id:aixdlun):深挖人工智能这口井,评出咸淡,讲出黑白,道出vb深浅。重点关注领域:AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等。

希望看到您的想法,请您发表评论x