人工智能网络安全的救助还是最大的威胁?

 
如果您不确定AI是对网络安全有史以来最好的还是最坏的事情，那么您将与专家们同舟共济，他们充满激动和恐惧，看着这个新时代的到来。
在短期内，人工智能具有实现更大范围的自动化安全性的潜力提供了可喜的优势。然而，释放出一种旨在最终使人类摆脱困境的技术自然会给整个行业带来一些停顿。如果事情运行不正常，或者攻击者学会更好地利用该技术，则可能会产生隐忧。
凯捷网络安全执行副总裁Geert van der Linden表示：“您为自己辩护的所有发明最终都可能对您不利。” “这次确实感觉不一样，因为越来越多的我们正在失去作为人类的控制权。”
在VentureBeat的第二个季度特刊中，我们跨多个故事探讨了这种算法焦虑，研究了人类在AI驱动的安全性时代仍然具有多大的重要性，即使网络安全技能差距是巨大的，深造和深层媒体正在如何创建新的安全战场。令人担忧的是，由AI摄像机提供支持的监视正在上升，由AI驱动的勒索软件正在引起人们的关注，等等。
近几十年来，计算机的每一次发展都带来了新的安全威胁和新的工具来应对它们。从联网的PC到云计算再到移动设备，趋势总是以存储更多数据的方式出现，这些存储方式会引入不熟悉的漏洞，更大的攻击媒介以及更丰富的目标，这些目标会吸引越来越多的资金充裕的坏蛋。
人工智能安全时代正在迅速成为焦点，这些安全工具的设计，管理它们的规则以及部署方式的风险越来越大。这场竞赛正在确定AI是否将有助于在日益互联的世界中确保人员和企业的安全，还是将我们推入数字深渊。
财政奖励
Juniper Research在去年的一项令人毛骨悚然的预测中预测，数据泄露的年成本将从2019年的3万亿美元增加到2024年的5万亿美元。这是由于违反法规，业务丢失和恢复而受到的罚款综合费用。但是它也将由一个新变量驱动：AI。
“网络犯罪日益复杂;该报告预计，网络犯罪分子将使用AI，它将以与网络安全公司当前使用该技术来检测异常行为的方式类似的方式来学习安全系统的行为。” Juniper的报告中写道。 “这项研究还强调，深度假货和其他基于AI的技术的发展也有可能在未来的社交媒体网络犯罪中发挥作用。”
考虑到每个企业在某种程度上现在都是数字业务，因此在基础设施防御方面的支出正在爆炸式增长。研究公司Cyber​​security Ventures指出，2014年全球网络安全市场价值35亿美元，但到2017年将增至1200亿美元。它预测，未来五年的支出将平均每年增长2000亿美元。仅科技巨头微软每年就在网络安全上花费10亿美元。
预计到2022年网络安全劳动力将短缺180万人，这一支出部分归因于人才招聘成本的增长。人工智能助推器认为，该技术将通过减少人员需求，同时仍使系统安全来降低成本。
安永美洲网络安全负责人戴夫·伯格(Dave Burg)说：“当我们运行安全运营中心时，我们会尽力推动使用AI和自动化。” “目标是采取一种通常可能需要一个小时并将其减少到两分钟的练习，仅需让机器完成很多工作和决策即可。”
AI拯救
在短期内，公司对AI可以帮助他们扭转日益加剧的网络安全威胁的趋势充满信心。
在去年夏天关于人工智能和网络安全的报告中，Capgemini报告说，接受调查的企业高管中有69%认为人工智能对于应对网络威胁至关重要。电信领先其他所有行业，其中80%的高管依靠AI来增强防御能力。公用事业公司高管处在低端，只有59%的人持该观点。
总体看涨已经引发了对人工智能网络安全的投资热潮，以扩大防御能力，同时也追求潜在有利可图的新市场。
去年年初，康卡斯特(Comcast)宣布了对BluVector的收购，这是一个令人惊讶的举动。BluVector是国防承包商诺斯罗普·格鲁曼公司(Northrop Grumman)的衍生产品，它使用人工智能和机器学习来检测和分析日益复杂的网络攻击。这家电信巨头表示，它希望在内部使用该技术，但也将继续开发该技术，以作为可以出售给他人的服务。
随后，康卡斯特(Comcast)推出了Xfinity xFi高级安全性，该功能可以自动为客户家中连接到其网络的所有设备提供安全性。它与Cujo AI合作创建了这项服务，Cujo AI是一家位于加利福尼亚州El Segundo的初创公司，该公司开发了一个平台来发现家庭网络上的异常模式，并向Comcast客户发送即时警报。
Cujo AI创始人Einaras von Gravrock表示，家庭中互联设备的快速采用以及更广泛的物联网(IoT)造成了太多的漏洞，无法手动跟踪或被常规防火墙软件有效阻止。他的初创公司将AI和机器学习作为大规模战役的唯一选择。
冯·格拉夫罗克(Von Gravrock)认为，花费在此类技术上的成本更少，而更多则是必需。如果像Comcast这样的公司想说服客户使用越来越多的服务，包括那些随着5G网络的出现而来的服务，那么提供商必须能够说服人们他们是安全的。
冯·格拉夫罗克(von Gravrock)说：“当我们看到不久的将来时，所有运营商都必须以某种方式，形状或形式保护您的个人网络。”
凯捷(Capgemini)的上述报告发现，总体而言，有51%的企业表示他们大量使用某种AI进行检测，有34%的企业进行预测，18%的企业用于管理响应。侦听听起来像是一个适度的开始，但是已经付出了巨大的代价，尤其是在欺诈检测等领域。
总部位于巴黎的Shift开发的算法仅专注于消除保险欺诈。 Shift的服务可以发现数据中的模式-例如合同，报告，照片，甚至是由保险公司处理的视频。 Shift拥有70多个客户，积累了大量的数据，可以快速调整其AI。预期结果将为保险公司带来更高的效率，并为客户带来更快的索赔处理体验。
这家初创公司在2016年筹集了1000万美元，2017年筹集了2800万美元，去年筹集了6000万美元之后发展迅速。联合创始人兼首席执行官杰里米·贾维什(Jeremy Jawish)表示，关键是要缩小与AI的关系。
“我们非常专注于一个问题，”贾维什说。 “我们只是在处理保险。我们不做一般的AI。这样一来，我们就可以建立变得更加智能的数据。”
阴暗面
尽管所有这些听起来都可能是乌托邦式的，但反乌托邦式的扭曲正在聚集动力。安全专家预测，2020年可能是黑客真正开始释放利用AI和机器学习的攻击的一年。
EY Americas的Burg说：“坏的演员真的非常聪明。” “并且有许多强大的AI算法恰好是开源的。它们可以被用来造福，也可以被用来造坏。这就是我认为这个空间将变得越来越危险的原因之一。基本上，使用了功能强大的工具来反击防御者在进攻方面试图做的事情。”
在2016年的一次实验中，网络安全公司ZeroFox创建了一种称为SNAPR的AI算法，该算法能够每分钟发布6.75个鱼叉式网络钓鱼推文，可传播800人。其中，有275位收件人单击了推文中的恶意链接。这些结果远远超过了人类的性能，后者每分钟只能产生1.075条推文，仅覆盖125个人，并说服只有49个人点击。
同样，数字营销公司Fractl展示了AI如何释放假新闻和虚假信息的潮流。它使用公开可用的AI工具，创建了一个网站，其中包含30个高度修饰的博客文章，以及AI生成的头像(不存在该帖子的作者)的头像。
然后，深度假货的使用非常猖,，它们使用AI来匹配图像和声音来创建视频，在某些情况下几乎不可能将其识别为伪造的视频。 Malwarebytes Labs的主管Adam Kujawa说，他对Deepfake的发展速度感到震惊。他说：“我没想到它会那么容易。” “其中有些非常令人震惊。”
在2019年的一份报告中，Malwarebytes列出了许多预期不良行为者今年开始使用AI的方法。这包括将AI整合到恶意软件中。在这种情况下，如果恶意软件检测到任何检测程序，就会使用AI进行实时适应。此类AI恶意软件可能能够更精确地瞄准用户，使自动检测系统傻瓜，并威胁更大的个人和财务信息存储量。
Kujawa说：“我应该对AI和安全性感到更加兴奋，但是接下来我将关注这个领域，并研究恶意软件的构建方式。” “猫从书包里掏出来了。潘多拉盒子打开了。我认为这项技术将成为攻击的常态。操作起来非常容易，而且操作起来也很容易。”
计算机视觉研究人员已经在努力阻止旨在破坏其机器学习系统质量的攻击。事实证明，这些学习系统仍然非常容易被“对抗性攻击”愚弄。外部第三方可以检测到机器学习系统的工作原理，然后引入使系统混乱并导致其误识别图像的代码。
更糟糕的是，领先的研究人员承认我们并没有真正的解决方案来阻止恶作剧制造商对这些系统造成破坏。
“我们可以防御这些攻击吗?”去年在巴黎的一次演讲中，Google Brain的AI研究人员Nicolas Papernot问。 “不幸的是，答案是否定的。”
进攻防守
为了应对可能滥用AI的问题，网络安全行业正在做这种技术转换过程中一贯的工作-设法使恶意攻击者领先一步。
早在2018年，黑莓就以14亿美元的价格收购了网络安全初创公司Cylance。 Cylance开发了一种端点保护平台，该平台使用AI查找网络中的弱点并在必要时将其关闭。去年夏天，黑莓创建了一个由其CTO领导的新业务部门，该部门专注于网络安全研究与开发(R&D)。由此产生的BlackBerry Labs拥有由120名研究人员组成的专门团队。 Cylance是该实验室的基石，该公司表示机器学习将是重点关注的领域之一。
宣布该消息后，该公司于8月推出了BlackBerry Intelligent Security，这是一项基于云的服务，可使用AI根据位置和使用模式为员工的智能手机或笔记本电脑自动调整安全协议。该系统还可以用于物联网设备或最终用于自动驾驶汽车。通过立即评估各种因素来调整安全级别，该系统旨在使设备保持足够的安全，而不必始终要求员工可能会想避开的最大安全设置。
BlackBerry产品管理高级副总裁Frank Cotter说：“否则，您将不得不采取最繁重的安全措施，或者必须牺牲安全性。” “那是Cylance和BlackBerry Labs背后的意图，是要超越恶意行为者。”
基于圣地亚哥的MixMode也正在寻求发展，并试图构建基于AI的安全工具，以汲取现有服务的局限性。根据MixMode CTO Igor Mezic的说法，现有系统可能具有一定的AI或机器学习能力，但是它们仍然需要一些规则，这些规则限制了它们可以检测的范围以及如何学习以及需要人工干预。
“我们都已经看到了网络钓鱼电子邮件，并且它们变得越来越复杂，” Mezic说。 “因此，即使是人类，当我查看这些电子邮件并试图弄清这是否真实时，这也非常困难。因此，任何基于规则的系统都很难发现，对吧?攻击方面的这些AI方法已经发展到需要人工智慧才能确定其是否真实的地方。那就是最恐怖的部分。”
Mezic说，仍然包含一些规则的AI系统也往往会产生很多误报，使安全团队不知所措，并消除了自动化带来的任何初始优势。 MixMode已经筹集了大约1300万美元的风险投资，目前正在开发它所描述的“第三波AI”。
在这种情况下，目标是使AI安全本身更具适应性，而不是依靠需要不断修改的规则来告诉它要寻找的内容。 MixMode的平台监视网络上的所有节点，以不断评估典型行为。当发现微小的偏差时，它将分析潜在的安全风险并将其从高到低评估，然后再决定是否发送警报。 MixMode系统始终在更新其行为基准，因此无需人工调整规则。
“您自己的AI系统必须非常了解外部AI系统可能试图欺骗它，甚至了解其运行方式，” Mezic说。 “您如何为此编写规则?这是关键的技术问题。 AI系统必须学会识别系统上是否有其他AI系统正在进行的更改。我们的系统旨在解决这一问题。我认为我们是前进的一步。因此，让我们尝试确保我们保持领先地位。”
但是，这种“无监督的AI”开始跨越一个使一些观察者感到紧张的领域。最终，它将不仅用于商业和消费者网络，还将用于车辆，工厂和城市。当AI承担预测性职责并就如何应对做出决策时，此类AI将平衡生命损失等因素与财务成本。
即使他们承诺提高效率并增强防御能力，人类也必须仔细权衡他们是否准备将这种能力让给算法。 另一方面，如果恶意行为者正在掌握这些工具，那么整个社会是否还会有选择?
Burg说：“我认为我们必须确保在使用该技术做各种不同的事情时……我们也意识到，我们需要控制该技术的使用，并意识到可能会产生不可预见的后果。” 安永美洲公司。 “您确实需要仔细考虑其影响和后果，而不仅仅是天真地相信技术本身就是答案。”