AI vs 黑客，谁会是最终赢家？

2018年，微软公司(Microsoft Corp.)的Azure安全团队在一家大型零售商的云计算活动中侦测到可疑行为：那家公司的一名管理员通常都在纽约登录，此时却企图从罗马尼亚登录。那名管理员并未外出度假。可见有黑客入侵。

微软迅速向客户发出警告，在入侵者得逞之前，攻击很快被挫败。

新一代的人工智能软件已经能适应黑客不断演变的攻击战术。微软、Alphabet Inc.旗下的谷歌(Google)、亚马逊公司(Amazon.com Inc.)以及各种初创企业已经不再单纯使用“基于规则”的、应对特定攻击的旧技术，而开始部署机器学习算法，这些算法能通过钻研海量的登录、行为和过往攻击的数据，识别并阻止黑客攻击活动。

“在安全领域，机器学习是一项非常强大的技术，它充满活力，而基于规则的系统非常死板。”加州大学伯克利分校人工智能研究实验室(Artificial Intelligence Research Lab)的教授Dawn Song表示，“要修改那样的系统非常耗时耗力，而机器学习是自动化的、动态的，你可以轻松地对它重新进行训练。”

当然，众所周知，黑客本身也会随机应变，他们也能利用机器学习的漏洞打造出前所未有的作乱手法，攻克新的防御手段。例如，他们可以摸清企业对系统的训练方式，然后利用相应的数据规避或破坏系统算法。大型云服务企业已经痛苦地意识到，敌人是一个移动的目标，但他们认为新的技术有助于让优势倒向好人的一边。

“我们将能越来越早地识别出攻击的威胁，藉此减少总体损失，并尽快将系统恢复至理想状态。”亚马逊首席信息安全官斯蒂芬•施密特(Stephen Schmidt)表示。他承认，要阻挡所有入侵是不可能的，但他所在的行业将“逐步提升系统防护能力，让黑客越来越无从下手。”

在引入机器学习以前，安全团队使用的工具都比较迟钝。比如，当总部人员尝试从陌生地点登录时，系统会直接禁止登入。再比如将包含“Viagra”（伟哥）一词各种错误拼写的垃圾邮件挡在门外。此类系统通常是行之有效的。

但它们也挡住了许多合法用户——旅途中遇到过信用卡无法使用的人都了解这一点。据Azure的首席技术官马克•拉辛诺维奇(Mark Russinovich)介绍，微软的一个旨在打击虚假登录的系统曾有2.8%的误报率。听起来可能不高，但微软的一些大客户产生的登录次数可能高达数十亿次，这样的误报率就不可接受了。

Azure的首席技术官马克•拉辛诺维奇(Mark Russinovich)

为了更好地分辨合法与非法用户，微软的技术开始分析每家公司使用的数据，并基于客户在网上的习惯与历史行为定制安全方案。自该服务推出以来，微软已将误报率降至了0.001%。也正是该系统锁定了那名罗马尼亚的入侵者。

训练这些安全算法的任务落到了拉姆•尚卡尔•西瓦•库马尔(Ram Shankar Siva Kumar)等人的身上，西瓦•库马尔是微软的一名经理，人称“数据牛仔”。六年前，他从卡内基•梅隆大学毕业，经过两轮面试后加入了微软，他接受这份工作的原因是他的妹妹是《实习生格蕾》(Gray's Anatomy)的粉丝，那部剧集就取景自微软所在的西雅图。他管理着一支约18名工程师的团队，他们负责开发这些机器学习算法，确保这些算法足够智能，能快速挫败黑客图谋，并能与花大钱购买微软云服务的企业的软件系统无缝对接。

每当算法检测到攻击，西瓦•库马尔都是接到电话的人之一。他曾经半夜被叫醒，却发现捣乱的是微软内部的“红队”。（他们给他买了蛋糕作为补偿。）

安全任务非常艰巨。每天有成百上千万人登入谷歌的Gmail。“为分辨出登录的人是用户本身还是冒名顶替者，我们需要查看的数据越来越多，且增速很快，单靠人类一条条地编写规则已经不切实际。”产品管理总监马克•里舍(Mark Risher)表示，他的工作是帮助阻止对谷歌客户的攻击。

谷歌现在会在用户登录后继续检查是否为黑客入侵，因为黑客可能一开始毫无破绽，但登录后更容易露出马脚。机器学习能分析众多不同的数据，它在识别未经授权的登录时不再只给出单一的肯定或否定。谷歌会在用户的整个登录过程中监控其行为的方方面面。起初看似合法的用户稍后可能会现出原形，谷歌的软件有足够的时间驱逐他们，防止造成进一步破坏。

谷歌现在会在用户登录后继续检查是否为黑客入侵，因为黑客可能一开始毫无破绽，但登录后更容易露出马脚

除使用机器学习保护自家的网络和云服务外，亚马逊和微软也向客户分享了这项技术。亚马逊的Macie服务利用机器学习在奈飞(Netflix)等客户的企业信息中识别敏感数据，然后监控谁在何时访问了这些数据，一旦发现可疑活动，立刻向企业发出警告。亚马逊的GuardDuty服务会监控客户系统中的恶意或未授权活动。该服务已多次发现员工的不当行为，比如工作时间开采比特币。

荷兰保险集团NN Group NV使用了微软的“高级威胁保护”服务管理其2.7万名员工和密切合作伙伴的访问权限，同时将其他人拒之门外。2019年早些时候，该公司职场服务部门的经理维尔科•詹森(Wilco Jansen)向员工展示了微软Office云软件的一项新功能，它能阻挡所谓的CxO垃圾邮件：垃圾邮件发送者伪装成高管，要求接收方打钱或提供个人信息。

在演示结束短短90分钟后，安全运营中心就报告称，有人对集团CEO尝试了这一攻击。“我们感叹道，‘哦，这个功能可能已经阻止了那种事的发生。’”詹森说，“我们需要时刻保持警惕，而这些工具能帮助我们监控到无法通过人工追踪的情况。”

但机器学习的安全系统也不是万能的，特别是缺少足够的训练数据时。研究人员和企业时不时会担心它会被黑客利用。

例如，黑客可以通过模仿用户活动绕过算法对常见行为的筛查。他们还可以篡改用于训练算法的数据，此即对算法的“毒害”。正因为此，意大利撒丁岛卡利亚里大学模式识别与应用实验室教授巴蒂斯塔•比乔(Battista Biggio)表示，企业必须对算法标准严格保密，并定期修改公式。

目前为止，这些威胁更多还是纸上谈兵。但情况可能会发生变化，正如比乔在去年的论文中所写：“安全是一场军备竞赛，机器学习与模式识别系统打造出的安全也不例外。”

撰文：Dina Bass 编辑：方李敏、周京隆 翻译：程玺

可点击下方图片订阅最新杂志！

◆  ◆  ◆  ◆  ◆  

点击你感兴趣的关键词

立即获得关于TA的更多信息！

权健丨华为

亚马逊 | 全家

马云丨吉利丨P2P

海底捞丨卡米拉丨张小龙

手机app丨中美磋商 | 酒店乱象

......

欲了解更多专业内容，请点击这里下载商业周刊中文版App