1. 极牛网首页
  2. 信息安全

为什么在SOC产品中AI永远无法完全取代人?

为什么在SOC产品中AI永远无法完全取代人?

网络安全领域,人与机器的配合能够干成各自单独完成不了的事,结成能够维持秩序对抗恶势力的互补式团队。

二十世纪特别痴迷人工智能 (AI) 概念。从热心助人的类人仿真机器人,如《星球大战》里蠢萌蠢萌的 C-3PO;到铁板一块冷酷邪恶的智慧机器,如《2001太空漫游》里的 HAL 9000 超级电脑和《黑客帝国》里的主机;AI 都是科幻电影或小说里的标准配置。如今,随着我们真切进入 AI 时代,人类 AI 愿景远比预言更梦幻的事实愈加明显。但我们确实预言对了一件事:AI 彻底改变世界的潜力——无论善恶。

人工智能几乎彻底变革了采纳这种技术的所有行业,包括医疗、证券市场,以及加速采用 AI 的网络安全领域——既用于补充人力也用于强化防御。最近几年机器学习的发展,使得过去人工完成的繁琐工作现在可以自动化完成,比如梳理看起来无穷无尽的数据以找寻威胁指标和异常。现代 AI 具备“理解”威胁、风险和关系的能力,因而能够过滤压垮网络安全部门的大量噪音,只滤出最可能有效的指标。

这一优势包含两个方面:威胁再也不能因安全人员疲劳或职业倦怠而乘隙而入,网络安全人员能够腾出手来从事更重要的任务,比如修复。AI 还可以提升全网可见性。可以通过模拟点击电子邮件链接和分析措辞及语法来筛查网络钓鱼。可以监视网络通信,查找恶意软件安装尝试、命令与控制 (C2) 通信、可疑数据包等。而且,AI 还帮助转型病毒检测,从完全基于特征码的系统——受制于反应时间、效率和存储要求等,转入能检测无特征码恶意软件、零日漏洞利用和位置威胁的行为分析时代。

但尽管 AI 潜力无穷,网络安全部门里的人类员工完全被 AI 替代的想法,仍旧好像用大白代替全国各位医生一样遥不可及。虽说 AI 的终极目标是模拟问题解决、学习、规划、直觉等人类身心功能,但总有些事是 AI 不能处理(目前还不能)的,还有些事是 AI 不应该处理的。AI 不能处理的事务包括创造,这玩意儿可不是能教出来或者编程编出的,总需要人类指导。期待 AI 可靠有效地确定攻击上下文也是个不可逾越的难题,至少短期内是如此,另外也不用指望 AI 能创建安全问题的新解决方案。换句话说,尽管 AI 肯定能增加传统人工处理任务的速度和准确度,但却很难扩展此类任务的范围。

还有些任务是人类当前擅长而 AI 未来有可能超越的。但这些任务是人类将总是占据巨大优势,或者不应完全信任 AI 处理的那种。这类任务包括合规、独立形成策略、分析风险或响应网络攻击。这些领域总是需要人类充当 AI 系统决策核查员,检查其工作,帮助指导其训练。

SOC 永远要留有人类的位置还有另外一个原因:为了领先已开始运用 AI 作恶的网络罪犯一步。不幸的是,任何可以用来帮助人类的 AI 技术同样可以用来伤害人类,而且随着时间推移, AI 对网络罪犯的帮助会像对合法企业的帮助一样大。

暴力破解攻击,曾经随着密码复杂度要求的提高而式微,但以 AI 的形式获得极大推动。该技术结合了之前泄露的密码数据库和公开可用的社交媒体信息,如今不再试图从 111111 之类开始尝试每个可能的密码组合,而是只做经过训练的猜解,成功率高得惊人。

类似的,AI 可用于鱼叉式网络钓鱼攻击。当前,鱼叉式网络钓鱼必须人工进行,限制了其实用性。但结合数据收集和机器学习技术,社交媒体和其他公开信息源就能被用来“教导” AI 撰写出目标信任的文风,让目标更可能执行攻击者染指敏感数据或安装恶意软件所需的动作。由于鱼叉式网络钓鱼所需工作量大幅下降,同时期收益潜力急剧上升,我们无疑会看到更多此类攻击。

但或许最大的威胁是黑客将用他们的 AI 策反网络安全团队的 AI。达成此事的一条路径是挫败现有机器学习模型,也就是所谓的 “对抗性机器学习”。机器学习中的 “学习” 部分,指的是系统观察数据模式和提出数据含义假设的能力。但通过往系统中注入错误数据,算法赖以决策的模式就会被破坏——让目标 AI 以为恶意过程不过是无意义的日常事件而加以放过。恶意黑客置入 AI 系统的一些过程和信号对系统本身毫无影响,他们只是重新训练该 AI 把自身行为视作正常的而已。一旦训练完毕,这些过程就可用于执行几乎不会被逮到的攻击。

鉴于 AI 可能为害的各种方式,有些人可能干脆就想完全放弃 AI 了。但无论你个人是怎么想的,AI 之路已经无法回头。随着网络罪犯开发出愈加复杂和危险的 AI 利用方式,仅靠安全人员自身已经不可能跟上他们的脚步。唯一的解决方案,就是在 AI 利用上更加精进,在罪犯之前开发和部署新的 AI 进展。同时避免太快自满。毕竟,坏人不会闲着这话在网络攻击者身上体现的更加明显,今天看起来最智能的进步也挡不住明天的威胁。

网络安全的未来将充满我们今天无法想象的威胁。但小心警惕加努力工作,人与机器的结合能做到二者单独办不到的事——结成互为补充的团队,对抗邪恶势力,维护网络世界秩序。

毕竟,我们的 AI 可能与电影里的那些没什么不同。

极牛网精选文章《为什么在SOC产品中AI永远无法完全取代人?》文中所述为作者独立观点,不代表极牛网立场。如若转载请注明出处:https://jikenb.com/12488.html

发表评论

登录后才能评论