微软推出新的开放框架 用以抵御针对机器学习系统的攻击

首页 / 业界 / 资讯 /  正文
来源:安全419
发布于:10个月前
微软近期与安全公司MITRE、IBM、nVIDIA以及BOSCH合作推出了一个新的开放框架,用以专门针对机器学习(Machine Learning,以下简称ML)系统的攻击,企业的安全分析人员可以利用这个框架来进行检测、相应以及补救。据报道,其对应的计划名称为“对抗式ML威胁矩阵”(The Adversarial ML Threat Matrix,以下简称TAMLTM)

目前人工智能(AI)和机器学习(ML)已经广泛地被应用在各种应用程序当中,攻击者不仅可以利用这些技术来对恶意软件的能力进行增强,最终威胁到其想要攻击的应用程序稳定性和安全性。

现实中,去年ESET发现了一种基于电子邮件的恶意软件——EMOTET,它就是利用了ML来提高其目标的锁定能力。另外,微软早些时候也发布了一条关于Andriod新勒索软件的警告,其软件本身也包含了一种机器学习模型。根据Gartner报告显示,到2022年,预计30%的AI网络攻击都会利用机器学习系统。

微软认为,尽管保护ML系统有很多合理的理由,但在其对28家企业进行调查后发现,其中大多数都并不是十分了解,也没有进行针对性的学习如何防护,这之中甚至有25家企业表示他们没有合适的工具来保护ML系统的安全。

因此,TAMLTM作为一个工具,微软希望它可以缓解这种情况,以有效的防范针对ML系统的攻击。

根据微软的说法,TAMLTM的目的是将对ML系统的攻击定位在一个框架之中,由于其结构像已经被广泛使用的ATT&CK框架一样,因此使用者可以不用再去学习一个新的或者是完全不同的框架就可以来了解ML系统的威胁。