评论

微软开源Counterfit,用于AI系统安全测试的自动化工具

原标题:微软开源Counterfit,用于AI系统安全测试的自动化工具

喜欢就 关注我们吧!

文 | Travis

出品 | OSC开源社区(ID:oschina2013)

鉴于复杂的网络攻击越来越多,网络安全如今已成为微软的首要问题。正因为如此,微软也在不断更新其安全基础设施,以保护自己免受网络安全的威胁。近日,微软通过发布一个名为 Counterfit 的新工具来解决 AI 系统安全性的问题。

Counterfit 是微软开发的一个开源工具,用于对企业或组织的人工智能系统进行自动化的安全测试。鉴于人工智能系统在各行业中广泛运用,其最终目标是让企业对其人工智能系统的稳健性和可靠性有很高的信心。微软指出,在它调查的 28 个企业/组织中,有 25 个认为他们没有正确的机制来保护人工智能系统,他们的安全专业人员也没有很好地处理针对它们的威胁。

Counterfit 最初是一套可用于攻击 AI 模型的脚本。微软首先在自己的内部测试中使用它,但现在,Counterfit 已经发展成为一个自动化工具,可以大规模地攻击多个 AI 模型。该公司表示,它已经成为微软的人工智能业务的主要工具,可以用它来执行和自动化目前正在开发和生产的人工智能服务的对抗性安全测试。

使用 Counterfit 的好处是它与环境、模型和数据无关。这意味着,它可以在企业内部、边缘和云端使用,以测试任何类型的人工智能模型,这些模型依赖于几乎任何形式的输入数据,包括文本和图像。

微软表示,Counterfit 对于使用 Metasploit 或 PowerShell Empyre 的安全团队来说很容易使用。它可以用于渗透测试和漏洞扫描,它还可以记录对人工智能模型的攻击,因此数据科学家可以利用其遥测技术进一步加强其人工智能系统的安全性。

你可以前往该开源项目的 GitHub 页面:https://github.com/Azure/counterfit,了解更多关于 Counterfit 的信息以及如何在企业中部署它。

TIOBE 5月榜单:Python重回榜二,有望夺冠 2021-05-04

理查德·斯托曼:为了自由,我决定写一个GNU操作系统 2021-05-03

微软披露在Windows中强制删除Flash的最终计划 2021-05-04

觉得不错,请点个在看返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
大家都在看
推荐阅读
免费获取
今日搜狐热点
今日推荐
网站地图 和成彩票江西11选5 和成彩票广西快三 彩票828福彩3D
申博娱乐 澳门网上真人赌场登入 菲律宾申博官方网 菲律宾申博怎么注册
o8欧星香港二分彩 完美世界游戏平台 香港六合王代理最占成 www.687.net登入
和成彩票上海快三 彩票828江苏11选5 彩票828广西快十 彩票828上海时时乐
彩票828新疆11选5 彩票828新疆时时彩 和成彩票幸运飞艇 和成彩票排列三
256SUN.COM 1112978.COM S618F.COM 761cw.com 444TGP.COM
162SUN.COM 2888DZ.COM 989jbs.com XSB593.COM 638XTD.COM
87XTD.COM 838XTD.COM 256SUN.COM 968psb.com DC593.COM
78XTD.COM 8DCS.COM 88sbib.com 761sj.com 958jbs.com