网络安全中的AI：2021年的六个注意重点

鼓励将AI负责任地用于网络安全

最近的数据发现，四分之三的高管认为使用AI可使他们的组织对违规行为做出更快的响应。威胁形势继续迅速变化，网络安全领导者必须采用AI来应对网络犯罪分子制定的新策略。反过来，企业必须集中精力确保政策支持这种拥抱。例如，美国对AI计划的出口管制应确保企业在使用AI方面继续在全球网络安全市场中保持竞争力。

确保AI概念参与威胁建模和风险管理

AI的部署在全球范围内不断增长，已经有超过四分之一的AI计划已经投入生产，而超过三分之一的项目则处于高级开发阶段。但是，谨慎考虑攻击者可能如何试图破坏这种增长和新集成的AI系统的稳定性。尽管尚未广泛使用，但随着数据攻击被广泛采用，包括数据中毒攻击和训练模型后门在内的网络攻击可能会针对机器学习系统进行部署。结合了AI系统的威胁模型很少见，而且往往不成熟。业务领导者应努力开发方法，以确保AI处于风险管理活动范围之内，以最大程度地减少此类威胁。

制定和推广AI系统的道德准则

公共部门和私营部门都应在AI应用程序中使用道德准则，并鼓励在这些道德框架中纳入强大的安全性和透明度控制。有很多方法可以将AI应用于网络安全程序，并且重要的是要确保认可诸如Microsoft AI原则之类的框架。可以支持道德AI的原则包括：消除AI偏见，保护AI数据以及确保人们对AI技术如何影响世界负责。

支持透明度并公开分享新发现

有关AI的新研究以及新的对抗性攻击和防御经常在会议论文集和学术期刊上发表。但是，有时，这些贡献没有足够深入地解释如何得出这些发现，并且许多论文没有提供或链接到代码，这将导致结果的准确再现。同样，进行AI研究的企业通常是秘密进行的，这给AI进步的验证和实施带来了负担。这给安全从业人员提供了一个更具挑战性的环境，以评估针对这些模型的可能攻击，最终使企业更难应对这些威胁。

（编辑：应用网_丽江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!