就像一枚硬币的两面，AI既能“助人为乐”也能“助纣为孽”，这取决于AI技术被谁使用、用来干什么......

  当前，蓬勃发展的数字化、智能化技术和应用正在深刻改变着人们的生产、生活方式，网络安全行业也在这场数智化变革的洗礼中迎来新的升级与发展。摩根士丹利指出，在网络安全威胁不断上升和人手严重短缺的情况下，AI有助于释放网络安全市场超过300亿美元的价值。 

  当然，技术从来都是双刃剑，尽管AI为网络安全行业带来新的发展机遇，但伴随而来的网络安全挑战也不容小觑。英国网络安全公司Darktrace的报告显示，攻击者使用ChatGPT等生成式AI，通过增加文本描述、标点符号和句子长度，让社会工程供给量增加了135%。

  硬币的反面，安全威胁加剧

  如今，AI的发展正在促使网络威胁快速演变。在笔者看来，AI技术在网络安全领域的应用带来新的风险，网络犯罪分子可以利用AI技术进行攻击，通过模拟人类行为来规避安全检测，同时也可被用于制造虚假信息误导用户。

  以生成式AI为例，其生成的钓鱼邮件没有语法错误、自动翻译痕迹等明显的错误，使网络钓鱼和电子邮件诈骗看起来更加真实，增加了其危险程度。同时，生成式AI还可以模拟特定个人的声音，这也大大增加了诈骗的风险。

 

 

 Akamai亚太地区及日本安全技术和战略总监Reuben Koh

  Akamai亚太地区及日本安全技术和战略总监Reuben Koh认为，网络犯罪分子利用AI能够开发更加复杂和自动化的攻击策略。“由AI驱动的网络攻击能够被理解被攻击企业的网络防御机制，因此可以根据具体情况进行实时调整，从而使企业检测和防御这些攻击变得非常困难。”Reuben Koh如是说。 

 亚信安全首席安全官徐业礼

  亚信安全首席安全官徐业礼认为，AI系统本身会涉及安全问题，诸如模型被投毒、模型被篡改、边界防护与端点防护能力不足等;其次，AI大模型在运行过程中，可能产生误导信息，或者被网络犯罪分子利用进行攻击;最后，大量使用AI可能会导致数据的泄露。

  根据MIT Technology Review的采访数据，2021年60%的采访对象已经难以应对自动化的网络攻击，96%的人已经在开始遭受AI网络攻击。分析师Hamza Fodderwala坦言，生成性AI正以前所未有的速度被用来制造和变异恶意软件，大大增加了负担过重的安全组织投资自动化的需求。

  使用AI技术、零信任应对安全挑战

  我们在看到AI为网络安全带来的风险的同时，也应该注意到AI技术对于网络安全的赋能。如今，AI正在推动攻防技术向自动化、主动化、智能化方向演进。依托高算力和机器学习特征，AI通过对海量数据进行分析、自动研判，可以提高网络安全中预测、防范、检测、响应等环节的自动化和智能化程度，提升防护速度和准确率，减少人为失误和管理成本。 

  事实上，目前，AI已被应用于威胁分析、策略生成、态势感知、攻防对抗等方面，防护有效性得到充分验证。IBM指出，缺乏AI安全的企业，在抵御网络攻击方面的成本是部署了AI自动化防御系统的企业的三倍。Capgemini研究结果显示，80%的公司依靠AI来帮助识别威胁和阻止攻击。

  在应对安全挑战上，有分析指出，大量的以AI为基础的自动化供给将会产生大量的安全防护需求，AI能力将会成为信息安全中最大的赢家。此前，微软推出了下一代AI产品Microsoft Security Copilot，将AI技术应用于网络安全领域，谷歌云发布Security AI Workbench产品，帮助企业缓解安全运营压力，类似的案例还有IBM的安全套件IBM Security QRadar Security Suite等。 

  将零信任理念与网络控制结合起来也是企业应对安全挑战的策略之一。假定每个用户都是潜在的安全威胁者，在实际操作过程中，仅授予远程用户履行职责所需的特定应用程序的访问权限。在笔者看来，零信任能够实现按需的授权和认证，与网络控制结合才能够实现企业端到端的应用安全。

  加强监管，树立安全意识

  除了从技术层面应对挑战外，个人需加强信息保护意识，遵守企业制定的相关规范，避免个人及企业数据遭受到安全威胁。此外，企业在使用AI应用的同时，也需要加强管理制度规范及员工安全防范意识培训。 

  Reuben Koh认为，网络威胁常常针对该链条中最薄弱的一环，通常就是个人用户，通过为员工安排安全意识培训，可以减少人为错误，从而提高员工做出正确决策的能力。

  同时，政府、企业和学术界应加大对人工智能在网络安全领域的投入，提供更多的支持和资源。我们注意到，为了应对新出现的威胁，业界成立了各种工作组，还制定了多项倡议，以开发和构建网络安全标准和框架，其中包括MITRE的威胁知情防御中心和FIDO联盟。

  此外，也需要加强法律和监管的建设，保护用户的隐私和数据安全。中航证券在其研报中指出，生成式AI快速发展带来更多潜在安全威胁，加强监管是大势所趋。 

  因此，市场主体需要落实《数据安全法》《个人信息保护法》等相关规范，确保用户及业务数据的安全性，同时更需加强人工智能模型参数等相关技术的机密性，以保障企业利益不受侵犯。

  写在最后

  技术是一把双刃剑，AI在为网络安全带来挑战的同时，也应该注意到，AI作为关键技术之一有着巨大的潜力来应对网络安全的挑战，其通过数据分析、自动化/智能化防护、恶意软件检测与防范等，能够充分赋能网络安全。除了运用AI技术外，还应该加强对AI技术的监管，以确保其合法性、安全性、合规性，加强对网络安全人才的培养，提高企业、个人网络安全的整体水平，加强对网络安全技术的研究和开发，不断提高网络安全的防御能力，推动数字化时代的安全发展。