人工智能正在信息安全领域开创一个新的前沿。独立学习、推理和行动的系统将越来越多地复制人类行为。像人类一样，他们会有缺陷，但他们也有能力完成伟大的事情。
人工智能带来了新的信息风险，使一些已有的风险更加危险。然而，它也可以永久使用，应该成为每个组织防守武器库的关键部分。在接受将成为日常业务中最重要的技术之前，业务和信息安全领导者必须了解风险和机会。
人工智能在许多主流业务用例中找到了自己的方法。使用各种组织人工智能来支持客户服务、人力资源和银行欺诈检测等领域的流程。然而，这种炒作可能会导致对AI的真正含义以及商业和安全的真正含义的混淆和怀疑。一厢情愿和现实很难分开。
(相关资料图)
人工智能带来的信息风险是什么？
随着组织采用人工智能系统，它们对于日常业务运营将变得越来越重要。一些组织已经或将拥有完全依赖人工智能技术的商业模式。无论一个组织使用AI的是什么功能，这种支持AI的系统和信息都存在固有的漏洞，受到意想不到的、对抗性的威胁。受损的人工智能系统做出了错误的决定，并产生了意想不到的结果。
与此同时，组织开始面临复杂的基于AI的攻击——。这些攻击可能以前所未有的速度和规模破坏信息，并造成严重的业务影响。采取措施保护内部人工智能系统，防御外部人工智能威胁，降低信息风险非常重要。
虽然组织采用的AI系统提出了诱人的目标，但对抗性攻击者也开始为了自己的目的使用AI。AI是一个强大的工具，可以用来增强攻击技术，甚至创造新技术。组织必须准备调整防御措施，以应对基于人工智能的网络攻击的规模和复杂性。
人工智能提供的防御机会
安全从业者一直试图跟上攻击者使用的方法。AI系统至少在短期内可以通过显著增强各种防御机制来增强安全性。人工智能可以将许多任务自动化，帮助人手不足的安全部门弥合专家技能的差距，提高员工的工作效率。为了防御现有的许多威胁，人工智能可以让防御者领先一步。然而，对手并没有停滞不前。——随着基于人工智能的威胁变得越来越复杂，安全从业者只需要使用人工智能支持的防御措施就能跟上。
就威胁而言，人工智能的优势在于它可以在没有人类监督的情况下独立行动并采取对策，速度比人类快得多。这是一个非常有价值的功能，因为恶意软件几乎可以立即危害整个系统。
1人工智能可以显著增强防御机制的方式为乐观主义提供了基础，但与任何新技术一样，这不是一个奇迹般的解决方案。安全从业者应该意识到部署防御性人工智能所涉及的实际挑战。
1部署防御性AI系统之前的问题和注意事项的智能范围非常狭窄，目标是完成一项任务。他们需要足够的数据和输入来完成任务。单一的防御性人工智能系统不会增强上述所有防御机制。——一个组织可能采用多个系统。在购买和部署防御性AI之前，安全领导者应该考虑是否需要AI系统来解决这个问题，或者更常规的选择是否会起到类似或更好的作用。
1要问的问题包括：
1这个问题有什么限制吗？(也就是说，你能用数据集或输入类型解决这个问题，还是需要更好地理解上下文？通常谁更擅长提供？)
1组织是否拥有运行和优化AI系统所需的数据？
1安全领导者还需要考虑防御性AI的治理，例如：
1防御性AI系统如何适应组织的安全治理结构？
1组织如何
1防御性AI系统如何维护、备份、测试和补丁？
20、组织是否有足够的技术人员来监督防御性AI系统？
2AI不会用技术专长和直观的风险取代熟练的安全从业者。这些安全从业者需要在人工监管的需求和让人工智能支持的控制独立有效运行的信心之间取得平衡。建立这种信心需要时间，尤其是当人工智能的故事不断出现，事实证明不可靠或错误或做出意想不到的决定时。
2人工智能系统可能会出问题。——人工监管的一个好处是，员工可以在出现问题时提供反馈，并将其纳入人工智能的决策过程。当然，人类也会犯错。——采用防御性AI的组织需要投入时间、培训和支持，以帮助安全从业者学习如何使用智能系统。
2如果有足够的时间一起发展和学习，人和
2人工智能的结合应该是组织网络防御的重要组成部分。
2现在就开始规划未来
2一个能够独立学习、推理和行动的计算机系统，预示着一个充满风险和机遇的新技术时代。已经证明的进展只是冰山一角，还会有更多的进展。穿过
2可以用于防御的AI工具和技术也可用于包括分子，黑客主义者和资助团体在内的恶意行为者。这些对手很快就会发现使用AI来创建诸如智能恶意软件之类的全新威胁的方法–到那时，防御性AI不仅是“必备品”。这将是必要的。使用传统控件的安全从业人员将无法应对攻击的速度，数量和复杂程度。
2为了在新时代蓬勃发展，组织需要降低AI带来的风险，并充分利用AI提供的机会。这意味着要保护自己的智能系统并部署自己的智能防御。人工智能不再是遥不可及的未来：现在开始准备的时候了。
关键词：
Copyright 2000-2021 by www.jiaoyu.cqyy.net all rights reserved
邮箱 : 317 493 128@qq.com
