为（wéi）了在新时代蓬（péng）勃发展，企业安（ān）全需要（yào）减少人（rén）工智（zhì）能带（dài）来的风险（xiǎn），并充（chōng）分利用它提供的（de）机会。

portant;" />

人工智（zhì）能（néng）(AI)正（zhèng）在创造信（xìn）息安全（quán）的新领域（yù）。能够（gòu）独立学习、推理和行动的系统将越来越多地复制（zhì）人（rén）类的（de）行为。就像人（rén）类一样，他们也会有缺陷，但（dàn）也有（yǒu）能力（lì）取得伟大的成就。

人工智（zhì）能带来了新的信息风险，并使（shǐ）一（yī）些（xiē）现有风险（xiǎn）更加危险。但是（shì），它也可以永久使用，并且应该（gāi）成为每个组织防御性武器库中的关键部分（fèn）。业务和信息（xī）安全领导者（zhě）都必须在接受即将（jiāng）成为日（rì）常业务中至关重要的技术之前，先了解风险（xiǎn）和（hé）机遇。

人工智（zhì）能已经在（zài）许多主流业务用例（lì）中找（zhǎo）到了自己的（de）方式。组织使用（yòng）AI的变（biàn）体来支持客户服务（wù），人力资源和（hé）银行欺诈检测等领域（yù）的流程。但是，这种（zhǒng）炒作可（kě）能导致人们对AI的（de）真正含义及其对（duì）业务和安全的（de）真正含义感到困（kùn）惑和怀（huái）疑。很（hěn）难将一厢情愿的（de）想（xiǎng）法与（yǔ）现实分开（kāi）。

人工智能带来的（de）信息风险是（shì）什么？

随着组（zǔ）织采用AI系统，它（tā）们对于日（rì）常业务运营将变得越来（lái）越重要。一些组织已（yǐ）经拥（yōng）有或将拥（yōng）有完全（quán）依赖AI技术（shù）的业务模型。无论（lùn）组织使用了（le）AI的哪（nǎ）些（xiē）功能，这（zhè）样的系统（tǒng）和支持AI的信息都会存（cún）在固有的（de）漏洞，并且受到（dào）意外（wài）和对抗性（xìng）风险的威胁。受损的AI系统将做出错误的决策并产生意外的（de）结果。

同时（shí），组织开始（shǐ）面临复（fù）杂的基于AI的攻击，这些攻（gōng）击有可（kě）能以前所未有的速度和（hé）规（guī）模破坏（huài）信息并造（zào）成严重的（de）业务（wù）影响。采取措施保护内（nèi）部AI系（xì）统并（bìng）防（fáng）御外部AI威胁，对（duì）于降低信息（xī）风险至关重要。

尽管（guǎn）组（zǔ）织采用的（de）AI系统提供了诱人的目标，但对抗性攻击者也开始将AI用于自己的攻击（jī）。AI是一种（zhǒng）功能（néng）强大的工具（jù），可用（yòng）来（lái）增（zēng）强攻（gōng）击技术，甚（shèn）至创（chuàng）建全新的攻击技（jì）术。组织必须准备（bèi）好（hǎo）调整（zhěng）防御（yù）措施，以应对基于AI的网络攻击的规模和复杂性。

人（rén）工智能提供的防（fáng）御性机会

安全从（cóng）业者（zhě）总（zǒng）是在（zài）努力跟上攻击者使（shǐ）用的方法，而（ér）AI系统至（zhì）少可以（yǐ）通过显（xiǎn）著增（zēng）强各种防御（yù）机制来提供短期的（de）能力提升。AI可（kě）以将大量任务自动化，帮助（zhù）人（rén）手不足的（de）安全部（bù）门（mén）填补专业技能缺口，提高从（cóng）业人员的（de）效率。

为了（le）保护自己免（miǎn）受现有威胁（xié），AI可以让防（fáng）御者领先一步。然而（ér），对手并不是静止不动的——随着支持AI的威胁变得（dé）越来越复杂，安全从业者将（jiāng）需要使用AI支持的防御（yù）来跟上形势。

在应对威（wēi）胁方面，AI的好处在于（yú），它可以独立（lì）行动，在不需要人类监督的情况下采（cǎi）取相应措施，而且速度比人类快（kuài）得多。考虑到恶意软件的（de）存在（zài）几乎可（kě）以在瞬（shùn）间（jiān）危害整个系统，这是一个非常有价（jià）值的能（néng）力。

人工智能可以显著增强（qiáng）防御机制的方式（shì）有很（hěn）多，这（zhè）为我们提供了乐观的理由，但（dàn）与任何一种（zhǒng）新技术（shù）一样，人工智（zhì）能也不是（shì）灵丹（dān）妙药。安全从业人员应该意识（shí）到部署防御（yù）性AI所涉及的实际挑战。

在部署防御性（xìng）AI系统（tǒng）之前（qián），需要考虑的问题和（hé）考虑的范围（wéi）很窄，而且是（shì）为了完成一种（zhǒng）任务而设计的。他们需（xū）要足够的（de）数（shù）据（jù）和输入来完成这（zhè）项（xiàng）任务。一个单（dān）一的（de）防御性AI系统将不能增强之（zhī）前概述的所（suǒ）有防御机制——一个组（zǔ）织（zhī）可能（néng）采用多个系（xì）统。在购买和（hé）部署防御性AI系统之（zhī）前，安全领导（dǎo）应该考虑是否（fǒu）需要（yào）一个AI系（xì）统来解决问题，或者更传统（tǒng）的选（xuǎn）择是否会起（qǐ）到类似或（huò）更好的作用。

要问的（de）问题包括（kuò）：

●问题（tí）有（yǒu）局限吗（ma）?(例如，它是否可（kě）以（yǐ）用一个数据集或（huò）一种输（shū）入类型来处理，或（huò）者它是否需（xū）要（yào）高度理解上下文，通常哪些人更擅长提供？)

●组织是否有运行和（hé）优化AI系统所需的数据?

安（ān）全领导者（zhě）还需要考虑围绕防御（yù）AI的治理问题，比如:

●防御性AI系统（tǒng）如何（hé）适应（yīng）组（zǔ）织的安全治理（lǐ）架构?

●组织如何为防御AI系统提供安全保障?

●如何维护、备份、测（cè）试和（hé）修（xiū）补防御性AI系统（tǒng）?

●组（zǔ）织是（shì）否有足够（gòu）的技（jì）术（shù）人员来为防御AI系（xì）统提（tí）供监督?

人工（gōng）智能不会用（yòng）技术专长和对风险的（de）直觉来取代对熟练安全从业人员的需求。这些安全从业（yè）人员需（xū）要在人工监视的需要和允许人工智能支持的控制自（zì）动有效地工（gōng）作的信心（xīn）之（zhī）间取得平衡。这种（zhǒng）信心需要时间来培养，尤其是在人工智能（néng）被证明不可靠、或做出糟糕或意外决定的故事不断涌现的情况下。

人工智能系统会犯（fàn）错误（wù），人类监督（dū）的一个有（yǒu）益方面是，当事情出错时，从业人员可（kě）以（yǐ）提供（gòng）反馈（kuì），并将其（qí）纳（nà）入人工智能的决策过程。当然，人类也会犯错（cuò），采（cǎi）用防御性（xìng）AI的组织需要投入时（shí）间、培训和支持来（lái）帮助（zhù）安（ān）全从业人员学（xué）习（xí）如（rú）何（hé）使用智能（néng）系统。

如果有（yǒu）时间一起发展和学习（xí），人类（lèi）和AI的结合（hé）应该成为组织（zhī）网络防（fáng）御的一个有价值的组成部分（fèn）。

现在开始准备（bèi）：

能（néng）够独立学（xué）习、推理和（hé）行（háng）动的计（jì）算机（jī）系统预示着（zhe）一个充满风险和机遇的（de）新技术时代（dài）的到（dào）来。已经出现的进展（zhǎn）只是冰山一角,未来还将出现更（gèng）多的进展。AI系统“思考”的速度和规（guī）模将随着大数据访问的增加、计（jì）算能力的增强和编程技术的不断（duàn）改进而提高。这种力量这种（zhǒng）权力将有可（kě）能（néng）创造和摧毁一家企（qǐ）业。

可用（yòng）于防御的AI工具和技术也可用于（yú）犯罪分子（zǐ）、黑客（kè）活动分子和政府支持的组织等恶意行为（wéi）者。这些对手很快（kuài）就会发现使用AI来创建诸如智（zhì）能恶（è）意软件之类的全（quán）新（xīn）威胁（xié）的方法，比如智能恶（è）意软件。使用传统控件的（de）安全从业人员（yuán）将无法（fǎ）应对攻击的速度、数量和复杂性。

为了在新时代蓬（péng）勃发展，组（zǔ）织需要（yào）减少（shǎo）AI带来（lái）的风险，并充分利用AI提供的（de）机会。这意（yì）味着（zhe）要保护自己的智（zhì）能系统并部署（shǔ）自己的智能防御。人工（gōng）智能不再是对（duì）遥远未来的（de）憧憬:现在是开始准备的时候了！