人工智能还可以通过识别计算机系统中的异常数据来帮助核设施和放射性设施加强对网络攻击的防御。(图片来源：AdobeStock)

人工智能 (AI) 和机器学习技术有可能彻底改变世界，通过改变我们创建、消费和使用信息的方式，带来前所未有的进步和创新。随着人工智能技术变得越来越复杂，它们将改变行业、简化流程，甚至可能影响我们的生活方式。核部门也不例外，人工智能在核和放射性设施的许多流程和操作中都可以带来好处。

与此同时，人工智能的快速发展也带来了诸多风险。恶意行为者可能会利用人工智能发起更先进、更有针对性的攻击，或利用它来破坏核设施和放射性设施中网络、系统和敏感信息的完整性。

对信息和计算机安全的好处

原子能机构正在通过促进该领域的国际合作为人工智能带来的变革做好准备，以确保所有国家都能从机遇中受益，同时也准备减轻风险。通过技术会议和协调研究项目(CRP)等机制，原子能机构正在支持人工智能技术的开发、认识和应用，以及针对恶意行为者的对策和防御。

也许人工智能在信息和计算机安全方面最显着的优势是减少了对人类分析和干预的依赖。支持人工智能的系统可以全天候(24/7)运行，以监控网络和系统是否存在威胁。通过自动化这些任务，核安全专业人员有时间专注于更具战略性的任务，并在事件发生时更有效地做出响应。

佐治亚理工学院助理教授张帆表示：“人工智能的自适应学习能力可以通过快速识别威胁并自动向人类专家提供协调响应活动所需的信息来增强信息和计算机安全。”美利坚合众国，参与了一项 CRP，以支持加强计算机安全的研究。“它不会取代劳动力，而是建立资源和见解，使计算机安全的早期检测和响应成为现实。”

通过利用先进的机器学习算法，人工智能还可以通过识别计算机系统中的异常数据来帮助核设施和放射性设施加强对网络攻击的防御。人工智能支持的安全系统可以持续监控和分析大量数据，以确定是否有任何活动对设施的正常运行造成异常。网络攻击可能会提供虚假数据，恶意误导核设施运营商。在这种情况下，可以利用人工智能支持的系统向核电站运行人员发出警报，提醒他们注意正常运行中哪怕是最轻微的变化。通过提高态势感知能力，人工智能还可以及早发现犯罪行为并提示必要的事件响应。

需要解决的挑战

人工智能在核和放射性设施中提供的好处在很大程度上取决于人工智能系统的训练方式。人工智能的智能程度取决于它所使用的训练数据，如果没有正确的输入，它可能会被操纵给出错误的读数和结果。这仍然是其用于核安全的重大障碍。即使人工智能技术最近取得了进步，用它来代替人类也是不可行的。实物保护、材料核算和控制以及直接测量——确保核安全的基本活动——需要人力投入。

人工智能在核安全方面的另一个挑战是了解人工智能模型如何以及为何做出特定决策或预测。“透明度和可解释性——人类可以理解人工智能做出的决策或预测背后的推理——是人工智能模型最重要的问题之一。理解这些模型如何得出结论往往具有挑战性，因此很难信任并确保其输出的完整性，”原子能机构核安全司信息管理科科长斯科特·珀维斯说。“当这些模型取代提供直接测量和通过每个设施的独特特征获得的人类经验的传感器时，这变得尤其成问题。

国际原子能机构关于核安全计算机安全的指南包括人工制衡的最佳实践，以指导设施认识到哪些流程可以通过人工智能实现自动化，哪些流程应该继续接受人工监督，至少直到这种快速发展的技术的风险被消除之前。已知。它们还提供了重要的资源，使各国能够采取重要的计算机安全措施来检测、预防和应对网络攻击。

此外，原子能机构还制定了 CRP，以支持加强计算机安全的研究。题为“加强核设施计算机安全事件分析”的 CRP 汇集了 13 个国家的代表，致力于提高核设施的计算机安全能力，包括人工智能技术，以检测表明有针对性的网络攻击的异常情况。

采用人工智能技术的竞赛

人工智能已经显示出其潜力，可以造福那些利用核技术实现和平目的的人们。随着它在加强核和放射性设施的流程和操作方面的用途不断扩大，人们也必须认识到与其更广泛采用相关的风险。组织必须维持强大的计算机安全计划，以确保核安全，同时受益于人工智能。

这样做需要在如何看待信任和敏感性方面进行根本性的范式转变。必须考虑系统中的每个潜在故障点，即使是那些与其设计无关的故障点。恶意行为者可以利用人工智能创建更复杂的恶意软件、自动化网络攻击、利用模型中的偏见和漏洞，或者通过模仿合法用户行为来绕过安全措施。防御者和攻击者之间的这种“军备竞赛”需要不断的创新和适应。

更多地利用人工智能技术来增强核设施的计算机安全措施可以带来显着的好处，包括增强威胁检测、主动安全措施、减少对人为干预的依赖以及改善事件响应。通过利用人工智能的优势并解决其风险，组织可以在面对不断变化的网络威胁时显着增强其计算机安全性。