OECD报告：人工智能在核电站实时监测的应用潜力与挑战

经合组织核能署的国际监管实验室（RegLab）项目汇集了来自核能领域的专家，共同研究新兴技术的潜在影响，现已发布其首个周期的报告，详细介绍了RegLab聚焦于在核电站实时监测中使用人工智能的成果。

参与者从最初的问题/机遇陈述开始，由此开发了一个使用案例和一个模拟的安全、安保、核保障和环境保护（SSSE）案例。随后，在两次研讨会的过程中，参与者深入探讨了这些案例。

该小组探讨了一个"旨在检测实时运行数据中的异常的代表性人工智能应用"，并考虑了采用该技术的潜在益处和风险。参与者具有国际性，包括监管机构、许可证持有者和技术专家。

根据报告，该小组认识到人工智能在提高安全裕度、早期发现偏差和降低运营成本方面的潜力。他们还强调了需要应对人工智能可解释性方面的挑战，确保保持纵深防御措施，并支持强大的数据保障。

在某些方面，核电站自然适合采用人工智能工具，因为它们已经例行收集大量数据用于维护和运行目的。随着数据日益数字化，核电站变得更有条件采用人工智能工具。

然而，报告指出，"人工智能的可靠性仅相当于用于训练它的信息"，因此行业范围内的数据标准化和质量保证是关键。参与者建议独立数据验证、数据可追溯性和审计，以及利用严格的边界来防止人工智能应用超出其训练的条件。

这项研究发现，在核电站采用人工智能工具会引发许多与其他行业相同的焦虑：工人担心被取代、工具的"黑箱"性质，以及对人类技能退化的担忧。然而，核能行业还必须考虑人工智能工具可能如何改变监管方式，以及这些工具如何融入行业严格的安全文化中。

例如，当考虑使用人工智能来"论证支持运营在运行限值和条件边缘的电站行动"会是什么样子时，参与者加倍强调了需要多样化和冗余的屏障。最大程度地提高人工智能可解释性被认为对所有使用案例都普遍重要，但对于高风险决策，参与者强调了保持纵深防御方法的重要性。这可能包括混合建模，即人工智能输出通过确定的、基于规则的层或物理模型加以证实，或作为补充常规方法的辅助分析。

参与者指出，核能领域在运营中人类决策方面拥有广泛的实践和知识，这种专业知识可以作为制定人工智能决策期望的基础。

获取实时数据或电站状态被认为对运营者和监管者都有利，但这也被强调为潜在的挑战，如果这导致法律责任或监管期望的转变。

报告建议核能行业应提前布局，建议成立一个小组，为核能应用中人工智能使用的最佳实践制定技术指南。需要考虑的主题包括围绕人工智能安全边界、可解释性、不确定性标准和验证协议的期望。

参与者还认识到需要在核能与人工智能专业知识之间有更大的交叉：人工智能开发人员必须深入了解核电站运行，而核电站工作人员必须对所采用的人工智能工具获得专业知识。

报告得出结论，参与者认为在核电站运行中使用人工智能进行实时监测具有显著的潜在价值，但技术论证仍然是一个持续的挑战，并且对于安全性后果较高的应用，仅有人工智能可解释性是不够的。