金沙澳门官网人工智能治理：从理论到实践——NIST AI风险管理框架解析这篇博客文章是对作者在2019年12月发布的前一篇题为“人工智能——达摩克利斯之剑？”的文章的延伸探讨。当时，对人工智能治理的需求被提上了首要议程，并对其紧迫性进行了充分论证。如今四年过去了，大量思想论文、开放框架、法规和立法纷纷涌现，突显出对人工智能治理的必要性并提供了实现这一目标的大致步骤。
当前面临的挑战是如何梳理浩繁的文献，找出针对特定组织量身定制的人工智能治理实施方案金沙澳门官网。本文旨在在这方面做出尝试，以便对读者，尤其是GRC领域的专业人士提供实用参考金沙澳门官网。本文考虑了NIST于2023年1月发布的AI风险管理框架。
根据NIST的说法，“高度安全但不公平的系统，准确但不透明且不可解释的系统，以及不准确但安全、隐私增强和透明的系统都是不可取的。风险管理的综合方法要求在可信度特征之间取得平衡。”其中的关键词是“权衡取舍”。
治理作为跨领域功能，旨在贯穿并指导其他三个功能。执行AI RMF核心功能时，应考虑到多学科视角，可能还需要听取组织外部的意见。
02、每个特征应根据环境背景进行定量或定性评估，最好是定量评估并以百分比表示。基于风险管理成本效益分析金沙澳门官网，或者监管/行业要求寻求平衡。
03、应从多学科利益相关者视角，包括内外部利益相关者，考虑AI系统的可信特征，特别是那些造成重大的社会经济后果的AI系统。
06、审计人员应将AI审计视为“管理审计”或“社会审计”，并运用相应的原则，而非财务审计或内部审计原则。这一点适用于所需审计的AI组件。
下文简要介绍了微软如何利用人工智能伦理委员会管理其AI开发的案例研究。2018年3月，微软宣布成立一个由AI和研究小组的总裁和执行副总裁领导的人工智能与工程研究伦理委员会（AETHER）。截止2019年初，AETHER扩展为AI、伦理和工程与研究成果的委员会。AETHER分为七个工作组：
微软成立AETHER的决定向其员工、用户、客户和合作伙伴发出非常明确的信号，即微软打算将其技术标准提高到一个更高的水平。
AI为人类带来了许多好处和优势，但仍然需要对相关风险进行全面管理。因此，遵循全面的框架将避免组织做出临时性的决定，并确保各利益相关者之间建立更好的信誉和信任。
随着AI的不断发展，监管机构正在制定各种开放框架以适应不同的环境和行业。像ISACA这样的专业机构可以利用其专业知识和知识库，通过制定行业特定指南补充这些框架。
编者注：本文于2024年2月19日首次发表于ISACA官网ISACA Now Blog。文章内容仅代表作者本人观点。
