我们花了大量时间讨论人工智能能为我们做什么。但是…… 人工智能治理?

治理或许不是人工智能讨论中能够引起关注或引发辩论的部分，但它却是决定一个组织是否可以信任人工智能来处理其数据、决策和业务流程的关键所在。

越来越多的公司在人工智能领域取得了最强劲的财务业绩，而公司治理也日益成为这些公司不可或缺的一部分。普华永道 2026 年人工智能性能研究 研究发现，这些公司拥有负责任的人工智能框架的可能性是其他公司的 1.7 倍。

翻译：任何人工智能程序的成功都高度依赖于…… 围绕它建立的治理.

随着团队开发出更多软件，智能体不仅拥有执行权限，还能访问公司信息，人工智能对现有的治理体系提出了新的要求。领导者需要能够准确识别哪些智能体正在运行、它们可以访问哪些信息以及是否进行了必要的审查。这就需要人工智能就绪型治理框架所提供的可验证证据。

政策种类繁多。据Field CTO Menno Odijk称…… Mendix at Siemens成功的 AI 治理框架取决于组织是否能够可靠地实施这些框架。
以下问题可以帮助您评估您的治理框架是否提供了您的 AI 部署所需的可见性、监督和问责制水平。

1. 您能否识别出每个代理、其所有者及其被允许的访问权限？

一个支持人工智能的治理框架应该让领导者能够清晰地了解组织内所有智能体的运行情况。这需要一个中央清单，其中应显示每个智能体的用途、版本、负责人以及对数据和系统的访问权限。

这些访问权限边界需要仔细斟酌。Odijk解释说，代理人需要公司信息才能完成有效工作，但提供这些信息可能会无意中通过他们的回复泄露敏感数据。团队应该明确代理人可以访问哪些信息，包括当他们代表权限受限的人员行事时。

对于每个代理，您都应该能够确定它可以使用哪些信息以及被授权执行哪些操作。随着代理的部署、更新或退役，及时更新此记录可以为团队提供清晰的监督起点。

2. 您能否证明在生产之前已经进行了必要的验证？

领导者可能真心认为在整个开发过程中都进行了充分的审查。唯一的问题是？他们往往无法核实这一点。

随着人工智能不断增加团队开发的软件数量，Odijk 强调，领导者需要了解他们的审查流程是否能够跟上代码工件数量的增长。

对于特定版本，团队应该能够展示哪些工件经过了必要的验证、由谁审核以及是否获得批准。这些记录应与生产环境中部署的版本相对应。如果难以获取这些证据，则说明领导者在审核的执行或记录方式上存在缺陷，需要加以改进。

3. 您能否检索到代理操作的可用记录？

如果代理人更新了业务记录，而有人对结果提出质疑，您的团队需要证据链才能进行调查。

此活动记录应将相关的输入、模型交互、工具调用、操作和审批与正在调查的请求和最终结果关联起来。它应该便于负责审查事件经过的人员访问和理解。

奥迪克指出记录 模型调用它们的参数以及用于得出答案的背景信息都是可追溯性的重要组成部分。这些细节连同记录的操作和审批信息，可以帮助团队重现结果的发生过程，并检查是否存在违反政策的情况。

4. 工作流程中是否建立了审批和升级机制？

对于每个代理，团队应定义：

• 它可以独立采取哪些行动
• 哪些行动需要人工批准
• 当出现问题时，谁应该负责应对？

对于会产生重大影响的行动，应要求授权人员审查并批准拟议的变更，然后工作流程才能继续进行。

例如，代理人可能会收集允许的信息并准备建议，但在更新关键系统之前需要获得批准。

评估应确定是否已实施必要的审批步骤，审批过程是否会暂停直至获得批准，以及批准是否已记录在案。

5. 随着更多团队部署人工智能，同样的治理标准是否仍然适用？

随着越来越多的团队构建应用程序和代理，领导者需要确信权限和监督在整个产品组合中保持一致。

评估新项目是否继承了一套通用的控制措施，团队是否能够证明这些控制措施得到了应用，以及例外情况是如何获得批准和记录的。

每个项目仍需评估其具体数据、权限和操作。但共享控制机制为团队提供了一个一致的起点，并帮助领导者在部署扩展过程中保持监督。

支持整个投资组合的治理

架构的核心在于一套通用的控制机制。当这些控制机制存在于平台内部时，每个新的应用程序和代理都会受到相应的控制。

Mendix一个智能体开发平台，也是其中的一部分 Siemens和 Intelligence Center X作为一个代理企业系统，它使团队能够一次性编写标准，并在构建时以及整个运行环境中检查每个应用程序是否符合该标准。基于该平台构建的代理在受控工作流中运行。它们根据设置的权限执行操作。 他们为之工作的人类他们的活动会被记录在中央审计日志中。

团队可以将人工审核配置为强制性工作流程步骤，这样，后续操作就必须获得批准才能继续进行。正如 Odijk 所强调的，这些监督机制必须得到落实，审核才能真正发挥作用。

在平台层面建立控制措施还可以减少团队在后续应用程序中重复的基础工作。

与 Mendix你只需设置一次，它就会被所有地方继承。“我们的许多客户都利用这个平台来加快构建速度。” 第二、第三和第四次申请奥迪克说。

检验你的治理能力

能力越大，责任越大。这并非一句老生常谈，而是管理人工智能代理时一条切实可行的准则。如果你赋予代理访问公司信息和采取行动的权限，你就必须能够对其行为负责。

首先，请将这里列出的问题应用于您组织中已运行的代理。您能否确定其所有者、确认其权限并检索其审核和活动记录？

这些答案将显示您的策略在实践中是否有效，以及在下次部署增加工作量之前需要注意哪些方面。