华盛顿时间9月30日，美国总统特朗普在白宫与六家头部科技企业的掌门人举行会晤，并共同签署了一份人工智能安全协议。这份协议宣称，为给美国民众及全世界创造美好未来，每一家研发前沿AI技术的企业都有责任确保其技术以安全方式开发，并由此建立客户与公众的信任。
出席签字仪式的企业高管阵容堪称“全明星”：谷歌CEO桑达尔·皮查伊（Sundar Pichai）、Anthropic CEO达里奥·阿莫迪、Meta CEO马克·扎克伯格、OpenAI总裁格雷格·布罗克曼、xAI掌门人埃隆·马斯克，以及英伟达CEO黄仁勋，与特朗普共同在协议上落笔。
根据白宫发布的协议内容，所有训练和部署前沿模型的企业，首先须建立完善的内部流程与管控机制，确保技术按预期运行，并能及时发现和解决各类问题。具体而言，协议要求各企业落实四层管控与审计机制：
第一层：内部管控体系 —— 在模型训练与部署阶段，针对网络安全、生物安全、化学威胁等重点领域监测模型能力与合规性，防止模型以非预期方式入侵或访问技术系统。
第二层：内部专项团队 —— 保障所有管控、监测与检测机制按设计正常运转，并对发现的全部问题开展整改。
第三层：外部独立审计 —— 与独立第三方审计或评估机构合作，对内部机制是否有效运行进行独立评估。
第四层：董事会监督 —— 设立董事会独立委员会，监督管控执行团队及内外部审计评估机构，接收其报告，并确保所有问题得到闭环整改。
白宫方面表示，上述四层机制协同作用，将让企业、客户与公众确信AI技术正按预期运行。参与企业还将定期会晤，共同制定行业标准与最佳实践，持续提升系统安全性。
值得关注的是，从长期来看，这些举措或将通过立法形式上升为强制性法律法规。但白宫同时强调，无论是否最终强制执行，落实这套管控与审计机制对于保障所有人的安全未来都至关重要——而各家签署企业已承诺将践行上述要求。
