OpenAI遭遇SEC审查风波：被指禁限员工报告安全风险，美国证监会介入调查

近日消息，OpenAI再次陷入争议漩涡，因涉嫌利用限制性保密协议（NDA）来抑制员工对公司潜在问题的公开讨论而受到广泛审视。其中指控OpenAI要求员工签署所谓的“非法限制性”保密协议，这种做法被认为阻止了员工向外界揭示公司技术可能带来的风险与危害。

该举报信指控 OpenAI 违反了美国证券交易委员会的规定，该规定旨在保护员工向联邦当局举报其疑虑的权利并防止报复行为。此前，举报人已于 6 月份正式向美国证券交易委员会提交了投诉。

举报信中要求美国证券交易委员会“采取迅速果断的措施”来执行他们认为 OpenAI 已经违反的规定。涉嫌的违规行为包括要求员工签署协议，“该协议未豁免向美国证券交易委员会披露证券违规行为”，以及要求员工在向当局披露机密信息之前获得公司的同意。举报信还指出，OpenAI 的协议要求员工“放弃国会为鼓励举报和为举报人提供经济援助而设立的补偿金”。

OpenAI 发言人 Hannah Wong 在一份声明中表示，“我们的举报人政策保护员工进行合法披露的权利”，并补充说公司已经对其离职文件进行了“重要修改”，以取消保密协议中的不诋毁条款。OpenAI 此前曾表示正在修改这些协议，此前该公司因威胁扣回离职员工的既得权益以迫使他们签署离职协议而受到指责。

据报道，美国证券交易委员会已经对该投诉做出了回应，但尚未公布任何有关其将采取或不采取的行动的细节。但举报人表示，即使 OpenAI 在其非法合同被公开披露后进行改革，执法仍然是最重要的。“这不是为了攻击 OpenAI 或阻碍人工智能技术的发展，而是为了向人工智能领域的其他参与者以及整个科技行业传递一个信息，即侵犯员工或投资者举报不当行为的权利的行为将不会被容忍。”

OpenAI与Anthropic达成协议：新型AI模型发布前将接受美国政府安全审查

8月30日消息，人工智能领域的两大前沿企业OpenAI与Anthropic达成了重要共识，同意在发布任何重大新型人工智能模型之前，率先向美国政府开放审查权限。此举旨在携手政府部门共同提升模型安全性，确保技术进步的同时，妥善应对潜在的风险与挑战，构筑更加稳固的AI安全防线。

美国人工智能安全研究所（US AI Safety Institute）周四宣布，这两家公司已经与该研究所签署了谅解备忘录，承诺在模型公开发布之前和之后提供访问权限。美国政府表示，这一举措将有助于他们共同评估安全风险并缓解潜在问题。该机构表示，将与英国的对应机构合作，就安全改进提供反馈。

OpenAI 首席战略官 Jason Kwon 对合作表示支持：

“我们非常支持美国 AI 安全研究所的使命，并期待一起合作，制定 AI 模型的安全最佳实践和标准。我们相信，该研究所在确保美国在负责任开发 AI 方面的领导地位上扮演着关键角色。我们期望通过与研究所的合作，能为全球提供一个可以借鉴的框架。”

Anthropic 公司也表示，建立有效测试 AI 模型的能力非常重要。该公司的联合创始人兼政策负责人 Jack Clark 说：

“确保 AI 安全可靠对于让这项技术带来积极影响是至关重要的。通过这样的测试和合作，可以更好地发现和减少 AI 带来的风险，推动负责任的 AI 发展。我们为能够参与这项重要工作感到自豪，并希望为 AI 的安全性和可信度设立新的标准。”

在联邦和州立法机构正在考虑如何对这项技术设置哪些限制而不扼杀创新的同时，共享人工智能模型访问权是一项重要举措。，周三，加利福尼亚州立法者通过了《前沿人工智能模型安全创新法案》（SB 1047），要求加利福尼亚州的人工智能公司在训练先进的基础模型之前采取特定的安全措施。这引起了包括 OpenAI 和 Anthropic 在内的人工智能公司的反对，他们警告称这可能会伤害较小的开源开发人员，尽管该法案已经进行了修改，并且仍在等待加利福尼亚州州长加文·纽瑟姆的签署。

与此同时，美国白宫一直在努力从主要公司那里获得关于人工智能安全措施的自愿承诺。几家领先的 AI 公司已经做出非约束性承诺，投资于网络安全和歧视研究，并致力于对人工智能生成的内容进行水印标记。

美国人工智能安全研究所所长伊丽莎白·凯利在一份声明中表示，这些新的协议只是“开始，但它们是我们努力帮助负责任地管理人工智能未来的一个重要里程碑”。