Altman:下个 OpenAI 模型将首先接受美国政府的安全检查


OpenAI 首席执行官 Sam Altman 发文表示,该公司的下一个主要生成式 AI 模型将首先提交给美国政府进行安全检查。

“关于 openai 安全的一些简要更新:

正如我们去年 7 月所说,我们致力于将至少 20% 的计算资源分配给整个公司的安全工作。

我们的团队一直在与美国人工智能安全研究所(US AI Safety Institute)就一项协议进行合作,我们将提供对我们下一个基础模型的早期访问权,以便我们能够共同推动 AI 评估科学的发展。对此感到兴奋!

最后,我们希望现任和前任员工能够无所顾虑的提出疑虑。这对任何公司都至关重要,对我们尤其如此,这是我们安全计划的重要组成部分。今年 5 月,我们废除了针对现任和前任员工的非贬损条款以及赋予 OpenAI 取消既得股权权利(尽管从未使用过)的条款。我们一直在努力让它变得正确。”

有五名美国参议员近期曾致函 Altman,质疑 OpenAI 在安全方面的承诺,以及根据雇佣合同中的非贬损条款,对公开提出担忧的前员工可能进行报复的情况。对此,OpenAI 首席战略官 Jason Kwon 则致函回应,重申了该公司致力于开发造福全人类的 AI 的愿景。并示,其致力于在流程的每个阶段“实施严格的安全协议”。

值得注意的是,美国政府并不是唯一获得早期使用权的政府。OpenAI 还与英国政府达成了类似的协议,以对其模型进行安全审查。


相關推薦

2023-05-08

。 ChatGPT 也同样如此,只不过 OpenAI 的首席执行官 Sam Altman 近日在接受 CNBC 的采访时确认,如果用户通过 API 来调用服务,那么他们将不会使用这些用户的数据来训练模型。但是,如果你是直接访问 ChatGPT 的网页来使用,那么

2023-12-05

在投资者透露,预计最快本月即可“流片”。但据报道,美国政府一个负责监管国家安全风险投资的跨部门机构要求沙特阿拉伯下属基金 Prosperity7 Ventures 出售其在 Rain AI 的股份,该初创公司最近也对领导层和投资者进行了改组

2025-04-05

今日凌晨,OpenAI CEO Sam Altman 正式宣布,将在未来几个月内推出一款具备推理能力的强大开放权重语言模型,并期待与开发者共同探索如何最大化其潜力。 据 Altman 透露,这是自 GPT-2 以来 OpenAI 首次计划发布开放权重语言模型

2024-09-30

已经失去了对竞争对手 AI 开发者的领先优势。他们认为 Altman 大多游离于日常事务之外——公司对此表示异议——因为他一直在全球奔走,推广 AI,并筹集大量资金用于建造 AI 所需的芯片和数据中心。 自 Altman 回归后,OpenAI 正

2024-08-07

因撤回诉讼后,马斯克再次对 OpenAI 及其首席执行官 Sam Altman 提起了新的诉讼,声称 OpenAI 将利润和商业利益置于公众利益之上,还违背了免费共享或开源公司技术的承诺,选择向微软提供技术的独家许可。 马斯克主张的核心在

2025-04-08

OpenAI CEO Sam Altman 在 X 上宣布了新模型发布计划的调整: o3 和 o4-mini 将在几周内发布,在多个方面大幅改进了预览版本的 o3; GPT-5 将在几个月内发布。 而根据他此前说法,OpenAI 将直接发布内置了推理能力的 GPT-5,以后也

2025-04-09

,收购由前苹果设计主管 Jony Ive 与 OpenAI 首席执行官 Sam Altman 共同创建的 AI 硬件初创公司 io Products。 Ive 于 2019 年离开苹果,创办了自己的设计公司 LoveFrom 。他在接受《纽约时报》采访时证实,去年他正与 Altman 合作创办这家 A

2023-06-14

希·苏纳克)周一在 London Tech Week 上宣布,Google DeepMind、OpenAI 和 Anthropic 已同意向英国政府开放其人工智能模型,用于研究和安全目的。 具体而言,Google DeepMind、OpenAI 和 Anthropic 将向政府提供 "早期或优先访问" AI 模型的权限,

2024-07-12

他性条款"对其展开调查。 去年 12 月,在首席执行官 Sam Altman 短暂下台后,微软在 OpenAI 董事会中获得了观察员席位。在 Altman 重返最高职位后,投票解雇他的董事离开了公司,董事会进行了重组。而微软据称在确保 Altman 复职

2024-02-16

2 月 14 日消息,当地时间周二,OpenAI CEO 阿尔特曼在迪拜举行的世界政府峰会上通过视频电话致辞,其呼吁建立一个国际性的机构(类似国际原子能机构)来监督 AI 发展。 “我经常以国际原子能机构为例,将其作为处理最强大

2023-11-20

he Verge 援引多位知情人士消息称,OpenAI 董事会正在与 Sam Altman 讨论重返公司担任首席执行官的事宜。 其中一位知情人士表示,在经历了没有任何通知就突然被董事会解雇的 Altman 对回归一事"态度暧昧",并希望对公司的治理模

2025-04-02

己的公司。 回顾 OpenAI 董事会内讧,CEO 兼创始人 Sam Altman 被逐出公司 OpenAI 总裁 Greg Brockman 辞职 OpenAI 董事会与 Sam Altman 讨论重返 CEO 岗位事宜 Altman 以访客身份回到 OpenAI,和公司高管会面谈判 Altman 回归失败,OpenAI 董事会

2023-11-21

过一个周末的谈判,OpenAI 董事会决定不顾投资者要求 Sam Altman 复职的呼声,聘请前 Twitch 首席执行官 Emmett Shear 来担任该公司的临时首席执行官。 OpenAI 联合创始人兼董事会董事 Ilya Sutskever 向员工表示,公司高管有尝试努力挽回

2025-04-03

OpenAI 首席执行官 Sam Altman 在 X 发帖透露示,该公司新产品将因产能不足的问题延迟推出。 “我们正在控制局面,但你应该预料到 OpenAI 的新版本可能会被推迟,可能会出现问题,而且由于我们面临容量挑战,服务有时会很慢