美国人工智能安全研究所面临解散风险


美国人工智能安全研究所 (AI Safety Institute,AISI) 是一家研究 AI 系统风险的联邦政府机构,于 2023 年 11 月根据拜登政府的 AI 行政命令成立。

AISI 在 NIST 下运作,NIST 是美国商务部的一个机构,负责制定各类技术部署的指导方针。不过,尽管 AISI 有预算、有主任,并且与英国同行英国 AI 安全研究所建立了研究伙伴关系,但只要拜登的行政命令被废除,AISI 就可能被解散。

Americans for Responsible Innovation 高级传播总监 Chris MacKenzie 向 TechCrunch 表示:“如果另一位总统上任并废除 AI 行政命令,他们就会解散 AISI。而特朗普已承诺废除 AI 行政命令。因此,无论谁入主白宫,国会的正式授权都将确保 AISI 能否继续存在。”

除了确保 AISI 的未来之外,授权该办公室还可以让国会为其计划提供更稳定、更长期的资金。AISI 目前的预算约为 1000 万美元——考虑到硅谷主要 AI 实验室的集中度,这个数字相对较小。

MacKenzie说:“国会拨款委员会倾向于给予国会正式授权的实体更高的预算优先权,因为他们认为这些实体得到了广泛的支持,并将长期存在,而不仅仅是某个政府的一次性优先事项。”

由 60 多家公司、非营利组织和大学组成的联盟在一封公开信中呼吁美国国会在今年年底前颁布法律,将 AISI 编入法典。签名者包括 OpenAI 和 Anthropic,这两家公司都已与 AISI签署协议,在 AI 研究、测试和评估方面展开合作。微软、谷歌、亚马逊和 IBM 等科技巨头也签署了该信函。


相關推薦

2022-01-19

众所周知,当一个项目达到 EOL 状态后仍继续使用就会面临潜在的风险,由于 AngularJS 被广泛用于 Web 应用,如果不及时迁移就有可能将用户暴露在高严重性或关键漏洞之下。根据 NPM 的下载量计算,Google 估计目前已有 84% 的开

2024-07-31

美国商务部最新发布了一份报告,表达了对 AI 开放性的政策支持,同时也建议政府对强大的 AI 模型中的潜在风险进行积极监控。 这份由美国商务部国家电信和信息管理局(NTIA)撰写的报告认为,“open-weight(开放权重)”模

2023-10-09

-2... - FreeBuf网络安全行业门户】 4. 新的AtlasCross黑客冒充美国红十字会发送网络钓鱼诱饵 “AtlasCross”新黑客组织冒充美国红十字会,针对有网络钓鱼诱饵的组织发送后门恶意软件。【Access denied | www.bleepingcomputer.com used Cloudflare t

2023-09-22

智能化的高质量发展提供了重要支撑,为全面促进大模型安全合规和可信发展提供了重要保障。 具体来看,该标准涵盖了金融大模型的关键能力要求,包括场景适配度、能力支持度和应用成熟度三大方面。此外,标准还从金融

2023-10-27

合创立而成,是一个专注于确保安全和负责任地开发前沿人工智能模型的行业机构。该论坛旨在帮助: 推动人工智能安全研究,促进负责任地开发前沿模型并最大限度地降低潜在风险; 确定前沿模型的安全最佳实践; 与

2024-07-17

件提供商卡巴斯基实验室将于 7 月 20 日开始彻底关闭在美国的业务。该公司表示,因为拜登政府的决定将使这些业务“不再可行”。 在向 BleepingComputer 发表的声明中,该公司还证实将裁掉其美国员工,此举将影响“不到 50 名

2025-04-02

司近日发布了《2025年软件供应链现状报告》,揭示了在人工智能(AI)迅速发展的背景下,软件供应链所面临的严峻安全挑战。根据该报告,研究团队通过对1400多名专业人士的调研,以及来自7000多家客户的数据分析,勾勒出了

2022-04-25

众所周知,一个项目长期不维护也就伴随着风险。 网络安全公司 Check Point 的研究人员近日发现,开源的 ALAC 存在严重的漏洞,该漏洞允许攻击者在受影响的设备上进行远程代码执行(RCE)攻击。而联发科和高通这两大移动芯片

2024-01-03

ck 没有 McFadin 这么末世论,但也同样严肃。“当我们看到人工智能正常化,人们开始更好地理解它是什么并不再被炒作所影响时,我们将更好地讨论开源的含义以及开源如何融入人工智能”。这将导致“与开源社区及其代表的参

2023-08-05

在 Hugging Face 上开源其 watsonx.ai 地理空间基础模型 -- 基于美国国家航空航天局 (NASA) 的卫星数据构建。这将是 Hugging Face 上最大的地理空间基础模型,也是首个与 NASA 合作构建的开源 AI 基础模型。 公告指出,作为与 NASA 签署的

2025-03-25

施,长期面临内存管理漏洞风险(如缓冲区溢出)。根据美国国家漏洞数据库统计,2024年C/C++项目漏洞中,34%与内存安全相关。而Rust凭借所有权模型和编译器强制检查,理论上可消除此类问题。uutils项目采用MIT协议,目前已实

2023-06-09

美国参议院隐私、技术和法律小组委员会主席 Richard Blumenthal 和副主席 Josh Hawley 近日致信马克·扎克伯格 (Mark Zuckerberg),就 Meta 的大语言模型 LLaMA 泄露一事提出了质疑。 他们担忧该模型可能被滥用于垃圾邮件、欺诈、恶意软件

2025-03-26

下智库宏观中国的数据显示,2022年,在全球排名前20%的人工智能研究人员中,有47%的人本科毕业于中国,这一比例远高于美国的18%。去年,在世界知识产权组织编制的创新指标数量排名中,中国位列第三,仅次于新加坡和美国

2022-11-30

主要研究技术对 2023 及未来发展的影响。该调查基于来自美国、英国、中国、印度和巴西的 350 名首席技术官、首席信息官和 IT 主管等全球技术领导者的反馈。 调查指出,云计算 (40%)、5G (38%)、元宇宙 (37%)、电动汽车 (EV) (35%)