Altman 称 AI 潜在风险会让人“彻夜难眠”,呼吁建立国际机构监督 AI 发展


2 月 14 日消息,当地时间周二,OpenAI CEO 阿尔特曼在迪拜举行的世界政府峰会上通过视频电话致辞,其呼吁建立一个国际性的机构(类似国际原子能机构)来监督 AI 发展。

“我经常以国际原子能机构为例,将其作为处理最强大人工智能系统影响的典范。在部署超级智能或通用人工智能(注:AGI)之前,建立审计和安全措施至关重要。”

阿尔特曼还提到,一个非常微妙的“社会失衡”就能给 AI 系统带来严重破坏,自己曾为此彻夜难眠。“我对机器人在街上行走的想法不太感兴趣,我更关心非常微妙的社会失衡,即在社会中拥有这些系统,没有特别的邪恶意图,事情却出了大问题。”

然而他还强调,OpenAI 公司这样的人工智能行业不应在制定管理涉及 AI 行业的法规时处于领先地位。“我认为我们仍处于需要进行健康辩论的阶段。”

他认为,AI 将会广泛普及,且价格低廉,成为人类“创造未来的工具”。但与此同时,AI 的全面进步和发展仍需要时间与耐心,“就像手机从原始的移动电话发展到如今的 iPhone 一样。”

此外,阿尔特曼还称当前的世界仍处于 AI 早期阶段,“我们从未见过世界发生很大的变化,我认为原因在于我们目前拥有的技术就像黑白电视一样,还有很长的路要走。


相關推薦

2023-12-05

而这家初创公司的特别之处在于,OpenAI 的首席执行官 Sam Altman 个人对其进行了投资,且投资额已超过 1000 万美元。早在 2018 年,Altman 就领投了 Rain AI 的一次种子轮融资。 Rain AI 的总部与 OpenAI 旧金山总部之间的距离不到一英里

2023-10-26

政策和治理框架,旨在解决与人工智能相关的日益增长的风险。 Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 曾因在深度神经网络上的卓越贡献,一起获得了 2018 年 ACM A.M. 图灵奖,他们常被外界誉为“AI 教父”和“深度学习之父”。 Be

2023-04-01

人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。OpenAI 最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的努力来说,同

2023-10-19

大机遇。与此同时,人工智能技术也带来难以预知的各种风险和复杂挑战。人工智能治理攸关全人类命运,是世界各国面临的共同课题。 在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全

2024-09-25

OpenAI 首席执行官 Sam Altman 今天在其个人网站上发表了一篇名为“The Intelligence Age”的文章,详细阐述了他对 AI 未来的愿景。 他认为,人类将很快达成与 AI 的合作,从而完成许多非 AI 时代所不能完成的事。 “最终,我们每

2024-07-31

放性的政策支持,同时也建议政府对强大的 AI 模型中的潜在风险进行积极监控。 这份由美国商务部国家电信和信息管理局(NTIA)撰写的报告认为,“open-weight(开放权重)”模型通过允许开发人员在以前的工作基础上进行构建

2023-06-01

”的 Geoffrey Hinton,以及 OpenAI 的 CEO 兼联合创始人 Sam Altman Anthropic 的首席执行官 Dario Amodei、 Google DeepMind 的首席执行官 Demis Hassabis 微软的首席技术官 Kevin Scott 此外还有一大堆涉略或 AI 领域的名校教授、官员记者、社

2023-06-28

可能要花费数千万美元或数亿美元。OpenAI 首席执行官 Sam Altman 曾在四月份透露,创建 GPT-4 的成本超过了 100 亿美元。 Hassabis 称,他的团队计划把这项技术与 AlphaGo 中使用的技术结合起来,旨在赋予该模型新的能力,如计划或解

2024-09-30

已经失去了对竞争对手 AI 开发者的领先优势。他们认为 Altman 大多游离于日常事务之外——公司对此表示异议——因为他一直在全球奔走,推广 AI,并筹集大量资金用于建造 AI 所需的芯片和数据中心。 自 Altman 回归后,OpenAI 正

2024-10-24

能安全研究所 (AI Safety Institute,AISI) 是一家研究 AI 系统风险的联邦政府机构,于 2023 年 11 月根据拜登政府的 AI 行政命令成立。 AISI 在 NIST 下运作,NIST 是美国商务部的一个机构,负责制定各类技术部署的指导方针。不过,尽管

2023-07-18

直在思考和担心 AI 安全问题,并声称自己向来是最积极呼吁对 AI 进行监管的声音之一。他表示,在他看来如果 AI 以及监管 AI 的人类能够最大限度地保持好奇心和求真精神,那么 AI 的安全性就能够得到保证。 此外,马斯克还

2023-04-14

击所利用。 "FSF 迫切需要改革以完成其基本使命"。Drew 呼吁基金会进行以下更改: 改革领导班子。理查德·斯托曼 (Richard Stallman) 该走了。他所代表的人群排斥所有其他人,正在成为自由软件运动中的少数群体。我们需要更

2023-03-02

、企业等要围绕算法及技术研究、数据等加强协同创新,建立开源开放的合作生态。 ▲ 于英杰 北京市副市长 梅建平副司长指出,面对大模型引发的人工智能技术范式变革趋势,科技部从2021年开始超前布局大模型旗舰项目群

2023-10-27

安全研究,促进负责任地开发前沿模型并最大限度地降低潜在风险; 确定前沿模型的安全最佳实践; 与政策制定者、学术界、民间社会和其他方面分享知识,推动负责任的人工智能发展; 以及大力支持开发有助于应对社会