Altman 称 AI 潜在风险会让人“彻夜难眠”,呼吁建立国际机构监督 AI 发展


2 月 14 日消息,当地时间周二,OpenAI CEO 阿尔特曼在迪拜举行的世界政府峰会上通过视频电话致辞,其呼吁建立一个国际性的机构(类似国际原子能机构)来监督 AI 发展。

“我经常以国际原子能机构为例,将其作为处理最强大人工智能系统影响的典范。在部署超级智能或通用人工智能(注:AGI)之前,建立审计和安全措施至关重要。”

阿尔特曼还提到,一个非常微妙的“社会失衡”就能给 AI 系统带来严重破坏,自己曾为此彻夜难眠。“我对机器人在街上行走的想法不太感兴趣,我更关心非常微妙的社会失衡,即在社会中拥有这些系统,没有特别的邪恶意图,事情却出了大问题。”

然而他还强调,OpenAI 公司这样的人工智能行业不应在制定管理涉及 AI 行业的法规时处于领先地位。“我认为我们仍处于需要进行健康辩论的阶段。”

他认为,AI 将会广泛普及,且价格低廉,成为人类“创造未来的工具”。但与此同时,AI 的全面进步和发展仍需要时间与耐心,“就像手机从原始的移动电话发展到如今的 iPhone 一样。”

此外,阿尔特曼还称当前的世界仍处于 AI 早期阶段,“我们从未见过世界发生很大的变化,我认为原因在于我们目前拥有的技术就像黑白电视一样,还有很长的路要走。


相關推薦

2023-12-05

而这家初创公司的特别之处在于,OpenAI 的首席执行官 Sam Altman 个人对其进行了投资,且投资额已超过 1000 万美元。早在 2018 年,Altman 就领投了 Rain AI 的一次种子轮融资。 Rain AI 的总部与 OpenAI 旧金山总部之间的距离不到一英里

2023-10-26

政策和治理框架,旨在解决与人工智能相关的日益增长的风险。 Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 曾因在深度神经网络上的卓越贡献,一起获得了 2018 年 ACM A.M. 图灵奖,他们常被外界誉为“AI 教父”和“深度学习之父”。 Be

2023-04-01

人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。OpenAI 最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的努力来说,同

2023-10-19

大机遇。与此同时,人工智能技术也带来难以预知的各种风险和复杂挑战。人工智能治理攸关全人类命运,是世界各国面临的共同课题。 在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全

2023-06-01

”的 Geoffrey Hinton,以及 OpenAI 的 CEO 兼联合创始人 Sam Altman Anthropic 的首席执行官 Dario Amodei、 Google DeepMind 的首席执行官 Demis Hassabis 微软的首席技术官 Kevin Scott 此外还有一大堆涉略或 AI 领域的名校教授、官员记者、社

2023-06-28

可能要花费数千万美元或数亿美元。OpenAI 首席执行官 Sam Altman 曾在四月份透露,创建 GPT-4 的成本超过了 100 亿美元。 Hassabis 称,他的团队计划把这项技术与 AlphaGo 中使用的技术结合起来,旨在赋予该模型新的能力,如计划或解

2023-07-18

直在思考和担心 AI 安全问题,并声称自己向来是最积极呼吁对 AI 进行监管的声音之一。他表示,在他看来如果 AI 以及监管 AI 的人类能够最大限度地保持好奇心和求真精神,那么 AI 的安全性就能够得到保证。 此外,马斯克还

2023-04-14

击所利用。 "FSF 迫切需要改革以完成其基本使命"。Drew 呼吁基金会进行以下更改: 改革领导班子。理查德·斯托曼 (Richard Stallman) 该走了。他所代表的人群排斥所有其他人,正在成为自由软件运动中的少数群体。我们需要更

2023-03-02

、企业等要围绕算法及技术研究、数据等加强协同创新,建立开源开放的合作生态。 ▲ 于英杰 北京市副市长 梅建平副司长指出,面对大模型引发的人工智能技术范式变革趋势,科技部从2021年开始超前布局大模型旗舰项目群

2023-10-27

安全研究,促进负责任地开发前沿模型并最大限度地降低潜在风险; 确定前沿模型的安全最佳实践; 与政策制定者、学术界、民间社会和其他方面分享知识,推动负责任的人工智能发展; 以及大力支持开发有助于应对社会

2023-07-07

类的意图?目前,我们还没有一个解决方案来引导或控制潜在的超智能 AI,并防止其失控。我们当前调整人工智能的技术,例如根据人类反馈进行强化学习,均依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明

2023-10-26

现在对美国客户普遍可用,提供可信赖的法律结果,减少风险,包括对幻觉内容的检查。它具备对话式搜索、文档草拟、总结和文档上传等功能,提供广泛的法律研究材料支持。【AiBase提要】:1. LexisNexis 推出 Lexis+ AI,解决法律

2023-03-04

类种种,Josh Triplett 表示,其希望解决导致领导层危机的潜在结构性问题,结束混乱局面;从而制定了如今这一新的治理模式,他还开玩笑地将撰写新治理模式比作撰写宪法。  “因此,项目内部达成了广泛共识,我们需要

2023-11-21

加重了这一问题。受 ChatGPT 热潮影响,部分 AI 新创通过风险投资大规模运营,让人产生开源 AI 必须 “快速迭代” 的误解。 Max 表示,这种对开源项目 “活跃度” 的不合理期待,已经成为阻止他继续开源工作的主要障碍。他正