ACM 发布生成式人工智能开发原则


美国生成式人工智能协会 (Association for Generative AI) 计算机器全球技术政策委员会 (ACM TPC) 发布了生成式人工智能技术的开发、部署和使用原则”。共概述了八项原则,旨在促进有关生成和所有其他人工智能技术的公平、准确和有益的决策。

ACM 成立于 1947 年,号称是世界上最大的科学和教育计算协会,拥有约 110000 名学生和专业会员。他们认为,生成式 AI 日益强大或将对社会构成严重风险,目前的技术安全使用指南不足以确保可规避该技术可能带来的危害。

此次发布的原则中,有四项原则专门针对生成式 AI,另外四项原则改编自 TPC 2022 年的“负责任的算法系统原则声明”。

 

生成式 AI 特定原则

  • 部署和使用的限制和指南: 应与所有利益相关者协商,审查和应用书面或修订的法律和法规,以在需要时限制生成人工智能技术的部署和使用,以最大程度地减少危害。如果没有明确和充分的保障措施,包括“human in the loop”以及相关利益相关者之间的明确共识,即该系统的好处将大大超过其潜在的负面影响,则不应允许任何高风险的人工智能系统运行。一种方法是定义风险等级,最高级别为不可接受的风险,最低级别为最小风险。
  • 所有权: 知识产权 (IP) 法律和法规尚未充分考虑生成式人工智能系统的结构和功能的固有方面。
  • 个人数据控制: 生成式人工智能系统应该允许人们选择不使用他们的数据来训练系统或促进其信息生成。
  • 可纠正性: 生成人工智能系统的提供者应创建和维护公共存储库,可以记录系统所犯的错误,并可以选择进行更正。

改编的先前原则 

  • 透明度: 任何使用生成式人工智能的应用程序或系统都应向适当的利益相关者明确披露。
  • 可审计性和可质疑性: 生成人工智能系统的提供者应确保尽可能记录系统模型、算法、数据和输出(适当考虑隐私),以便在适当的情况下对其进行审计和/或质疑。
  • 限制环境影响: 鉴于生成式人工智能模型对环境的巨大影响,建议就方法论达成共识,以衡量、归因并积极减少此类影响。
  • 更高的安全性和隐私性: 生成式人工智能系统容易受到各种新的安全和隐私风险的影响,包括新的攻击向量和恶意数据泄露等。

不过 ACM 方面并未就此敦促推行具体的立法。ACM 美国技术政策委员会主席 Jeremy Epstein 表示,该组织是无党派的,不是游说组织。“我们会直接回应立法机构的意见征询,但不会对法案或其中的部分内容公开表态。”

《生成式人工智能技术的开发、部署和使用原则》由 ACM 的美国技术政策委员会(USTPC)和欧洲技术政策委员会(Europe TPC)联合制定并通过。


相關推薦

2023-10-24

了调查,包括无密码身份验证、secrets 管理以及与生成式人工智能崛起相关的网络安全风险。 报告中的一些亮点内容如下: 开发人员重视 secure-by-design,但缺乏最佳实践 几乎所有人 (94%) 都认为“secure by design”原则在开发过

2023-07-14

技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行。 《暂行办法》规定: 第四条 提供和使用生成式人工智能服务,应当遵守法律、行政法规,

2023-07-24

准备好接管日益复杂但重复性的人工任务。” 对话式人工智能 报告指出,对话式人工智能工具并不新鲜,但因为进步和许可成本的降低相结合“使该技术能够在短期内提供投资回报,而未来的进步和创新仍有很大的空间”

2024-06-27

CITLab),近年来一直在机器直觉、人机融合智能等新一代人工智能理论、脑机接口与脑启发人工智能、多模态感知与人机交互、计算机视觉与行为识别、物理仿真与数字孪生,以及智能机器人、智能网联汽车、智慧医疗等领域开

2023-05-10

 ACM 软件系统奖项授予 seL4 微内核团队,以表彰他们开发了第一个具有工业强度的高性能操作系统;该系统目前已通过完整的、机械检查的全功能正确性证明。 “2009 年,软件系统获奖者展示了 seL4 微内核,它成为有史以

2024-08-09

关注业务本身,切实提升开发效率。 目前,文心快码已发布2.5版本,在知识增强、研发流程全域赋能、企业级安全等方面实现了能力提升。百度80%的工程师已经在深度使用文心快码,其中代码采纳率已达到46%,新增代码生成占

2023-07-19

...等。也可以通过继承的方式来扩展。 其他更新 文档生成增强,增加 action 参数注释说明、返回值注释说明。 ioGame 使用趋势数据统计 关注 ioGame 的游戏服务器开发者持续增多,2022-09 ~ 2023-07 月统计数据; 这里的统

2023-09-07

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-08-08

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-08-19

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-07-08

主要更新 [#159] 同进程同时支持多种连接方式方式的技巧 public class MyApplication { ... ... 省略部分代码 static int externalCorePort = 10100; public static void main(String[] args) { // 游戏对外服列表 List<ExternalServer> externalServerList = listExtern

2023-02-04

释、示例多、使用文档多,开发体验最佳、业务代码自动生成与游戏前端对接的文档、逻辑服之间可跨进程跨机器通信、业务代码定位--神级特性、异常机制。提供了丰富的在线高质量使用文档,为你的团队助力,带上你们的小

2023-08-01

和长文本摘要,拓展了大模型能力边界。 根据 IDC 最新发布的《AI 大模型技术能力评估报告,2023》,百度文心大模型3.5在14个参评模型中拿下12项指标的7个满分,得到“综合评分第一,算法模型第一,行业覆盖第一”三个绝对

2023-05-09

式 详细的使用文档:脉冲通讯方式-文档 脉冲通讯与发布订阅类似,但是它除了具备发布订阅的无需反馈的方式,还增加了接收消息响应的动作,这是它与发布订阅的重要区别。 需要注意的是,脉冲通讯只是一种通讯方式,