ACM 发布生成式人工智能开发原则


美国生成式人工智能协会 (Association for Generative AI) 计算机器全球技术政策委员会 (ACM TPC) 发布了生成式人工智能技术的开发、部署和使用原则”。共概述了八项原则,旨在促进有关生成和所有其他人工智能技术的公平、准确和有益的决策。

ACM 成立于 1947 年,号称是世界上最大的科学和教育计算协会,拥有约 110000 名学生和专业会员。他们认为,生成式 AI 日益强大或将对社会构成严重风险,目前的技术安全使用指南不足以确保可规避该技术可能带来的危害。

此次发布的原则中,有四项原则专门针对生成式 AI,另外四项原则改编自 TPC 2022 年的“负责任的算法系统原则声明”。

 

生成式 AI 特定原则

  • 部署和使用的限制和指南: 应与所有利益相关者协商,审查和应用书面或修订的法律和法规,以在需要时限制生成人工智能技术的部署和使用,以最大程度地减少危害。如果没有明确和充分的保障措施,包括“human in the loop”以及相关利益相关者之间的明确共识,即该系统的好处将大大超过其潜在的负面影响,则不应允许任何高风险的人工智能系统运行。一种方法是定义风险等级,最高级别为不可接受的风险,最低级别为最小风险。
  • 所有权: 知识产权 (IP) 法律和法规尚未充分考虑生成式人工智能系统的结构和功能的固有方面。
  • 个人数据控制: 生成式人工智能系统应该允许人们选择不使用他们的数据来训练系统或促进其信息生成。
  • 可纠正性: 生成人工智能系统的提供者应创建和维护公共存储库,可以记录系统所犯的错误,并可以选择进行更正。

改编的先前原则 

  • 透明度: 任何使用生成式人工智能的应用程序或系统都应向适当的利益相关者明确披露。
  • 可审计性和可质疑性: 生成人工智能系统的提供者应确保尽可能记录系统模型、算法、数据和输出(适当考虑隐私),以便在适当的情况下对其进行审计和/或质疑。
  • 限制环境影响: 鉴于生成式人工智能模型对环境的巨大影响,建议就方法论达成共识,以衡量、归因并积极减少此类影响。
  • 更高的安全性和隐私性: 生成式人工智能系统容易受到各种新的安全和隐私风险的影响,包括新的攻击向量和恶意数据泄露等。

不过 ACM 方面并未就此敦促推行具体的立法。ACM 美国技术政策委员会主席 Jeremy Epstein 表示,该组织是无党派的,不是游说组织。“我们会直接回应立法机构的意见征询,但不会对法案或其中的部分内容公开表态。”

《生成式人工智能技术的开发、部署和使用原则》由 ACM 的美国技术政策委员会(USTPC)和欧洲技术政策委员会(Europe TPC)联合制定并通过。


相關推薦

2023-10-24

了调查,包括无密码身份验证、secrets 管理以及与生成式人工智能崛起相关的网络安全风险。 报告中的一些亮点内容如下: 开发人员重视 secure-by-design,但缺乏最佳实践 几乎所有人 (94%) 都认为“secure by design”原则在开发过

2023-07-14

技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行。 《暂行办法》规定: 第四条 提供和使用生成式人工智能服务,应当遵守法律、行政法规,

2023-07-24

准备好接管日益复杂但重复性的人工任务。” 对话式人工智能 报告指出,对话式人工智能工具并不新鲜,但因为进步和许可成本的降低相结合“使该技术能够在短期内提供投资回报,而未来的进步和创新仍有很大的空间”

2023-05-10

 ACM 软件系统奖项授予 seL4 微内核团队,以表彰他们开发了第一个具有工业强度的高性能操作系统;该系统目前已通过完整的、机械检查的全功能正确性证明。 “2009 年,软件系统获奖者展示了 seL4 微内核,它成为有史以

2023-07-19

...等。也可以通过继承的方式来扩展。 其他更新 文档生成增强,增加 action 参数注释说明、返回值注释说明。 ioGame 使用趋势数据统计 关注 ioGame 的游戏服务器开发者持续增多,2022-09 ~ 2023-07 月统计数据; 这里的统

2023-09-07

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-08-08

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-08-19

服单进程、多服多进程的启动和部署方式 提供游戏文档生成的辅助功能 包体小、启动快、内存占用少 提供优雅的路由访问权限控 提供了灵活的线程扩展与设置 智能的同进程亲和性 ioGame 是一个专为网络游戏服

2023-07-08

主要更新 [#159] 同进程同时支持多种连接方式方式的技巧 public class MyApplication { ... ... 省略部分代码 static int externalCorePort = 10100; public static void main(String[] args) { // 游戏对外服列表 List<ExternalServer> externalServerList = listExtern

2023-10-26

:AI应用禁止生成受限内容谷歌宣布要求 Android 应用改进对人工智能生成内容的审查,以确保用户可以方便举报冒犯性内容,并限制照片和视频权限。【AiBase提要:】📌 谷歌强化 Android 应用监管规定,要求应用提供举报冒犯内容的

2023-08-01

和长文本摘要,拓展了大模型能力边界。 根据 IDC 最新发布的《AI 大模型技术能力评估报告,2023》,百度文心大模型3.5在14个参评模型中拿下12项指标的7个满分,得到“综合评分第一,算法模型第一,行业覆盖第一”三个绝对

2023-04-14

2023年4月11日,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》。办法指出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算

2023-06-08

GitHub Copilot 集成是 Qt 公司在 Qt 开发工具中集成的第一个人工智能功能,但很明显不是最后一个。作为老牌厂商,Qt Group 铁了心要继续集成 AI 功能,而且他们对生成式 AI 的定位很清晰: 无论我们未来在人工智能方面做什么

2023-07-14

,这是一个无法逃避的问题。一边是社区的力量另一边是人工智能,这两者之间的交集 - 从我的角度来看,人类生成的社区内容已将我们带到了如今的水平,我们产生了很大的影响,但我们也有很多问题可以通过利用这项技术来