ChatGPT 代码解释器存在巨大安全漏洞


OpenAI 近日为 ChatGPT 推出了全新的代码解释器(Code Interpreter)工具,可以帮助程序员调试、完善代码编程工作。该工具可以利用 AI 来编写 Python 代码,所编写的代码甚至可以在沙盒中运行。

不过根据 Johann Rehberger 网络安全专家、Tom's Hardware 等多家国外媒体报道,由于该代码解释器工具可以处理任何电子表格文件,并能以图表的形式分析和呈现数据,黑客可以欺骗 ChatGPT 聊天机器人,让其执行来自第三方 URL 的指令

Tom's Hardware 媒体复现了相关漏洞,创建虚假的环境变量文件,利用 ChatGPT 的功能处理此数据,然后将其发送到外部恶意站点。

ChatGPT 可以响应 Linux 命令,可以访问相关信息和文件,黑客通过这种方式,可以在用户没有防备的情况下,访问相关的敏感数据。

目前需要订阅 ChatGPT Plus,才能访问该代码解释工具,但这个漏洞引发了网络安全专家的担忧。


相關推薦

2023-10-14

生成式 AI 应用程序的机器学习模型,例如 GPT 与 ChatGPT 的关系。 这些基础模型经过大量数据的训练,用于支持可以完成各种任务的不同应用程序。 基础模型正处于技术成熟度曲线上预期膨胀的顶峰。Gartner 预测,到

2023-03-24

一个实验性的 ChatGPT 模型,它创造了一个可以运行 Python 解释器的沙盒,在防火墙控制下有短暂的存储空间,能够使用 Python 处理文件上传和下载,整个虚拟空间在会话期有效。 详细内容查看 https://openai.com/blog/chatgpt-plugins

2023-10-27

。 PEP 703(Making the Global Interpreter Lock Optional,让全局解释器锁成为可选),简称 no-GIL,也被称为自由线程 (free-threaded)。 根据提案的描述,CPython 的全局解释器锁 (GIL) 阻止了同时多线程执行代码,成为了在多核 CPU 上

2022-12-06

了一个“虚拟机”的角色。 在 ChatGPT 中构建编程语言解释器 这名开发者使用 ChatGPT 为自己开发的编程语言构建了一个语言解释器: 并成功编写了解决作者问题的应用程序: 接着这名作者通过提供参数,让 ChatGPT 对自

2023-05-30

纽约一名律师在一起法庭案件中因借助 ChatGPT 进行法律文献检索,而导致整个职业生涯面临危机。 据纽约时报消息称,该事件最初起源于一名男子因涉嫌人身伤害起诉航空公司的案件。在双方角力过程中,该男子的律师团队提

2023-04-04

人系统,从而实现了前所未有的智能水平,譬如 OpenAI 的 ChatGPT。但 ChatGPT 的训练和架构细节仍不清楚,阻碍了该领域的研究和开源创新。受 Meta LLaMA 和 Stanford Alpaca 项目的启发,来自加州大学伯克利分校、CMU、斯坦福大学和加州

2023-01-07

对 OpenAI 投资正在取得回报,该公司正计划推出一个使用 ChatGPT 来回答搜索查询的 Bing 版本。该版本将使用 ChatGPT 背后的人工智能来回答一些搜索查询,而不仅仅是显示链接列表。其预计在今年 3 月底之前推出,以加强 Bing 与谷

2023-02-08

实验性对话式 AI 服务,称为 Bard —— 与当前流行的 ChatGPT 展开直接竞争。在公开发布之前,目前 Bard 仅开放给受信任的测试人员。 Bard 由谷歌的大型语言模型 LaMDA(对话应用语言模型)提供支持,该服务能在获得简单提

2022-07-13

以下内容来自微信开放社区:《关于禁止小程序 JavaScript 解释器使用规范要求》 为进一步提升小程序的安全性和用户体验,目前平台对提审的小程序均需进行安全检测,在检测过程中,发现有小程序采用内置 JavaScript 解释器(

2023-10-06

 AI 不具备理解能力 对于 AI 或生成式聊天机器人 ChatGPT,RMS 认为危险主要来自于 AI 营销人员所编织的叙事。 他认为今天的 AI 尚未真正具有理解能力,但人们正使用 AI 这一术语来夸大其词,他说 ChatGPT 生成的内容都是

2023-04-27

OpenAI 宣布在 ChatGPT 中引入了一项新功能,允许用户关闭聊天记录。相关控件目前已面向所有用户推出,可以在 ChatGPT 的设置中找到,并且可以随时更改。 公告指出,用户在禁用聊天历史记录后开始的对话不会被用于训练和改进

2023-07-24

信度、不断变化的法规以及潜在的知识产权复杂性。尽管存在这些风险,生成式 AI 仍然是值得投资的顶级新兴技术,因为它具有广泛的影响力,并且能够加速许多其他顶级新兴技术。 自主工作场所助理 (AWA)  Forrester

2023-11-23

的结果。 生成式 AI 服务的复杂格局:77% 的开发者使用 ChatGPT,46%的开发者使用 GitHub Copilot;59% 的开发者对使用 AI 生成服务尚存安全顾虑,以及还有 19 % 的人担心 AGI 会对人类产生敌意。 开发者使用 AI 助手的最常见方式是:

2023-07-07

这个新团队的工作是对 OpenAI 现有工作的补充,旨在提高ChatGPT 等当前模型的安全性,以及理解和减轻人工智能带来的其他风险,例如滥用、经济破坏、虚假信息、偏见和歧视、成瘾和过度依赖等问题。虽然这个新团队将专注于