员工错误使用 ChatGPT,三星机密数据外泄


ChatGPT 极大地改变了人们的工作方式,不光是普通的个人用户从中受益,一些大型科技公司也同样认可了这些 AI 工具的作用,来帮助其员工提高生产力。

虽然 ChatGPT 确实显著提升了用户的工作效率,但如果员工没有得到充分的提醒和培训,不知道哪些信息可以或不可以与 AI 模型共享,就会出现严重的错误,而三星为此交了 “昂贵” 的学费。

根据韩国媒体 Economist 的报道,出于担心可能发生的内部机密信息泄露,三星一直阻止其员工在工作场所使用 ChatGPT。不过从 3 月 11 日起,三星向其半导体部门的员工授予了 ChatGPT 的使用权限(其他部门仍被禁止)。可能是员工对于新工具的好奇,以及三星没有详细向员工告知 AI 工具的工作原理,在过去这段时间,三星的员工向 ChatGPT 提出了各种各样的问题,来提升工作效率。

只不过,在三星员工使用 ChatGPT 来帮助他们完成工作时,三星的机密数据也不知不觉就泄露了。而且在短短几周时间里,就发生了三起。由于 ChatGPT 保留了用户的输入数据来进一步训练自己,三星的这些商业机密现在实际上掌握在了 OpenAI 手中。

根据报道,在这些泄漏事件中,其中一起是一名员工要求 ChatGPT 优化测试序列,以识别芯片中的错误,使这一过程尽可能高效,可以为三星半导体部门节省大量测试和验证处理器的时间,从而达到降低成本的目的;在另一个事件中,一名员工使用 ChatGPT 将公司有关硬件的会议记录转换成演示文稿,其中也涉及到了大量机密内容;最后一起事件则是三星半导体的员工向 ChatGPT 提交了专有程序的源代码以修复错误。

在这些事件发生后,三星就泄露机密信息的潜在危险向其员工发出警告,称这些数据被传输并存储在外部服务器上,公司无法检索这些数据,增加了机密信息泄露的风险。虽然 ChatGPT 是一个强大的工具,但其特性可能会将敏感信息暴露给第三方,这在竞争激烈的半导体行业中是不可接受的。

作为回应,三星现在计划开发自己的内部 AI 工具,供员工内部使用,但他们只能使用大小限制在 1024 字节的 prompts。如果未来再发生类似事件,三星将在公司网络上阻止员工继续访问 ChatGPT。


相關推薦

2023-06-17

要将内部机密信息输入人工智能(AI)聊天机器人,包括 ChatGPT 和他们自己的 Bard。同时还提醒其工程师,避免直接使用聊天机器人可以生成的计算机代码。 谷歌方面后续证实了这一报道。但该公司表示,虽然 Bard 可能会提出不

2023-05-08

使用用户输入的内容来进行训练,强化自身的功能。 ChatGPT 也同样如此,只不过 OpenAI 的首席执行官 Sam Altman 近日在接受 CNBC 的采访时确认,如果用户通过 API 来调用服务,那么他们将不会使用这些用户的数据来训练模型。但

2023-06-20

价格上涨措施。 今年 2 月份,Reddit 披露其系统因为一名员工遭到网络钓鱼攻击而被黑。此次网络钓鱼攻击使威胁行为者能够访问 Reddit 的系统并窃取内部文档、源代码、员工数据以及有关公司广告商的有限数据。 BlackCat 方面

2023-08-04

员过度依赖 LLM 而没有进行监督,可能会因为 LLM 生成的错误或不适当的内容,面临信息误导、沟通失误、法律问题和安全漏洞。 模型盗窃 (Model Theft)。这涉及到未经授权的访问、复制或外泄专有的LLM模型。其影响包括经济损失

2023-07-25

支持。 上周,外媒报道称,随着OpenAI旗下AI聊天机器人ChatGPT和谷歌旗下AI聊天机器人Bard的兴起,苹果也在开发自己的聊天机器人,这款机器人在该公司内部称之为“Apple GPT”。 今日,一位长期关注苹果的分析师称,根据训练

2023-04-22

期,涉及的收入高达 200 亿美元。 据称谷歌目前有 160 名员工全职参与研发「Magi」搜索引擎项目,新的搜索引擎将为用户提供比当前更加个性化的体验,并会试图预测用户的需求。 此外,Magi 会在搜索结果的组合中保留广告,

2022-11-30

全。 网络钓鱼:网络钓鱼是企业所面临的主要威胁。对员工进行关于如何识别虚假电子邮件、报告它们以及永远不要打开它们的培训将很有帮助。IT 应与 HR 合作,以确保培养良好的电子邮件使用习惯。 物联网:2020 年,有&nb

2024-09-30

之际选择了离开。这些离职事件公开爆发了公司内部自 ChatGPT 推出以来日益加剧的紧张关系,而这些紧张在 CEO 山姆·奥特曼去年短暂离职后回归时尤为明显。 部分紧张关系源于 OpenAI 最初致力于为公众利益开发 AI 的使命,与新

2023-07-14

题可以通过利用这项技术来解决。” 数据显示,在 ChatGPT 流量成倍增长的同时,Stack Overflow 的访问量一直在稳步下降,该平台今年 3 月份的流量同比下降了近 14%。Stack Overflow 2023 年度报告也指出,生成式 AI 聊天机器人工具

2022-11-30

0 重要变化: 基于 Java 17 且支持 Java 19 Spring Vault 3.0 使用 Java 17 作为最低支持版本。如果开发者目前使用的是 Java 8 或 Java 11,需要在开发 Spring Vault 3.0 应用程序之前升级 JDK。 支持额外的 HTTP 客户端,包括反应式 JDK HTTP

2023-07-12

服他们的客户转用 Ubuntu。 文章还提到,有匿名的红帽员工告诉 Lunduke Journal,“限制 RHEL 源代码访问性”是红帽的新战略——内部代号为「Ajar Source」(我们直译为“半开源”) 他表示,红帽希望大家不再使用“开源”'(Open

2023-02-08

实验性对话式 AI 服务,称为 Bard —— 与当前流行的 ChatGPT 展开直接竞争。在公开发布之前,目前 Bard 仅开放给受信任的测试人员。 Bard 由谷歌的大型语言模型 LaMDA(对话应用语言模型)提供支持,该服务能在获得简单提

2024-10-20

微软宣布推出新的开源虚拟化堆栈 OpenHCL paravisor,以便使用这个由 Rust 编写的软件堆栈来支持 Intel TDX 和 AMD SEV-SNP 机密计算虚拟机 (VM)。据悉,微软的这项工作已经进行了五年,现如今正式开源。 OpenHCL 是一个执行环境,可作为

2023-03-28

在上周一,ChatGPT 遭遇了一次用户数据泄漏事件,许多 ChatGPT 的用户都在自己的历史对话中看到了其他人的对话记录。不光是对话的历史记录,不少 ChatGPT Plus 用户还在 Reddit 和 Twitter 等平台发出了截图,表示在他们的订阅页面上