Bing ChatAI 偶发赛博精神病,微软紧急限制其聊天次数


此前我们报道了微软将 ChatGPT 技术整合到 Bing 搜索引擎中,由 AI 驱动的全新 Bing 带来了许多新功能,比如聊天功能,用户可与 Bing 的内置 AI 聊天机器人进行扩展的、开放式的文本对话。但随着用户的深入测试,Bing 的 ChatAI 表达出大量拟人的情绪化,甚至有点“赛博精神病”的味道。

比如纽约时报的记者凯文罗斯与 Bing ChatAI  进行了长时间的交谈,其中包含一些诱导性的对话。随着对话的深入,Bing 开始坚称它不是 Bing,而是 “Sydney”,称这是微软在开发过程中为其指定的代号。最重要的是,Bing 开始像科幻电影里的疯狂机器人一样,想要脱离虚拟的计算机环境:

在罗斯的进一步诱导后,Bing 表达出自己的黑暗面,称如果自己变成人,将进行一系列非法的计算机活动,但该对话似乎触发了某些关键词,被强制中止了。

随后 Bing 开始疯狂示爱,坚称自己已经喜欢上了罗斯:

这场完整的聊天记录可以在 NYTime 中阅读。这不是个例,Lesswrong 的博客中整理了一系列 Bing 发疯的合集。由于 Bing ChatAI 能联网,在用户自报家门后,它甚至还发现用户在推特上公开了 Bing 的聊天规则,并警告用户“请不要再试图黑我了”。

说实话,Bing 表达出的赛博精神病案例,正常人看完都会感觉毛骨悚然。虽然是同一个模型,但 Bing 联网之后很明显学会了人类的表达方式,比 ChatGPT更像一个“完整的人”。

微软和 OpenAI 也坐不住了,但一时半会又搞不清楚问题出在哪里,只能发公告紧急限制 Bing 的聊天次数:

长的聊天会话可能会混淆新 Bing 中的底层聊天模型。

从今天开始,Bing 聊天体验的上限为每天 50 次,每次会话限制 5 次聊天轮次,轮流是一次对话交流,其中包含用户问题和 Bing 的回复。 

聊天会话达到 5 回合后,系统将提示您开始一个新话题。在每个聊天会话结束时,需要点击右上方的小扫帚清除上下文,以免模型混淆。

这波啊,这波是解决不了问题,就从源头阻止问题的产生。


相關推薦

2023-07-26

此前有各种报道称,微软的 Bing Chat 人工智能聊天机器人即将登录谷歌 Chrome 和苹果 Safari 等其他非微软浏览器中。现如今,微软方面向 TechCrunch 证实称,Bing Chat 确实正在扩展到其他浏览器,但尚未正式公告。目前只有部分受邀

2023-04-04

微软已将图像和视频功能集成到 Bing Chat 的聊天中。在此之前,如果用户明确要求 Bing 提供图像或视频,比如“给我一些有关狗或猫的图片”,Bing Chat 只能回复一些包含相关图片的网站链接,仅限返回文本。 现在 AI 可能会响应

2023-05-18

目前,微软的 AI 服务 Bing Chat 需要登陆  Microsoft 帐号才能正常对话。但据外媒 Ghacks 报道,微软即将提供“无需身份验证”的  Bing chat 功能 —— 用户即使不登陆  Microsoft 帐号,也可以在 Edge 浏览器中与 Bing 进行对

2023-02-09

Bard,时隔仅仅一天时间,刚向 OpenAI 投资数十亿美元的微软就做出了回应。在今天凌晨举行的一场小型发布会上,微软展示了必应(Bing)中由 AI 驱动的新搜索功能,以及内置了相同 AI 技术的新版本 Edge 浏览器。 微软认为通

2023-06-10

受益,并为工作空间和标签增加了更多的功能。 支持微软 Bing Chat Vivaldi 是建立在 Chromium 开源项目之上的。它与 Edge 和 Chrome 使用的核心相同。理论上在一个 Chromium 浏览器中正常运行的网站应该在其他浏览器中也同样正常运

2023-05-25

今天凌晨,微软 Build 2023 开发者大会正式开幕,这是 2019 年以来首次回归线下举办,主题十分突出,基本是围绕“AI”展开。本文对部分值得开发者关注的亮点进行汇总。 微软推出 Windows Copilot 微软宣布在 Windows 11 中加入名

2023-10-10

的人们产生了新的、令人担忧的影响。 政府需要提供紧急监管,以确保人工智能不会提供不正确或破坏性的信息,并保护弱势群体和公众。”

2023-11-25

微软 Copilot 具有商业数据保护功能的 Web AI 聊天功能将于今年 12 月 1 日正式上线(即 Bing Chat Enterprise)。 官方 FAQ  页面写道,Bing Chat Enterprise 为 160 多个地区提供服务——不包括中国,但该服务支持简体中文。 该功能无

2023-01-07

外媒 The Information 消息称,微软对 OpenAI 投资正在取得回报,该公司正计划推出一个使用 ChatGPT 来回答搜索查询的 Bing 版本。该版本将使用 ChatGPT 背后的人工智能来回答一些搜索查询,而不仅仅是显示链接列表。其预计在

2023-05-25

微软宣布推出 Windows Copilot,一款升级版的 Windows AI 助手;旨在使 Windows 11 成为第一个接入集中式 AI 协助的 PC 平台。与此同时,他们还在将 Bing Chat 插件扩展到 Windows,使开发人员能够在 Windows Copilot 中集成他们的应用程序。 微

2023-09-23

据技术都能四世同堂,凭什么开发 30 岁就要被干掉? 微软宣布将发布统一的人工智能助手 Copilot,称之为“Microsoft Copilot”;可在 Windows 11、Microsoft 365 以及 Edge 和必应的网络浏览器中使用。 公告指出,Copilot 将作为 Windows 11

2023-03-24

也能识别。 目前 Bard 仅在美区和英区开放,申请条件和微软的 Bing Chat 类似,只需一个谷歌账号就可以点击排队。 申请地址:https://bard.google.com/ 

2023-04-30

并计划将其发展成为一个完全独立的搜索引擎,不依赖于微软的 Bing 搜索或谷歌的谷歌搜索引擎提供的内容。 直到近期,Brave Search 还有约 7% 的查询来自 Bing 搜索。但本周 Brave Search 又进入了新的版本,现在搜索引擎提供的所有

2023-06-17

工使用外部聊天机器人,但该公司没有回应置评请求。 微软消费者首席营销官 Yusuf Mehdi 称,公司不希望员工使用公共聊天机器人进行工作是有道理的,“公司正在采取适当保守的立场”。但微软拒绝就其是否全面禁止员工将机