Stack Exchange Network 副总裁 Philippe 近日在一篇帖子表示,该团队在经过一系列分析后认为,过度禁用 AIGC(AI-generated content,人工智能生成内容)可能会导致将大量的合法贡献者拒之于网站之外。因此他们要求,版主在禁用一个用户前,需要先严格举证以确定其帖子是否由 AI 创作。
我们已经要求版主在决定暂停一个用户时,需采用非常严格的证据标准来确定帖子是否由 AI 撰写。这个证据标准使得版主不再是仅根据用户的写作风格和行为指标做出猜测,因为我们无法验证这些指标是否真的能在帖子写成后成功识别出 AI 生成的帖子。该标准将解除迄今为止发布的大多数账号暂停通知。
我们还发现,目前的 GPT 检测器对我们网络上的内容存在不可接受的高误判率,不应将其视为 GPT 作者身份的可靠指标。虽然这些并不是版主用来识别人工智能生成内容的唯一工具,但其中的一些启发式方法是在他们的协助下开发的。
我们已经提醒版主,账号暂停只针对真实的、可验证的渎职行为,不应根据预感、猜测、直觉或未经验证的启发式方法所决定。因此,我们不相信 GPT 检测器或最佳猜测的启发式方法可以用来明确地识别可疑的内容,以达到中止的目的。
目前该帖子已锁定并被标记为“Official post”,只能由官方人员进行编辑;但仍然接受回答、评论和其他互动。
大量用户在评论区表达了对这一最新政策的不满,认为其与此前官方提供给版主的指导意见严重不符。有人认为,这一新政策似乎旨在邀请更多的"AI"进入网站,而不是减少相关内容。
“我们强烈抗议这一更新,但你们还是继续推进了。显然,团队并不清楚这对网络质量会产生多大的负面影响。如果我们能做些什么来帮助你看到光明,请说出来。”
另一方面,大家对于 Stack Exchange 社区此次的行事方式也尤为不满。原因在于该帖本身被打上了“discussion”的标签,貌似在政策上寻求社区用户的意见;但他们实际上所做的却是直接的决策通知,并没有事先开放讨论/反馈。
“这意味着这事实上属于一篇博客文章,而不是 Meta Stack Exchange 上的讨论帖。”
“这篇文章同时被标记为 discussion 和 mod-agreement-policy。这些标签是不相容的。你不能在进行讨论的同时期望用这个来制定政策。根据我所看到的,该公司不希望与社区选举的志愿者版主或他们支持的社区就这个话题进行讨论......”
“我还没有看到你在这个问题上真正与我们互动,并从我们这里得到任何形式的解释和理解。这是一个巨大的侮辱。”
Stack Exchange 是一系列问答网站,每一个网站包含不同领域的问题;由 181 个问答社区组成,其中包含 Stack Overflow。此前 Stack Overflow 曾发布政策称,版主有权(自行决定)在没有事先通知或警告的情况下,对将 GPT 内容复制并粘贴到网站上的用户进行最多 30 天的账号暂停。