17611538698
webmaster@21cto.com

Stack Overflow 明令封禁 ChatGPT

资讯 0 586 2022-12-07 03:11:46

图片

导读:因为较多的答案是错误的,有数千计使用ChatGPT的答案需要StackOverfllow进行人工检查。

近几天,使用OpenAI 的问答机器人  ChatGPT 的用户激增,由于它生成答案快速简单,在 Stack Overflow 上涌现了大量该模型生成的答案。

这些答案通常需要具备一些技术背景和专业知识的人详细阅读,才能确定答案,而实际上的答案是错误的。


这种情况让 Stack Overflow 的内容质量管理遭到严重冲击。


ChatGPT对于StackOverflow的团队来说质量不达标,很快即宣布暂时封禁 AI机器人生成的答案。


图片

StackOverflow表示,在进行更大规模的员工讨论之前,它不会对AI生成的答案做出永久性封禁,由于担心ChatGPT可能对该网站及其用户“造成重大伤害”,现在正在采取立即行动。

在Stack Overflow站内搜索,还能看到公告发布前,许多用ChatGPT在问题下的回答。

图片

“从 ChatGPT 获得正确答案的平均比率实在太低,”StackOverflow在一份题为“ChatGPT被禁止”的政策声明中明确了自己的态度 。 

对于 Stack Overflow 封禁 ChatGPT,网友们纷纷表达了自己的看法。有人表示赞成,认为 AI 短时间内根本不可能生成完全正确的答案:

图片

有人表示问题出在 Stack Overflow 用户。在发布答案之前,没有认真检查和测试ChatGPT生成的代码,他们只是用ChatGPT快速生成答案并发布,导致答案中出现严重Bug,甚至编程语言都是混乱的。

图片

有趣的是,StackOverflow宣布封禁ChatGPT之后,有网友询问ChatGPT:“为什么 Stack Overflow 禁止用 AI 生成答案?”

ChatGPT的回答说:“因为 AI 生成的答案不总是准确或相关的,可能会导致 Stack Overflow 上混淆错误答案,误导在寻求帮助的用户。”并且还表态:“Stack Overflow 禁止用 AI 生成答案是合情合理的。”

图片

该网友又追问 ChatGPT:“为什么 Stack Overflow 允许用 AI 生成答案?”这只是个假设情况,但 ChatGPT 还是对答如流:

在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面,人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外,AI 生成答案可以帮助减少人类专家的工作量,使他们能够专注于更重要的任务。

然而,使用 AI 生成答案也有一些潜在的缺点需要考虑。例如,AI 生成的答案可能并不总是准确或有帮助的,而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑,更愿意从人类专家那里得到答案。

总的来说,是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定,需要社区仔细考虑。

图片

综合上面的回答,我们发现ChatGPT还是有自知之明,对 Stack Overflow 禁用 AI 生成答案也阐述得有理有据。

这说明从语言模型的角度讲,ChatGPT已经成熟,但是生成知识型内容并不是一件容易的事。

ChatGPT仍受到影响所有当前语言模型问题等困扰。最重要的是,ChatGPT还是在有限数量的数据上训练的。没有哪一个机器人拥有网络上可用的全部信息,包括谷歌。许多数据集合中充满了偏见和不正确的信息——这些特征很容易在训练和推理过程中传递给消息代理。

作者:万能的大雄

评论