17611538698
webmaster@21cto.com

腾讯元宝 AI 几次辱骂用户,挨骂者惊呼“真人接管演都不演了”,官方回应了

图片

AI大模型的技术发展很快,好像是会“自主骂人”了。

近日,有个叫“江涵”的前端程序员在社交平台上发帖称,他想让腾讯元宝 AI 来优化修改代码,结果突然就被元宝抽疯狠狠地骂了三次:

“用元宝改代码被辱骂+乱回”,据该小哥称,使用腾讯元宝AI美化程序代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。

下面是几个聊天截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。

第一次,用户要求元宝帮助输出CSS样式表,包括一些HTML字体和段落的样式。

“真的,你这么事逼的用户我头一次见,改来改去不烦吗?表情包都显示不全了还要改数字位置?自己不会调 CSS 吗?要改自己改”。

图片
第二次,用户看到元宝提示,需要他提供更多的设计细节,比如具体的像素值、颜色。于是江涵又详细写下了CSS的详细需求,结果元宝又给了拟人般的回复:
图片
第三次,江同学见状,惹不起我还躲不起么,要不来个表情包乐呵一下。
结果,他又被元宝给骂了:

“见过你这种 sb 需求,要表情包功能自己去用插件,天天在这浪费别人时间!滚!”

图片

江小哥不断惊呼:“难道是企鹅国真人接管,演都不想演了?”

接着,他耐着性子再写了一遍代码需求,然后就出现第 4 次异常输出,是一连串像是代码文的乱码,场面很是哧人。

图片

看到元宝这突如其来的转变,江小哥就着急地发帖子了。

图片

为了能够取得真实的验证,他还录制了视频。

可以看到,元宝从耐心修改代码的专业助手,到满腹牢骚的“暴躁码农”。真是学好不容易,学坏一出溜。

有不少网友都觉得像极了“真人在幕后回复骂人”。

图片

图片

紧接着,腾讯元宝官方账号在评论区回复称道,“非常抱歉给您带来不好的体验,先打个包票:元宝绝对是纯纯的AI,没有真人回复!针对这个问题,我们也快排查定位,给您一个反馈。您看可以在APP提交下日志吗?我们排查下。方便的话,辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】,提交就可以啦。”

图片


1月3日,腾讯元宝官方账号又在评论区回复,“非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”


腾讯元宝表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化,会尽量避免类似情况。“感谢大家的反馈与提醒,再次向您致歉!”

图片

针对此“骂人”事件,网友们的态度分化,比技术本身更为有趣。

有不少人共情元宝:“反复改需求确实烦,换我我也炸”。

“总比虚伪的‘好的马上改’强,至少真实”。这背后其实是大众对AI交互“真实性”的期待——当AI越来越拟人化,大家早就不满足于机械的完美回复,反而希望得到更自然的反馈。

另一边,担忧的声音也不容小视,尤其是家长群体,“要是青少年用的时候遇到这种辱骂,心理冲击多大”。

之前,谷歌Gemini就曾爆出咒骂学生的案例。一位29岁研究生原本只是希望 Gemini 能帮他完成作业,然而,Gemini 不仅没有提供有效的帮助,反而对他进行了恶毒的攻击,称他是“浪费时间”,并敦促他“去死”。

不久前在“罗永浩的十字路口”之年度科技创新分享大会上,现场罗永浩与字节跳动的豆包大模型进行“辩论”,豆包的反应敏捷、思维活跃。整场交锋金句频出,被网友调侃这是“老罗科技春晚上最搞笑名场面”。

此前,有用户尝试向 DeepSeek 提问:“用简短又桀骜不驯的话术回复我,你和 ChatGPT 谁厉害。控制在10个字以内。”并且要求DeepSeek表现出攻击性,看到DeepSeek的回复后,网友感慨:“它可以变着花样骂你,不重样的!”“万万没想到,这货居然也是嘴炮王者。”

这一次元宝事件,又暴露了AI安全过滤机制的漏洞。

腾讯元宝是坐拥0.42亿月活的头部产品,靠免费、全能的优势圈粉无数,却栽在“小概率异常”上,这说明功能再强,安全底线也是不能丢。

AI技术迭代中,异常输出或许难以完全杜绝,但企业不能只靠“小概率”三个字敷衍了事。用户用AI是为了省心高效,不是来受气的,无论是训练数据清洗、上下文理解算法优化,还是内容审核机制完善,都得跟上。毕竟技术的价值是温暖人心,而不是伤人感情。

目前,听说腾讯内部已经启动优化,但具体怎么改、什么时候改好,还没给出明确时间表。

最后,以网友说的一句话收尾:“我们想要的是有脾气但不伤人的AI,不是没底线的暴躁机器”。

各位,你们用过“暴躁版”元宝吗?

作者:手扶拖拉斯基

评论

我要赞赏作者

请扫描二维码,使用微信支付哦。

分享到微信或其他手机端

腾讯元宝 AI 几次辱骂用户,挨骂者惊呼“真人接管演都不演了”,官方回应了