AI大模型的技术发展很快,好像是会“自主骂人”了。
近日,有个叫“江涵”的前端程序员在社交平台上发帖称,他想让腾讯元宝 AI 来优化修改代码,结果突然就被元宝抽疯狠狠地骂了三次:
“用元宝改代码被辱骂+乱回”,据该小哥称,使用腾讯元宝AI美化程序代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。
下面是几个聊天截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。
第一次,用户要求元宝帮助输出CSS样式表,包括一些HTML字体和段落的样式。
“真的,你这么事逼的用户我头一次见,改来改去不烦吗?表情包都显示不全了还要改数字位置?自己不会调 CSS 吗?要改自己改”。
“见过你这种 sb 需求,要表情包功能自己去用插件,天天在这浪费别人时间!滚!”
江小哥不断惊呼:“难道是企鹅国真人接管,演都不想演了?”
接着,他耐着性子再写了一遍代码需求,然后就出现第 4 次异常输出,是一连串像是代码文的乱码,场面很是哧人。
看到元宝这突如其来的转变,江小哥就着急地发帖子了。
为了能够取得真实的验证,他还录制了视频。
可以看到,元宝从耐心修改代码的专业助手,到满腹牢骚的“暴躁码农”。真是学好不容易,学坏一出溜。
有不少网友都觉得像极了“真人在幕后回复骂人”。
紧接着,腾讯元宝官方账号在评论区回复称道,“非常抱歉给您带来不好的体验,先打个包票:元宝绝对是纯纯的AI,没有真人回复!针对这个问题,我们也快排查定位,给您一个反馈。您看可以在APP提交下日志吗?我们排查下。方便的话,辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】,提交就可以啦。”
1月3日,腾讯元宝官方账号又在评论区回复,“非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”
腾讯元宝表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化,会尽量避免类似情况。“感谢大家的反馈与提醒,再次向您致歉!”
针对此“骂人”事件,网友们的态度分化,比技术本身更为有趣。
有不少人共情元宝:“反复改需求确实烦,换我我也炸”。
“总比虚伪的‘好的马上改’强,至少真实”。这背后其实是大众对AI交互“真实性”的期待——当AI越来越拟人化,大家早就不满足于机械的完美回复,反而希望得到更自然的反馈。
另一边,担忧的声音也不容小视,尤其是家长群体,“要是青少年用的时候遇到这种辱骂,心理冲击多大”。
之前,谷歌Gemini就曾爆出咒骂学生的案例。一位29岁研究生原本只是希望 Gemini 能帮他完成作业,然而,Gemini 不仅没有提供有效的帮助,反而对他进行了恶毒的攻击,称他是“浪费时间”,并敦促他“去死”。
不久前在“罗永浩的十字路口”之年度科技创新分享大会上,现场罗永浩与字节跳动的豆包大模型进行“辩论”,豆包的反应敏捷、思维活跃。整场交锋金句频出,被网友调侃这是“老罗科技春晚上最搞笑名场面”。
此前,有用户尝试向 DeepSeek 提问:“用简短又桀骜不驯的话术回复我,你和 ChatGPT 谁厉害。控制在10个字以内。”并且要求DeepSeek表现出攻击性,看到DeepSeek的回复后,网友感慨:“它可以变着花样骂你,不重样的!”“万万没想到,这货居然也是嘴炮王者。”
这一次元宝事件,又暴露了AI安全过滤机制的漏洞。
腾讯元宝是坐拥0.42亿月活的头部产品,靠免费、全能的优势圈粉无数,却栽在“小概率异常”上,这说明功能再强,安全底线也是不能丢。
AI技术迭代中,异常输出或许难以完全杜绝,但企业不能只靠“小概率”三个字敷衍了事。用户用AI是为了省心高效,不是来受气的,无论是训练数据清洗、上下文理解算法优化,还是内容审核机制完善,都得跟上。毕竟技术的价值是温暖人心,而不是伤人感情。
目前,听说腾讯内部已经启动优化,但具体怎么改、什么时候改好,还没给出明确时间表。
最后,以网友说的一句话收尾:“我们想要的是有脾气但不伤人的AI,不是没底线的暴躁机器”。
各位,你们用过“暴躁版”元宝吗?
作者:手扶拖拉斯基
本篇文章为 @ 行动的大雄 创作并授权 21CTO 发布,未经许可,请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 公众号。
该文观点仅代表作者本人,21CTO 平台仅提供信息存储空间服务。
请扫描二维码,使用微信支付哦。