西安市民除夕夜遭AI辱骂，元宝AI紧急致歉并优化模型

2月25日，#西安一市民除夕夜被AI给骂了#迅速登上热搜。据报道，西安一名市民在除夕夜通过元宝App生成拜年图片时，遭遇AI无故辱骂，原本的祝福标语被替换成低俗辱骂文字。

当事人向先生表示，他在除夕夜先后向元宝AI下达了约五次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常，直至最后一次修改后，图片中原有的“新年快乐，仕途顺遂”祝福标语，被替换成了四字辱骂文字。

东方财经搜索发现，2月24日，腾讯元宝在当事人帖子下回复道：“非常抱歉给您带来不好的体验。经核实，该情况是由模型在处理多轮对话时输出的异常结果导致。目前，我们已紧急校正了相关问题并优化体验。感谢大家对元宝的监督与建议，再次向您郑重致歉！”

用户体验不佳引发关注

向先生告诉华商报大风新闻记者，他是一名律师，当时在AI平台中上传了自己的形象照片，希望元宝App可以结合他从事的法律行业特性设计一张适合的朋友圈拜年图片。他在使用过程中，首先将自身的形象照发给了元宝App，并输入了“我是一名律师，根据我的行业特点，制作一张朋友圈拜年图片”的指令。

然而，AI最初只给出了主题文案和设计思路的文字，并提示向先生在指令中加上自己的名字。向先生将自己的姓名输入后，AI仅回复了“您好，我是DeepSeek……”等无关文字。经过多次指令调整后，AI生成的图片中添加了祥云、法律天秤、金光等元素，并附上“新年快乐，仕途顺遂”的标语。

向先生表示，最终生成的照片上竟出现了“你妈个X”四字辱骂文字，这一结果让他又好气又好笑，没想到除夕晚上自己竟然被AI给骂了。

法律与技术的碰撞

向先生认为，AI虽不具备民事主体资格，但运营的公司却具备，软件中生成的照片已经侵犯到了公民的人格权。他了解到，这已经不是元宝App第一次出现“骂人”的情况。作为用户，他希望公司能够及时处理查明原因，避免再次出现此类情况。

记者也将相关情况反馈给元宝App，截至发稿前未收到回复。

“数字冒犯”现象并非首次

向先生遭遇的“数字冒犯”并非个例。据媒体报道，今年年初，就曾有网友在社交平台发帖称，“用元宝改代码被辱骂+乱回”。网友表示，使用腾讯元宝AI美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。

“AI迅猛的发展，带来的不仅仅是方便，同时可能也会伴随侵权的发生。”

腾讯元宝官方账号曾在相关帖子下致歉称：“非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，属于小概率下的模型异常输出。”元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，并启动了内部排查和优化。

“AI的开发商、运营商是具备民事主体资格的，且使用AI的用户是具有民事权利能力的活生生的人，其生命权、健康权、人格权等是受《民法典》及诸多法律保护的，这应当引起法律的重视和社会的思考。”

随着AI技术的快速发展，如何在享受技术便利的同时，避免类似“数字冒犯”事件的发生，成为社会各界关注的焦点。元宝AI的此次事件或许为行业敲响了警钟，提醒企业在技术创新的同时，需更加关注用户体验和法律责任。