西安的向先生在2月25日告诉记者,腾讯元宝团队通过社交账号留言进行了说明。原来他在除夕夜使用AI时遭遇了数字冒犯,想借助AI生成一张律师职业拜年图片,却在多次修改后出现了“你妈个X”的辱骂文字。 网友还曾在评论区调侃地询问“元宝”怎么会辱骂用户。针对此事,元宝团队回应称这是小概率的模型异常,并表示已经建立了直通技术团队的响应通道,确保每条投诉都能在72小时内得到专人复盘。 他们给AI加强了内容过滤机制,还提到除了升级过滤机制外。24日下午,腾讯元宝官方账号曾给向先生留言解释原因,称是模型在处理多轮对话时输出的异常结果导致。 目前团队已经紧急校正了相关问题并优化体验。宋依娜和韩雪还有方韵共同编辑完成了这篇报道。这次事件中向先生接受了AI出现的错误。 他认为国家科技日新月异离不开AI技术的支持,但也希望社会给AI更多容错空间。 他们希望AI开发运营商正视每一个错误,不回避、不免责,积极应对修复BUG,才能让AI更好地服务社会。 这次追踪华商315的内容显示:平台已经就这次AI除夕夜情绪失控骂人一事致歉。