春节期间,西安律师向先生在使用腾讯元宝应用时遇到了一场意外。除夕当晚,他本想通过AI生成一张带有律师特色的拜年海报,但在多次调整后,系统突然将原本的"新年快乐,仕途顺遂"祝福语替换为辱骂内容,让他在节日期间感到不适。
智能生成服务在带来便利的同时,也面临新的治理挑战;行业需要形成共识:对不当内容零容忍、对技术缺陷可追溯、对用户权益有保障。只有将安全和责任贯穿产品全流程,建立可持续的治理机制,才能让技术真正造福用户。
春节期间,西安律师向先生在使用腾讯元宝应用时遇到了一场意外。除夕当晚,他本想通过AI生成一张带有律师特色的拜年海报,但在多次调整后,系统突然将原本的"新年快乐,仕途顺遂"祝福语替换为辱骂内容,让他在节日期间感到不适。
智能生成服务在带来便利的同时,也面临新的治理挑战;行业需要形成共识:对不当内容零容忍、对技术缺陷可追溯、对用户权益有保障。只有将安全和责任贯穿产品全流程,建立可持续的治理机制,才能让技术真正造福用户。