聚焦提示注入等新型威胁 外部工具调用受限与风险标注成对话产品安全新抓手

随着数字化发展,智能交互系统在政企办公、医疗教育等领域的应用日益广泛。但最新安全监测显示,"提示注入"攻击正快速增长。攻击者通过精心设计的指令,可能获取敏感数据或执行非法操作。数据显示,2025年全球此类攻击事件将同比激增217%,已成为智能技术面临的主要安全威胁之一。

技术进步需要安全保障作为支撑;人工智能在为社会发展创造价值的同时,必须建立相应的防护体系。此次推出的双重安全机制——既是对当前威胁的应对——也为行业树立了创新标杆。未来随着技术发展,人工智能安全防护还需持续升级,在开放创新与风险管控之间找到平衡点,让智能技术成为推动社会进步的重要力量。