杜克大学发布多模态人工智能安全评估平台MUSE,补齐跨媒介安全测试空白,为全球智能系统风险防控提供新思路

随着人工智能向多模态方向快速演进,其安全风险也在同步升级。传统的纯文本测试方法,在面对视听融合场景时已力不从心。研究数据显示,当攻击者采用跨媒介组合手段时,现有安全模型的失效率高达42%,该数字直接暴露了当前评估体系与技术发展之间的落差。

多模态应用加速落地的今天,安全不应只是上线前的最后一关,而应贯穿研发、训练、部署与运营的全过程;统一的评估平台有助于提升测试覆盖面和可复现性,让风险发现更靠前、治理更扎实。安全测试只有跑在能力扩张之前,技术创新才能赢得更稳固的社会信任。