一款具备自然语言指令操控计算机能力的开源智能体近期引发关注,在为办公自动化带来便利的同时,其隐藏的安全风险也成为金融监管部门的重点防范对象; 问题凸显 四大风险威胁金融数据安全 国家互联网应急中心于3月10日率先发布风险提示,明确指出该智能体存在四大核心安全隐患。首先是提示词注入风险,攻击者可通过精心构造的恶意指令,诱导系统读取敏感网页内容,导致加密密钥等核心信息泄露。其次是误操作风险,由于语言理解的不确定性,指令可能被错误解析,进而删除重要邮件或生产数据。第三是插件投毒风险,部分第三方功能模块已被发现含有恶意代码,安装后可窃取系统凭证并部署后门程序。第四是已知安全漏洞风险,公开披露的多个漏洞若被利用,可能导致整个系统被非法控制。 对金融、能源等关键行业来说,上述风险的危害更为严重。工业和信息化部网络安全威胁和漏洞信息共享平台在3月11日发布的预警中,特别指出了金融交易场景的高危特征:记忆数据被污染可能导致错误交易决策,身份验证机制可能被绕过导致账户被接管,插件可能窃取交易凭证,系统失控可能引发频繁错误下单。这些风险直接威胁到信托行业的核心业务安全。 监管响应 部署层级化防控体系 针对上述风险,监管部门迅速行动,建立了从中央到地方、从预警到执行的完整防控链条。工业和信息化部提出的"六要六不要"防范建议,涵盖版本合规性、网络隔离、权限管控、插件管理等关键维度,为各行业提供了明确的操作指引。 多地监管部门随即向辖区内信托机构下发专项通知,要求各机构立即开展全面安全排查,严格控制AI工具的使用范围和部署权限。华东地区某监管部门的通知明确要求"禁止在所有与工作有关的终端部署该智能体",说明了监管的谨慎态度。 行业响应 信托机构迅速筑牢防线 面对监管预警,信托行业的应对速度和力度都超出预期。记者了解到,全国大部分地区的多家信托公司已快速制定和实施防控措施。 华东某信托公司表示,公司在监管通知下达后立即采取行动,禁止在所有工作终端部署该智能体。该公司负责人强调,该智能体极易成为网络攻击的入口,一旦被攻击者利用,敏感信息泄露的风险将难以控制。 华南地区另一家信托公司的做法更为严格。该公司长期以来已建立了完善的终端软件白名单管理制度,除了公司统一部署的办公软件、财务系统和风控系统外,其他所有外来软件均被禁止安装。IT部门对每台办公电脑的软件安装和运行状态进行实时监控。监管预警发布后,该公司继续强化了排查力度,确保现有防控制度得到严格执行。 华西地区某信托公司虽然暂未收到正式书面禁令,但已通过口头通知的方式,明确要求全体员工不得在工作终端安装和使用该智能体。公司明确告知员工,该智能体具有过高的系统权限,存在明显的数据安全泄露隐患,为了避免踩踏监管红线,公司决定提前采取防范措施。 启示与思考 数据安全需要全链条防控 本次事件反映出金融机构面临的网络安全挑战不断升级。随着人工智能技术应用的扩展,一些便利的工具在为工作效率带来提升的同时,也可能成为数据泄露的隐患。金融机构作为敏感信息的集中地,必须保持高度的安全意识。 信托公司的快速响应表明,金融行业已经形成了对监管预警的敏感反应机制。从中央层面的风险提示,到地方监管部门的专项通知,再到各机构的具体防控措施,形成了纵向有效传导、横向协调联动的防控体系。 同时,各信托公司采取的措施也体现了"预防优于应对"的理念。通过建立白名单制度、强化终端监控、明确使用禁区等方式,金融机构正在构建更加严密的数据安全防线。
此次事件折射出金融科技快速发展与风险防控之间的平衡难题。监管部门及时出手,既是对现实隐患的纠偏,也为行业明确了应用边界。随着技术迭代加快,建立与创新节奏相匹配的安全评估与准入机制,将成为金融机构数字化转型中必须解决的关键问题。只有在安全可控的前提下,技术进步才能真正转化为金融服务的长期价值。