科技巨头联手破解AI安全难题 英伟达思科开源解决方案赋能企业智能升级

企业数字化转型加速的背景下,自主代理被寄予提升效率、降低成本、加快响应的期待,正从客服、运维、研发测试等环节扩展到安全运营、业务流程编排等核心场景。但与传统自动化脚本不同,自主代理具备更强的工具调用与环境交互能力。一旦缺乏边界约束,可能引发越权访问、敏感数据外泄、错误决策扩散等问题。尤其在多代理协同、跨系统调用、接入外部模型与第三方工具的情况下,企业面临的安全治理难度明显上升。 业内普遍认为,风险集中体现在三个上:一是权限与网络访问链条更长,代理通过调用工具与服务可间接触达关键资产,传统的账号权限管控难以覆盖复杂调用路径;二是决策过程不透明,推理步骤、上下文来源与工具使用缺乏可追溯机制,事后难以复盘与定责;三是工具与服务供应链风险增加,未经验证的插件、软件包或接口一旦被引入,可能成为攻击入口,叠加提示注入等新型攻击手法,使企业防护面更扩大。由此,构建面向代理的基础设施级安全边界与可审计机制,成为企业规模化部署的关键前提。 针对上述痛点,英伟达与思科3月17日联合发布技术方案,并以开源方式提供代理运行时OpenShell与安全平台AIDefense的组合能力,尝试以分层防护破解企业代理安全治理难题。方案的核心思路是将事前约束与事中验证、事后审计相结合:由OpenShell在运行时层面设定不可逾越的安全边界,限制代理能力范围;由AIDefense对代理行为进行持续校验和记录,确保执行过程符合策略并可追溯。业内分析认为,这种架构有助于降低自主代理在关键业务中的落地门槛,使自动化能力从可用走向可控。 在具体机制上,OpenShell定位为支持长期运行代理的开源运行环境,通过隔离与最小权限原则构建基础防线:为每个代理创建独立沙箱,默认不授予权限,外部访问必须经过策略授权;当代理调用外部工具或服务时,网络策略过滤将对未经验证的软件包与访问请求进行拦截,减少不合规调用;在涉及云端模型调用时,引入隐私路由机制,对敏感信息进行匿名化处理,降低数据暴露风险。与之配套,AIDefense侧重行为验证与安全审计:持续记录代理推理步骤、工具调用与决策过程,对对应的技能组件及服务进行供应链安全审查,确保只有通过验证的工具链可被调用。两者分工明确:前者回答允许它做什么,后者回答它实际上做了什么。 在安全运营等高风险场景中,该方案的价值更为突出。以零日漏洞通告发布后的应急响应为例:企业内部代理可自动解析公告内容,并结合实时网络知识图谱识别受影响设备。知识图谱由持续运行的上下文代理维护,涵盖设备配置、软件版本、依赖关系等关键信息,从而在漏洞披露后快速定位风险面。随后,安全运营代理可完成触发条件解析、图谱匹配、影响评估与修复建议生成等步骤,并形成按风险优先级排序的处置方案。全过程在沙箱环境内运行,降低越权风险;当代理需要通过工单系统提交任务或调用外部服务时,AIDefense网关对调用请求进行实时检测,一旦发现异常行为或疑似提示注入企图,系统可阻断请求并记录事件,防止敏感数据外流。最终,企业不仅获得漏洞影响清单和修复计划,还能得到完整审计链路,为合规检查、事件复盘与流程优化提供依据。 多方观点认为,企业级自主代理的竞争将从功能堆叠走向安全与治理能力比拼。在监管合规趋严、数据安全要求提升的趋势下,可验证、可审计、可追溯将成为企业采用自主代理的重要门槛。开源方式有望加速行业共同验证与生态适配,推动形成更统一的接口规范与治理范式;同时也意味着企业需同步完善策略配置、权限体系、工具链准入与审计流程,避免有工具无治理。未来,随着代理应用深入生产与安全等关键领域,围绕运行时隔离、供应链审查、行为验证与隐私保护的系统化能力,或将成为企业智能化升级的基础设施之一。

智能代理技术的价值,终究要在可信的环境中才能得到充分释放;此次英伟达与思科的联合探索表明,安全与自动化并非对立,而是相辅相成的关系。对正在加速推进数字化转型的企业来说,将安全治理能力纳入智能系统的底层设计,而非事后补救,或许才是真正意义上的技术成熟。这个理念的确立与推广,将深刻影响未来企业智能化建设的路径选择与行业标准的走向。