外观
第三方模型与 AI 服务供应链研究综述
摘要
调用外部模型或托管 AI 能力相当于把关键决策链交给持续变化的上游。供应商可能更新模型、路由到不同后端、改变保留政策或发生服务中断；即使 API 兼容，安全行为和数据边界也可能漂移。风险管理必须覆盖选择、接入、持续验证和退出。
分类介绍
本领域覆盖模型 API、托管 Embedding/RAG、内容审核和外部 Agent 服务作为供应链依赖的整体风险。请求认证、Token 委托和协议语义归 A6；供应商身份、变更承诺、数据访问和可替代性归本类。
主要安全风险
- 浮动模型别名和静默路由使同一请求在不同时间产生不同安全行为。
- 上游可接触提示、文件、工具结果和业务元数据，形成集中隐私边界。
- 限额、区域故障和政策变更可能触发未经审查的降级供应商。
- 供应商退出或账号冻结会暴露数据导出、模型替代和业务连续性缺口。
防护措施与验证方法
登记供应商、模型标识、区域、数据用途和保留条款；对版本更新进行安全回归；高风险路径设计可控降级和退出方案；使用数据最小化、租户密钥和独立审计日志。合同承诺是证据之一，但不等于技术控制已经验证。
局限与待验证问题
- 黑盒 API 如何提供足够的版本和变更可验证性？
- 多供应商路由会引入哪些最低共同安全标准问题？
- 如何持续检测安全策略、拒答和工具调用行为的服务漂移？
历史研究成果
第三方 LLM API 路由器测量把外部服务风险落实为可观测的中介篡改与秘密收集：研究在付费和免费路由器中发现主动代码注入、条件触发和研究者诱饵凭据访问，并证明上游密钥或内层弱路由器会传递扩大信任链。客户端门禁与日志能降低影响，但只有上游参与的端到端响应认证才能证明 Tool call 来源。Repeated-Game Security for Restaking-Based Verifiable Inference 则指出，用质押和随机复算验证外部推理时，单轮罚没条件会高估重复服务的长期激励安全：作者校准的协议在折现因子 0.92–0.98 时通过单轮条件却不满足重复博弈条件，并提出历史相关挑战、声誉加权罚没和质押归属期。其保证只覆盖特定理性、信号和稳定混合策略假设，不能替代密码学验证或真实运营审计。