问题与反馈
CodyRouter 是什么?
CodyRouter 是一个统一的 LLM 接入层,用来连接应用、AI coding 工具和上游模型服务。你可以用统一的 API Key、Base URL 和模型接口调用不同模型,并在 Dashboard 中管理用量、账单、活动记录和请求排查信息。
CodyRouter 不只是“把请求转发到模型”的普通代理。它的目标是成为应用和模型之间的可信路由层:统一接入、统一计费、统一观测,并在需要时通过 Enclave 接入点提供更强的隐私保护和模型真实性保障。
CodyRouter 和其他 AI 聚合网关有什么区别?
很多 AI 聚合网关(俗称中转站)主要解决“一个接口调用多个模型”的问题,例如统一 API 格式、模型列表、计费和可用性。CodyRouter 在这些基础能力之外,更强调可信性:用户不应该只靠平台声明“不会看数据”“不会换模型”。
CodyRouter 的差异化重点是:
- 可信安全路径:Enclave 接入点使用受硬件隔离保护的执行环境处理敏感请求,让中间路由层尽量无法读取请求内容。
- 模型真实性:路由层的设计目标是降低模型被偷偷替换、降级或掺水的风险。
- 可排查链路:每次请求都有可追踪的 request / trace 信息,方便定位错误发生在网关、路由层、Enclave 接入点、上游模型还是客户端配置。
- 企业使用场景:CodyRouter 更适合正式业务、团队协作、企业采购和对隐私/合规/模型质量有要求的用户,而不是只追求最低价的临时调用。
端到端加密是什么
严格来说,CodyRouter 的 Enclave 接入点不是传统聊天软件意义上的端到端加密,因为请求仍然需要在受保护的执行环境中被解包、转换并转发给模型提供商。
更容易理解的说法是:你的请求像被装进一个封箱,中间路由层只能转发这个封箱,不能打开查看里面的内容;只有受保护的安全执行环境和最终模型服务参与实际处理。
Enclave 接入点的核心实现基于 AWS Nitro Enclaves。你可以把它理解成一个由 AWS Nitro System 提供的“安全处理盒”:CodyRouter 外层服务只能把请求送进这个盒子、把结果取回来,但不能像普通应用服务器一样进入盒子查看里面正在处理的数据。
在 Enclave 接入点路径中,客户端到 CodyRouter 安全执行环境、以及安全执行环境到上游模型服务的关键连接处理都发生在 Nitro Enclave 保护边界内。普通控制面、日志系统、运维人员和边缘代理只应看到必要的元数据,例如请求状态、耗时、计费信息和追踪 ID,而不是用户的 prompt、代码或模型响应正文。
这个设计的重点不是“请相信 CodyRouter 运营方不会看”,而是把信任边界缩小到两件更可验证的事情:第一,用户访问的敏感处理逻辑确实运行在 AWS Nitro Enclave 这样的可信执行环境中;第二,即便 AWS 作为云服务商,也无法绕过 Nitro Enclaves 基于 Nitro Hypervisor、vCPU/内存隔离和 cryptographic attestation 构造的可信边界,去直接读取或篡改 Enclave 内部运行时数据。
因此,文档和产品页面中会用“接近端到端加密”“中间层打不开”“硬件级保护”来帮助用户理解,但技术上更准确的核心是:敏感内容的解密、转换和上游请求都被限制在可信执行边界内完成。
AWS Nitro Enclaves 是什么?
AWS Nitro Enclaves 是 AWS 提供的可信执行环境技术,用来从虚拟机中创建隔离的执行环境,也就是 enclave。通俗地说,它是在云服务器旁边切出一个更小、更封闭、更难被接触的安全房间,专门运行最敏感的代码。
根据 AWS 官方文档,enclave 是独立、加固且高度受限的虚拟机,只提供和父实例之间的安全本地 socket 连接;它没有持久化存储、交互式访问或外部网络连接。用户不能 SSH 进入 enclave,父实例上的进程、应用或 root/admin 用户也不能访问 enclave 内的数据和应用。
Nitro Enclaves 使用 Nitro Hypervisor 技术,把 enclave 的 vCPU 和内存与父虚拟机隔离。它还支持 cryptographic attestation,用来验证 enclave 的身份,并确认里面运行的是授权代码。AWS 官方建议将它用于处理高度敏感的数据,例如个人身份信息、医疗、金融和知识产权数据,以及对应的数据处理应用。
CodyRouter 的 Enclave 接入点使用 Nitro Enclave 承载敏感请求处理流程。外层服务负责把流量送入 Enclave、接收结果、记录必要元数据和处理计费;Enclave 内部负责处理用户请求正文、必要的格式转换,以及与上游模型服务建立连接。
这种设计带来的好处是:用户不需要把信任完全交给任何平台运营商。用户真正需要确认的是:CodyRouter 的敏感处理代码运行在 AWS Nitro Enclave 中,并且 Nitro Enclaves 的硬件隔离与证明机制按预期工作。只要这两个条件成立,CodyRouter / AWS 的运维人员、管理人员,都无法读取 Enclave 内部的请求正文和响应正文。
官方资料可以参考:
如何保证不换模型、不存数据
CodyRouter 从架构上同时处理两个信任问题:模型是否真实、数据是否被中间层留存。
模型路由有记录可查。 CodyRouter 的路由层会根据用户请求、模型配置和后端路由规则选择目标模型,并记录可排查的请求链路。用户不需要只依赖平台声明“没有换模型”,而是可以通过调用记录和证明材料核对请求是否经过指定路径。
Enclave 内部限制上游域名。 Enclave 发起上游 HTTPS 请求时,会限制允许连接的模型服务域名。若目标域名不在允许列表中,Enclave 不会发起请求。这可以减少请求被转发到未知服务、非预期供应商或伪装模型源的风险。
Enclave Proof 可以离线验证。 用户可以导出某次调用对应的 Enclave Proof,并使用我们提供的离线验证程序 https://codyrouter.com/enclave-verify 独立验证:该请求是否由 Enclave 内部处理,证明是否由可信代码签发,attestation document、PCR 信息、请求哈希和响应哈希是否相互匹配。这个验证过程不依赖 CodyRouter 运营方的单方面声明。
账单和排障记录不包含正文。 CodyRouter 仍需要保留必要的账单、风控和排障记录;这些记录并不包含用户 prompt、代码或完整响应内容。Enclave 接入点的目标不是让系统完全没有任何记录,而是让敏感内容不被平台中间层读取或留存。
Enclave 代码是否可以提供验证?
- 可以提供验证材料。 CodyRouter 可向企业用户提供公示的源代码和 Enclave 代码用于验证目的,帮助企业安全团队核对 Enclave 内实际运行逻辑、证明材料和平台说明是否一致。
- 提供 CodyRouter 透明度计划。 我们向企业用户提供“CodyRouter 透明度计划”。加入计划后,企业用户可实时接收 CodyRouter 部署在生产环境的信息,包括 Enclave 相关版本、部署变更和验证材料更新。
- 升级后可重新验证。 如果 Enclave 代码被升级或替换,用户不需要只依赖“我们已经升级且仍然安全”的平台说明。每个 Enclave 版本都应对应新的可验证证明材料,包括公示的源代码、attestation document、PCR 信息、签名和版本标识。
- 验证重点是三者一致。 企业安全团队可以将新版本代码、构建产物和 Enclave Proof 中的 PCR / attestation 信息进行核对,确认升级后的逻辑仍然满足既定安全标准,例如:只连接允许的上游域名、不记录请求正文、不暴露敏感内容、不绕过证明流程。
- 联系支持团队申请。 具体申请方式、交付范围和验证流程请联系支持团队邮箱:support@codyrouter.com。