問題與反饋
CodyRouter 是什麼?
CodyRouter 是一個統一的 LLM 接入層,用來連接應用、AI coding 工具和上游模型服務。你可以用統一的 API Key、Base URL 和模型介面呼叫不同模型,並在 Dashboard 中管理用量、帳單、活動記錄和請求排查資訊。
CodyRouter 不只是「把請求轉發到模型」的普通代理。它的目標是成為應用和模型之間的可信路由層:統一接入、統一計費、統一觀測,並在需要時透過 Enclave 接入點提供更強的隱私保護和模型真實性保障。
CodyRouter 和其他 AI 聚合Gateway有什麼區別?
很多 AI 聚合Gateway(俗稱中轉站)主要解決「一個介面呼叫多個模型」的問題,例如統一 API 格式、模型列表、計費和可用性。CodyRouter 在這些基礎能力之外,更強調可信性:使用者不應該只靠平台聲明「不會看資料」「不會換模型」。
CodyRouter 的差異化重點是:
- 可信安全路徑:Enclave 接入點使用受硬體隔離保護的執行環境處理敏感請求,讓中間路由層盡量無法讀取請求內容。
- 模型真實性:路由層的設計目標是降低模型被偷偷替換、降級或摻水的風險。
- 可排查鏈路:每次請求都有可追蹤的 request / trace 資訊,方便定位錯誤發生在Gateway、路由層、Enclave 接入點、上游模型還是客戶端設定。
- 企業使用場景:CodyRouter 更適合正式業務、團隊協作、企業採購和對隱私/合規/模型品質有要求的使用者,而不是只追求最低價的臨時呼叫。
端到端加密是什麼
嚴格來說,CodyRouter 的 Enclave 接入點不是傳統通訊軟體意義上的端到端加密,因為請求仍然需要在受保護的執行環境中被解包、轉換並轉發給模型提供商。
更容易理解的說法是:你的請求像被裝進一個封箱,中間路由層只能轉發這個封箱,不能打開查看裡面的內容;只有受保護的安全執行環境和最終模型服務參與實際處理。
Enclave 接入點的核心實作基於 AWS Nitro Enclaves。你可以把它理解成一個由 AWS Nitro System 提供的「安全處理盒」:CodyRouter 外層服務只能把請求送進這個盒子、把結果取回來,但不能像普通應用伺服器一樣進入盒子查看裡面正在處理的資料。
在 Enclave 接入點路徑中,客戶端到 CodyRouter 安全執行環境、以及安全執行環境到上游模型服務的關鍵連線處理都發生在 Nitro Enclave 保護邊界內。普通控制面、日誌系統、維運人員和邊緣代理只應看到必要的元資料,例如請求狀態、耗時、計費資訊和追蹤 ID,而不是使用者的 prompt、程式碼或模型回應正文。
這個設計的重點不是「請相信 CodyRouter 運營方不會看」,而是把信任邊界縮小到兩件更可驗證的事情:第一,使用者訪問的敏感處理邏輯確實運行在 AWS Nitro Enclave 這樣的可信執行環境中;第二,即便 AWS 作為雲服務商,也無法繞過 Nitro Enclaves 基於 Nitro Hypervisor、vCPU/記憶體隔離和 cryptographic attestation 構造的可信邊界,去直接讀取或篡改 Enclave 內部運行時資料。
因此,文件和產品頁面中會用「接近端到端加密」「中間層打不開」「硬體級保護」來幫助使用者理解,但技術上更準確的核心是:敏感內容的解密、轉換和上游請求都被限制在可信執行邊界內完成。
AWS Nitro Enclaves 是什麼?
AWS Nitro Enclaves 是 AWS 提供的可信執行環境技術,用來從虛擬機中建立隔離的執行環境,也就是 enclave。通俗地說,它是在雲伺服器旁邊切出一個更小、更封閉、更難被接觸的安全房間,專門運行最敏感的程式碼。
根據 AWS 官方文件,enclave 是獨立、加固且高度受限的虛擬機,只提供和父執行個體之間的安全本地 socket 連線;它沒有持久化儲存、互動式存取或外部網絡連線。使用者不能 SSH 進入 enclave,父執行個體上的進程、應用或 root/admin 使用者也不能存取 enclave 內的資料和應用。
Nitro Enclaves 使用 Nitro Hypervisor 技術,把 enclave 的 vCPU 和記憶體與父虛擬機隔離。它還支援 cryptographic attestation,用來驗證 enclave 的身份,並確認裡面執行的是授權程式碼。AWS 官方建議將它用於處理高度敏感的資料,例如個人身份資訊、醫療、金融和智慧財產資料,以及對應的資料處理應用。
CodyRouter 的 Enclave 接入點使用 Nitro Enclave 承載敏感請求處理流程。外層服務負責把流量送入 Enclave、接收結果、記錄必要元資料和處理計費;Enclave 內部負責處理使用者請求正文、必要的格式轉換,以及與上游模型服務建立連線。
這種設計帶來的好處是:使用者不需要把信任完全交給任何平台運營商。使用者真正需要確認的是:CodyRouter 的敏感處理程式碼運行在 AWS Nitro Enclave 中,並且 Nitro Enclaves 的硬體隔離與證明機制按預期工作。只要這兩個條件成立,CodyRouter / AWS 的維運人員、管理人員,都無法讀取 Enclave 內部的請求正文和回應正文。
官方資料可以參考:
如何保證不換模型、不存資料
CodyRouter 從架構上同時處理兩個信任問題:模型是否真實、資料是否被中間層留存。
模型路由有記錄可查。 CodyRouter 的路由層會根據使用者請求、模型設定和後端路由規則選擇目標模型,並記錄可排查的請求鏈路。使用者不需要只依賴平台聲明「沒有換模型」,而是可以透過調用記錄和證明材料核對請求是否經過指定路徑。
Enclave 內部限制上游域名。 Enclave 發起上游 HTTPS 請求時,會限制允許連接的模型服務域名。若目標域名不在允許列表中,Enclave 不會發起請求。這可以減少請求被轉發到未知服務、非預期供應商或偽裝模型源的風險。
Enclave Proof 可以離線驗證。 使用者可以匯出某次調用對應的 Enclave Proof,並使用我們提供的離線驗證程序 https://codyrouter.com/enclave-verify 獨立驗證:該請求是否由 Enclave 內部處理,證明是否由可信程式碼簽發,attestation document、PCR 資訊、請求雜湊和回應雜湊是否相互匹配。這個驗證過程不依賴 CodyRouter 運營方的單方面聲明。
帳單和排障記錄不包含正文。 CodyRouter 仍需要保留必要的帳單、風控和排障記錄;這些記錄並不包含使用者 prompt、程式碼或完整回應內容。Enclave 接入點的目標不是讓系統完全沒有任何記錄,而是讓敏感內容不被平台中間層讀取或留存。
Enclave 程式碼是否可以提供驗證?
- 可以提供驗證材料。 CodyRouter 可向企業用戶提供公示的源碼和 Enclave 程式碼用於驗證目的,協助企業安全團隊核對 Enclave 內實際運行邏輯、證明材料和平台說明是否一致。
- 提供 CodyRouter 透明度計劃。 我們向企業用戶提供「CodyRouter 透明度計劃」。加入計劃後,企業用戶可即時接收 CodyRouter 部署在生產環境的資訊,包括 Enclave 相關版本、部署變更和驗證材料更新。
- 升級後可重新驗證。 如果 Enclave 程式碼被升級或替換,使用者不需要只依賴「我們已經升級且仍然安全」的平台說明。每個 Enclave 版本都應對應新的可驗證證明材料,包括公示的源碼、attestation document、PCR 資訊、簽名和版本標識。
- 驗證重點是三者一致。 企業安全團隊可以將新版本程式碼、建構產物和 Enclave Proof 中的 PCR / attestation 資訊進行核對,確認升級後的邏輯仍然滿足既定安全標準,例如:只連接允許的上游域名、不記錄請求正文、不暴露敏感內容、不繞過證明流程。
- 聯絡支援團隊申請。 具體申請方式、交付範圍和驗證流程請聯絡支援團隊信箱:support@codyrouter.com。