發生了什麼
OpenAI最近發布了一則關於Codex系統架構的重要更新。新聞詳細探討了Codex代理循環的工作機制，並重點介紹了技術團隊是如何通過引入WebSockets和連接範圍緩存來最佳化系統的。這一系列技術調整直接減少了API的開銷，並顯著改進了模型的延遲性能。簡單來說，這意味着Codex在處理請求時反應更快，系統負擔更輕了。
核心變化解讀
這次升級的核心在於對數據傳輸和緩存策略的底層重構。首先，引入WebSockets技術是一個關鍵點。傳統的HTTP請求在每次交互時都需要重新建立連接，這會產生大量的握手開銷。而WebSockets允許在客戶端和服務器之間建立持久的雙向連接，極大地減少了這種重復的握手過程，讓數據傳輸更加實時、高效。
其次，連接範圍緩存的加入也起到了至關重要的作用。在AI模型的推理過程中，很多上下文資訊是可以復用的。通過在連接範圍內進行緩存，系統避免了重復計算和重復獲取相同數據的步驟。這不僅降低了API調用的計算成本，還直接提升了響應速度。這兩項技術的結合，使得Codex代理循環的工作流變得更加順滑，模型在生成代碼或回答時的延遲得到了肉眼可見的改善。
對國內用戶的影響
對於國內開發者而言，這次性能提升無疑是個好訊息。更低的延遲意味着在使用AI輔助編程時，等待時間縮短，工作效率大幅提升。特別是對於高頻使用API的用戶，減少的開銷也能在一定程度上最佳化成本體驗。如果你正在使用ChatGPT的Plus或Pro方案進行開發工作，你將能更明顯地感受到這種絲滑的響應速度。這種底層性能的最佳化，結合Plus/Pro方案的高級功能，能爲國內用戶提供更接近本地化體驗的流暢度，讓跨洋調用不再卡頓。
你需要做什麼
既然系統性能已經升級，最好的應對方式就是充分利用它。如果你還在使用基礎版本，不妨考慮升級到更高階的方案來釋放這些技術紅利。爲了方便大家使用，我們提供了便捷的服務，你可以直接前往ChatGPT 儲值中心完成賬戶升級。體驗更快的Codex，從現在開始。