OpenAI Developers 改善 API 中 GPT-6 的提示快取
OpenAI Developers 已改善 API 中 GPT-6 的提示快取。快取命中率預設提高，因此更多輸入 token 可獲最高 90% 的快取輸入折扣。
OpenAI Developers 表示，這項改動有助代理運行更快、成本更低。
相關AI快訊
GPT-6 提示快取可透過斷點與預熱調整
OpenAI Developers 表示，應用程式可用明確的快取斷點選擇可重用的提示前綴，在保留已快取上下文的同時調整推理力度與工具可用性，並預熱共享上下文，讓回應更快開始。
OpenAI Developers 推出 Prompt Caching Dashboard 與診斷 API
platform.openai.com 上的全新 Prompt Caching Dashboard 會追蹤快取命中率。診斷 API 可識別阻礙快取重用的變更，並估算受影響的 token 數量。
GPT-6 Sol 同 GPT-6 Luna 已可經 API 使用
GPT-6 Sol 同 GPT-6 Luna 已可經 API 使用，並正向 Plus、Pro、Business 同 Enterprise 用戶在 Codex 同 ChatGPT Work 逐步推出。
OpenAI 將 API 速率限制層級精簡為 Build、Launch 與 Grow，最高層級門檻降至 500 美元
OpenAI 將原有的五個付費 API 使用層級整合為三個：Build、Launch 及 Grow。現在晉身最高層級 Grow 只需累計支付 500 美元 API 費用，低於過往所需的 1,000 美元。
GPT-6.1 Sol 今日已可在 API、ChatGPT Work 和 Codex 使用
OpenAI Developers 表示，GPT-6.1 Sol 今日已可在 API，以及 ChatGPT Work 和 Codex 使用。它建議，在最着重把質素做到最高時選用 Astra；對於需要更頻繁運行的複雜工作，則選用 GPT-6.1 Sol，稱其表現接近 Astra，成本大幅更低。