我們對代理的運作方式做了一輪全面檢視,讓日常工作感覺更快、更可靠。
即時訊息現在出現得更快,較慢模型的長篇回答不再被切斷,而當某個模型忙碌時,系統會順暢地轉移到下一個最佳選項。
你現在可以做什麼
- 看到即時回覆在約半秒內出現。
- 從會停下來思考的模型取得完整答案,而不會被中途丟棄。
- 當某個模型忙碌時繼續工作,代理會自動切換到你的備援選項。
- 在達到用量上限時收到清楚的訊息,而不是無聲卡住。
- 看到與實際用量相符的成本和用量總計。
為什麼重要
可靠性正是讓 AI 感覺像一位值得信賴的隊友的關鍵。小小的卡頓、丟失的答案和不明的錯誤,會迅速侵蝕這份信任。
這些改動針對的是真實日常使用中會出現的粗糙邊角,讓代理在高負載下依然反應靈敏、結果可預期。
使用範例
- 即時聊天:團隊看著回覆明顯更快地串流出來。
- 繁重任務:長篇分析乾淨地完成,而不是在思緒中途被切斷。
- 尖峰負載:當首選模型忙碌時,工作會在備援模型上繼續進行。
- 預算:跨多步驟工作的用量和成本數字保持準確。
接下來
我們會持續強化引擎,讓代理在工作量成長時依然保持又快又可靠。