OpenAI發佈全新Ultrafast模式,讓GPT‑5.6 Sol的處理速度最高達Standard的14倍,每秒最多輸出750個token,算是眾多對手中目前最快。Ultrafast首階段在OpenAI API推出,但目前只供一批獲選客戶限量預覽,當他們有足夠資源後會逐步讓更多用戶使用。OpenAI今次與Cerebras合作,透過低延遲推理提升回應速度。
在事故應變和維持系統可靠運作方面,Ultrafast可在關鍵系統故障仍在發生時,立即快速分析應用程式日誌、近期程式碼改動和工程師報告,找出可能原因並協助準備修正。金融研究和保安工作則可在市場狀況變化期間,迅速分析市場訊號、評估交易及找出可疑活動。
客戶支援和語音服務可在不打斷對話的情況下,即時快速處理複雜問題,即使要經過多個步驟或系統亦然。電子商貿方面,Ultrafast可在顧客仍在考慮時快速回答產品問題、查詢存貨、按需要提供建議及處理付款問題。
研究團隊則可把原本需要通宵完成的實驗,改為日間互動工作,快速測試想法、檢視結果、調整方法後再進行下一輪實驗。這讓研究人員在同一個工作時段內反覆試驗,毋須中斷工作流程等待下一輪結果。
