先選互動契約
官方文字指南把 Responses API 定位為 REST 模型互動的首選方式。先判斷工作是單次轉換、多輪對話或串流介面,再設計 UI。
資料保存行為必須是明確的產品決策。閱讀官方指南目前的 retention 控制、記錄應用程式保存什麼,且不要送出未獲授權處理的資料。
- 單次:提供完整 context,只保存你的結果。
- 多輪:追蹤 response identifier,定義過期後的行為。
- 串流:設計 partial、complete、cancelled、failed 四種狀態。
分開指令、資料與顯示層
穩定的應用規則應與使用者內容分離。輸入進 API 前先正規化,回傳文字則以不可信內容處理。這條邊界讓 prompt 修改可審查,也讓輸出更安全。
串流 UI 應依語意單位緩衝並提供停止操作。不要假設 final event 一定抵達;網路中斷是正常狀態。
在任務邊界衡量品質
依工作真正需要的結果評估:完整性、依據、格式、延遲與成本。只有在你自己的案例上改善這些指標,模型升級才有意義。
保留一組精簡 regression set,涵蓋一般、模糊、對抗與空輸入。當指令、模型設定或周邊程式改變時重新執行。