対話契約を先に決める
公式テキストガイドは Responses API を REST でモデルと対話する優先的な方法として案内しています。単発変換、複数ターン、streaming のどれかを決めてから UI を形づくります。
保存動作は明示的なプロダクト判断です。公式ガイドの現在の retention 制御を読み、アプリが何を保持するかを記録し、処理権限のないデータを送らないようにします。
- 単発：全 context を渡し、自分の結果だけを保存する。
- 複数ターン：response identifier と期限切れ動作を管理する。
- Streaming：partial、complete、cancelled、failed を設計する。
指示・データ・表示を分離する
安定したアプリ規則とユーザー内容を分けます。API の前で入力を正規化し、返された文字列は信頼できない内容として描画します。この境界により prompt の変更がレビュー可能になり、出力処理も安全になります。
streaming UI は意味のまとまりで buffer し、停止操作を用意します。final event が必ず来るとは考えず、通信切断を通常の状態として扱います。
タスク境界で品質を測る
完全性、根拠、形式、遅延、費用という実際の仕事の基準で評価します。自分のケースで改善したときだけモデル更新に価値があります。
通常、曖昧、敵対的、空入力を含む小さな regression set を保ち、指示、モデル設定、周辺コードの変更時に実行します。