どんな話？
急がない仕事を1行1件のファイル（JSONL）にまとめて預ける、まとめ打ち（Batch API）の回です。公式の料金は、共用の打ち上げ場の50%。商品10点を GLM 5.3 Flash で出すと約8分で終わり、画面の集計は 10 succeeded、0 errored でした。ところが item-08 は、おわびの文まで付いた206字の壊れた答え。少なくとも3件には、渡していない事実も足されていました。
この記事でわかること
- まとめ打ちは共用の打ち上げ場の50%で、入力にも出力にも当てはまる。答えがいつ戻るかは決められず、ストリーミングも使えない
- 預けるファイルは JSONL。1行に注文を1件書き、custom_id（自分で付ける番号）と body（注文の中身）の2つの部品でできている
- 期限（Completion timeframe）は 12 hours から 72 hours までの5つ。制作の10件は、出してから終わるまで約8分だった
- 結果の並びは、入力の順ではなかった。1行目は item-02。custom_id で突き合わせれば、取り違えない
- 画面の集計は 10 succeeded、0 errored でも、item-08 は206字の壊れた答え。少なくとも3件に、渡していないことが入っていた
- 10件は入力896・出力735トークンで、公式の半額で計算すると約0.00025ドル。3,000件なら半額で約0.08ドル（上限まで使うと約0.8ドル）
やることチェックリスト
0/6記事を読みながら、できたものにチェックを付けていけます。チェックはこの端末に残ります。
ぜんぶできた！おつかれさまでした。
くわしい手順と画面の図は、Xの記事にあります。
こんな人に
- 商品の説明文を、何百件、何千件とAIに書かせたい人
- 1件ずつ送る手間と、件数ぶんの料金が気になる人
- 答えが今夜そろっても明日の朝そろっても困らない、急がない仕事がある人
この話のTIPS
- 注意説明書は、COMPLETED を「すべての依頼が処理できた」状態と説明しています。答えの出来を確かめた、とはどこにも書かれていません。
- コツ1件ごとの max_tokens が、費用の天井を決める。考える量の指定が、ふだんの出力の量を左右する。件数が多いまとめ打ちでは、この2つの書き方が、そのまま請求に乗ります。