どんな話？
見本40件でAIに「お店の型」を覚えさせる学習し直し（Fine-tuning）を、見本の作り方から、学習、動かして試すところまで通した回です。1回目の Llama 3.1 8B は学習できたのに動かせず、2回目の Llama 3.2 3B は学習に出せず、3回目の Mistral Small 24B で動きました。見本に無い3件は型の文と1字も違わず出ましたが、関係のない質問にも決まり文句が付きました。請求は合わせて0.50ドルです。
この記事でわかること
- 固定の型だけなら、文字の置き換えで足りる。学習が要るのは、置き換えでは書けない調整を見本で伝えたいとき。公式の目安は、SFT は数百件、またはおよそ1,000万トークン以上
- 見本は JSONL で、1件は system・user・assistant の3つ。試験用の3件（藍染めの手ぬぐい、有田焼の湯のみ、けやきの丸盆）は、見本に入れない
- 1回目の Llama 3.1 8B Instruct は学習が5分で終わったのに、選べる形が3つとも FP8 で筒が作れなかった。2回目の Llama 3.2 3B Instruct は、Tunable の札が付いているのに「model does not support tuning」で断られた
- Epochs は10と入れると赤い字が出て、上限は8。Max Context Length は最初の値の65536のままだと断られ、8192に直すと仕事ができた。3回目は、作成から完了まで約7分
- 請求は合わせて0.50ドル。学習が0.02ドルと0.13ドル（3回目の見積もりは0.10ドル）、学習した玉を載せた筒（1時間13ドルの形）が0.35ドル。学習した玉は、共用の打ち上げ場には置けない
- 「日本でいちばん高い山は何ですか。」と送ると、答えは「富士山です。ゆっくり、お選びください。」。筒を消しても、玉とデータと自動の鍵は残る
やることチェックリスト
0/6記事を読みながら、できたものにチェックを付けていけます。チェックはこの端末に残ります。
ぜんぶできた！おつかれさまでした。
くわしい手順と画面の図は、Xの記事にあります。
こんな人に
- AIに商品の説明文を書かせるたびに、長さも言い回しもばらばらになる人
- お店の決まった書き方にそろえる手直しに、時間を取られている人
- そもそも学習が要る場面なのかを、お金をかける前に見分けたい人
この話のTIPS
- コツ固定の型だけなら、文字の置き換えで足りる。学習は、それで足りないとわかってから。
- 注意学習1回ぶんの予算は、見積もりではなく、Recommended credits の額で見てください。