小学生でもわかる AI図鑑
  1. ホーム
  2. 小学生でもわかるJev
  3. 第5話

Jev 第5話

【小学生でもわかる】AIに任せていいのはどこまで?Jevの自信ランプで「任せる・確かめる・人へ」を決める

送金ができるアプリに、文字で頼める窓口を付けたとします。困るのは「さっきの件、お願いします。」のような文です。何の件なのか、どこにも書いてありません。審査員に「この人は何をしようとしている?」と聞けば、札は必ず1枚あがります。困るのは、そのあとです。あがった札のとおりに送金を進めていいのか。いったん利用者に確かめるのか。人に回すのか。

  • 練習ステージの6回は1回あたり377〜412トークン、計算上は1回約0.00002ドル(入力100万トークンあたり0.042ドル)
Xで記事を読む シェア
自信ランプのカバー

どんな話?

自信ランプ(confidence)は、割合が1つの候補にどれだけ集まっているかを表す0〜1の数字で、「どれ?」と「何点?」の札にだけ付きます。練習ステージで送金アプリの質問カードを出すと、「さっきの件」は自信0.49で人へ。ところが送金のやり方をたずねた文は、自信0.98で「送金を承認したい」になりました。線は操作の重さで変え、送金は明るくても確かめる。候補の説明を直すとランプも変わるので、直したら前に通っていた文も流し直します。

この記事でわかること

  • 自信ランプ(confidence)は「どれ?」と「何点?」の札に付く0〜1の数字。割合が1つの候補に集まっているほど明るい。はい度には付かない
  • 「どれ?」の札のランプは、説明書の図の式(候補の数 × いちばん大きい割合 − 1)÷(候補の数 − 1)とほぼ合った。同じ0.66でも、2択なら0.32、3択なら0.49、7択なら0.60
  • 道は3つ。任せる・確かめる・人へ。線は1つの数字ではなく、操作の重さで変える
  • 明るくても、まちがえる。送金のやり方をたずねた文が、自信0.98で「送金を承認したい」になった。重い操作は、明るくても確かめる
  • 候補の説明を直すと、ランプも変わる(「さっきの件」は0.49→0.67)。直したら、前に通っていた文も全部流し直す
  • 線の数字は、説明書の中でもページによって割れている(送金は0.9と0.85、人に回す下限は0.5と0.6)。自分の例で試して決める

こんな人に

  • AIに問い合わせや申し込みの仕分けを任せはじめて、「この判定を、そのまま実行していいのか」で手が止まった人
  • 自信の数字が0.9なら任せていいのか、0.6なら人が見るべきなのか迷う人
  • 自分の仕事の操作ごとに「任せる・確かめる・人へ」の線を、紙1枚に書きたい人

この話のTIPS

  • 注意ランプが明るくても、まちがえます。練習ステージで、送金のやり方をたずねただけの文が、自信0.98で「送金を承認したい」と判定されました。自信ランプは、割合が1つの候補にどれだけ集まっているかを表す数字で、正しさの保証ではありません。
  • コツ書き直したら、流し直す。候補の説明を1か所でも直したら、前に通っていた文も全部流し直して、行き先が変わっていないかを見てください。
すべてのTIPS