たとえるなら
記憶だけで地図を描く子が、知らない道を「たぶんこう」と自信満々で描き足してしまう感じ。嘘をつく気はないのに、絵はもっともらしい。
もう少しくわしく
AIが事実でないことを、本当のことのように自信満々で答えること。悪気はなく、しくみ上なくせません。大事な数字や固有名詞は自分で確かめるのが基本です。
例えば
- 存在しない本のタイトルや、間違ったURLをすらすら答える
- 数字や日付が微妙にずれている
対策は2つ。大事なことは元の資料で確認する。資料を渡してから答えさせる（→RAG）。
記憶だけで地図を描く子が、知らない道を「たぶんこう」と自信満々で描き足してしまう感じ。嘘をつく気はないのに、絵はもっともらしい。
AIが事実でないことを、本当のことのように自信満々で答えること。悪気はなく、しくみ上なくせません。大事な数字や固有名詞は自分で確かめるのが基本です。
対策は2つ。大事なことは元の資料で確認する。資料を渡してから答えさせる（→RAG）。