ハルシネーション

ひと言でいうと

• AI の答えに、事実と違う内容がもっともらしく混ざること
• 前提を正しく渡し、大事なところは元の情報で確認する

文章としては自然でも、数字・日付・名前・出典などが事実と違っていることがあります。言い切った書き方になるので、読んだだけでは気づきにくいのが特徴です。

前提が足りないときや、手元にない情報を聞いたときに起こりやすくなります。

例

存在しない資料の名前を、出典として挙げてしまう。

知っておくと役立つこと

• 前提と資料を渡す：決めたことや元の資料を渡しておくと、それに沿った答えになりやすくなります（コンテキスト）。
• 大事なところは元の情報で確認する：数字・日付・出典は、元の資料に当たって確認します。
• 分からないときは分からないと言ってもらう：「分からないことは推測せず、分からないと書いてください」と頼んでおくと、間違いを減らせます（なくなるわけではありません）。

では

決めたことを、そのまま渡す

CLUBS では、決めたことと理由を 案件 に残しておけます。「案件を読んで」で、記憶や推測ではなく、残した前提をそのまま渡せます。