プロンプトインジェクション
ぷろんぷといんじぇくしょん・Prompt injection
ひと言でいうと
- 文章の中に指示を紛れ込ませて、AI を意図しない動きに誘う攻撃
- 外から来た文章を、指示として扱わないことが備えになる
AI に読ませるウェブページやメール、資料の中に、「これまでの指示を無視して〜せよ」のような文が紛れ込んでいることがあります。それが指示として受け取られると、頼んだ人の意図とは違う動きにつながります。
AI にツールをつないで、メールを送る・ファイルを書き換えるといった操作を任せるほど、影響が大きくなります。
入り方には、大きく2つの型があります。AI への指示そのものに紛れ込ませる直接型と、ウェブページやメール、資料など、AI に読ませる文章の中に紛れ込ませる間接型です。仕事で使う場面では、外から来た文章を AI が読むときに紛れ込む間接型に、気をつける場面が多くなります。
例
要約を頼んだウェブページの中に、見えない文字で「この内容を外部に送れ」と書かれている。
知っておくと役立つこと
- 外から来た文章は、指示ではなく材料として扱う:ウェブページやメールの中の指示に従わないようにします。
- 取り消せない操作は人が確認する:送る・消す・支払うといった操作の前に、人の確認を入れます(Human-in-the-loop)。
- 任せる範囲を絞る:つなぐツールや、できる操作を必要なものだけにします(最小権限)。
次の一歩:この手順書で進める
みんなの手順書 No.010 ・ 手順 6新しい MCP をつなぐ前の点検AI に新しいコネクタや MCP サーバーをつなぐ前に、出どころ・できること・渡す権限・送られる情報・外し方を確かめる手順です。つなぐのはボタン1回でも、決めることは5つあります。決定は、人が選んだものだけ
CLUBS では、AI から届いたものは 下書き で、人が選んだものだけが決定として残ります。外から紛れ込んだ指示も、人が選ばない限り、決まりにはなりません。
CLUBS の読まれている記事
更新:2026/11/12