ガードレール

ひと言でいうと

• AI が、決めた範囲から外れないようにする、しくみと決まり
• 道路のガードレールのように、はみ出しそうなときに止める

AI は、頼み方によっては、入れてはいけない情報を答えに入れたり、頼んでいない操作をしたりすることがあります。そうならないように、前もって置いておく決まりやしくみをガードレールと呼びます。

たとえば、入力や答えに個人情報が入っていないかを見る、できる操作を絞る、メールの送信や購入の前に人の承認を待つ、などです。AI のサービスにはじめから入っているものも、自分たちで決めて足すものもあります。

例

社外にメールを送る前は、AI が下書きまで作って止まり、人が中身を見てから送る。

知っておくと役立つこと

• プロンプトだけに頼らない：「〇〇しないで」と書くだけでなく、できる操作そのものを絞ると確実です（最小権限）。
• 止める場所を決めておく：送信・購入・削除のように戻せない操作の前に、人が見る場所を置きます（Human-in-the-loop）。
• 決まりは書いて残す：口で伝えるだけの決まりは、会話が変わると抜けます。

では

ルールのゲートで止める

CLUBS の ルール には、ゲート を付けられます。条件がそろうまで AI が手を止めて、あなたに確認します。