ガードレール
がーどれーる・Guardrails
ひと言でいうと
- AI が、決めた範囲から外れないようにする、しくみと決まり
- 道路のガードレールのように、はみ出しそうなときに止める
AI は、頼み方によっては、入れてはいけない情報を答えに入れたり、頼んでいない操作をしたりすることがあります。そうならないように、前もって置いておく決まりやしくみをガードレールと呼びます。
たとえば、入力や答えに個人情報が入っていないかを見る、できる操作を絞る、メールの送信や購入の前に人の承認を待つ、などです。AI のサービスにはじめから入っているものも、自分たちで決めて足すものもあります。
例
社外にメールを送る前は、AI が下書きまで作って止まり、人が中身を見てから送る。
知っておくと役立つこと
- プロンプトだけに頼らない:「〇〇しないで」と書くだけでなく、できる操作そのものを絞ると確実です(最小権限)。
- 止める場所を決めておく:送信・購入・削除のように戻せない操作の前に、人が見る場所を置きます(Human-in-the-loop)。
- 決まりは書いて残す:口で伝えるだけの決まりは、会話が変わると抜けます。
ルールのゲートで止める
この語が出てくる記事
AI が暴走するってほんと?CLUBS の読まれている記事
更新:2026/10/25