安全装置とは、AI社員が間違えても被害が広がらないように、権限・承認・記録・停止の4つを仕組みとして置くことです。ルールを口で伝えるのではなく、守られる形で組み込みます。
線の引き方はバーチャル社員に決めさせないことを、先に決めるに、会社全体のルール整備は中小企業のAIガバナンス・セキュリティ入門にまとめました。その線とルールは、4つの安全装置として、最小の権限と1つの仕事から順に組み込みます。では、いちばん差がつく承認点は、どこに置けばよいのでしょうか。
線は引いた。でも、守られている保証がない
「お金と社外に触れる仕事は、人が通してから出す」。そう決めた会社は増えました。ところが、決めたあとに不安が残ります。
- 本当に、AIは線の手前で止まっているのか
- 承認するはずの人が、忙しくて中身を見ずに通していないか
- 何かが起きたとき、どこまで戻ればいいのか分かるか
人の社員なら、会社の空気が線の代わりに働きます。AI社員には、その空気がありません。頼まれた範囲を、頼まれたとおり進めます。線を「決める」ことと、線が「守られる」ことは、別の作業です。
だから安全装置が要ります。人の善意や注意力に頼らず、仕組みとして止まる形にするためです。
安全装置は、権限・承認・ログ・停止の4つ
安全装置は、4つに分けて考えると迷いません。
図：4つの安全装置。権限を絞る／承認点を置く／記録を残す／止められるようにする。
①権限を絞る。AI社員に渡す権限は、任せる仕事に必要な範囲だけにします。手には「読む」「書く」「実行する」の3種類があり、危なさがまったく違います（→手を持たせる）。まずは読むだけ。足りなければ後から足します。人と同じ共用アカウントは使わず、AI社員専用のアカウントを発行します。誰が何をしたかを分けるためです。
②承認点を置く。お金・社外・人事に触れる仕事には、人が通す点を置きます。承認する人は、1人に決めます。「誰かが見るだろう」は、誰も見ないのと同じになります。
③記録を残す。何を頼み、何を読み、何を書き、誰が通したか。この4つが残っていれば、おかしな結果が出たときに原因をたどれます。依頼ごとの現在地を台帳で追う方法は依頼の現在地を1枚で追うにまとめました。
④止められるようにする。おかしいと思ったとき、すぐ止められる状態にしておきます。具体的には、AI社員のアカウントを止める手順と、その権限を持つ人を先に決めておくことです。止め方が決まっていない仕組みは、怖くて任せられません。
4つのうち、実装で差がつくのは②承認点です。権限とログは、道具の設定でかなりの部分が片づきます。承認点だけは、業務の中のどこに置くかを、人が決めなければなりません。
承認点は「どこに置くか」で決まる
承認点の置き方は、3つのパターンに分かれます。
図：承認点の3つの置き方。出す前に通す／まとめて確かめる／事後に見る。
出す前に通す。AI社員が作ったものを、外に出す直前に人が見ます。お客様へのメール、見積の送付、請求の確定。間違えたら相手に頭を下げることになる仕事は、ここです。
まとめて確かめる。1件ずつ止めると回らない仕事は、日に1回、あるいは週に1回まとめて見ます。社内向けの一次案、集計の下書き、議事録の整理。間違えても社内でやり直せる仕事は、ここで十分です。
事後に見る。止めずに進めさせ、あとから記録を見ます。読むだけの仕事、調べ物、要約。ここは承認ではなく、記録の点検で足ります。
どのパターンに置くかは、3本の線の基準をそのまま使えます。「間違えたとき、誰が謝りに行くか」。謝る相手がお客様なら、出す前に通す。社内で済むなら、まとめて確かめる。謝る話にならないなら、事後に見る。そして、謝って済まない仕事は、そもそも渡しません。
ベンチャーネットも、この置き方で回しています。このブログの原稿はAI社員が書きますが、公開のボタンを押すのは人です。原稿は「出す前に通す」、記事台帳の更新は「まとめて確かめる」、素材の下調べは「事後に見る」。仕事ごとに承認点の位置が違います。
自社で実装するときの順番
順番を間違えると、承認点だらけで何も進まないか、承認点がなくて怖いか、どちらかになります。次の順で進めます。
ステップ1：最小の権限で、1つの仕事を動かす。読む権限だけで始めます。AI社員が「読める」だけでも、調べ物と下書きは任せられます。権限を「最初はゼロ」から足していく考え方はAIに会社のデータを、どこまで渡すかにまとめました。
ステップ2：承認点を1つだけ置く。書く・実行する権限を足すときに、その仕事の出口に承認点を1つ置きます。承認者は1人。承認の単位（1件ずつか、まとめてか）も決めます。
ステップ3：記録を週に一度、見る。ログは残すだけでは意味がありません。週に15分、承認なしで通った仕事に手直しが要らなかったかを見ます。手直しなしが続いていれば、承認点を「出す前」から「まとめて」へ緩められます。逆なら、戻す。
この順番は、人が足りない前提で仕事を組み直すときに効きます。AIが同僚にいる前提に切り替えると、人の仕事は「作る」から「通す」と「見る」へ移ります。承認と記録の点検は、その新しい仕事の中心になります。
よくある失敗は、3つに決まっている
- 承認が形骸化する：件数が増えて、中身を見ずに通すようになる。→ 承認点を減らし、「まとめて確かめる」へ移す。全部を出す前に通そうとしない
- ログを誰も見ない：記録はあるのに、点検の時間が決まっていない。→ 週15分の振り返りを予定に入れる（→毎週15分の振り返り）
- 止め方が決まっていない：おかしいと気づいても、誰がどう止めるか分からず時間が過ぎる。→ アカウントを止める手順と担当者を、動かす前に決める
どれも仕組みの不備で、AIの性能の問題ではありません。
よくある質問
Q. 承認点を置くと、かえって遅くなりませんか？
A. 全部を「出す前に通す」にすると遅くなります。3つの置き方を仕事ごとに使い分ければ、承認が要るのはお金・社外・人事に触れる仕事だけになります。多くの会社では、任せる仕事の大半は「まとめて確かめる」か「事後に見る」で足ります。
Q. 社内に権限やログの設定ができる人がいません。
A. 設定そのものは、使う製品の解説や外部の手を借りれば進みます。社内で決めなければならないのは「どの仕事に承認点を置くか」「誰が承認するか」「誰が止めるか」の3つです。ここは技術ではなく経営の判断で、外注できません。
Q. 製品ごとの権限設定は、どこを見ればよいですか？
A. 基幹システムやSaaSの権限設定は、製品ごとに考え方が違います。製品固有の設定は、それぞれの製品の解説を見てください。まず「読む・書く・実行する」のどこまでを渡すかを決めてから、製品側の設定に入る順番をおすすめします。
まとめ：安全装置は、任せるための装置
権限を絞る。承認点を置く。記録を残す。止められるようにする。この4つは、AI社員を縛るためではなく、安心して任せるための装置です。とくに承認点は、「間違えたとき誰が謝るか」を実装に翻訳したものだと考えると、置き場所が決まります。
難しいのは設定ではなく、承認点の位置を決める判断です。自社の仕事のどれが社外に触れているかは、中にいる人ほど見えにくいものです。ベンチャーネットは、自社のAI社員で毎日この装置を回しながら、FDE型の伴走としてお客様の会社にも同じ装置を組んでいます。1年後には、承認点を通る件数が減り、「見る」だけで回る仕事が増えている。それが、装置がうまく働いている状態です。御社の仕事を並べて、承認点をどこに置くかを一緒に決める。その入口を、壁打ちから始めませんか。
次に読むなら
「線の引き方から確かめたい」
→ バーチャル社員に決めさせないことを、先に決める——社長が引く3本の線
「会社全体のルールをどう整えるか知りたい」
→ 中小企業のAIガバナンス・セキュリティ入門
「権限を、どの順番で渡すか」
→ AIに会社のデータを、どこまで渡すか——「最初はゼロ」から始める権限の設計
「記録の残し方を知りたい」
→ 依頼の現在地を1枚で追う
