AIエージェントに「任せる範囲」と、経営者が「握る範囲」｜Human-in-the-Loopという設計思想

朝、AIからの承認依頼が何十件も届いている。

部長は中身を開かず、まとめて「承認」を押す。

形の上では、人が確認したことになっています。

Human-in-the-Loop（ヒューマン・イン・ザ・ループ）とは、AIや自動化の処理の途中に、人の判断を組み込む設計の考え方です。

線は「任せる範囲」から引くと迷います。

人が握り続けるものから引くと、決めやすくなります。

握るものが決まれば、それ以外は任せられるからです。

基準は2つで足ります。

元に戻せるか。社外に影響が出るか。

この2つで処理を仕分けると、承認が要る処理はぐっと絞れます。

では、冒頭の部長に届く何十件のうち、本当に人が見るべきものはどれか。

この記事で分かること

• 「全部任せる」「全部確認する」が、どちらも設計にならない理由
• 処理を4つの階層に分ける考え方と、線を引く3つの問い
• 自社の状況に合うAIの入れ方（入れない判断も含む）
• 人が握るべきものは、承認のほかに3つあること

読了時間の目安：約12分

言葉の整理：AIエージェントは、人の指示を受けて、複数の手順を自分で組み立てて処理を進めるAIのことです。

自動化の議論は、たいてい極端に振れる

AIの活用を社内で話すと、意見は2つに割れがちです。

慎重派は「AIの判断は信用できない。人が必ず確認すべきだ」と言う。

推進派は「確認していたら意味がない。任せてこそ効果が出る」と返す。

どちらにも理があります。

ただ、どちらも設計ではありません。

全部確認すると、処理は速くなりません。

確認の件数が増えるほど、1件あたりの注意は薄れます。

やがて、冒頭の部長のように中身を見ずに承認する状態になる。

統制は形だけ残り、実際には誰も見ていません。

全部任せると、うまく回っている間は何も起きません。

問題は、想定外のことが起きたときに表に出ます。

取り消せない処理が走る、取引先に誤った内容が届く、根拠を後から説明できない。

めったに起きないからこそ、備えは後回しになります。

どちらも、何を人が握るかを決めていない状態です。

導入は進み、統制は追いついていない

これは、日本の中堅・中小企業に限った話ではありません。

調査会社ガートナーが2025年9月に発表した調査があります。

ITアプリケーション部門のリーダーの74%が、AIエージェントを組織への新たな攻撃経路と考えていました。

統制の仕組みが整っていると強く同意した人は、13%にとどまります（出典：ガートナー公式発表、2026年9月確認）。

ガートナーは2025年8月の別の発表で、こう予測しています。

2026年末までに、企業向けアプリケーションの40%に業務特化型のAIエージェントが組み込まれる。

発表の時点では、5%未満だった領域です（出典：ガートナー公式発表、2026年9月確認）。

AIエージェントは、「入れるかどうか」から「入ってきたものをどう扱うか」へ移りつつあります。

自社で決めなくても、使っている業務システムの側に組み込まれてくる。

これまでの技術導入と違うのは、この点です。

線引きを先に決めておく価値は、そこにあります。

処理を、4つの階層に分ける

AIが実行する処理には、重さのまったく違うものが混ざっています。

残高を照会するのと、支払いを実行するのとでは、失敗したときの結果が違う。

社内の下書きと、取引先への見積書とでは、取り消しやすさが違います。

一律に承認を挟めば、軽い処理にまで人の時間を取られます。

一律に任せれば、重い処理にも歯止めがありません。

分ける基準は、次の2つです。

• 元に戻せるか（可逆性）
• 影響が社外に出るか（対外性）

技術の知識は要りません。

業務を知っている人なら、誰でも答えられます。

この2つを組み合わせると、処理は4つの階層に分かれます。

階層	性質	扱い	具体例
第1層	見るだけ。何も変えない	自動で実行	残高照会、レポート作成、データ検索
第2層	変えるが、元に戻せる	自動で実行＋事後確認	下書き作成、社内タスクの登録、分類の付与
第3層	戻せるが、社外に影響が出る	事前承認	見積の送付、発注書の作成、問い合わせへの返信
第4層	戻せず、お金や契約に直結する	必ず人が判断	支払いの実行、契約の締結、価格の変更

第1層と第2層は、迷わず任せてよい領域です。

ここに人の確認を挟むと、自動化の効果はほとんど消えます。

議論になるのは、第3層です。

定型のやりとりなら任せ、重要な取引先への送付なら人が見る。

業種や取引先との関係で、扱いが分かれます。

第4層は、規模を問わず人が判断します。

自動化しても浮く時間は限られるのに、失敗したときの影響は大きいからです。

この分類は、固定ではありません。

運用しながら、第3層の一部を第2層に下ろしていく。

冒頭の部長に届く承認も、第3層と第4層に絞れば、1件ずつ開ける数に収まります。

どこに線を引くか｜経営が答える3つの問い

4階層は枠組みです。

実際の線は、会社ごとに違います。

自社の線は、次の3つの問いで決めます。

問い1：いくらから人が判断するか

金額の基準です。

決裁権限の規程があれば、それが出発点になります。

人の稟議で10万円以上が上長承認なら、AIの処理も同じ基準で構いません。

いまの規程に合わせたほうが、社内の納得も得やすくなります。

問い2：取り消せない処理はどれか

可逆性の基準です。

業務ごとに、実行後に取り消せるか、取り消すのにどれほど手間がかかるかを見ます。

「技術的には取り消せるが、取引先に謝る必要がある」処理は、取り消せない側に入れます。

問い3：社外の誰に何が届くか

対外性の基準です。

金額や条件を含む書類が届くなら、扱いは重くなる。

単なる受領通知なら、軽く扱えます。

3つとも、経営と業務の問いです。

技術の部門だけでは、答えが出ません。

ここを決めるのが、経営の役割です。

判断の物差し｜どんな入れ方が合うか

線引きの考え方は同じでも、AIの入れ方は会社の状況で変わります。

会社の状況	合いやすい入れ方	気をつけること
会計・販売・在庫が一つの業務システムにまとまっている	そのシステムに組み込まれたAIから使う	組込のAIでも、線引きは自社で決める
業務システムは変えずに、AIの使い方を広げたい	外部のAIを業務システムにつなぐ	つなぐ先ごとに権限と記録を決める
業務が特殊で、既製品のAIでは合わない	AIでのスクラッチ開発	作った後に守る人と予算が要る
システムが部門ごとに分かれ、数字が合わない	AIより先に、データの土台を整える	ばらばらのデータを渡すと、AIは判断を誤る
決裁権限の規程も承認の流れもない	いまはAIに実行を任せない	先に人の承認の流れを決める

NetSuiteのようなERP（会計・販売・在庫などを一つの仕組みで管理するシステム）を使う会社は、1行目か2行目です。

Odooや国産ERPでも、考え方は変わりません。

製品が何であれ、線を引くのは会社です。

すでにERPを使っている会社は、更新のたびにAI機能が増えていきます。

新しい機能を有効にする前に、4階層のどこに当たるかを見る手順を決めておきます。

誰がその機能を使えるかも、いまの役割に合わせます（NetSuiteのロールと権限）。

組込のAIと外部のAIの違いは、NetSuite純正AIと外部AI（MCP連携）の違いと使い分けにまとめています。

作るか選ぶかで迷ったら、AIでスクラッチ開発とERP、どちらを選ぶべきかが次の一歩になります。

線引きでつまずく、3つのパターン

3つのパターンと避け方を図にすると、次のとおりです。

失敗1：全部に承認をつけて、誰も見なくなった

起きること：不安から、すべての処理に承認を挟んだ。

通知が1日に何十件も届き、まとめて承認するのが習慣になった。

原因：人の注意には限りがあります。

件数が増えると「たぶん大丈夫」で処理するようになる。

本当に見るべき1件が、その他大勢に埋もれます。

避け方：承認の対象を、元に戻せるかと社外に出るかの2点で絞ります。

件数が減れば、1件ずつ丁寧に見られます。

失敗2：「元に戻せるか」を見ずに任せた

起きること：「これくらいなら自動でいい」と感覚で決めた。

実行してから、取り消せない処理だったと分かった。

取引先に届いた書類を、後から訂正する羽目になった。

原因：処理の見た目と、取り消しやすさが一致しないからです。

画面上は同じ「登録」でも、社内の下書きと、取引先に通知が飛ぶ登録とでは重さがまるで違います。

避け方：処理ごとに、戻せるか・社外に何か届くかの2つで仕分けます。

業務を知っている人なら答えられます。

失敗3：AIの判断の根拠を、残していなかった

起きること：なぜその処理が走ったのか、後から説明できない。

監査で根拠を聞かれて詰まり、不具合の原因も追えない。

原因：動かすことを優先し、記録を後回しにしたからです。

人が判断していた頃は、承認者の名前ややりとりのメールが自然に残りました。

自動化すると、「なぜそうしたか」は残りません。

しかも記録は、後から足すのが難しい部分です。

避け方：何を残すかを、動かす前に決めます。

最低限、次の3点があれば説明できます。

• いつ、どの処理が実行されたか
• 何を根拠に、その判断がなされたか
• 人が承認した場合、誰がいつ承認したか

この記録は、監査のためだけのものではありません。

うまくいかなかったとき、どこを直すかを知る手がかりにもなります。

「止まって、待って、再開する」という実装

では、業務システムの中では、どう形になるのか。

NetSuiteでは、2026.2のリリースで、この考え方に沿う機能が加わりました。

NetSuite Integration Platform（連携の基盤）の新しい制御です。

エージェントは処理の途中で、承認や担当者の入力を待つために一時停止します。

応答を受け取ると、自動で再開します。

承認の確認ポイントを組み込み、効率を保ちながら統制を高める仕組みです（出典：Oracle NetSuite公式、2026年9月確認）。

使えるかどうかは、自社のアカウントの担当に確認してください。

ここから読み取れるのは、自動化と承認は対立しないということです。

処理を止めて人に渡し、応答が来たら再開する。

人が判断する場面を残したまま、それ以外は自動で進みます。

承認の流れの作り方は、NetSuiteの承認ワークフロー実装ガイドで扱っています。

エージェント型AIの機能は、NetSuiteのエージェント型AI（SuiteAgents）とはをご覧ください。

人が握るべきものは、承認だけではない

線引きの話になると、承認をどこに置くかに議論が集まります。

ただ、人が握るものはあと3つあります。

1. 例外が起きたときの扱い

自動化がうまく動くのは、想定した範囲の中だけです。

想定外のデータが来る、条件に合わない取引が出る、つなぎ先のシステムが応答しない。

「例外が起きたら止めて人に渡す」と決めておくだけで、被害は小さく収まります。

2. 何を記録に残すか

失敗3で挙げた3点です。

任せる範囲を広げるほど、記録の価値は上がります。

3. やめる判断

意外と決まっていないのが、これです。

誤りが何件続いたら見直すのか。

どんな状態になったら自動化を止め、誰がそれを決めるのか。

止める基準があるから、思い切って任せられる。

撤退の条件を先に決めた会社ほど、任せる範囲を広げやすくなります。

ベンチャーネットならこう見る｜1業務で1周回してから広げる

NetSuite認定パートナー（Solution Provider）であるベンチャーネットは、AIの話から入りません。

最初に伺うのは、次の3つです。

1. 決裁権限の規程：いま、いくらから誰が承認しているか
2. 取り消せない処理と社外に届く処理：支払い・契約・価格・取引先への送付
3. データの置き場所：AIに渡すデータが、一か所にそろっているか

3つ目でデータがばらばらだと分かれば、AIより先に土台を整えることをお勧めします。

そのうえで、次の2つの型で任せる範囲を広げます。

型1：1業務・1KPIで、1周目を回す

最初から全社に広げません。

1つの業務と、見る数字1つに絞って、最短90日で1周目を回します。

範囲は、第1層と第2層です。

データの検索、レポートの作成、下書きの生成などが入ります。

失敗しても影響が小さく、AIの精度を自社のデータで確かめられます。

型2：現場の判断とAIの提案を、同じ条件で比べる

第3層の一部を第2層へ下ろすかどうかは、比べてから決めます。

同じ案件、同じ期間、同じデータで、担当者の判断とAIの提案を並べる。

差が小さい処理から、事後確認に切り替えます。

「なんとなく任せられそう」で広げると、失敗2の入口に立つことになります。

新しいAI機能も、同じ順番です。

Oracleが示す使い方をそのまま本番に入れず、自社の環境で試してから有効にします。

AIをどこまで任せるかは、ERPの導入が終わってから考える話ではありません。

権限・承認の流れ・記録の残し方は、導入のプロジェクトの中で決めておく。

そのほうが、稼働後にAIを足すときの手戻りが少なくなります。

今日できること｜2つのリストをつくる

1時間あれば、線引きの出発点ができます。

1. 自社の業務のうち、「取り消せない処理」を書き出す
2. 「社外に何かが届く処理」を書き出す
3. 両方に入ったものに、いまの決裁権限の金額を書き添える

この2つのリストが、そのまま第3層と第4層の候補です。

どちらにも入らない処理が、最初にAIに任せてよい候補になります。

よくある質問

Q1. どこから始めるのが現実的ですか

「見るだけ」と「元に戻せる処理」からです。

データの検索、レポートの作成、下書きの生成といった範囲です。

1業務で1周回して精度が見えてから、第3層の一部を検討します。

Q2. 承認を挟むと、結局スピードが落ちませんか

承認を絞れば全体としては速くなります。

第4層は、もともと人が判断していた処理です。

ここに承認があっても、以前より遅くはなりません。

速くなるのは第1層と第2層で、遅くなるのは承認を絞らなかった場合です。

Q3. AIが間違えたとき、責任は誰にありますか

事業上の責任はその処理を実行した会社にあります。

AIが判断したから免責される、という考え方は成り立ちません。

契約上の責任分担は、サービスの規約や支援会社との契約で異なります。

個別の判断は、専門家に相談してください。

Q4. 中小企業でも、そこまでの設計が必要ですか

規模が小さいほど簡単に決められます。

決裁権限の規程を出発点に、経営者が判断すればまとまります。

線引きがないまま導入が進む危うさは、規模を問いません。

Q5. すでにERPを使っています。AI機能は有効にしてよいですか

有効にする前に4階層のどこに当たるかを見てください。

見るだけの機能なら、第1層として始めやすい領域です。

取引先に何かが届く、お金が動く機能なら、承認の流れと記録を先に決めます。

Q6. AIを入れないという選択はありますか

あります。

決裁権限や承認の流れが決まっていない段階では、AIに実行を任せないほうが安全です。

まず人の流れを決め、第1層から始めても遅くはありません。

まとめ｜任せるほど、握るものがはっきりする

• 「全部任せる」も「全部確認する」も、何も決めていない状態
• 分ける基準は2つ。元に戻せるか、社外に影響が出るか
• この2つで処理は4階層に分かれ、議論になるのは第3層
• 人が握るものは、承認のほかに例外の扱い・記録・やめる判断
• 広げるときは、1業務で1周回し、現場の判断とAIの提案を比べてから

冒頭の部長に届く何十件の承認は、第3層と第4層に絞れば、1件ずつ読める数になります。

まず、取り消せない処理と社外に届く処理の2つのリストを作ってください。

仕組みが増え続けたときに何を守り続けることになるかは、AIで「作れる」時代の落とし穴で書いています。

もう少し詳しく知りたい方へ

自社の業務でどこに線を引くか、業務の棚卸しから一緒に考えます。

• AIを経営にどう組み込むかを相談したい方へ：生成AIによる経営革新伴走サービス
• 自社の状況を整理するところから相談したい方へ：お問い合わせ