「AIで自動化しないと遅れる」と、焦っていませんか
「AIで自動化しないと、もう遅れる」。
最近、そんな言葉をよく耳にします。セミナーで。ニュースで。取引先の社長の口から。売り込みの電話で。
焦る気持ちは、よく分かります。周りが動いているように見えると、立ち止まっているのが不安になる。
でも、ベンチャーネットは、あえてこう言います。
多くの会社は、まだ急がなくていい。
これは「やめておけ」という話ではありません。「順番を間違えると、かえって損をする」という話です。
なぜそう言えるのか。少しだけ、お付き合いください。
「速くなった」と「分かっている」は、別のこと
AIに任せると、仕事は確かに速くなります。
請求書の処理も、問い合わせへの一次対応も、データの集計も。これまで人が時間をかけていたことが、あっという間に片づきます。
ただ、ここに落とし穴があります。
速くなったからといって、中身を分かっているとは限らない。
たとえば、勢いである業務をAIに任せたとします。しばらくは順調です。ところが、取引先から「この数字、どういう根拠ですか」と問われたとき、社内の誰も答えられない。AIが出した結果を、そのまま使っていたからです。
これは特別な失敗ではありません。速く回せば回すほど、「動いてはいるが、誰も中身を分かっていない」状態が、静かに積み上がっていきます。ソフトウェアの現場では、この積み上がりを「理解の負債」と呼ぶことがあります。借金と同じで、見えないうちに増え、いつか利息つきで払うことになります。
図1｜処理は急に速くなるのに、社内の理解はゆっくりしか追いつかない。広がっていくこの差が「理解の負債」になる。
数字の上では、生産性は上がって見える。でも、自社の仕事を自分たちで説明できなくなったとき、本当に得をしたと言えるでしょうか。
ベンチャーネットの言い方に直すと、こうなります。見える化は進むのに、わかる化が痩せていく。
数字は、以前よりずっと速く、きれいに出てくるようになりました。けれども「なぜその数字になったのか」を掴む感覚のほうは、触らなくなるぶん、静かに鈍っていきます。見える化・わかる化・儲かる化の3段のうち、2段目だけが抜け落ちる。これが、いま多くの会社で起きかけていることです。
40年前に、同じことが指摘されていた
実は、この落とし穴は新しい発見ではありません。1983年に、すでに名前がついています。
認知心理学者のリサンヌ・ベインブリッジが、「自動化の皮肉（Ironies of Automation）」という論文でこう指摘しました。自動化は、日常業務の中で人が技能を練習する機会を減らす。それなのに、自動化できない異常事態に対応する責任は、人に残ったままである。だから運用する人には、自動化する前より少ない訓練ではなく、むしろ多い訓練が要る、と。
（出典：Bainbridge, L. “Ironies of automation,” Automatica, Vol.19, No.6, pp.775-779, 1983年）
工場やプラントの話として書かれた論文ですが、40年経って、そのままAIに当てはまります。
定型的な仕事ほど、先に自動化されます。そして、定型的な仕事こそが、人が「この業務はどう動き、どこで壊れるか」の勘を安全に養える場でした。定型が自動化に移ると、練習の場が消えます。
残るのは、前例のない、判断の難しい事態だけです。しかもそのときには、練習の機会を失った状態で人が引き継ぐことになる。
図2｜自動化は練習の機会を奪うが、異常時の責任は人に残る。だから訓練はむしろ増やす必要がある。
つまり、AIを入れると平均的な処理は速くなりますが、いちばん難しい場面での対応力は、放っておくと下がります。平均が良くなることと、難所に耐えられることは、別の話です。
同じ自動化でも、薬にも毒にもなる
ここが、いちばん大事なところです。
同じようにAIを入れても、結果は会社によって正反対になります。
中身を理解したうえで「ここは任せる」と決めた会社は、空いた時間を、より難しい判断に使えます。AIは、その人をさらに強くする。
一方、「考えるのが面倒だから任せる」会社は、判断する力そのものを手放していきます。AIは、その人を弱くしていく。
同じ行動なのに、薬にも、毒にもなる。
図3｜入れる道具は同じでも、理解して設計すれば「薬」、考えずに任せれば「毒」。分かれ目は、自分が判断する人であり続けるかどうか。
違いは一つだけ。任せたあとも、自分が判断する人であり続けているかどうか。
ボタンを押すだけの人になるのか。仕組みを設計し、最後に「これでいい」と決める人であり続けるのか。
ベンチャーネットは、ずっと同じことを言ってきました。どれだけAIが賢くなっても、判断と責任は、人間に残る。
AIは魔法でも、一発逆転の道具でもありません。人の判断を支える道具です。だから、判断する側がしっかりしていないと、道具は活きません。
得をする会社の「4つの条件」
では、どういう会社なら、自動化が「薬」になるのか。
ベンチャーネットは、4つの問いで見極めています。一つでも「いいえ」があるなら、今はまだ急がなくていい、というのが正直なところです。
1. 結果を、確かめられるか
AIが「終わりました」と言っても、それは主張であって、証明ではありません。出てきた結果が正しいかどうか、自分たちで確かめる手立てがあるか。それがないまま任せると、間違いも一緒に、自動で増えていきます。
2. 中身を、理解し続ける気があるか
任せた仕事を、ときどき自分の目で読み返すか。「もうAIに任せたから」と一切見なくなると、先ほどの「理解の負債」が積み上がります。任せることと、放っておくことは、違います。
3. 判断を、手放さない設計になっているか
大事な分かれ道で、人がちゃんと止まって決める仕組みになっているか。すべてを自動で流してしまうと、気づいたときには後戻りできない、ということが起きます。
4. たまに、自分たちでやってみる設計になっているか
任せた業務を、四半期に一度でいいので、人が手で通してみる機会があるか。ここが、いちばん抜けやすいところです。
前の3つは、いずれも仕組みの設計の話でした。4つ目だけは、腕を落とさないための話です。読んで理解しているつもりと、実際に自分で手を動かせることは、別物だからです。
図4｜自動化が「薬」になる4つの条件。一つでも「いいえ」があるなら、今はまだ急がなくていい。
この4つを、自社について正直に答えるのは、思った以上に難しいものです。毎日やっている仕事ほど「分かっているつもり」になりやすく、それが、いちばんの盲点になります。
だからこそ、揃っているかを冷静に見極める。4つが揃っていれば、自動化は大きな力になります。揃っていないなら、まず揃えることから。順番は、それからです。
航空業界は、めったに起きないことを繰り返し練習している
4つ目の条件を、もう少しだけ説明させてください。参考になるのが、航空業界の考え方です。
飛行機の操縦は、その多くを自動化が担っています。それでも、自動化では対応できない事態への責任は、パイロットに残ります。エンジンの不具合、計器の不調、離陸の中止。どれもめったに起きません。
だからこそ、航空業界は訓練を制度にしています。米国の規則では、機長は直近12か月以内に技量審査を受け、さらに直近6か月以内に技量審査かシミュレータ訓練のいずれかを完了していることが求められます（14 CFR 121.441）。実機ではまず起きない事態を、シミュレータで繰り返し練習させるわけです。
めったに起きないからこそ、起きたときに動けるように、あらかじめ手を動かしておく。ベインブリッジが1983年に出した処方も、まさにこれでした。
経営の現場に翻訳すると、大がかりな話にはなりません。
- AIに任せた集計を、四半期に一度、担当者が手で作ってみる
- AIが下書きした文書を、たまに人が最初から書いてみる
- AIの答えと、自分の見立てを突き合わせて、違ったところを確認する
やってみると、たいてい何かが引っかかります。その引っかかりが、まだ勘が残っている証拠です。何も引っかからなくなったときのほうが、危ないと考えています。
ベンチャーネットも、すべては自動化していない
正直に言います。
ベンチャーネットも、社内のすべてをAIに任せているわけではありません。
使うところは使う。でも、最後の判断は人が持つ。任せた仕事も、定期的に自分たちの目で見直す。だからこそ、お客様にも自信を持って「ここは任せていい」「ここはまだ早い」と言えます。
「AIで全部解決します」と言うほうが、きっと耳ざわりはいい。でも、それは空約束になりかねません。
ベンチャーネットが大事にしているのは、お客様と同じ船に乗ることです。一緒に「どこまで任せ、どこは手元に残すか」を見極めていく。流行に乗せて売るより、そのほうが、ずっと長く役に立つと思っています。
遅れているのではない、順番が違うだけ
最後に、いちばん伝えたいことを。
「AIで自動化しないと遅れる」と焦っている社長へ。
あなたは、遅れているのではありません。順番が違うだけです。
急いで任せる前に、「自社は何を分かっていて、何を分かっていないか」を見極める。この一手間が、あとで大きな差になります。
そして、この見極めは、自社だけでやろうとすると、意外と難しい。毎日触れているものほど、当たり前になって、見えなくなるからです。
だからこそ、外の目があると、見極めは速く進みます。「ここは任せて大丈夫」「ここはまだ早い」を、一緒に整理する相手がいると、焦りは見通しに変わります。
ベンチャーネットは、そういう相手でありたいと思っています。煽らず、必要なら「まだやめておきましょう」と言える。そんな伴走を。
