結論: AIの自動化は「本番の前にもう一段」挟むと事故らなくなる
AIに定型作業を任せるとき、いちばん怖いのは「間違ったまま実行されて、戻せなくなる」ことです。私たちの結論はシンプルで、本番の実行の前に「試し実行」と「検算」をもう一段挟む——これだけで、事故のほとんどは本番に届く前に止まります。
弊社も最初は、整理や仕訳の分類といった処理を、いきなり本番で走らせて結果を目視で確認していました。ところがある定型処理で、目視では気づけない取りこぼしが起きた。条件の判定にわずかな癖があり、一部のデータが処理されないまま残っていたのです。数が多いと、人の目では「全部終わったように見える」。そこで発想を変えました。まず何が起きるかの予定だけを出させ、それを人の目と機械の両方で照らし合わせてから本番、という**「二段ゲート」**にしたのです。この記事では、その二段ゲートの中身と、任せる範囲をどう広げ・どう戻すかを、自社で運用して分かった範囲で開いていきます。
そもそも「二段ゲート」とは何か？ 一発本番と何が違うのか？
二段ゲートとは、本番の実行を1回で終わらせず「試し実行→検算→本番」の順に通す仕組みです。一発本番との違いは、間違いに気づく場所が「実行の前」か「実行の後」かにあります。
一発本番は、動かしてから結果を見て、おかしければ戻す進め方です。戻せる作業ならそれでいい。問題は、戻せない作業まで同じやり方にしてしまうことでした。弊社が採っているのは、まず**試し実行（ドライラン。実際には動かさず、何をどう処理するかの予定だけを出すこと）**で計画を全部見えるようにし、それを検算で確かめてから本番を押す形です。順番が一段増えるだけですが、間違いを「起きる前」に見つけられるかどうかは、後戻りの手間で大きく変わります。
なぜ「目視だけ」の確認では足りないのか？
答えを先に言うと、人の目は件数の抜けや形式の崩れに弱いからです。理由はシンプルで、量が増えるほど「合っているように見える」からです。弊社が取りこぼしを見逃したのも、まさにここでした。
そこで私たちは、確認を人の目だけに頼るのをやめました。試し実行の予定に対して、件数・日付の形・宛先の形といった機械的に数えられる点は、機械に検算させる。人は機械が弾いた例外と、意味の妥当性だけを見ます。人の目と機械の検算は、得意な間違いが違う——数の抜けや形の崩れは機械が、文脈のおかしさは人が拾う。両方を通して初めて、本番に進んでよいと判断しています。
二段ゲートは、実際にどんな流れで動くのか？
流れは3段階です。試し実行で予定を出す→人と機械で検算する→通ったものだけ本番を実行する。この順を崩さないことがすべてです。
弊社の定型処理はどれもこの形に揃えています。試し実行では、対象の一覧・処理の内容・件数を必ず出させ、まだ何も動かしません。次に検算で、件数や形式に異常がないかを機械で見て、人が中身をひと通り確認します。ここを通ったものだけが本番に進む。検算を通らなければ本番は押さない——ここが二段ゲートの肝です。AIの出力をもう一つのAIで点検する公開前チェックの仕組みと考え方は同じで、実行の前にもう一段、別の目を挟んでいます。
任せる範囲は、どう広げて、どう戻すのか？
ここは実際にやってみて固まった部分です。結論から言うと、任せる範囲を広げるのは人が慎重に、戻すのは自動で一瞬に、と向きで分けています。進むは慎重、戻すは一瞬。私たちはこれを社内で「卒業制度」と呼んでいます。
任せる範囲を一段広げるとき（昇格）は、これまでの実績を見て人が判断します。便利だからと自動で範囲を広げることはしません。逆に、異常が出たときの範囲の縮小（降格）は、検知したら自動で即時に戻す設計です。人が気づいてから手で戻すのでは遅れる。広げる判断は人に、戻す動作は機械に持たせる——この非対称が、暴走を小さいうちに止めます。何を「使う」で何を「任せる」かの線引きそのものは、「AIを使う」と「AIに任せる」は別物だったにも書きました。
なお、この二段ゲートは「戻せる作業」に対する安全策です。送信・公開・支払いのようにそもそも後戻りできない操作は、二段ゲートに載せず人が手を下す扱いにしています。この線引きはAIに絶対やらせない6つの操作で詳しく書きました。
明日から試せる、二段ゲートの第一歩
読んで終わりにならないよう、今日ひとりでできる一歩に落とします。いま自動でやっている作業を1つ選び、本番の前に「予定だけ出して」と一度止めるところから始めてください。AIに任せている作業でも、手作業でも構いません。
やることは1つだけです。実行の前に、何をどれだけ処理するかの一覧を先に出させ、件数と形が想定どおりかを目で確かめる。それを確認してから本番に進む。この「もう一段」を1作業に足すだけで、戻せない失敗の多くは本番に届く前に止まります。範囲を広げるのは、その一段が習慣になってからで十分です。