結論: AIに任せてよい操作は「後戻りできるか」だけで決まる
AIに業務を任せ始めると、必ず出てくる不安があります。「うっかり大事なものを送ったり、消したりしないか」——。この不安への私たちの答えははっきりしています。後戻りできない操作は、AIには実行させない。承認が付いても、です。判断の軸はこの一つだけにしています。
弊社ではSlack（社内の連絡ツール）に指示を書くと、AIが安全な作業を自動でこなす運用をしています。便利になるほど、任せる範囲を広げたくなる。ところが最初、承認さえ通れば実行、という緩い設計にしかけて気づきました。後戻りできない操作をそこに入れると、事故が起きたときに戻せない。そこで、送信・公開・お金・削除・権限・外部フォームの6つは、**承認が付いても自動では実行しない「ハードライン」**として別扱いにしました。この記事では、その6つが何か、そしてなぜ「後戻りできるか」一つで線を引いているのかを、自社の運用で分かった範囲で開いていきます。
AIに実行させない6つの操作とは、具体的に何か？
先に一覧を挙げます。送信・公開・お金・削除・権限・外部フォームの6つです。共通点は一つで、どれも一度実行すると取り消せないことです。
1つ目は送信。メールやメッセージを送る操作です。2つ目は公開。外部への投稿や発信。3つ目はお金。振込・支払い・決済。4つ目は削除。データを消す操作。5つ目は権限。アカウントや権限設定の変更。6つ目は外部フォームへの送信で、取り消せない申請の類がここに入ります。下書きまではAIに任せ、送る・出す・消す・払うの最後の一押しは人がやる。この6つに関しては、便利さを理由に線を動かさないと決めています。
なぜ「後戻りできるか」だけで線を引くのか？
答えを先に言うと、基準を増やすほど現場で守られなくなるからです。理由はシンプルで、判断の軸が2つ3つあると、その場の都合で「今回はいいだろう」と例外が生まれるからです。
軸を「後戻りできるか」の一つに絞ると、迷いが消えます。調査・要約・整理・下書きのように、間違えてもやり直せる作業は、結果を人が確認する前提でAIに任せる。送信・支払い・削除のように、一度実行したら取り消せない作業は、承認が付いても人が手を下す。戻せるかどうかだけで、任せる・任せないが機械的に決まる。この一貫性が、便利さの圧力で安全ラインが溶けるのを防ぎます。AIに任せる範囲そのものの決め方はAIに任せる前に決める「憲法」にも書きました。禁止事項を先に固定しておくと、この6つが憲法の芯になります。
「承認したのだから実行してよい」は、なぜ危ういのか？
これは実際に設計してみて踏んだ落とし穴です。承認の仕組みを作ると、つい「人がOKを出したのだから、あとは自動で実行してよい」と考えたくなります。ところが承認は、後戻りできない操作の取り消し不能を打ち消してはくれません。
私たちは、承認を「実行の引き金」ではなく「実行してよいかどうかの入口」と位置づけています。入口を通っても、送信・公開・お金のような操作は、最後は人が画面で確認して自分で押す。ワンタップで振込まで完了、のような設計にはしていません。ここは正直に書きますが、弊社もこの6つは自動化しきれていない。あえて人に残している。承認を絵文字ひとつで返す運用についてはSlackで承認だけする仕組みに書きましたが、そこでもお金や送信は人の実行を挟んでいます。人の手を残すのは遅れではなく、戻せない事故への保険です。
判断軸を1つに絞ると、現場は何が楽になるのか？
答えを先に言うと、覚えることが1つで済むので、誰でも同じ判断ができるようになります。
軸が複数あると、判断できる人とできない人が生まれ、例外の許可を誰かに聞くことになります。軸が「後戻りできるか」の一つなら、新しく入った人でも「これは戻せる作業か」と自問するだけで線を引ける。ルールは短いほど守られる——これは自動化の設計全体を通して私たちが感じていることです。基準を足したくなったら、それは本当に必要な軸か、それとも例外を通すための言い訳か、を一度問うようにしています。
明日から試せる、線引きの第一歩
読んで終わりにならないよう、今日ひとりでできる一歩に落とします。いまAIや自動化に任せている作業を紙に書き出し、それぞれに「戻せる／戻せない」を一言ずつ付けてみてください。
やることはこれだけです。戻せる作業はそのまま任せてよい候補、戻せない作業は人が最後の一押しを持つ候補、と仕分ける。送信・公開・お金・削除・権限・外部フォームがそこに混じっていたら、まずはその6つを人の手元に戻す。任せる範囲を広げるのは、この仕分けが習慣になってからで十分です。戻せるかどうかで線を引く——覚えるルールは、これ1つで足ります。