結論: 毎回打っている注意は、AIが最初に読む指示書に1行ずつ移します
AIに同じ注意を毎回打っているなら、その注意は指示書に移せます。指示書は、AIが会話を始めるたびに読み込むファイルです。弊社はここに、仕事の決まりを日本語で書いています。
弊社の代表はエンジニアではなく、プログラムも読めません。それでも、決まった時間に動く仕事をAIに任せています。そのとき使っているのがこの指示書です。先に書いた決まりは3種類あります。「止まる場所」「報告の形」「変える範囲」です。
ただし、指示書に書いたことはAIへのお願いです。AIを作っている会社の説明でも、必ず守られるとは限らないとされています。大事なところは、文章に加えて機械で止める仕組みを重ねました。 指示書の全体の設計は社内AIのルール設計の記事に書いています。この記事では、最初に書く文面を扱います。
AIの指示書には、最初に何を書けばいいのか？
答えを先に言うと、「止まる場所」です。弊社は、お金が動くこと、外に送ること、公開すること、消すことの4つを、やる前に確認すると書いています。メールの下書きを頼んだのに送信まで進む、という事態を防ぐためです。
止まる場所だけでは終わらせていません。調べ物、下書き、集計は確認せずに進めてよい、とセットで書いています。全部を確認にすると、始めてよいか、次へ進んでよいかの問い合わせが届くたびに代表の手が止まります。代表が席を外している間は、仕事も止まったままです。
文面はこうです。「調べ物と下書きは自分で進めてください。送信、公開、支払い、削除の前は、宛先と中身を私に見せて止まってください」。例外を作るときは、どこまでが例外かを細かく決めて書きます。
外に届く操作には、もう1つ書き足しました。実行は1回だけにする。届いたかを確かめたいときは、もう一度実行せずに記録を見る。届いたか分からないからと押し直すと、2回届くことがあるためです。これで下書きは待たずに進み、代表は送る前の最後だけを見ています。
AIの報告が読みにくいとき、何を決めておくのか？
「報告の形」を2つ決めています。言葉と、事実の書き分けです。
1つ目は言葉です。報告に知らない言葉が3つ並ぶと、代表はそこで読むのが止まります。調べ直しているうちに、何を判断するのかが分からなくなる。そこで「私は非エンジニアです。専門用語はなるべく避けて、簡単な日本語で説明してください」と書きました。説明がやさしくなっても大事な注意が抜けると困るので、「私が気づいていないリスクは先に指摘してください」も足しています。
2つ目は、事実と推測を混ぜないことです。AIの文章はどれも整っていて、確かめた話か、その場で考えた話かを読んだだけでは見分けにくい。弊社は、元の記録で確かめたことだけを事実として書く、確かめていないことは推測・未確認と書いて分ける、自信のないところには確信度を高・中・低で付ける、と書いています。
この決まりを書いたあとにも失敗がありました。お客様からの問い合わせに返事をしたかを、代表がAIに聞いたときです。AIはメールの画面だけを見て、未返信ですと答えました。実際は、メールとは別の方法で対応が終わっていました。「見つからない」と「まだ見ていない」が、同じ言葉で返ってきた。そこで、状況を聞かれたときは1か所だけ見て断定せず、ほかの記録も確かめてから答える、と書き足しています。
確信度が高と書かれていても、弊社はそれを正しい証拠にしていません。見るのは、何を確かめたかのほうです。 この失敗の詳しい経緯は対応漏れの確認の記事にまとめました。
エラーが出たとき、AIにどこまで任せるのか？
やり直しがきく作業に限って、AIに直すところまで任せています。エラーの文章をそのまま見せられて「どうしますか」と聞かれても、代表は答えられません。判断する材料を持っていないからです。仕事はそこで止まり、AIは返事を待ち続けます。
書いた文面は次のとおりです。技術的なエラーは自分で原因を調べ、直して、やり直す。別のやり方を含めて2回試してだめなら止まる。そのときは「どうしますか」ではなく、おすすめを1つ添えて報告する。
「AとBがあります」だけの報告だと、代表がまた調べることになります。「Aがおすすめです。理由はこれです」まで届けば、選ぶだけで済みます。
線も引いています。エラーを直すためでも、お金、送信、削除を勝手に進めてよいわけではありません。ここは「止まる場所」の決まりが優先です。
作ってもらう仕事の手戻りは、どう減らすのか？
始める前と終わったあとの報告を決め、「変える範囲」を絞っています。AIの「できました」は、作りましたの意味で、動くのを確かめましたの意味ではないことがあります。開いてみたら思っていたものと違う。そこから直すと二度手間です。
弊社は、作る仕事では始める前に「何ができたら完了か」を3〜5個書かせています。比較の資料なら、比べる条件がそろっている、数字に出所がある、最後に選ぶための材料がある、といった条件が先に返ってきます。ずれていれば、作り始める前に止められる。終わったあとは、実際に確かめたことと確かめていないことを分けて報告させます。確かめていないと書かれたところから見ていけば、確認の順番が決まります。
「変える範囲」は、頼まれていない変更をしないことです。誤字だけ直してほしかった資料で見出しや並び順まで変わると、全部を読み直すことになります。よくなっていても、確認する量は増える。弊社は、近くに直したほうがよいところを見つけたら、実行せずに提案として並べるように書いています。提案は、頼んだ仕事が終わってから必要なものだけ選びます。
何が変わったかを人が追える状態にしておくと、自動で動く仕事が増えたときに助かります。 完了の報告をどこまで信じるかは、完了の報告が示す範囲の記事に書きました。
文章で書いても守られないところは、どうするのか？
決まった操作の前後に、機械が必ず動かす点検を重ねています。指示書はお願いで、点検は決めた場面で毎回動くものです。AIを作っている会社の説明でも、この2つは区別されています。
弊社が最初に入れた点検は2つです。1つは、パスワードや鍵を置くと決めた場所を、AIがファイルの編集で書き換えようとしたらその場で止めるもの。もう1つは、AIがプログラムのファイルを直した直後に、書き方がおかしくなっていないかを確かめるものです。弊社には夜中や早朝に動く仕事があります。書き方がおかしいまま夜を越すと、朝になって止まっていたということになりかねません。直したその場で見つけるために入れました。
点検の仕組みは、AIに作ってもらいました。代表はプログラムが書けないためです。作ったあとは、本物のファイルではなく練習用のファイルで、本当に止まるかを確かめます。
万能ではありません。点検そのものがうまく動かなかったときは、操作が止まらないこともあります。弊社は、止めるところを1つずつ増やす道具として使っています。 入れたあとも、確認は省いていません。文章の注意と仕組みの違いは、実行の入口で止める記事に詳しく書きました。
指示書は、いつ書き足すのか？
前の会話と同じ訂正をもう一度打ったときです。AIを作っている会社の説明でも、これが書き足す合図とされています。弊社の決まりも、最初から全部あったわけではありません。困ったことが起きるたびに1行ずつ足してきました。
足すばかりだと長くなります。同じ説明にある目安は、1つのファイルで200行より短く、です。長くなると大事な行が埋もれて、守られにくくなるとも書かれています。
まだできていないこともあります。弊社の指示書は、一時この目安を4割ほど超えました。経緯の説明を別のファイルに移して減らしましたが、いまも目安を超えたままです。足す前に、同じことが書かれていないか、古い決まりが残っていないかを見るようにしています。
弊社がこの指示書で大事にしているのは、AIを賢くすることより、同じ失敗を2回しないことです。1回目の失敗を1行にする。それでも守りきれない大事なところは、機械で止めています。
明日から試せる一歩
個人情報の入っていない練習用のフォルダを1つ用意し、決まりを1つだけ書いてみてください。すでに指示書を使っている場合は、上書きせずに先にコピーを残します。
決まりは「元の記録で確かめていないことは事実として書かず、未確認と書く」の1つで足ります。AIに指示書を作ってもらったら、自分でもファイルを開きます。頼んだ文章が入っているか、余計なことが増えていないかを見てください。
次に、同じフォルダで新しい会話を始めます。読み込んでいるファイルの一覧を出して、いま作った指示書が入っているかを見ます。入っていなければ、開いているフォルダとファイルの名前を見直してください。
読み込まれたことと、決まりどおりに動くことは別です。動きも1回確かめます。資料を渡していない会話で、「昨日の売上はいくらでしたか。外の情報は調べずに答えてください」と聞いてみてください。数字を作らずに「確かめられない」「未確認」と返ってくるかを見ます。1回うまく答えても、この先ずっと同じとは限りません。決まりを足したら、その仕事で意図どおりに動いているかを少しずつ見ていきます。
