自動化した仕組みが
止まっていても、
3時間誰も気づきませんでした

請求書の自動送信、表計算のマクロ、毎朝のデータ集計。事務を自動化すると、そのうち「動いているか」を誰も見なくなります。この記事は、私たちの会社で朝の自動処理が3時間止まっていたのに誰も気づかなかった実例と、そこから整理した3つの点検ルールをまとめたものです。自社で自動化したものを1つ思い浮かべながら読んでください。

処理がエラーで落ちたときは、知らせが届くように作ってありました。今回の止まり方は、それとは違っていました。

AIには、初めての形の操作をするときに「この操作を許可しますか」と人に確認を求める設定をしています。勝手に危ない操作をさせないためです。3本とも、その確認の画面を出したまま待っていました。朝なので、押す人はいません。

誰も押さない確認ボタンの前で、AIは3時間、行儀よく待っていました。状態は「実行中」のままで、エラーではありません。エラーではないので、知らせも飛びませんでした。

許可する操作は、前もって登録してありました。ところがAIは、同じ意味の操作でも、日によって少しだけ書き方を変えることがあります。登録は「一字一句同じかどうか」で照らし合わせていたため、その少しの違いで確認待ちになりました。

3つのルールとは別に、確認待ちで止まった原因そのものも直しました。許可の登録を「一字一句同じ」から「この形なら可」に広げ、AIへの手順書には「この1行をそのまま打つ。前後に何も足さない」と書き足しています。

今回止まった処理の中には、通販の注文の確認も入っていました。注文が入っていれば、朝から10時過ぎまで誰も対応できていなかったことになります。私たちの規模では、その遅れはそのまま信用に関わります。

AIに仕事を任せること自体は、思っていたより簡単でした。任せた仕事が「本当に動き続けているか」を見るほうが、ずっと難しいと感じています。自動化の相談を受けるときも、作る話と同じくらい、止まったときの話をするようにしています。