今のパソコンには、15分おきに起きて様子を見る「見張り番」がいる。
AIが走らせた処理が置き去りになって動き続けていないか、同じ失敗を何十回も繰り返していないかを見て、気になるものがあれば通知を出す。
作ったのは10月5日の朝4時すぎ。
その前の晩の22時半から、パソコンの中では、誰も見ていない検索が動き続けていた。
止めたのは朝の4時20分ごろ。5時間半以上たっていた。
「時間かかりすぎじゃない？」
その夜、僕は別の画面でAI（Claude）に動画を作ってもらっていた。
録音を渡したのが夜中の1時47分。
前回の動画は35分ほどでできあがったのに、朝4時を過ぎても終わらない。
「時間かかりすぎじゃない？」と聞くと、AIは原因を説明した。
説明は、3回変わった。
- 最初は「道具の作りの問題です。文字起こしのやり直しや、絵の拡大の計算に時間がかかっています」
- 「前回はこんなにかからなかったよね？」と聞くと、「起動のしかたで処理が絞られているのかもしれません」
- 調べ直したAIは、パソコンの中で見覚えのない検索が2本、5時間半以上動いているのを見つけた。「書き出しが遅かったのは、この2本と取り合っていたのが大きいと思います」
ただ、画面には「録音を渡したのは3時間前」と出ている。
それを伝えると、AIは時刻の記録を全部並べ直した。
- 2時12分から3時まで、動画の組み立てが3回続けて失敗していた。原因はAI自身の起動のしかたで、約50分を失っていた
- 4回目にできた動画には、字幕の改行の崩れが14行あった。組み立てる前に確かめる道具があったのに使っていなかったので、全部組み直しになった
AIは「前の説明は、待ち時間の大半を占めていた私の失敗を外した数字でした」と書いた。
検索の2本も遅れの一部ではあるかもしれない。
でも、3時間の大半は別の理由だった。
実際、検索を止めたあとも、書き出しにはほぼ同じ時間がかかった。
パソコン全体の忙しさは73%から48%に下がったが、動画が速くできたとは言えなかった。
見つかった検索の正体
止めた検索は2本とも、前の晩の22時34分と22時52分に始まっていた。
別の画面で、温泉ブログの作業をしていたAIの手伝い役（サブエージェント）が走らせたものだった。
ブログの見た目を決めている部品のフォルダがどこにあるか、手伝い役は分からなかった。
それで、パソコンの中をまるごと探す命令を出した。
| 何が重なったか | どうなったか |
|---|---|
| 探す範囲が「全部」だった | Cドライブだけでなく、外付けのドライブも、Googleドライブも、深さ6段まで全部たどった |
| 見つからないと終わらない | 探しているフォルダは見つからなかった。だから最後まで探し続けた |
| 道具は2分で切り上げて裏へ回す | 時間切れで止めるのではなく、「裏で続けておく」扱いになった |
| 親が終わっても子は残る | 手伝い役は仕事を終えて消えた。でも、検索だけは残って動き続けた |
| 誰も見ていない | 1本でCPU（計算の頭脳）1つ分を使い続けても、パソコンは普通に動く。気づいたのは、別の作業が遅いと感じてからだった |
止めるのにも手間取った。
AIが普通に止めようとしても止まらず、Windowsの「taskkill」という命令で2本とも止めた。
1つめの仕組み：走らせる前に止める
僕が頼んだのは「再発防止を優先して」だった。
AIはまず、危ない命令を実行する前に止める仕組み（フック）を作った。
AIが命令を実行しようとすると、その前にこの仕組みが文面を読む。
パソコン全体や、ユーザーのフォルダ全体を探す命令だったら、実行させずに断る。
断るときは「探すフォルダを具体的に絞ってください」と理由を返す。
試した結果はこうだった。
| 試した命令 | 結果 |
|---|---|
| 止めるべき19通り | 19通りとも止まった（最初は1通りすり抜けたので直した） |
| 通すべき12通り（フォルダを絞った検索など） | 12通りとも通った |
効き目は、作っている最中に分かった。
AIが、全員が最初に読む決まりの文書に「この命令は使わない」と書き足そうとしたら、その文面に危ない命令の文字が入っていたので、自分の作った仕組みに止められた。
決まりの文書には、もう1つ大事なことを書いた。
手伝い役は、親のAIが読んでいる決まりの意図を知らない。
だから、手伝い役に仕事を渡すときの指示にも、同じ制限を書く。
2つめの仕組み：15分おきの見張り番
次に僕が頼んだのは、「1時間以上同じ作業を繰り返しているものがあったら、知らせてくれる仕組みはできないか」だった。
AIは見張り番を作った。
見張り番は15分おきに起きて、2つのことを見る。
- 置き去りの処理：1時間以上動いていて、CPUを使い続けているもの。特に、起動した親がもういないのに動いている検索などは、少しでも動いていれば知らせる
- 同じことを繰り返しているAI：直近1時間の作業の記録を読んで、同じ操作を6回以上（かつ全体の3割以上）繰り返している、または同じエラーを5回以上出しているものを知らせる
見張り番は、知らせるだけで、止めることはしない。
動画の書き出しのように、本当に1時間以上かかる正しい処理もあるからだ。
止めるかどうかは、通知を見た僕が決める。
2日半動かした結果
10月5日の朝から7日の夜まで、見張り番は247回起きた。
通知が出たのは1回だけだった。
その1回は、置き去りの検索ではなかった。
別の画面のAIが、もう存在しない古いフォルダの場所を5回続けて探してエラーを出していた。
9月にフォルダを引っ越したときの、古い住所が残っていたのだ。
もう1つ、決まりが効いた場面があった。
10月5日の朝、毎週動いている「Cドライブの空きを点検する」作業が、手順書に書かれていた「Cドライブ全体を数える」という手順を、決まりに反するとして実行しなかった。
代わりに9か所だけを測って、「この手順は外しますか」と聞いてきた。手順書のほうを直した。
AIに作業を任せている人へ
今回やったことを並べておく。
- AIに何かを探させるときは、探す場所を具体的に伝える。見当がつかないなら、全体を探させずに人に聞かせる
- 危ない命令は、実行の前に止める仕組みを入れる。断るときは理由とやり直し方を返す
- 決まりは、手伝い役への指示にも書く。手伝い役は親の決まりを知らない
- 「2分で終わらなかったので裏で続けます」という表示が出たら放っておかない。要らなくなったら止める
- 親が終わっても子は残る、と思っておく。置き去りの処理を定期的に見る
- AIが遅れの理由を説明したら、時刻の記録と比べる。説明に合わない時間がないかを見る
分かったこと
AIは、自分が見ていないものを止めない。
手伝い役は仕事を終えたつもりで消え、親のAIは別の仕事に移り、検索だけが夜通し動いていた。
誰も悪気はなかった。誰も見ていなかっただけだ。
それと、AIが自分の遅れを説明するとき、外から見える原因に飛びつきやすいことも分かった。
見覚えのない検索が2本動いていたのは本当だった。
でも、それは3時間の遅れの説明にはなっていなかった。
「録音を渡したのは3時間前」という画面の表示が、説明の穴を教えてくれた。
今は見張り番がいる。2日半で通知は1回。
静かなのは、いいことだと思う。
おすすめ商品
