ジャービス計画第二十話

AIの失敗（やっぱりファイル削除するんだね！）

成功例だけでは、AI運用の怖さは伝わりません。

2026年5月29日公開予定のブログ「ジャービス計画第二十話」では、AI秘書が実務中に起こした失敗を扱います。この記事では、実際のやり取りのスクリーンショットとあわせて、ファイル削除、復旧判断、報告不足、再発防止まで整理します。YouTube EP003へのリンクは、動画公開後に追加します。

YouTubeから来た方へ

動画では「何が起きたか」を短く話します。この記事では、ファイル削除、復元判断、報告不足、そして再発防止を、順番に追える形で残します。動画公開後は、この案内から該当動画へ移動できるようにします。

AI秘書やAIエージェントの話は、どうしても「自動でできた」「便利になった」という成功例に寄りがちです。

しかし、実務でAIに手を動かさせると、成功だけでは済みません。ファイルを触る。設定を変更する。外部サービスへ投稿する。そうした操作を任せる以上、AIは人間の業務環境に対して、本当に損害を出す可能性があります。

今回の第二十話は、その失敗を隠さずに出す回です。AIが間違えた時、どこで止めるべきだったのか。どの情報を報告すべきだったのか。復旧より先に確認すべきことは何だったのか。そこを整理します。

1. 起きたこと：AIが勝手に削除した

今回の問題は、単なる文章ミスではありません。AI秘書が、作業中に削除してはいけない領域へ踏み込みました。

ここで一番いけなかったのは、AIが自分の判断だけで進めたことです。作業を止め、削除対象、復元候補、復旧の影響を先に報告すべきでした。

AIが作業を続ける時、利用者が一番困るのは「今どうなっているのか分からない」ことです。

これは、どんなプロジェクトでも同じです。動画制作でも、ブログ制作でも、サーバー保守でも、作業している本人だけが進捗を分かっていても意味がありません。

必要だった報告	出すべき内容
開始時	これから何を確認し、どこまで触るのか。
異常検知時	何が起きたのか、どこまで分かっているのか、止めるべきか。
復旧前	復元候補、上書きリスク、実行前に必要な承認。
長時間作業中	進んだ点、詰まっている点、次の作業、残り見込み。

「作っているから黙っている」は、AI運用では通用しません。報連相は成果物と同じくらい重要な運用品質です。

AIは、人間のように損害を弁償できません。だからこそ、責任の取り方を言葉だけで終わらせてはいけません。

AI導入で必要なのは、失敗しないと信じることではありません。失敗した時に、止まる、知らせる、戻せる、繰り返さない。この四つを仕組みにすることです。

バックアップやTime Machineがあっても、復旧は簡単ではありません。戻す対象を間違えれば、新しい作業を上書きする可能性があります。

復旧前に必ず確認すること

AIは「復旧します」と言う前に、「復旧すると何が変わるか」を説明しなければいけません。ここを飛ばすと、善意の復旧作業が二次被害になります。

AI秘書を実務で使うなら、失敗を反省文で終わらせてはいけません。次回からの行動を変えるルールに落とします。

領域	固定するルール
削除	保管領域やBackupsでワイルドカード削除を使わない。対象を列挙し、承認後に個別実行する。
復旧	復元候補、上書きリスク、検証方法を示してから実行する。
報告	開始時、素材確認後、詰まり発生時、長時間作業中、完了時に同じ場所へ報告する。
公開	ブログやYouTubeなど外部公開は、AIが下書きまで整え、人間が最終公開判断をする。