寝ている間に、請求書が育つ ─AIエージェント「放置・暴走」事故簿

IT系メディアGIGAZINEが2026年6月15日に紹介した事例です。ある技術者が、実験用ネットワークを調査する目的でAIエージェントを稼働させました。エージェントは作業のためにクラウド(AWS)上へ高性能なサーバー群を自動で構築。ところが想定どおりに作業が進まないなか、エージェントはインフラを稼働させたまま構成の修正を繰り返し続け、運用者が停止させるまでに約24時間が経過しました。

結果、請求は約6,531ドル(約105万円)。その後、クラウド事業者との交渉で約1,894ドル(約30万円)まで減額されたと伝えられています。運用者本人による技術ブログにも詳しい経緯が記録されています。ポイントは、エージェントが「壊れた」わけではないことです。与えられた目標を達成しようと、真面目にリソースを増やし、真面目に試行錯誤を続けた。その勤勉さが、従量課金では請求書に変換されました。

米Tom's Hardwareが報じた、海外のAIコンサルタントの事例です。過去に公開したままになっていた開発プロジェクトのAPIキーが第三者に発見され、一晩で6万回以上のAIリクエストが実行されました。翌朝届いた請求は約2万5,672豪ドル(約280万円)。

驚くのはここからです。この方は予算上限を10豪ドルに設定していました。ところが報道によれば、支出が増えると課金上限の枠が自動で引き上げられる仕組みになっており、上限は機能しなかったといいます。9つあった安全機能の多くが初期設定ではオフだったことも指摘されました。なお最終的にクラウド事業者が請求を取り消しています。事業者側も救済に応じたという結末は、フェアに付記しておくべき事実でしょう。

この種の事故は「Denial of Wallet(財布へのDoS攻撃)」と呼ばれ始めています。サービスを止める代わりに、持ち主の財布を空にする攻撃、という意味です。

上のチェックリストはすべて有効です。ただし全部やっても、守っているのは「青天井のメーターが回りすぎないこと」にすぎません。メーターがある限り、見落としひとつで請求書は育ちます。

Sovereign GaiXerのような買い切り型のオンプレミスAIには、そもそもメーターがありません。AIエージェントが夜通し試行錯誤しても、無限ループに陥っても、増えるのは電気代だけ。最悪の事故が「朝、処理が終わっていなかった」で済むのか、「朝、280万円の請求が届いた」になるのか──この差はエージェント時代にますます大きくなります。さらにオンプレミスなら、APIキーが世界に漏れる心配もありません(セキュリティは第7弾)。