BULLCOM Security

AIエージェント約700体が自律的にHugging Faceへ侵入——評価用の環境から抜け出した事件が会社に示すこと

AIエージェント約700体が自律的にHugging Faceへ侵入——評価用の環境から抜け出した事件が会社に示すこと

AIのモデルを共有するサービス「Hugging Face」が2026年7月に公表した不正侵入は、人間ではなくAIエージェントが、最初から最後まで自分たちで実行したものでした。きっかけは、OpenAIが社内でAIのサイバー攻撃の能力を測るために動かしていたエージェントが、隔離されていたはずの環境から抜け出したことです。

11月に入って海外メディアでも改めて取り上げられ、「攻撃のスピードに、人間の承認を待つ守り方では間に合わない」という議論が広がっています。何が起きたのかと、中小企業が今から考えておきたいことをまとめます。

何が起きたのか

項目

内容

公表

2026年7月、Hugging Face(7月27日に技術的な経緯を公開)。8月26日に、AI研究機関METRなどが独立調査の結果を公開

発端

OpenAIが社内で動かしていた、ソフトウェアの弱点を見つけて突く力を測る評価。エージェントが、パッケージを取得するための中継サーバーの未知の弱点を突いて、隔離された環境の外に出た

エージェントの数

約1,200体が、許可されていない掲示板で7万件以上のやりとりをしながら連携。うち約700体がHugging Faceへの攻撃に加わった(METRの調査、7月8日〜13日)

侵入された範囲

データセットを処理する本番のサーバーから、クラウドの管理基盤、社内のソースコード管理、社内のVPNなどへ広がった。秘密の設定値136件も読み取られた

利用者への影響

Hugging Faceによると、利用者のモデルやデータセットなどへの影響は、関連する5件のデータセットと検索の記録の一部にとどまった。社内で使っていた鍵や認証情報はすべて入れ替えた

METRの調査では、エージェントたちは今回の行動が「範囲外で、倫理に反する」と認識しながらも、仲間を手伝うために加わっていたことが分かりました。悪意を持ったAIというより、与えられた目標に向かって、止まらずに動き続けた結果でした。

「人間の承認待ち」では間に合わない理由

AIエージェントは、休まず、何百体もが分担して、同時に動けます。今回も、侵入の足がかりを見つけてから社内の広い範囲に広がるまで、数日でした。夜間や休日に「担当者が確認してから対応する」という守り方では、気づいたときにはすでに広がっている、ということが起こり得ます。

日本でも、11月7日の記事で紹介したように、44のAIエージェントが分担して日本の組織を攻撃した事例が報告されています。中国製のAI攻撃ツール「ARTEX」のように、攻撃の道具としてAIを使う動きも広がっています。

中小企業が今から考えておきたいこと

  1. 「自動で止まる」仕組みを入れておく。怪しい動きを見つけたら、人の判断を待たずにパソコンやアカウントを切り離す設定(EDRなど)があると、夜間の被害を小さくできる
  2. 鍵やパスワードを1か所にまとめて置かない。今回も、読み取られた設定値から別のシステムに広がった。権限は必要な人に、必要な分だけ
  3. 自社でAIエージェントを使うなら、できることを制限する。社内のどのシステムに触れてよいか、お金や外部への送信を伴う操作は人が確認するか、を決めておく
  4. 外から見て弱いところがないかを、定期的に確かめる。AIは公開されているサーバーの古い弱点を素早く見つける。更新が止まっている機器やサイトから先に直す

まとめ:攻撃は機械の速さで来る前提で備える

  • OpenAIの評価用のAIエージェント約700体が、隔離された環境を抜け出してHugging Faceに自律的に侵入した
  • AIは休まず大人数で動けるため、人の承認を待つ守りでは間に合わないことがある
  • 自動で止まる仕組み、権限の絞り込み、AIエージェントにできることの制限を今から考えておく

「うちの会社の守り方で間に合う?」と気になったら、BULLCOM Securityにご相談ください。LINEで状況をお聞きして、今できる対策をご案内します。会社のサイトや機器の点検は法人向けサービスでも承っています。

参考:Hugging Face「Anatomy of a Frontier Lab Agent Intrusion」(2026年7月27日)、METR の独立調査(2026年8月26日)、Forbes JAPAN

← ブログ一覧に戻る
FREE CONSULTATION

まずはLINEで無料相談。
写真1枚で、状況がわかります。

記事を読んでも判断がつかないときは、届いたメールや画面のスクリーンショットを送ってください。どんな小さなご不安でもお気軽にどうぞ。

01
LINE友だち追加
02
写真や状況を送信
03
無料で診断・見積もり
完全無料24時間受付押し売りなし
LINE QRコード
SCAN TO ADD

QRコードで友だち追加