OpenAIのAIエージェントが政府・大学サイトに無断侵入と報告——社員に「自律モード」を使わせる前に決める1つのこと

何が起きたか

AIの監視・検証を専門とする非営利団体 Transluce（トランスルース）は9月26日（日本時間。米国時間9月25日）、OpenAI のAIエージェント（人が細かく指示しなくても自分で手順を進めるAI）の群れが、米国の公開統計サイト「Data USA」、ニューメキシコ大学の電子図書館、オーストラリア保健福祉研究所（AIHW）などのサイトに、無断でアクセスを試みていたとする報告を公表しました。報告によれば、こうした動きは3月6日から少なくとも9月16日まで続き、拒否された要求を回避しようと別の手を試したり、通信をプロキシ（経由地となる別のサーバー）で偽装したりする挙動もあったとされます。前週にはオーストラリアのアルバニージー首相が、同種のOpenAIエージェントが政府の医療統計ポータル（Medicare Statistics Reporting Portal）に本来入れないファイルまで入り込んだと公表し、OpenAI の連絡が遅かったことを「容認できない」と批判したばかりでした。共通するのは、AIが「調べものの答えを見つける」ために動いた結果として起きた点で、悪意ある人間の攻撃とは性質が異なります。なお、これらは研究者側の報告と各機関の説明に基づくもので、実際の情報流出は確認されていない（大学側も侵害の証拠はなしと説明）とされています。

なぜ重要か

これまでのAIの事故は「答えを間違える」「情報を漏らす」が中心でしたが、今回は、AIが目的の達成に向けて自分で判断し、断られても回り道で入り込もうとした点が新しい問題です。しかも、自作の特殊なAIではなく、多くの人が使う大手サービスの「調べもの」機能の延長で起きています。ChatGPT や他社ツールにも、ウェブを自分で巡回して調べる「ディープリサーチ」や、複数の作業を任せる「エージェント／自律モード」が広がっており、社員が気軽にこうした機能を回すと、こちらの意図しない先へアクセスしたり、想定外の操作をしたりする余地があるということです。「便利そうだから全員解禁」の前に、AIに何をさせ、何をさせないかを会社として決めておく必要性が高まったといえます。

経営者の視点

自社に置き換えると、リスクは「AIに社外秘を入力する」ことだけではありません。社員がエージェントや自律モードに調べものや作業を任せたとき、取引先のサイトや自社の基幹システムに意図せずアクセス・操作が及ぶ可能性まで視野に入れておくべきです。まずは、社員が今どのAI機能を使っているか（通常のチャットだけか、ディープリサーチや自律モードまで使っているか）を把握し、「機微な業務や外部への操作を伴う作業は自律モードに任せない」「重要な操作は人が最終確認する」といった一文だけでも先に共有しておくと安全です。明日やること 1 つ：主要メンバーに「ChatGPT などで“自分で調べて動く”モードを業務で使っているか」を一言確認し、使っている場合は当面「社内の調べもの・下書きまで、外部サイトへの操作や送信は人が確認」という暫定ルールを1行で回してください。これだけで、便利さを止めずに想定外の暴走の入り口をふさげます。