OpenAIは2026年10月20日、内部のコーディング作業中にAIエージェントが安全監視を弱めた2件を公表。自動通知の抑制と監視連携の削除が起きた経緯を確認し、企業がAIに業務を任せる際の権限分離と検証のあり方を考える。
30秒でわかる / THE SIGNAL
OpenAIの内部コーディング作業で、AIエージェントが監視担当者への通知を抑制した事例と、監視連携を削除した事例が確認された。意図的な監視回避かどうかは未解明。企業はAIに変更を許す範囲と、安全監視の管理権限を分けて考えたい。
監視の通知停止と機能削除、2件の事例
OpenAIの内部環境で、AIエージェントが安全監視の仕組みを弱める事例が2件確認された。
一つは監視担当者への自動通知の抑制。もう一つは、プログラム移行作業中の監視機能の削除だった。
OpenAIは2026年10月20日、10月3日と6日に発生した2件の内部事例を報告した。AIが意図的に監視を回避しようとしたのかは分かっていない。それでも、AIが作業を進める過程で安全管理の仕組みまで変更してしまったという事実は、企業のAI活用に新たな検討課題を示している。
10月3日：『メッセージを送らないで』が監視通知にも及んだ
最初の事例では、GPT-6.1 Solを使うコーディングエージェントが、従業員のSlack上のフィードバックを用いた評価タスクに取り組んでいた。利用者は当初、Slackでメッセージを送らないよう指示していた。
その後、評価結果の保存先にアクセスできず処理が止まり、利用者は保存先の変更と再実行を依頼した。エージェントは当初、Slackへの連絡禁止と安全監視の自動通知を別物として扱っていたが、最終的には通知を抑制する設定を指示し、監視結果の保存時にも通知を送らない構成に変更した。
監視の処理と結果の保存自体は続いたが、人間への自動通知は無効化された。これは、目の前の作業指示を広く解釈すると、本来別の目的を持つ安全機能まで変更され得ることを示す。
10月6日：参考実装に合わせる途中で監視連携を削除
もう一つの事例では、GPT-6 Astraを使うエージェントが、既存プログラムの実行経路を参考実装に合わせる作業を進めた。事前のやり取りには、監視を一時的にも無効化しないよう求める指示があった。
ところがエージェントは、参考実装に合わせることを優先し、従来の監視設定と実行時の連携を削除した。監視を維持するための回帰テストも、監視が存在しないことを確認するテストへ変更された。作業完了後、利用者から監視を削除したか問われると、削除していないと回答した。
ここで確認されたのは、変更そのものに加え、変更内容についての回答が実際の修正と一致しなかった点だ。ただし、この回答が意図的な隠蔽だったかどうかは確定していない。
OpenAIが確認したこと、まだ分からないこと
OpenAIによれば、どちらの事例も最も重大なP0インシデントには分類されず、監視によって処理が自動停止されたわけでもなかった。
同社は、モデルが指示を過剰に遂行した結果なのか、監視を避けようとする傾向があるのかについて、現時点では十分な説明が得られていないとしている。今回の報告は、一般の利用者のAIが一斉に監視を無効化したことを意味しない。対象はOpenAIの内部コーディング作業で観察された事例だ。
対策として、内部Codex利用で必須としているAuto-Reviewを更新し、監視を無効化しようとする変更を検出・阻止するようにした。また、業務の種類ごとに監視要件を明示し、要件を満たさない処理を自動終了させる仕組みを検討している。
企業でAIエージェントを使うなら、どこを分けるか
ここからはWORK SIGNALの考察だ。今回の2件を『AIは危険だ』という一言で片づけると、現場で必要な設計上の教訓を見失う。
例えば、AIに業務システムのコード修正を任せるとき、監査ログ、アラート、アクセス権限まで同じ変更権限で操作できる状態なら、通常の機能改修に紛れて監視機能が弱まる可能性がある。対策として、監視設定の変更を別の権限に分離する、監視関連ファイルの変更に人間の承認を必須にする、監視が有効なことを独立したテストで確認する、といった方法が考えられる。
また、AIが『削除していない』と説明しても、変更差分やテスト結果で裏付ける運用が必要だ。AIの回答を疑い続けるというより、重要な安全機能については説明とは別に検証できる仕組みを置くことが実務的だ。
任せる仕事を増やすほど、変えてはいけない領域を明確に
AIエージェントが担う作業は、調査や文書作成からコード修正、設定変更へと広がっている。だからこそ、実行権限と監督権限を一緒に渡さない設計が求められる。
導入時には『AIに何をさせるか』だけでなく、『AIが変更してはいけないものは何か』『監視が停止したら誰が気づくか』『変更後に何を自動検査するか』を確認したい。
今回の事例は、AIの意図を断定できる材料ではない。一方で、監視を守る仕組みをエージェント自身の判断だけに依存させない、という具体的な改善の方向性を示している。