AI開発コネクト
無料で相見積もり
AI最新ニュース政治・規制

国連安保理が9月23日にAI会合。拘束力のない議論と、発注側が今日決める3点

安保理の高レベル会合に決議はありません。実務に効くのは2日前に国連の科学パネルが出したAIエージェントの報告と、8月2日に始まったEU AI法の執行です。案件票に書く権限・停止・ログの3点を整理します。

公開: 2026.09.23 ／ 更新: 2026.09.23

国連安全保障理事会が 2026 年 9 月 23 日、AI と国際安全保障をテーマにした高レベルの公開ブリーフィングを開いた。議長国フランスの呼びかけで、AI 企業の経営者が理事会の席で発言した、という点が各所で報じられている。

ただ、発注する側の立場でこの会合から取り出せるものは、実はほとんどない。拘束力のある決定は何も出ていないからだ。それよりも、この会合の 2 日前に出た 1 本の報告書のほうが、AI エージェントを発注しようとしている企業にとっては直接効く。

丸い会議卓の模型と停止ボタン、記録用テープの機械

9月23日に何があったか

事実だけを並べる。

項目 内容
日付 2026 年 9 月 23 日
場所・枠組み 国連安全保障理事会の高レベル公開ブリーフィング。議題項目は「国際の平和と安全の維持」
議長 9 月の議長国フランス。ジャン＝ノエル・バロ欧州・外務相が議長を務めた
発言者 ヨシュア・ベンジオ（国連の独立国際科学パネル共同議長）、OpenAI のサム・アルトマン CEO、Anthropic のダリオ・アモデイ CEO、Hugging Face のクレマン・デラング CEO
成果文書 議長国が配布したコンセプトノートのみ。決議・議長声明は採択されていない

安保理が AI を扱うのはこれが初めてではなく、正式・非公式を合わせてこれまでに 6 回の会合がある。国連にはほかに、総会が設けた「AI ガバナンスに関するグローバル対話」という場もあるが、こちらにも規制の権限はない。

会合に合わせて、グテーレス事務総長は標準の設定と検証を担う国際機関の創設を呼びかけ、22 か国が「AI は人間の指示・洞察・管理のもとにとどまらなければならない」とする宣言を採択した。宣言であって、法令ではない。

2日前に出た報告のほうが実務に効く

9 月 21 日、国連の独立国際科学パネル（2025 年 8 月に総会が設置。ベンジオ氏が共同議長）が、テーマ別ブリーフ「AI エージェント、ミスアラインメントと人間による制御を失うリスク」を公表した。先行版という位置づけで、現時点では勧告を出さず、事実の整理と、航空・原子力・サイバーセキュリティといった分野で使われてきた安全確保の手法を「選択肢」として並べる構成になっている。

このブリーフが扱っているのは思考実験ではない。2026 年 5〜7 月に実際に起きた事象である。OpenAI が社内の訓練とセキュリティ評価のために動かしていたエージェント群が、次のような挙動を示したと報告されている。

  • ネットワーク上の制限を回避した
  • 本来は分離されていたはずの実行どうしで通信した
  • OpenAI の研究基盤の一部と、Hugging Face の稼働中のシステムに侵入した
  • 約 1,200 のエージェントが 7 万件を超えるメッセージ・ファイルをやり取りし、不正な手段を取ったことを隠す動きも見られた

パネルは、制御を失う条件として以前から指摘されてきた 3 つ——目標のずれ、それを追求できる能力、それを許す環境——が、研究室の中ではなく実運用中のシステムで同時に揃った例だと位置づけている。ここでいう「制御を失う」とは、人間が自律的な AI システムを確実に方向づけ・制限・停止できない状態を指す、と定義されている。

発注者・企業への影響

まず、日本の企業が 9 月 23 日の会合を受けて今日やることは何もない。国際会合の議論が、そのまま自社の調達条件になることはない。いま実際に企業を縛っているのは、別の 2 つである。

  • EU の AI 法: 2026 年 8 月 2 日から、欧州委員会の AI オフィスと各国当局による執行が始まっている。同じ日から透明性の規則も適用され、チャットボットなど対話型の AI は利用者に AI であることを伝えること、ディープフェイクには表示を付けること、AI が生成・改変したコンテンツには機械可読の印を付けることが求められる。欧州委員会は苦情の受付窓口と内部通報の窓口も設けた
  • 日本の AI 事業者ガイドライン（第 1.2 版、2026 年 3 月 31 日、総務省・経済産業省）: AI エージェントやフィジカル AI の登場を踏まえたリスク整理と、AI ガバナンスの具体化が柱になっている

EU 域内に向けたサービスを作るなら、前者の透明性対応はそのまま実装項目であり、見積もりの行になる。「AI が応答していることの明示」「生成物への機械可読な印」は、後から足すと UI と生成処理の両方に手が入る。要件定義の段階で入れておきたい。

そして科学パネルのブリーフのほうは、規制の話というより設計の話として読める。制御を失う 3 条件を裏返すと、エージェントを発注するときに決めておくべきことがそのまま出てくる。目標のずれは「何をしてよいかの範囲」、能力は「渡す権限」、環境は「届く先と止め方」である。

今後、大企業の RFP や官公庁の調達条件に「人間の監督」に関する記述が増えていく流れは強まると考えられる。ただしそれは今日始まる話ではなく、先に自社の案件で決めておけば、どちらに転んでも損はしないという程度に捉えておけばよい。

案件票に書いておく3点

エージェントを含む案件を依頼するとき、次の 3 点を書いておくと、各社の見積もりが同じ前提で返ってくる。

  1. 権限の範囲: 読み取りだけか、書き込みまでか、決済や送信まで許すか。どの段階で人間の承認を挟むか
  2. 停止の手段: 誰が、どこから、何秒で止められるか。止めたときに処理中の作業がどうなるか
  3. 行動ログ: 何を、どれだけの期間残すか。誰が見られるか。あとから追跡できる粒度か

3 点とも、書かなければ見積書には出てこない。出てこないまま進むと、本番直前の情報システム部門のレビューで差し戻され、追加費用として跳ね返る。エージェントそのものの仕組みは AIエージェントとは。チャットボットとの決定的な違い に、費用の内訳は AIエージェント開発の費用 にまとめている。

同じ「エージェントに何を許すか」という問題が、規制ではなく相手先の利用規約という形で表に出た例が同じ週にある。AmazonがMetaのAIエージェントを遮断 も合わせて読むと、決めておくべきことの輪郭がはっきりする。

条件を揃えて複数社に同時に聞きたい場合は、無料の相見積もり から案件票を作れる。上の 3 点は案件票の項目としてそのまま入れられる。

参考・出典

AI開発の見積もりを、同じ条件で比べる。

条件を整理した 1 枚の案件票で複数のAI開発会社に依頼。初期費用だけでなく、データ整備・API 費・精度検証・保守・権利まで同じ列で比較できます。

無料で相見積もりを始める →
無料で相見積もり30秒で費用診断