平和、安全保障と人工知能

Zoom Meeting (登録はこちら)

人工知能（AI）システムの両用性と再利用可能性は、分野やセクターを超えた根本的な課題をもたらしている。技術が悪意を持って使用されたり、誤用されたりして、国際的な平和と安全に対する脅威となる可能性がある。これらの用途の中には、標的の選択や武力行使の関与といった自律的な武器機能が懸念されるが、意思決定支援システム、データ収集、個人の特定、情報や誤情報の生成といった武器に関連しない機能についても懸念される。さらに、AIの兵器化が進み、生物兵器、核兵器、化学兵器、ドローン群などの大量破壊兵器と融合することは、人類に極めて大きなリスクをもたらす。

いずれにせよ、このような懸念はより広い安全保障の領域に広く存在するため、軍事的な領域に限定するのは視野が狭い。というのも、軍隊が使用する技術は、紛争地域でも非紛争地域でも、法執行機関や国境管理当局など他の国家機関が平時にも同様に使用することができるからである。加えて、いったん開発されれば、こうしたテクノロジーへのアクセス、複製、配備が容易になる可能性もある。その結果、テロ集団や組織犯罪などの非国家主体が悪意を持ってこれを利用し、国家の主権を損ない、国家、地域、あるいは国際的な平和と安全を脅かす可能性がある。

そこで、本講演では、上記のような広範なセキュリティ領域にわたってAIシステムがもたらす固有のリスクについて掘り下げ、最後に、これらの技術に関連するリスクを防止・軽減するためのガバナンス・モデルの提案について、いくつかの知見を紹介する。その中には、拘束力のある規範、基準、ガイドラインを精緻化する必要性や、これらの規制を実施し、説明責任、被害に対する救済措置、緊急対応を通じてコンプライアンスを確保する適切なメカニズムを備えた一元化された当局を通じた監視、モニタリング、検証、検証機能の必要性が含まれる。

講演者

ヒメナ・ソフィア・ビベロス・アルバレス（メキシコ最高裁判所ロレッタ・オルティス判事首席補佐官兼法律顧問）

司会

江間有沙、東京大学東京カレッジ　准教授

14:00-14:40 講演（40分）ヒメナ・ソフィア・ビベロス・アルバレス（メキシコ最高裁判所ロレッタ・オルティス判事首席補佐官兼法律顧問）

14:40-15:00 ディスカッション、質疑応答

ヒメナ・ソフィア・ビベロス・アルバレスは著名な弁護士・学者であり、人工知能（AI）に関する国連事務総長ハイレベル諮問機関のメンバーとして、AIのグローバル・ガバナンスに関する提言を推進する任務を担っている。また、軍事分野における責任あるAIに関する世界委員会（GC-REAIM）の委員、経済協力開発機構（OECD）のAI専門家として、AIのリスクと説明責任に関する作業部会やAI事件に関する部会に参加している。メキシコでは、ロレッタ・オルティス・アルフ最高裁判事の首席補佐官兼法律顧問を務めており、以前は連邦司法審議会でも同職を務めていた。

安全保障・市民保護省、連邦税務・財務検察庁で国家指導的地位に就き、長官を務めた。国際的には、国際刑事裁判所、旧ユーゴスラビア国際刑事裁判所、ルワンダ国際刑事裁判所、化学兵器禁止機関、FARC武装解除のための国連コロンビア検証団に勤務。また、ケニア、カンボジア、パレスチナのNGOに加え、レバノンの最高裁判所にも勤務。

AIや自律型兵器システムに関する著書が多く、主な著書に以下のものがある：Autonomous Weapons Systems: The Accountability Conundrum」（メキシコ国立自治大学法律研究所より2021年に英語とスペイン語で出版）、「The Ultimate and Perhaps the Last Paradigm Shift – Artificial Intelligence」（ウォルターズ・クルワー社より2021年に英語とスペイン語で出版）；AI and the International Responsibility of States（2022年、メキシコ国立自治大学法律研究所発行、スペイン語）、「Autonomous Weapons Systems and the Use of Force（2023年、Ethics Press発行、英語）、「Weapons of Mass Destruction as Drone Swarms（2024年4月、Opinio Juris発行、英語）など。また、他の法律分野でも著名な執筆者である。

メキシコシティにあるイベロアメリカ大学で法学士号を取得後、ライデン大学で国際公法学の法学修士号を取得。現在、ケルン大学にてクラウス・クレース博士の指導のもと、AIと自律型兵器システムが国際平和安全保障法と政策の枠組みに与える影響について、さまざまな法的観点からグローバル・ガバナンスを実現するための具体的な提案とともに博士論文を執筆中。