法執行機関のAIシステム導入に向けた取組みとAIガバナンス： Interpol/UNICRIツールキットの紹介と日本への示唆

イベント開催報告

2023年11月20日、zoomウェビナーにて「法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆」が行われました。

人工知能（AI）の活用が様々な場面で進展する中、警察を始めとする法執行機関がAIを活用する上では、AIシステムのリスクを評価した上で、捜査の必要性と人権を侵害するリスクとのバランスをとることが重要と考えられます。そして、AIガバナンスに対する国際的な関心の高まりを踏まえれば、今後日本の法執行機関にもそのような議論が及ぶことが予想されます。したがって、AIを活用する機関、組織及び事業者等の間で重要な課題について認識を共有しつつ、日本の法執行機関におけるAIの利活用に向けた方向性を議論することが必要です。

本イベントでは、国際刑事警察機構（INTERPOL）及びUNICRI（国連地域間犯罪司法研究所）が、法執行機関における責任あるAI利用を推進することを目的として共同で開発した、「法執行機関における責任あるAIイノベーションのためのツールキット（Toolkit for Responsible AI Innovation in Law Enforcement）」を題材に、日本の法執行機関におけるAI利活用について議論を行いました。

上段左から、江間氏、後藤氏、濱口、下段左から、渡邊氏、宇田川氏、尾崎氏

本イベントにおいては、INTERPOL及びUNICRIが開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明、日本の法執行機関におけるAI利活用に関する事例及び論点の紹介、そして以上を踏まえたパネルディスカッションが行われました。本イベントは、事前登録制の一般公開のzoomウェビナーとして実施され、国内の大学や企業などから、約50名の参加がありました。

最初に、開会の挨拶及び本イベントの趣旨説明として、東京大学東京カレッジ准教授を務める江間有沙氏からコメントをいただきました。本イベントは、INTERPOL及びUNICRIが、2023 年 6 月に共同開発した、「法執行機関における責任あるAIイノベーションのためのツールキット（Toolkit for Responsible AI Innovation in Law Enforcement）」の簡単な紹介を行うこと、このツールキットを踏まえ、警察をはじめとする日本の法執行機関におけるAI利活用に関するいくつかの論点の紹介・議論を行うことを目的としていると述べられました。

次に、上記ツールキットの概要説明のセクションにうつりました。本セクションでは、まず、INTERPOL及びUNICRIが作成した20分程度のビデオメッセージを視聴しました。ビデオメッセージにおいては、実際にツールキットの開発に携わった方々から、「法執行機関における責任あるAIイノベーションのためのツールキット」の趣旨及び内容に関する説明が行われました。続いて、江間有沙氏から、ツールキットの作成経緯についてコメントをいただきました。本ツールキットは、法執行機関におけるAI利用について、2019年以降INTERPOL及びUNICRIが継続的に行なっている活動の成果の一つであり、このような議論は今後も行われていくであろうことが述べられました。また、江間有沙氏自身が、このような議論に直接参加しており、今回東京大学が本イベントを開催することができたと述べられました。最後に、東京大学公共政策大学院の濱口海慧が、ツールキットの目的や対象、具体的な内容について、簡単な説明を行いました。ツールキットは、大きく７つの文書から構成され、AIシステムを導入しようと考える法執行機関が、責任あるAIイノベーションを理解し、実際に業務に取り入れることを支援することができると述べました。なお、本イベントで言及された点も含めたツールキットの詳細な内容は、「本ツールキットの日本語解説資料」（PDFファイル形式）に記載されております。

INTERPOL及びUNICRIが共同開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明の後は、話題提供のセクションにうつりました。本セクションでは、筑波大学ビジネスサイエンス系の尾崎愛美氏、東北大学法学研究科公共政策大学院の宇田川尚子氏から、話題の提供とそれぞれ15分程度の発表を行なっていただきました。

まず、尾崎氏から、「日本における警察や法執行機関でのAI利用の事例紹介」に関する発表が行われました。我が国においては、例えば、2015年10月から、京都府警において予測型犯罪防御システムが導入され、また近年では、警視庁および五つの都道府県警においてAIを用いたSNS捜査が行われております。加えて、2021年東京オリンピックに際し導入された、JR東日本と警察間の非常時画像伝送システムなど、官民連携によるAI事例も存在しております。最後に尾崎氏は、このような事例には個人情報保護の観点から様々な議論が行われていること、今後本格的に導入が進むであろうことを指摘した上で、AI法執行活動における信頼性の確保が重要な第一歩であると述べられました。

次に、宇田川氏から、「法執行機関におけるAI利活用の論点」に関する発表が行われました。我が国においては、行政におけるマンパワーの維持、法執行活動の効率化といった要請から、警察におけるAIの活用及び導入が求められており、政府戦略としても検討が進められております。この点、データやアルゴリズムにおける無意識的な差別といったスケーラビリティの課題、意思決定過程や責任の所在の明確化といったトレーサビリティの課題、そして、AIを用いた公共サービスの利便性の向上から誰も取り残さないというアクセシビリティの課題があります。宇田川氏は、このような問題の存在を指摘した上で、ツールキットは、一つの参考材料として、AIシステムの利活用を検討する日本の法執行機関に一定の示唆を与えるのではないかと述べられました。

尾崎氏及び宇田川氏からの話題提供のあとは、江間氏、尾崎氏、宇田川氏に加え、晴海パートナーズ法律事務所弁護士の後藤大氏、AI法研究会事務局長弁護士の渡邊道生穂氏を交えて、５者でのパネルディスカッションが行われました。

まず初めに渡邊氏から、これまでの議論を踏まえ、パネルディスカッションのテーマの提供と、それに対するコメントをいただきました。パネルディスカッションにおける最初のテーマは、「AIツールキットをどうやって現場で実装していくのか」という点であり、渡邊氏はまず、実装する必要性は何か、どうやって実装するのかという二つの観点から議論する必要があると述べられました。必要性としては、近年、AIガバナンスに関する原則の標準化や制度化が世界的に議論され、日本国内においても、例えば経産省がガイドラインを作成するといったように実際の議論になっていることから、AIシステムに関係する事業者、開発者、ユーザーも、それらの議論を意識していかなければならないと述べられました。また、実際に実装する上でツールキットは、既存の国内原則や基準に基づき法執行活動を行う警察をサポートするツールとしての役割を果たし、特にワークブックのような文書は、警察などがAIシステムを導入、実施する際の丁寧なチェックリストとして使用することができるだろうと述べられました。

以上のような渡邊氏の考えを踏まえ、尾崎氏から、ツールキットが実際に現場で使用できるレベルに達しているかという点につきコメントをいただきました。尾崎氏は、ツールキットが詳細かつ網羅的に記載されている一方で、実際に使用するためには、それぞれのツールキットユーザーに適した形で、実務的な観点から整理され、順序立てられる必要があると指摘されました。また、後藤氏は、警察が使用するAIシステムの開発やデータの提供を民間のベンダーが行う可能性があることを指摘した上で、説明責任といったツールキットに示されるAIガバナンスの原則が、現状民間企業に共有されているか疑問であり、民間側の対応も重要な視点であると述べられました。また、宇田川氏も、警察のAI利活用においては、そのシステムを計画、開発する民間側の動きも重要であると述べた上で、ツールキットが非常に丁寧かつ大量な資料となっており、また既存のAIガバナンス原則と重複する部分もあることから、実際に現場で使用する人にとっては負担になりかねないと指摘されました。

次に江間氏から、法執行活動におけるAIガバナンスを、「誰が、どのタイミングで、どのように始めていくのが良いか」というテーマの提供がありました。まず渡邊氏は、現状AIを作っている企業、とりわけ大企業以外の事業者のAIガバナンスの意識は低いと指摘した上で、AIガバナンスを行う事業者に対する補助金の交付などの形でインセンティブを与えていくことが必要ではないかと述べられました。加えて、尾崎氏は、米国においては、AIなどの先端科学技術ガバナンスなどを行うことが対外的なアピールになり、企業の重要なインセンティブになっていると指摘した上で、日本におけるSDGsのように、AIガバナンスを行なっていることを示すことが民間企業のインセンティブになる可能性はあると述べられました。

企業における人権保護を示すというインセンティブに関連し、江間氏は、AIツールキットを含む様々なガバナンスガイドラインにおいて、法執行機関が特に重要視するべきことは何かという疑問を提起されました。この点宇田川氏は、AIシステムを用いた法執行活動が結果的に違法だった場合に法執行機関に与えるハレーションが日本は特に大きいことから、そのようなAI法執行活動の信頼性を確保することがとりわけ重要であろうと述べられました。

以上のような議論のあと、ディスカッションは二つ目のテーマにうつりました。まず初めに、後藤氏からテーマの提供とコメントをいただきました。二つ目のテーマは、「INTERPOL及びUNICRIが開発したツールキットと他のAIガバナンスガイドラインとの違い」であり、後藤氏は、ツールキットの「責任あるAIイノベーション原則」において合法性が最初に示され、その中身について詳細に記載されている点が、他のガイドラインと異なると指摘されました。この点、渡邊氏及び尾崎氏は、ツールキットが民間のAIガバナンスではなく法執行機関のAIガバナンスを目的としており、捜査と人権侵害とは密接に関わることから、法執行活動における合法性が特に重要視されているのだろうと述べられました。また、宇田川氏は、ツールキットが全世界を対象としていることから、日本では当たり前と思われている合法性などについても、詳細かつ網羅的に書かれているのだろうと述べられました。

これらの議論を踏まえ、江間氏は、「ツールキットの課題」について、他のパネリストの方々にお聞きになりました。まず渡邊氏は、警察関係者だけでなく、技術開発者や民間の事業者など、様々な知識を有する幅広い利害関係者の確保が必要であろうと述べられました。次に後藤氏は、ツールキットを、実際の日本の法執行機関の実情、文脈に落とし込むことができるかどうかが課題であると述べられ、現状、警察の現場で実際に使用するのは難しいであろうと述べられました。また、尾崎氏は、現場での実際の使用という観点から、具体的な法執行活動事例を想定したケースメソッドの記載を拡充すると良いのではないかと指摘されました。最後に宇田川氏も、具体的な事例に即した詳細な記載が重要であると述べられ、実際の組織や団体が、それぞれの現場の実情に合わせて試行錯誤していくことが必要であろうと述べられました。

以上でパネルディスカッションは終了し、最後に江間氏から、閉会の挨拶も兼ねてコメントをいただきました。江間氏は、パネルディスカッションでも度々言及されたように、ツールキットを実際の現場で使用するための現場の視点やテストケースが必要であることから、今回お越しいただいた方々とも一緒に研究会を進めていきたいと述べられ、本イベントは締めくくられました。

（文責：東京大学大学院公共政策学教育部　濱口海慧）