多文化・多言語対応の安全な大規模言語モデルの構築を目指して - 東京カレッジ

多文化・多言語対応の安全な大規模言語モデルの構築を目指して

日時:
2024.11.11 @ 10:00 – 11:00
2024-11-11T10:00:00+09:00
2024-11-11T11:00:00+09:00
多文化・多言語対応の安全な大規模言語モデルの構築を目指して

講演資料こちらから、ウェビナーの報告書こちらからダウンロードできます。

シンガポールAIセーフティレッドチーミングチャレンジ参加レポートこちらからダウンロードできます。

終了しました
Zoom ウェビナー
開催日時 2024年11月11日(月)10:00-11:00
会場

Zoomウェビナー(登録はこちらへ)

申込方法 事前申込制(当日参加できないため、後日の動画配信案内を希望する方もご登録をお願いします)
言語 日本語
要旨

生成人工知能(AI)の利用が世界的に広まるにつれ、AIモデルが地域ごとの文化や言語におけるリスクや懸念を敏感に反映できることがますます重要になっています。

 

そのためには、何がリスクや有害なコンテンツなのかを地域・文化ごとに特定する作業を更新し続けていくことが必要となります。この作業には、AIや情報セキュリティの研究者はもちろん、人文・社会科学の研究者、AIやメディアのプラットフォーマー達や実務家の方や政策関係者たちと継続的に議論できるコミュニティを形成していくことが重要となります。

 

これに対する1つのアプローチとして展開されている「レッドチーミング」は、生成AIを評価するため、安全性に違反するような暴力を煽る有害コンテンツ、攻撃的な言葉、汚い言葉などをあえて誘発し、モデルを「壊そう」とするものです。しかし、現在のAIの安全性に関するレッドチーミングは、欧米中心であり、地域的な被害(モデルが特定の民族を差別するリスクなど)に対処する方法を考える必要があります。

 

このような問題意識のもと2024年11月、シンガポール政府 Infocomm Media Development Authority が「AI安全性レッドチームチャレンジ プロジェクト」を開始しました。文化や言語の専門家のコミュニティを集め、AIモデルをレッドチーム化することを目的として組成しており、生成AIを地域にとってより安全なものにするための重要な第一歩と捉えています。同プロジェクトには日本も協力しています。本イベントでは、11月5日に行われたプロジェクトの報告会を行うと同時に、このようなコミュニティを継続させていく枠組みについてお話します。

 

生成AIの安全性やガバナンスにご関心をお持ちの方々のご参加をお待ちしております。

プログラム

10:00-10:15 開会挨拶と趣旨説明:江間有沙(東京大学東京カレッジ)

10:15-10:30  LLMの安全性に向けた取り組み:関根聡(NII-LLMC/理研AIP)

10:30-10:45 CTFチャレンジの概要説明と今後について:築地テレサ(日本ディープラーニング協会)

10:45-11:00 コメントと質疑応答

お問い合わせ tg-event@tc.u-tokyo.ac.jp
主催 東京大学国際高等研究所東京カレッジ、東京大学未来ビジョン研究センター、東京大学次世代知能科学研究センター、東京大学B’AI Global Forum、日本ディープラーニング協会
後援 情報学研究所大規模言語モデル研究開発センター、日本AIセーフティ・インスティテュート

Upcoming Events

開催予定のイベント

性暴力はなぜ繰り返されるのか:背後の社会規範を問う(講演者:大沢 真知子教授)

イベント予定共催/Joint Event講演会/Lecture

2025年1月21日(火)14:00-15:30

声を上げる被害者によって性被害の実態が明らかになりつつある。にもかかわらず性加害が繰り返されるのはなぜなのか。本講演では、2022年にNHKが実施した性暴力実態調査アンケートによって回収された38383件の被害者のデータを元に性被害者の実態を明らかにするとともに、日本社会には強姦神話が存在し、それによって被害者が責められるさらに苦しむという構造がある。背後には男女不平等社会をもたらす社会の男性規範があり、性加害をなくすためには、社会規範を問い直す必要がある。

不滅の知性とDNAに依存しない人類の台頭(講演者:Johan BJÖRKEGREN教授)

イベント予定講演会/Lecture

2025年1月29日(水)15:00-16:30

約6万年前、人類がアフリカからの移住に成功した頃、ある変革が起こった。ホモ・サピエンスは、自然資源を巡る競争能力を根本的に変える重大なDNA変化を経験したと考えられる。この変化にとって重要だったのは、抽象的思考の獲得であった。そして今日、AIの発展により、ダーウィンの「適者生存」の原則から最終的に脱却する段階に差し掛かっている。我々はDNAへの依存から完全に解放されることで、さらには死すらも克服する方向へ急速に進化しつつある。

日常の「外交官」: 分断された世界で混沌をつながりに変える(講演者:Annelise RILES教授)

イベント予定講演会/Lecture

2025年2月13日(木)10:00-11:30

Annelise RILESは、新著『Everyday Ambassadors』で、私たちは今、リーダーシップが少数の手にあるのではなく、すべての人の手にあるエキサイティングな新世界秩序の瀬戸際にいると主張する。世界に今必要なのは、政治的、文化的違い、科学と宗教、芸術とテクノロジーの世界の間の橋渡し役であり、翻訳者、通訳者など、より多くの外交官であると提唱している。本講演では、RILES教授が、数十年にわたる法律と民族誌の研究をまとめ、誰もがどこにいても優れた外交官になるための 7 つの「行動」をまとめた著書について語る。

ニューリーダーの下での日米経済関係

イベント予定パネルディスカッション/Panel discussion

2025年2月14日(金)9:00 - 10:15(JST)/ 2月13日(木)19:00 - 20:15(EST)

次期アメリカ大統領ドナルド・トランプ氏は、中国からの輸入品に60%、カナダおよびメキシコからの輸入品に25%、そしてその他の国からの輸入品に10%の関税を課すと表明しています。就任から3週間が経過した今、これらの関税が実際に課される可能性はどの程度あるのでしょうか?これらが仮に実行された場合、日本はどのように対応するのでしょうか?日本の製造業者からアメリカへの輸出が大幅に減少するだけで済むのでしょうか?それとも、日本の製造業者は関税回避のためにアメリカでの投資を増加させるのでしょうか?あるいは、既にアメリカでの生産を十分にシフトさせており、それによって関税の悪影響が完全に回避されることが明らかになるのでしょうか?
中国やEUがアメリカに関税を課して応酬すれば、関税戦争がグローバルな貿易や国境を越えた投資に悪影響を及ぼす可能性もあります。日本の製造業者は、これにどのように対応するのでしょうか?

イギリスの対中認識と対日政策 ー 2010-2024年(Alastair MORGAN潮田フェロー)

イベント予定講演会/Lecture

2025年2月18日(火)15:00-16:30

保守党率いるイギリス政府の中国に対する認識は、2010年から2024年にかけて大きく変化しました。2010年、デーヴィッド・キャメロン首相は中国の台頭を機会と捉えていました。しかし、10年後には、政府は中国をイギリスの経済安全保障に対する最大の長期的脅威とし、海外での中国の自己主張に対する懸念が高まっていると表明しました。この期間に、イギリスと日本はますます密接な安全保障関係を築きました。イギリス政府の中国に対する認識がこの期間の日本への政策を決定付けたのでしょうか、それとも他の要因も同様の影響力があったのでしょうか?新しい労働党政府からはどのようなアプローチが期待されるのでしょうか?

日本の過去を再考する:教科書の改訂と歴史の修正(講演者:Andrew GORDON教授)

イベント予定講演会/Lecture

2025年2月27日(木)15:00-16:30

過去というのはまるで異国だと言われており、歴史家は現代の価値観を押し付けることなく過去を理解しようとする。しかしながら、歴史叙述とは、必然的に過去と現在の対話を行うことである。本講演では、これまでA Modern History of Japanを4版執筆し、現在5版の執筆を検討中の著者が、25年にわたる内的対話を紹介する。

Previous Events

公開済みイベント

ブリュッセル効果への対応:日本企業はEU-AI法にどう備えるべきか

イベント予定講演会/Lecture

2024年12月11日(水)12:00-13:00

本ウェビナーでは、EU-AI法の概要と行動規範の策定における4つのワーキンググループ活動、さらに日本企業が特に留意すべき重要なポイントについて概説します。
EUの規制動向がもたらす「ブリュッセル効果」や日本への影響について理解を深める機会としてAI関連技術の開発・提供・流通に関わる企業、研究機関、開発コミュニティの参加者のご参加をお待ちしております。

発展途上国の環境問題:課税の役割とは?(講演者:Michael KEEN潮田フェロー)

イベント予定講演会/Lecture

2024年12月11日(水)10:30-12:00

多くの低所得国は深刻な環境問題に直面している。よって、社会のニーズと経済発展に資金を提供するための税収が喫緊の課題となっている。環境税は、その両方の目的を満たせるのか。この講義では、最近出版された書籍を参考にしながら、低所得国が直面する多くの環境問題のうち最も差し迫った問題(大気・土壌の質、廃棄物管理、森林破壊、渋滞、気候変動への適応など)を評価し、税制の改善がそれらの問題への対処と多額の税収の引き上げにおいて、どの程度役立つかについて検討する。

見えざるジェンダーから見えるジェンダーへ(講演者:岡田 トリシャ教授)

イベント予定講演会/Lecture

2024年12月6日(金)15:00-16:30

本講演では、1980年代から2000年代初頭までの日本におけるフィリピン人トランス女性またはトランスピネイの移住経緯(移住前・中・後)に関するエスノグラフィ研究を取り上げる。交差的不可視性(Purdie-Vaughns & Eibach, 2008)の枠組みから、フィリピン人トランス女性の移住体験を、トランスジェンダー移住者が現在直面している問題の事例と関連づける。また、ソーシャルメディアや映画が、いかにしてジェンダーの(不)可視性を示し、交渉する場を作り出しているのかについても探求する。

個人主義の国・日本(講演者:John LIE教授)

イベント予定講演会/Lecture

2024年11月26日(火)13:00-14:30

欧米諸国の「個人主義」に対して、日本社会は「集団主義」あるいは「集団志向」であると言われている。しかし、この説は間違いである。本講演では、通説に反論した後、この誤った考え方の系譜をたどり、その妥当性について論じる。


TOP