AIのバイアスとガバナンスの重要性を「体験」から学ぶ:「笑顔の謝罪会見」ワークショップ体験レポート

近年、生成AIやLLM(大規模言語モデル)、および様々なサービスに組み込まれているレコメンデーションアルゴリズムといったAI技術は、私たちの生活やビジネスにおいて欠かせない存在となっています。フリマアプリ「メルカリ」においても、お客さまにより安心・安全でシームレスなお買い物体験を提供するため、機械学習モデルやAI技術が導入されています。

しかし、AI技術の進化と社会への実装が進む一方で、「AIアルゴリズムに潜むバイアス(偏見)」、そしてAI技術が社会に与える倫理的・法的・社会的影響を示す「ELSI(Ethical, Legal, and Social Issues)」への配慮は、現代の企業にとって避けては通れない、きわめて重要な課題となっています。

こうした中、メルカリでは2026年4月に、AIガバナンスを座学だけではなく「身をもって体験する」ユニークなワークショップを開催しました。

今回は、東京大学国際高等研究所 東京カレッジの江間有沙准教授(以下、江間先生)と大阪大学社会技術共創研究センターの工藤郁子特任准教授(以下、工藤先生)が、研究の一環として開発・実施されている交渉型シミュレーションゲーム「笑顔の謝罪会見」をメルカリオフィスで体験しました。その白熱した当日の様子と、私たちが得た学び、そして今後のメルカリにおけるAIガバナンスの展望についてレポートします。

ワークショップ開催の背景:アカデミアとメルカリの深い繋がり

メルカリは創業初期から、最先端の技術動向やそれに伴う社会課題に対して、学術界(アカデミア)との協働を重んじてきました。

今回のワークショップのファシリテーターを務めてくださった工藤先生は、メルカリの研究開発組織「R4D」や、当社の「マーケットプレイスのあり方に関するアドバイザリーボード」などを通じて、長年にわたり当社のサービスやガバナンスのあり方に多大な知見を提供してくださっている心強いパートナーです。江間先生もAIガバナンス、AI政策等において第一線でご活躍される研究者であり、主催されているセミナー等に度々参加させていただいておりました。

企業のAI利用に対する責任が増す今、「ルールやガイドラインを策定するだけでなく、社員一人ひとりが、AIインシデントの当事者としての解像度を上げること」が必要であると感じていた折、3月に開催された

JDLA  Connect×CDLE ALL Hands:https://jdla.connpass.com/event/383695/

におけるワークショップに、弊社の今枝が参加させていただいたご縁から、今回の体験型ワークショップの企画が実現しました。

                    (出典:JDLA Connect x CDLE All Hands)

交渉型シミュレーションゲーム「笑顔の謝罪会見」とは?

「AIガバナンス」と聞くと、チェックリストの確認や座学のコンプライアンス研修を想像されるかもしれません。しかし、このワークショップのコンセプトは全く異なります。

【ゲームの設定】

AIモデルを活用した就活マッチングサービスを提供する「AIサービス提供企業」に対する「特定の属性を持つ応募者が不当に低く評価されている」という投稿がSNSで炎上。 このAIモデルを開発し納品した「AI開発企業」が別に存在し、参加者はそれぞれの企業の役に分かれ、限られた情報と時間の中で、「予定されている合同記者会見をどう乗り切るか」をめぐって交渉・合意形成を行います。

【主な検討・交渉事項】

  • 謝罪をすべきか、何をどこまで公表するか
  • 責任の所在をどう整理するか
  • 補償や第三者委員会の判断
  • 再発防止策と調査の進め方

双方の企業には、それぞれ異なる「機密情報」が渡されており、お互いが探り合いながら交渉を行う仕組みになっています。

当日の様子:メルカリの多様なプロフェッショナルが激突!

ワークショップには、大阪大学の研究者、弊社のAIエンジニアや法務担当者、広報担当者、研究開発組織の担当者、そして私たち政策企画など、多様なバックグラウンドを持つメンバーが参加しました。

「AIサービス提供企業」役と「AI開発企業」役に分かれた参加者たちは、ゲーム開始と同時にそれぞれの立場になりきって交渉を開始。会議室の熱気は一気に高まり、白熱した交渉が繰り広げられました。

交渉で最も紛糾したのは、やはり「責任の所在」と「どこに落としどころを見つけるか」という点です。

実際のインシデント対応でも発生する社内意見の食い違いや、双方の企業の利害調整などがゲームの中でリアルに再現されていきます。メルカリの現場を支えるメンバーならではのリアルな応酬が繰り広げられました。

ワークショップから得た、実務に活きる3つの教訓

今回のワークショップは、参加したメンバーに非常に多くの気付きを与えてくれました。特に、企業の実務における教訓として、以下の3点が浮き彫りになりました。

① インシデント発生時の対応方針の策定

インシデントが発生した際は、社内での意見集約や意思決定等について、時間が限られる中で対応する必要があります。そのため、事前にインシデントケースごとの役割分担やコミュニケーションライン、対応内容(開発過程におけるデータ利用、対応ログの調査等)について社内でマニュアル等を策定し共有することが重要であると改めて認識しました。

② データに潜むバイアスについての議論深化

属性情報をAIモデルの学習情報として利用しなくても、行動データの蓄積や様々なデータの関連性によって、いつの間にかそのAIモデルが特定の属性集団に対して不利益なバイアスを持ってしまう可能性があります。どのようなバイアスが発生しうるかなどについて、外部の専門家等と連携しながら社内で議論し、社員のリテラシーを向上させる必要があります。

③ 「作って終わり」ではない。継続的なモニタリングの必要性

AIモデルはリリースされた瞬間がゴールではありません。時間の経過や社会情勢の変化、ユーザー行動の変容によって、予測の精度やバイアスの現れ方は常に変化します。インシデントを未然に防ぐためには、AIモデルの定期的なモニタリングと評価の仕組みをガバナンスの中に組み込んでおくことが重要です。

メルカリの次なるアクション:AIガバナンスの高度化へ

メルカリでは、これまでも責任のあるAI活用に向けたポリシーの策定・公表や、社内ガイドラインの運用を行ってきました。しかし、今回のワークショップでの気づきと学びを経て、私たちはガバナンス体制をさらに一歩進める必要があると考えています。

開発チームとガバナンスチームが連携し、バイアスの検知やモデルの健全性を継続的にチェックできる仕組みを構築し定期的にモニタリングすることで、お客さまにこれまで以上に「安心・安全」な取引環境を提供することを目指します。

また、今回のワークショップで得られたデータ等を含む研究結果は、2026年6月に開催された「人工知能学会全国大会(JSAI2026)」にて江間先生と工藤先生によって発表されました。学術的な知見の発展に、実務家としてのフィードバックを通じて貢献できたことを、大変光栄に思っています。

2026年人工知能学会全国大会(第40回)HP:

https://pub.confit.atlas.jp/ja/event/jsai2026/presentation/4G4-OS-26a-03

7月8日には、本ワークショップを体験できるイベント「AIガバナンス体験ワークショップ: 交渉型シミュレーションゲーム『笑顔の謝罪会見』アセット公開記念イベント」が開催されます。『笑顔の謝罪会見』のアセット(教材)も公開予定とのことですのでぜひご参加ください。詳細と申し込みは以下のURLとなります。

AIガバナンス体験ワークショップ: 交渉型シミュレーションゲーム『笑顔の謝罪会見』アセット公開記念イベント:

https://www.tc.u-tokyo.ac.jp/ai1ec_event/17416/

おわりに

AIガバナンスの分野で学術界の最先端を走る江間先生、工藤先生のお二人による今回のワークショップ。数年前からその存在を知り当社でも体験してみたいと思っていたため、今回の企画が実現し感慨深いです。メルカリで様々な役割を担うメンバーが「AIのバイアスとガバナンス」について真剣に、かつ楽しみながら学ぶことができました。改めて、ご協力いただいた先生方、当日運営いただいた江間研究室の大谷様、JDLAの木下様に感謝申し上げます。

メルカリ政策企画チームは、アカデミアなどの社外の有識者と社内をつなぐ結節点として、マルチステークホルダーコミュニケーションによりテクノロジーに潜むリスクを適切に把握しながら、テクノロジーの社会的価値を最大化し「信頼されるAI活用」に貢献してまいります。

(文:松橋 智美、写真:東京大学江間研究室、工藤郁子特任准教授)