先端技術リサーチ
AI公平性・説明可能AI（XAI）の概説と動向
2022年12月09日 先端技術ラボ 近藤浩史、間瀬英之、大沼俊輔
AIは性能の高さに注目が集まりがちであるが、AIをシステムに実装して利活用を促進するには、公平性、透明性、セキュリティ・堅牢性、安全性といった様々な課題や懸念事項を克服する必要がある。中でも、公平性および透明性(説明可能性など)は、多くのAI倫理原則・ガイドラインで言及されていることに加え、学術・産業界においても関連する研究が増えており、AI社会実装において肝となる論点である。本レポートでは、AI公平性・説明可能AI（以下、XAIという）について概要と動向をまとめ、技術の展望および企業に向けた推奨事項を考察・提言した。特に、世の中で規制が厳しく適用される金融業界を具体例に挙げ解説している。
近年、AIシステムは、社会的に重要な意思決定（人事採用、犯罪予測など）に利用される一方、AIが訓練データに含まれる人間の偏見を学習してしまうなど、「公平性」が問題になった事例が報告されている。また、ユーザである人間がAIを信頼し協調できるようにするためには、XAIが求められている。
そのような中、AI公平性・XAIの実現に向けた具体的な取り組みが始まっている。例えば、顔認識モデルは、人種によって顔認識の精度が異なることや人種差別的な偏見が学習されていることなどがあるとされ、それらが警察による誤認逮捕といった問題を引き起こす可能性さえあることが指摘されている。そのため、例えば、Meta社は年齢・性別・見た目の肌の色・照度などがアノテーションされたデータセットを公開している。また、規制業種の金融分野では、Zest AI社が信用スコアリングに寄与する主要な要素を特定し、なぜローン審査が落ちたと判断されたのかを説明できるモデルを開発している。さらに、AI公平性・XAIを実現する商用ツールも登場し、一部技術は実用化の段階に移っているが、現時点で全ての社会ニーズを満たしているわけではない。今後も基礎研究～実用化の全フェーズで研究開発が進展していくと予想される。
このような技術動向および市場・活用動向を踏まえて、企業に向けた推奨事項として以下の５点を提言する。
１．AIに関する法規制はまだ実運用に至っていないが、迅速な活用・実践のため、代表的な技術手法や最新動向、活用例を情報収集しておく
２．AIの管理運用を組織的に行うための組織・ガバナンス体制を構築する
３．AIシステムの開発完了時に公平性・説明可能性を検証するのではなく、システムの企画段階から検討を開始する
４．AI公平性は、類似の公平性定義が多数あり、どの指標を用いて良いか実務者が分かりにくい。指標の使い分けに関するガイドライン等の整備といった、社会技術的な観点での対応・検討を行う
５．全てを説明できる万能なXAI手法は無いため、利用者は各アプローチや、説明対象を理解し、利用者や利用するタスク、データ等に応じて使い分けていくこと
AI公平性・説明可能AI（XAI）の概説と動向
