AI導入の法務・倫理・社会的課題（ELSI）について

■日本IBMの労使紛争の和解
8月10日の日経新聞Web版に、日本IBMの労使紛争の和解に関するニュースが掲載されました。同社が人工知能（AI）による人事評価を行なったことに対して、同社従業員が加盟する労働組合が会社側にAIの評価ロジックの詳細説明を求めていたという件です。仲裁にあたった東京都労働委員会によると、同社のAI評価はスキル、パフォーマンス、ポテンシャルなどの分野に分かれ、学習データは40項目以上に及ぶとのことです。報道を読む限り今回の和解はAIの評価項目を開示することで決着したようです。

■AIの説明可能性と解釈可能性
このニュースを聞いて、雇用・人事分野におけるAIの説明可能性（Explainability）と解釈可能性（Interpretability）のあり方について一つの答えが出たと思いました。AIモデルが予測を返す仕組みを明らかにすることを解釈可能性といい、AIがなぜその予測を返したのかを説明できることを説明可能性といいます。推測ですが、個々人の給与査定のアルゴリズムの開示を要求しているのではなく、AIの評価項目を開示した上で上司が従業員に査定内容を説明する機会を設けることで説明可能性を確保したものと思われます。

■AI導入の社会的課題
AIなど最新技術を導入する際の倫理・法務・社会的課題は“Ethics Legal Social Issues” の頭文字からELSIと呼ばれています。具体例として2018年にAmazonがAI履歴書分析システムで男性優位の評価を行っていた件はよく知られています。これは過去の合格者に男性向けスポーツの経験者が多かったため男性優位のバイアスを組み込んでしまったという初歩的なミスでした。2022年にはドイツ製AI動画面接システムの応募者のボディランゲージや服装、背景などでスコアが変わってしまう欠陥に関する報道もありました。

■ワークデイ問題
最近の事例として米国の人事ソフトウェア大手Workday Inc.に対して黒人男性が起こした訴訟をご紹介します。この男性はWorkday導入企業100社に応募して全社不合格だったことからWorkday ATS（採用管理システム）の履歴書AI審査機能が「黒人、40歳以上、障がい者、うつ病傾向」を不当に低評価していると訴えています。また応募書類を入力して１分以内に不採用通知が届くのは選考プロセスをAI任せにしている証拠だとも主張しています。今後米国の連邦地裁がどのような判断を下すのか注目されます。

■過去の事例では何が問題だったのか？
当社に合格しやすい人を選んで欲しいという根強い希望があります。ところが過去の合格者情報をそのまま教師データ化すると周辺情報まで取り込んでしまう可能性があります。例えば、過去の内定者の大半はスーツを着ていた。だからスーツを着ている候補者は内定者に近い。過去の内定者は部屋が整理整頓されていたので、部屋の汚い候補者は内定者から遠いという具合です。これらのバイアス要素は時代や環境の変化、職務能力との関連性を踏まえて慎重に除去する必要があります。また最終判断をAI任せにしていると誤解されないようにすることも大切です。