のぞみ総合法律事務所
弁護士　高野　修一

１　はじめに

　近年、AIの社会実装が急速に進展し、人事・採用分野においてもAIを利用した人材評価（AIプロファイリング）の活用事例が見られるようになりました。もっとも、AIの活用にはプライバシーリスク、判断過程の不透明性、バイアスの混入等の様々なリスクが伴い、AIの便益を最大化しつつリスクを最小化するためには適切なAIガバナンスの設計と構築が不可欠です。今回のニュースレターでは、人材評価におけるAIの活用を題材に、AIガバナンスの基本的考え方を概観してみたいと思います。
　より詳しい内容は、『人材評価におけるAIプロファイリングの活用：ガバナンスの「視点」と「施策」に関する提案』も併せてご参照ください！

２　AIプロファイリングとは？

　AIガバナンスの話題に入る前に、AIプロファイリングについて説明します。
　「プロファイリング」とは、心理学や統計学等の科学的手法を用いて個人の情報を分析し、当該個人の他の側面を推測又は評価することをいいます。プロファイリング自体は、AI登場以前から犯罪捜査やマーケティング等で広く用いられてきましたが、限られた情報を「人」が分析するため、その範囲や正確性に制約がありました。
　これに対し、AIをプロファイリングに活用すると、インターネット上に蓄積された膨大なデータを短期間かつ低コストで分析することが可能となり、その範囲や分析精度は大幅に向上し得るとされています。
　人事分野では採用スクリーニングや人材配置マッチングへの活用が広がっており、効率化・コスト削減に加え、バイアスの低減による公正な評価の実現や労働生産性の向上といった有益性をもたらすものとして期待されています。

３　AIガバナンスの考え方と法規則の概要

　AIガバナンスとは、AIの開発・利用を通じた恩恵を最大限に享受しつつ、一方で、AIに内在するリスクを最小化するための規律・統制の枠組みということができます。
　以下では、AIガバナンスに関する2つの主要な考え方についてご紹介した上で、AIプロファイリングに対する我が国の法規制の概要をご説明します。

（１）　リスクベースアプローチ

　AIガバナンスにおける「リスクベースアプローチ」とは、AIがもたらすリスクやその大きさを特定し、これに応じて規制・管理の強度を変えるという考え方です。このようなアプローチはいくつかの国で採用されており、欧州のEU AI Actがその代表例といえます。EU AI Actは、AIを4段階のリスクに分類し、人事・採用分野など個人に重大な影響を及ぼし得る高リスクのAIには厳格な要件を課しています。リスクベースアプローチは、AIに対する過剰な規制を避けつつ、重大なリスクに対して相応の規律を及ぼすことができる点で、合理的な枠組みといえます。

（２）　アジャイル・ガバナンス

　ご存じのとおりAIの成長スピードは凄まじく、既存の法規制では十分な対処が追い付かず、リスクコントロールの不十分さは否めません。こうした課題に対して提唱されているのが、「アジャイル・ガバナンス」の考え方です。
　この考え方は、事前にルールや⼿続を固定化した伝統的なガバナンスの在り方ではなく、技術や社会の変化に柔軟に対応するため、ゴールベースで原則を定め、各主体が自律的に対応する仕組みを構築し、アジャイルに当該仕組みを変化させ、リスクを管理するというアプローチです。既存の規制が新技術の変化に追いつけない場面においても、イノベーションを阻害せずに、臨機応変にリスクに対応する手法として期待されています。
　経済産業省の「Society5.0における新たなガバナンスモデル検討会」において提唱され、「AI事業者ガイドライン（第1.2版）」においても、アジャイル・ガバナンスの実践が重要であることが述べられています。

（３）　我が国における規範的枠組み

　我が国には、AIを直接的に規制する法規範は存在しません。2025年9月1日、「人工知能関連技術の研究開発及び活用の推進に関する法律」が施行されましたが、同法は、AI推進に関する政府の責務を中心に規定する理念法的な性格を有するもので、企業に対する直接的な規制を課すものではありません。なお、政府による調査や指導・助言の根拠となる規定が置かれているため、今後の運用動向は注目です。
　一方で、個別場面に応じて、既存法令の規制を受ける場合があるので、AIの利用場面・方法等によって、これらの適用がないかは十分に確認しましょう。
　今回題材としている人事分野では、個人情報保護法や労働法制などを意識する必要があるかと思います。例えば、個人情報保護法との関係では、AIプロファイリングに用いる個人情報の取得・利用の場面で、同法に従った対応を行わなければなりません。AIプロファイリングによって生成される情報についても、特定個人に関する推測・評価が得られることになるため、プライバシー等の観点から注意が必要になるでしょう。また、労働法制との関係では、AIプロファイリングが孕むバイアスにより特定属性の個人を不当に低く評価した場合、男女雇用機会均等法や職業安定法上の差別的取扱いに該当するおそれも生じ得るところです。活用するAIの仕様や場面に応じて、どのような法規制の対象となるのかを確認しなければなりません。

４　AIプロファイリングのリスク

　AIのリスクを事前に整理するためには、AIが活用される場面のプロセスを細分化し、段階化すると整理しやすくなります。例えば、人事分野でAIプロファイリングを活用する場面では、人事プロセスを以下の3段階に分けてみることができます。
　①収集段階：対象者に関する情報を収集する段階
　②分析・利用段階：AIプロファイリングによる分析と結果の利用段階
　③保管段階：情報・分析結果を保管・保持する段階
各段階で問題となるリスクの典型は、以下のとおりです。

【図１】　プロセス段階×リスク

　プライバシーリスクは全段階で潜在します。もっとも、分析・利用段階では、対象者の関知しない新たな情報（能力、性格、向き不向き等）が推測・生成される点で、従来の人によるプロファイリングとは質的に異なる性質があります。
　プロファイリングに対するバイアス・誤情報の混在は、主に分析・利用段階で問題となります。活用するAIがバイアスを持ってしまった場合には、その影響が全評価対象に及び、かつ発見・修正が困難となる点でも、人による評価とは質的に異なる影響があります。
　判断過程の不透明性は、AIモデルが機械学習等によって構築されるパラメータの複雑性に起因し、分析・利用段階及び保管段階の双方で問題となります。事後に（保管段階で）紛争が生じた場合には、企業側が判断の正当性の根拠を示せないというリスクもあります。
　上記の他にも、人事分野は、評価結果が個人のキャリアに直結することから、AIを活用することに対する対象者の心理的抵抗感が他分野よりも強いのではないか、という点もリスクとして挙げられると思います。過去には、賃金査定AIの導入をめぐって労働紛争に発展した事例も存在します。

５　AIガバナンスのための施策例

　以下では、上記で整理したプロセスやリスクを踏まえて、人事分野でAIプロファイリングを活用する場合に検討すべき施策をご紹介します。これらは一例であり、各企業の事情を前提に、優先順位付けと取捨選択が求められます。

（１）　収集段階：同意の取得と利用情報の明示

　収集段階におけるプライバシーリスクを低減する基本的な施策は、本人の理解に基づく同意を取得することです。同意の前提として、AIプロファイリングを実施すること自体の明示に加え、利用する情報の具体的な範囲と内容も明示する必要があります。特に、履歴書等の通常の人事判断に用いる情報を超えて、（公開情報であっても）社内外のSNS情報など、対象者が利用されることを意図していない情報を用いる場合には、不意打ちとならないよう明示することが不可欠です。
　また、AIが変数として扱う要素（筆跡、表情、声のトーン等、人による評価では考慮されない要素を含みます。）を可能な限り明示し、それらが評価において必要かつ合理的な範囲に限定されていることを示すことも、対象者の心理的抵抗を低減する観点で重要と思われます。

（２）　分析・利用段階：人間関与とフィードバック

　分析・利用段階の施策のポイントは、「人間関与」です。現時点では、人材配置の判断を全面的にAIに委ねることは、被評価者の心理的抵抗の観点からも、判断過程の不透明性等のリスクの観点からも、許容され難いといえるでしょう。AIプロファイリングの結果を参考としつつ、人事担当者や配属先部門の従業員が最終判断に関与する仕組みが求められます。
　関与の程度については、活用するプロセスや判断の重大性に応じて設計することが重要です。例えば、現時点では、最終的な採用合否や配属決定の場面において、AIプロファイリングの結果はあくまで参考資料の一つにとどめ、人間が判断の主体となる設計が望ましいと思われます。
　また、判断過程の不透明性を解消するため、AIプロファイリングの分析結果を対象者にフィードバックし、事実誤認や不当な評価に対する申立て・再評価を求める手続を設けることも有効かもしれません。対象者からのフィードバックは、AIの精度向上や欠陥の発見にも寄与する可能性があります。

（３）　保管段階：保有最小限化と第三者移転制限

　人材配置の判断が終了した後も、企業がプロファイリング結果を漫然と保有し続けることは、情報漏洩のリスクと被評価者の心理的圧迫感を高めます。したがって、保有期間の明確化と消去の原則を徹底すべきです。
　特に、プロファイリング結果の第三者提供は厳に制限すべきです。人材評価は、各企業の独自の価値観や経営戦略に基づく個別具体的な判断であり、ある企業のプロファイリング結果を背景の異なる他社に流用する合理性は乏しいといえます。

（４）　事後的な救済措置

　事後的な紛争に備え、対象者に対する救済の枠組みをあらかじめ策定しておくことが望ましいといえます。救済策としては、大別すると、①損害の金銭的補填、②対象者が本来得られるはずであった地位の実現が考えられます。特に後者については、時間の経過によって、対象者が他社で既にキャリアを築いている場合など、一律の救済が困難なケースもあるため、個別事情を勘案した柔軟な対応プロセスを設計しておく必要があります。

６　結語

　AIプロファイリングは、人材の適正配置と労働生産性の向上を実現する強力なツールである一方、適切なガバナンスなしにはその真価を発揮することはできません。本稿で示した枠組みは、人事分野以外のAI活用場面にも応用可能なものです。
　AIガバナンスの仕組みは、固定的なものではなく、技術の進化と社会の受容度を見極めながら継続的に見直していくべきものです。各企業におかれましては、自社の事業内容と価値観を踏まえつつ、適切なガバナンス体制の構築と更新を進めていくことが、AI時代における重要な責務となるでしょう。
　当事務所では、AI活用に伴う社内ポリシー・ガイドラインの策定支援、個人情報保護法・労働法制を踏まえた契約・規程整備、人事分野におけるAI導入に関するご相談など、本稿で扱ったAIガバナンスに関連する各種の法務サポートを提供しております。お困りの際はお問い合わせください。

本稿に関するお問合せは、執筆者である高野修一弁護士に直接ご連絡いただくか、又は弊所ウェブサイトのお問合せフォームまでお問合せください。

※本稿は、2026年6月執筆時点の法令に基づいており、現在の法律やその後の裁判例などの解釈が異なる可能性がございます。 　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　

以　上