採用AIを任せきりにしない、EU法が求める7つの証跡

EUで応募書類の分析・絞り込み、候補者評価、昇進・解雇、個人の行動や特性に基づく業務配分、従業員の監視・評価に使うAIは、原則として高リスクAIに分類される。2026年7月27日付の EU AI Act統合版 では、これらAnnex IIIの高リスクAIに関する規則の適用開始は2027年12月2日とされている。

同日までに導入企業が整えるべきなのは、ベンダーの適合宣言だけではない。用途とリスク、入力データ、ログ、製品文書、本人への通知、人間の監督、運用後監視という7種類の証跡を、採用工程と個別の判断に結び付ける必要がある。これは法令上の七つの書類名ではなく、提供者側の設計要件と導入企業側の運用義務を、監査可能な単位にまとめた実務フレームである。

高リスクかどうかは製品名ではなく用途で決まる

「支援ツール」「採用アシスタント」といった名称ではなく、AIが誰について何を入力し、どの判断に影響するかを確認する。候補者の自動排除だけでなく、面接対象者の順位付け、適性スコア、採用担当者に表示する応募者の絞り込みも、採用結果へ実質的に影響するなら高リスクに該当し得る。

ただし、Annex IIIに関係するすべてのソフトウェアが自動的に高リスクになるわけではない。健康、安全、基本権への重大な危害のリスクがなく、判断結果へ実質的に影響しない限定的な事務作業や準備作業などはArticle 6(3)の除外対象になり得る。一方、自然人のプロファイリングを行うシステムにはこの除外を使えない。

• 履歴書選別：情報抽出だけか、順位付けや足切りまで行うかを分ける。
• 採用チャットボット：日程案内に限るのか、回答から応募資格や優先度を判定するのかを確認する。
• 心理・適性検査：測定する特性、職務との関係、結果が選考に占める重みを特定する。
• 動画面接：回答内容に加え、声、表情、視線、姿勢から特性を推論するかを確認する。

機能ごとの台帳には、利用目的、対象者、入力、出力、出力を見る担当者、最終決定者、AIを使わない代替経路を記載する。同じ製品を採用後の配置、評価、監視へ転用する場合は、別用途として分類をやり直す。

監査ファイルに残す7つの証跡

EU AI Actは、提供者にリスク管理、データガバナンス、記録機能、技術文書、利用者への情報提供、人間による監督、運用後監視などを求める。一方、導入企業には、説明書に沿った利用、適切な入力、人間の監督、稼働監視、管理下のログ保存、関係者への通知などが課される。したがって、次の七項目には「ベンダーから取得する資料」と「自社で作る運用記録」の両方が含まれる。

1. 用途・リスク記録：対象工程、AIが判断に与える影響、誤判定、差別、アクセシビリティ、プライバシーへの影響を記す。リスクごとに軽減策、責任者、利用停止条件、再評価の契機を割り当てる。
2. データ統制記録：自社が管理する入力について、職務との関連性、対象集団に対する代表性、欠損、代理変数、更新方法を確認する。学習・検証データは、ベンダーに由来、評価対象、既知の限界を照会し、回答できない項目も残余リスクとして残す。
3. ログ：自動生成された出力、利用日時、モデルや入力の版を保存し、自社の担当者、確認結果、上書き、停止、最終判断と対応付ける。
4. 技術・調達文書：意図された目的、性能指標、対象外用途、既知の制約、更新履歴、利用説明書、適合性資料を取得する。契約では、変更通知、ログへのアクセス、問題発生時の調査協力も定める。
5. 通知・説明記録：どの工程でAIを使うか、誰が最終判断するか、問い合わせ先を候補者や従業員へ示し、通知文の版、提示時点、対象者を保存する。
6. 人間の監督記録：監督者の役割、訓練、権限、確認手順、上書き条件、停止方法を定め、実際に介入した履歴を残す。
7. 運用後監視記録：エラー、苦情、手動上書き、合理的配慮、職種や対象集団の変化を追い、問題の報告先、停止判断、是正後の再開条件を記録する。

Article 26の導入企業義務 によると、管理下にある自動生成ログは、目的に応じた期間かつ原則として少なくとも6か月保存する必要がある。また、職場で使う場合の労働者代表と対象労働者への事前通知、自然人に関する判断へ関与する場合の本人への通知も定められている。これらの高リスクAI義務も、Annex IIIの採用AIについては2027年12月2日から適用される。

人間の監督は「見た」ではなく「覆せた」で確認する

監督の実効性は、担当者がAIの推奨を閲覧したかではなく、出力の能力と限界を理解し、過度に依存せず、無視・上書き・取消しができ、必要ならシステムを止められるかで判断する。元の応募情報へ戻る手段、別の評価経路、異常を報告する窓口も必要になる。

上書き条件は抽象語で済ませない。例えば、職務と無関係な欠損値が順位へ影響したとき、合理的配慮が入力や評価へ反映されていないとき、更新後に結果の分布が大きく変わったときは、原資料を人が再確認する。担当者に権限がない、変更理由を記録できない、上書きが事実上不利益になる運用では、監督は形式にとどまる。

候補者から異議が出た場合の社内手順も、監督設計の一部として用意する。対象工程、再確認する担当者、追加提出できる情報、回答期限、訂正方法を決め、可能な限り元のAI出力だけに依存しない再審査経路を設ける。

工程別監査表で一件の判断経路を追跡する

監査表は、ツールごとにAIの役割／入力データ／決定権者／人が覆す地点／異議申立て／保存ログ／定期評価の責任者を一行で追える形にする。保持期間や評価項目は、製品、用途、個人データに適用される法令を踏まえて確定する。

• 履歴書選別：抽出、順位付け、足切りのどこまでをAIが担うかを記す。除外前に担当者が原文を確認できるか、不採用理由、モデル版、順位、手動復帰を保存できるかを確認する。
• チャットボット：案内と評価を分離し、保存する回答、言語、有人転送、訂正、苦情の担当者を記す。誤案内やアクセシビリティ上の障壁が起きた候補者を有人経路へ戻せるようにする。
• 心理・適性検査：測定概念と職務要件の対応、検証対象となった集団、合否への重みを記録する。合理的配慮や代替検査の承認者を決め、単一スコアだけで排除しない確認地点を置く。
• 動画面接：文字起こし、回答内容、視線、表情など、利用する特徴を分離して記す。英国政府の採用AIガイド は、視線を関与度の代理指標にすると、神経多様性、介護中の中断、文化的背景によって差別的な結果を生じ得ると指摘している。特徴を使う職務上の合理性、代替面接、手動再審査、録画と推論結果の取扱いを監査表へ記す。

証跡が欠けた機能は導入判定を保留する

稼働前の審査では、七項目を「あり／なし」で終わらせず、証拠の所在、所有者、対象バージョン、最終更新日、未解決リスクを確認する。ベンダーがデータの代表性、既知の制約、ログ取得方法、介入手段を示せないなら、提出を契約条件にするか、その機能を採用判断から外す。

稼働後は、モデル、職種、評価基準、入力項目、対象地域が変わった時点で再評価する。目標はAIの判断へ人の承認印を付けることではない。候補者がなぜその経路を通り、誰がどの情報で介入でき、問題の発見後に何を止めて直したのかを再現できる状態にすることである。