AI導入前リスクアセスメント チェックリスト

AIリスクアセスメントの3つのフレームワーク

AI固有リスクを評価する国際的ベースラインは3つに収斂している。第一に、NIST AI RMF 1.0は2023年1月公開、Govern／Map／Measure／Manageの4機能で構成される^[1]。Mapでユースケース・利害関係者・限界を特定し、Measureで定量・定性指標により信頼性を評価する。第二に、ISO/IEC 23894:2023はISO 31000のリスクマネジメント原則をAI領域に拡張し、リスク基準・許容度・所有者の明文化を求める^[4]。第三に、EU AI Actは附属書IIIの高リスク用途（採用・信用スコア・生体認証・重要インフラ等）について、第9条で全ライフサイクルのリスクマネジメントシステム構築を要求する^[2]。日本では経産省・総務省共管の「AI事業者ガイドライン」第3部が、開発者・提供者・利用者にリスクベースアプローチでの評価と継続モニタリングを規定する^[5]。NIST RMFの4機能を骨格に、ISO 23894の管理プロセス、EU AI Act／M-24-10の規制要件、日本ガイドラインの社会的責任を重ねる形で社内テンプレートを整備するのが実務解である。

業務影響度の評価方法

業務影響度（Business Criticality）は、AIの判定が誤った場合に組織・個人・社会へ及ぼすインパクトを定量化する軸である。NIST AI RMF Playbookは、Mapフェーズの「MAP 5.1」で潜在的影響を「人・組織・エコシステム」の3レベルで列挙することを推奨する^[6]。Microsoft Responsible AI Impact Assessment Templateは、Intended Uses、Stakeholders、Fitness for Purpose、Adverse Impact、Data Requirementsの5セクションで影響度を構造化し、各用途について「物理的・心理的・経済的損害」を明示させる^[7]。実務上は、(1)人命・身体、(2)個人の権利・機会、(3)財務・契約、(4)レピュテーションの4階層でスコア化し、最大値を影響度ランクとする方法が分かりやすい。例えば人事採用AIはEU AI Act附属書III第4項に該当し高リスク扱いとなる^[2]。一方、社内議事録要約のように最終判断が人にあるユースケースは影響度Lowに分類できる。重要なのは「同じ生成AI基盤でも用途によって影響度が変わる」点で、モデルではなくユースケース単位で評価することがNIST RMF・ISO 23894・OMB M-24-10共通の前提となっている^[3]。

データ機密度評価

データ機密度（Data Sensitivity）は、AIが処理する入力・学習データ・出力に含まれる情報の保護要求度を測る軸である。第一の評価ポイントは個人データ該当性で、GDPR第35条はプロファイリング含む自動化処理に対しデータ保護影響評価（DPIA）を義務化する^[8]。日本でも個人情報保護委員会は2024年に通則ガイドラインを更新し、生成AI利用時の本人同意・利用目的特定の重要性を強調した^[9]。第二は特別カテゴリーデータで、医療・人種・宗教・性的指向・生体識別データはGDPR第9条で加重リスクが課される^[8]。第三は営業秘密で、不正競争防止法の3要件（秘密管理性・有用性・非公知性）を満たす情報を外部API型生成AIに投入すると秘密管理性が失われるリスクがある^[10]。第四は規制業種固有データで、金融機関の顧客情報、医療機関の要配慮個人情報など追加要件がある。実務テンプレートとしては、各データ項目を「公開／社内／秘密／極秘」の4段階に分類し、極秘・特別カテゴリー・営業秘密のいずれかを含む場合は外部学習禁止・テナント分離・ログ最小化を必須化するルールが現実的である。IBMのAI Ethics Impact Assessmentもデータプロビナンス・同意・最小化を3原則として明示している^[11]。

規制適用判定

規制適用判定（Regulatory Mapping）は、当該AIユースケースに適用される国内外の法令・ガイドラインを特定する工程である。EU AI Actは域外適用を持ち、EU市場に出力を提供する場合は日本企業も対象となる。附属書IIIの高リスクカテゴリーに該当すれば、リスクマネジメントシステム（第9条）、データガバナンス（第10条）、技術文書（第11条）、ログ保存（第12条）、人による監視（第14条）、堅牢性（第15条）が義務化される^[2]。米国ではOMB M-24-10が2024年3月に発出され、Safety-impacting AI／Rights-impacting AIに分類される用途について、リスク管理プラクティスの実装と公開AIユースケースインベントリの維持が義務付けられた^[3]。日本の業種別では、医療なら「医療情報システムの安全管理に関するガイドライン第6.0版」^[12]などが参照点となる。判定の実務では、(1)処理対象者の所在地、(2)用途カテゴリー、(3)業種規制、(4)データ種別の4チェックで適用法令を網羅する。

アセスメント結果から導入可否決定

3軸の評価結果を踏まえ、最後に導入可否（Go／No-Go／Conditional Go）を決裁する。NIST AI RMFのManage機能は、リスク許容度を組織が事前に定め、それを超えるリスクは是正・受容・回避・移転のいずれかで処理することを求める^[1]。実装テンプレートとしては、影響度×機密度×規制の3次元マトリクスでRed（要承認）／Amber（条件付き可）／Green（標準統制で可）の3区分を設け、Redは経営会議またはAIリスク委員会の承認を必須とする運用が定着しつつある。条件付きGoの場合は補償統制として、Human-in-the-Loop、出力サンプリング監査、説明責任ログ、契約上のベンダー責任明確化を組み合わせる。可否決定を一度きりのゲートではなく、ISO 23894が要求する継続的リスクレビューとして再評価する仕組みが要点である^[4]。第三者アクセスが関与するケースでは、データ処理者契約・サブプロセッサーリストの更新・監査権確保が追加要件となる。

導入前リスクアセスメント チェックリスト5項目

1. ユースケース定義の明文化 ― 想定用途・対象者・意思決定への関与度・人による監視ポイントを文書化したか（NIST AI RMF MAP 1.1〜1.6）^[6]。
2. データインベントリと機密度分類 ― 入力データ・学習データ・出力データの来歴・分類・保有期間・第三者共有を一覧化し、特別カテゴリー個人データ・営業秘密・極秘情報の有無を判定したか（GDPR第30条・改正個情法）^[8][9]。
3. 規制適用マッピング ― EU AI Act附属書III該当性、OMB M-24-10適用性（連邦取引）、業種別規制（金融・医療・政府）、域外適用の有無をチェックしたか^[2][3]。
4. DPIA・影響評価の実施 ― プロファイリングや大規模な特別カテゴリーデータ処理に該当する場合、DPIAを実施しデータ保護責任者（DPO）の助言を得たか（GDPR第35条）^[8]。
5. 第三者ベンダー評価 ― AIベンダーのSOC 2 Type II・ISO/IEC 42001・ISO/IEC 27001取得状況、データ処理者契約（DPA）、サブプロセッサーリスト、学習利用オプトアウト、リージョン選択を確認したか^[13]。

打ち手

第一に、社内に「AIリスクアセスメント様式」を1本化し、起案部門が初期セルフチェックを行ったうえでセキュリティ・法務・データ保護責任者がレビューする2段階フローを敷く。Microsoft Responsible AIテンプレートは無料で公開されており^[7]、これをベースに自社のリスク許容度・業界規制を上書きするのが立ち上げ最短ルートである。第二に、NIST AI RMF Playbook^[6]のMap/Measure項目を社内Wikiにマッピングし、起案者が「どの項目を埋めればよいか」を迷わない構造にする。第三に、Red/Amber/Green判定をAIリスク委員会で四半期レビューし、Amber案件はモニタリング指標の合意を必須化する。第四に、ベンダー選定段階でISO/IEC 42001（AIマネジメントシステム）認証の有無を加点要素とし、契約に監査権・インシデント通知義務・再委託制限を盛り込む^[13]。

結論

1. AIリスクアセスメントはNIST AI RMF 1.0のGovern/Map/Measure/Manageを骨格に、ISO/IEC 23894のリスク管理プロセス、EU AI Act・OMB M-24-10・経産省ガイドラインの規制要件を重ねた統合テンプレートを社内標準とする。
2. 業務影響度・データ機密度・規制適用・第三者アクセスの4軸でスコア化し、Red/Amber/Greenの3段階で導入可否を決裁。Redは経営承認、Amberは補償統制とモニタリング、Greenは標準統制で可とする運用が現実解。
3. 導入後も四半期レビューで再評価し、ベンダー側のISO/IEC 42001取得状況・サブプロセッサー変更・インシデント通知を継続的に確認する仕組みを契約と運用の両面で担保する。

経営者視点

AIガバナンスは「規制対応コスト」ではなく「事業の信頼資本」を形成する投資である。EU AI Act違反の制裁金は最大3,500万ユーロまたは全世界売上の7%に達し^[2]、GDPRの最大2,000万ユーロ・4%を上回る水準で設計された。これは欧州当局がAIガバナンスを最優先テーマと位置付ける表明であり、グローバル事業を持つ日本企業にとって域外適用は不可避である。適切なリスクアセスメント体制を築いた企業は、顧客・取引先・規制当局に対し「説明責任を果たせるAI事業者」として差別化できる。CISOと調達・法務・DPO・事業部門が同じテンプレートで議論できる共通言語を持つこと、すなわちNIST AI RMF・ISO/IEC 23894を組織のリスクマネジメントに正式統合することが、経営者が下すべき次の投資判断である。守りのガバナンスを攻めの信頼ブランドに転換できるかが、AI時代の競争力を分ける。

参考文献

1. NIST. “AI Risk Management Framework (AI RMF 1.0).” NIST AI 100-1, January 2023. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
2. European Parliament and Council. “Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act).” Official Journal of the European Union, June 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
3. U.S. Office of Management and Budget. “Memorandum M-24-10: Advancing Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence.” March 28, 2024. https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf
4. ISO/IEC. “ISO/IEC 23894:2023 Information technology — Artificial intelligence — Guidance on risk management.” February 2023. https://www.iso.org/standard/77304.html
5. 経済産業省・総務省. 「AI事業者ガイドライン（第1.0版）」第3部. 2024年4月. https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html
6. NIST. “AI Risk Management Framework Playbook.” 2023. https://airc.nist.gov/AI_RMF_Knowledge_Base/Playbook
7. Microsoft. “Responsible AI Impact Assessment Template.” June 2022. https://blogs.microsoft.com/wp-content/uploads/prod/sites/5/2022/06/Microsoft-RAI-Impact-Assessment-Template.pdf
8. European Parliament and Council. “Regulation (EU) 2016/679 (GDPR), Articles 9, 30, 35.” Official Journal of the European Union, April 2016. https://eur-lex.europa.eu/eli/reg/2016/679/oj
9. 個人情報保護委員会. 「個人情報の保護に関する法律についてのガイドライン（通則編）」令和6年改正版. 2024年. https://www.ppc.go.jp/personalinfo/legal/guidelines_tsusoku/
10. 経済産業省. 「営業秘密管理指針」. 最終改訂2022年5月. https://www.meti.go.jp/policy/economy/chizai/chiteki/trade-secret.html
11. IBM. “AI Ethics: A Holistic Approach – Impact Assessment and Foundational Principles.” IBM Policy Lab, 2022. https://www.ibm.com/policy/ai-ethics/
12. 厚生労働省. 「医療情報システムの安全管理に関するガイドライン第6.0版」. 2023年5月. https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html
13. ISO/IEC. “ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system.” December 2023. https://www.iso.org/standard/81230.html
14. European Data Protection Board. “Guidelines 4/2019 on Article 25 Data Protection by Design and by Default.” Version 2.0, October 2020. https://edpb.europa.eu/sites/default/files/files/file1/edpb_guidelines_201904_dataprotection_by_design_and_by_default_v2.0_en.pdf
15. ENISA. “Multilayer Framework for Good Cybersecurity Practices for AI.” June 2023. https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai