AIガバナンスに必要な体制構築とは？
生成AIをはじめとするAI技術の活用が進む中、企業にはAIの利便性を最大限に生かしながら、その利用に伴うリスクを適切に管理することが求められています。そのためには、組織全体としてAIガバナンス体制を構築することが重要です。まずはAIガバナンスとは何か、および企業におけるAIガバナンス体制のあり方について解説します。
AIガバナンスとは
「AIガバナンス」とは、企業がAIを安全かつ適切に利用するための管理体制やルールの総称です。単にAIの利用を制限するのではなく、AIのメリットを最大化しながら、その利用に伴うリスクを許容可能な範囲にコントロールすることを目的としています。
AIガバナンスの一環としては、たとえばAIの不適切な挙動による人権侵害を防ぐこと、情報漏えいを防ぐこと、ステークホルダーに対してAIの利用に関する透明性を確保し、アカウンタビリティ（説明責任）を果たすことなどが求められます。
企業におけるAIガバナンス体制のあり方
企業においては、経営トップが主導してAIの利用に関する方針や基本原則を明確化し、具体的なルール作りや研修などを通じて社内に浸透させることが重要です。
総務省と経済産業省が策定・公表する「AI事業者ガイドライン」では、事業者などの主体が取り組むべき次の事項を「共通の指針」として掲げています。
- 人間中心｜人権侵害の防止・幸福の追求など
- 安全性｜ステークホルダーの保護など
- 公平性｜偏見や差別の抑止など
- プライバシー保護｜個人情報保護法の遵守など
- セキュリティ確保｜不正操作への対策など
- 透明性｜ステークホルダーへの情報提供
- アカウンタビリティ（説明責任）｜対応状況の説明など
- 教育・リテラシー｜従業員研修など
- 公正競争確保｜公正な競争環境の維持
- イノベーション｜適切な情報提供など
参考｜総務省・経済産業省「AI事業者ガイドライン（第1.1版）」p12～24
これらの事項を念頭にAIガバナンス体制を整備することが求められますが、実際にどのような取り組みを行うべきであるかは事業内容や置かれた状況によって異なります。自社の状況を分析したうえで、必要な取り組みを取捨選択して実施することが大切です。
AIガバナンスの体制構築における法務の役割
AIガバナンス体制の構築に当たっては、法務担当者も法的知見を活かした役割を果たす必要があります。
たとえば、AIの利用によってどのような人権侵害が生じ得るかを分析し、その対策を立案することは、法的知見を有する法務担当者が力を発揮できる分野です。特に著作権などの知的財産権の侵害については、法的に複雑な論点も含まれるため、法務担当者の中心的な貢献が期待されます。
個人情報保護法や不正競争防止法など、情報セキュリティに関連する法律に関する知見も、AIガバナンス体制の構築に役立ちます。法務担当者としては、よりよいAIガバナンス体制を構築するため、経営トップなどに対して法的知見を踏まえた忌憚のない意見を述べることが求められます。
AIガバナンス体制の構築手順
企業がAIガバナンス体制を構築する際の手順は、次のとおりです。AI事業者ガイドラインでは、幅広いステークホルダーを巻き込みながら、このサイクルを継続的かつ高速に回転させる「アジャイル・ガバナンス」の実践が重要であると指摘されています。
- 環境・リスク分析
- AIガバナンス・ゴールの設定
- AIマネジメントシステムの設計（システムデザイン）・運用
- AIマネジメントシステムの評価・改善
環境・リスク分析
まずは、自社を取り巻く環境やAIの利用に伴うリスクを把握する必要があります。AIの活用目的や利用場面、取り扱うデータの種類、適用される法令やガイドラインなどを整理し、どのようなリスクが存在するのかを分析します。
代表的なリスクとしては、次の例が挙げられます。そのほか、業界特有の規制や顧客からの要請などにも注意が必要です。
- 差別的な表現の発信、判断
- 誤情報の拡散
- 個人情報や営業秘密の漏えい
- 知的財産権（著作権など）の侵害
- 外部からのハッキング
など
AIガバナンス・ゴールの設定
環境・リスク分析の結果を踏まえて、AIを利用するか否か判断します。AIを利用する場合は、AIガバナンスによって達成すべき事項（＝AIガバナンス・ゴール）を検討し、自社のポリシーなどとして策定・公表しましょう。
AIガバナンス・ゴールは、自社の存在意義・理念・ビジョンといった経営上のゴールと整合させることが大切です。
AIマネジメントシステムの設計（システムデザイン）・運用
AIガバナンス・ゴールを設定したら、それを達成するための組織体制や役割分担、AI利用に関するルールなどを定めます（＝AIマネジメントシステムの設計）。具体的には、次のような対応が必要になります。
- AI利用に関する責任者と担当部署を明確化する
- AIの利用方針や利用範囲などを定める
- 高リスクな方法でAIを利用する際の手続き（審査や承認など）を定める
- AIの利用に関して問題が発生した際の報告や対応のフローを定める
- AIマネジメントシステムの評価や改善に関する手続きを定める
- 上記の各事項などをまとめた社内規程やガイドラインを策定する
など
設計したAIマネジメントシステムの運用に当たっては、責任者や担当部署が適切に役割を果たすことが求められます。また、定期的な研修などを通じて、社内全体にAI利用に関する留意事項を周知することも大切です。
さらにステークホルダーに対しては、透明性の確保とアカウンタビリティ（説明責任）の観点から、AIマネジメントシステムの運用状況について情報開示や説明を行うことが求められます。
AIマネジメントシステムの評価・改善
AI技術や関連法令、社会のAIに対する評価などは急速に変化するため、短いスパンでAIマネジメントシステムの運用状況を評価し、必要に応じて改善を行うことが重要です。
日々の業務の中で自己点検を実施し、AI利用のルールが適切に運用されているか、想定していなかったリスクが発生していないかなどを常に確認するよう、従業員に対して意識付けを行いましょう。インシデントやヒヤリハット事例が生じた際には社内全体で共有し、AIマネジメントシステムの改善に繋げます。また、定期的に内部監査を行うことも効果的です。
AIマネジメントシステムの評価・改善に当たっては、AI技術や規制などの外部環境が変化することを踏まえ、環境・リスク分析を再実施することも求められます。状況によっては、AIガバナンス・ゴール自体を見直すことも含めて柔軟な検討を行いましょう。
AIガバナンス体制を構築する際の注意点は？
AIガバナンス体制の構築に当たり、企業は特に次に挙げるポイントに注意しなければなりません。
- 安全を考慮して適正にAIを利用する
- 入力データやプロンプトに含まれるバイアスに配慮する
- 個人情報の漏えいやプライバシー侵害への対策を行う
- セキュリティ対策を実施する
- ステークホルダーに対して情報提供と説明を行う
- AIの利用規約（サービス規約）を遵守する
安全を考慮して適正にAIを利用する
AIの利用に当たっては、ステークホルダーの生命・身体・財産・精神や、周囲の環境に危害を及ぼす事態を防ぐ必要があります。
企業がAIを導入する際には、その信頼性を十分に確認しなければなりません。たとえば、外部からの不正操作への対策が適切に講じられているか、不合理な出力がなされる頻度が十分に低いかなどを確認する必要があります。社会的に高い信頼を得ているAIサービスであっても、事業の利用に耐え得るかを自社として慎重に検討することが大切です。
また、自社のAI利用に起因してトラブルが発生した場合に備えて、速やかに対処できる体制を整備することも大切です。責任者や担当部署、対応手順などを明確化したうえで、社内規程などの形で具体化しましょう。
入力データやプロンプトに含まれるバイアスに配慮する
AIに入力するデータやプロンプト（指示）に偏見や差別（＝バイアス）が含まれていると、AIの思考や判断にもそれが反映され、不適切な出力がなされてしまうおそれがあります。
AIを利用するのが人間である以上、偏見や差別を完全に回避することはできませんが、人権保護などの観点から許容可能な範囲に抑える必要があります。入力データやプロンプトに関するルールやガイドラインを定める、複数の人がチェックを行うなどの対策を検討してください。
個人情報の漏えいやプライバシー侵害への対策を行う
生成AIの利用に当たっては、個人情報の取り扱いに十分注意しなければなりません。従業員が顧客などの情報を安易にAIへ入力すると、個人情報の漏えいやプライバシー侵害に繋がるリスクがあります。
個人情報の漏えいやプライバシー侵害を防ぐには、AIに入力してはならない情報を明確化することが重要です。個人情報が含まれる場合は匿名化やマスキングなどの措置を講じるなど、個人情報保護法などの法令を踏まえた運用ルールを整備しましょう。
セキュリティ対策を実施する
AIの利用に当たっては、十分なセキュリティ対策を講じる必要があります。具体的には、アクセス権限の管理、多要素認証の導入、通信の暗号化、利用ログの記録などの対策が考えられます。
また、利用するAIサービスのセキュリティ水準やデータ管理体制についても事前に確認し、自社の要求水準を満たしているものを導入しましょう。
ステークホルダーに対して情報提供と説明を行う
AIの活用方法やリスク管理などについては、顧客や取引先、株主、従業員などのステークホルダーに対して、適切な情報提供と説明を行うことが求められます。たとえば、AIを利用する目的や管理体制の整備・運用の状況、AIが意思決定にどのような形で関与しているのかなどを説明できるようにしておくことが重要です。
ステークホルダーに対する説明に当たっては、相手がどのような説明を必要としているかを把握し、納得感や安心感を得られるように努めましょう。
AIの利用規約（サービス規約）を遵守する
AIサービスを利用する際には、提供事業者が定める利用規約（サービス規約）を遵守する必要があります。
利用規約を十分に確認しないままAIサービスを利用すると、不適切な入力や禁止された方法での利用などにより、提供事業者との間でトラブルに発展する可能性があります。特に業務利用の可否を含めて、生成されたコンテンツの利用条件は重要な確認事項です。
AIガバナンス体制においても、利用するAIサービスの規約を定期的に確認し、運用ルールへ反映する仕組みを整備しておくことが望ましいでしょう。
AIガバナンス体制の構築についてよくある質問
AIガバナンス体制は、なぜ必要？
AIの利用にはリスクが伴うところ、企業はそのリスクを許容可能な範囲にコントロールする必要があります。リスクの適切なコントロールを行いつつ、AIの利用によるメリットを最大限享受するため、事業の内容や状況などに応じたAIガバナンス体制を整備することが重要です。
AIガバナンス体制の構築は、どの部署が担当すべき？
AIガバナンス体制の構築には、経営トップが主導しつつ、複数の部署が連携して取り組むことが求められます。たとえば、法令に関する事項は法務部門やコンプライアンス部門、情報セキュリティに関する事項は情報システム部門、従業員に対する研修は人事部門というように、各部門の強みを生かした役割分担を行うことが大切です。
「GovernOn」を活用したガバナンス体制構築の効率化
AIガバナンス体制を有効に機能させるためには、全社およびグループ子会社にわたる意思決定やルールの運用を「可視化」し、形骸化させない仕組みが必要です。
AIガバナンス・プラットフォーム「GovernOn」は、取締役会や各種委員会などの重要な会議体運営、書面決議、社内承認プロセスをデジタル化し、一元管理することができます。
AI活用ルールの制定・改定プロセスを明確に記録し、グループ全体へ迅速に周知・徹底。さらに、多言語対応や自動翻訳サポートにより、グローバル拠点や子会社に対しても実効性のあるAIガバナンス統制を実現します。「ルールを作る」だけでなく「ルールを適切に運用する」基盤として、GovernOnは企業の健全なAI活用とガバナンス高度化を強力にサポートします。
まとめ
企業がAIを効果的かつ安全に活用するためには、AIガバナンス体制の整備が必要不可欠です。
自社の事業環境やAIの利用に伴うリスクを分析したうえで、組織的な役割分担や利用ルールなどから成るAIガバナンス体制を適切に設計・運用しましょう。AIを取り巻く状況は早いスピードで変化するので、短いスパンで継続的に体制を見直すことも大切です。