AIガバナンス体制の構築時に担当者が留意すべきチェックポイント
「AIガバナンス」とは、AIの利用によるリスクを許容可能な範囲にコントロールしつつ、そのメリットを最大限享受するための仕組みです。AIを活用する企業においては、自社に適したAIガバナンスを整備することが求められます。
AIガバナンスの整備や見直しに当たっては、押さえておくべきポイントがあります。次のチェックリストを参考にしてください。
- ☑ 「人間中心」の考え方に基づく人権侵害の防止
- ☑ AIに関わる者に対する危害の防止
- ☑ 潜在的なバイアスの解消・評価
- ☑ プライバシーの尊重・保護
- ☑ 外部的操作に対するセキュリティの確保
- ☑ ステークホルダーに対する情報提供
- ☑ ステークホルダーに対するアカウンタビリティ（説明責任）
- ☑ AIガバナンスやプライバシーに関するポリシー等の策定
- ☑ 事業者の状況に応じた具体的なアプローチの検討
参考｜総務省・経済産業省「AI事業者ガイドライン（第1.1版）」
「人間中心」の考え方に基づく人権侵害の防止
AIの開発・提供・利用においては、憲法が保障し、または国際的に認められた人権を侵害しないようにすることが大切です。総務省と経済産業省が公表している「AI事業者ガイドライン」では、これを「人間中心」と定義し、AIに関与する各主体に対して取り組みを求めています。
AIガバナンスの構築に当たっては、人権侵害防止の観点から特に次に挙げるリスクなどに十分注意し、適切な対策を講じることが求められます。
- AIが人間の意思決定や感情を操作するリスク
- AIが生成する偽情報によって社会を不安定化または混乱させるリスク
- 社会的弱者がAIの活用から隔離されてしまうリスク
など
AIに関わる者に対する危害の防止
AIの開発・提供・利用に当たっては、ステークホルダーの生命・身体・財産・精神や、周囲の環境に危害を及ぼさないようにしなければなりません。
企業においては、利用するAIの信頼性を十分に確認するとともに、意図しない動作等による権利侵害のリスクなどを分析し、その対策を講じることが求められます。さらに、万が一安全性を損なう事態が生じた場合に備えて、速やかに対処できるような体制を整備することも大切です。
潜在的なバイアスの解消・評価
AIの開発・提供・利用に当たっては、特定の個人や集団に対する不当で有害な偏見や差別をなくすよう努めることも重要です。
人間である以上、偏見や差別に繋がるバイアスを完全に回避することはできません。AIの活用に当たっては、回避できないバイアスがあることを認識しつつ、それが人権と多様な文化を尊重する観点から許容できるかどうかを評価することが重要です。
特にAIの活用に関しては、バイアスを生み出す要因が多岐にわたる点に注意を要します。次に挙げる要素などを念頭に置いて、多角的にバイアスの分析と評価を行うことが求められます。
- 学習データ
- AIモデルの学習過程
- 入力するプロンプト
- AIが参照する情報
- 連携する外部サービス
- AI利用者の振る舞い
など
また、AIの出力結果に不当なバイアスが表れていないかどうか、人間の目で確認して判断することも大切です。
プライバシーの尊重・保護
AIの使い方によっては、個人情報の漏えいなどのプライバシー権侵害を招くおそれがあります。そのリスクを最小限に抑えるため、企業はプライバシーの尊重・保護を徹底しなければなりません。
具体的な対応としては、個人情報保護法などの関係法令の遵守や、プライバシーポリシーの策定・公表などが挙げられます。特に重要度の高いプライバシー情報については、厳重に保護する措置を講じましょう。
外部的操作に対するセキュリティの確保
AIに対してハッキングなどの不正操作が行われると、ステークホルダーに対する権利侵害が生じ、大規模な企業不祥事に発展しかねません。不正操作によってAIが意図しない振る舞いをしないように、セキュリティを確保することが重要になります。
企業としては、セキュリティ上の脆弱性を完全には排除できないことを認識しつつ、その時点での技術水準に照らして合理的な対策を講じることが求められます。また、日々生まれている新たな攻撃手法について、対応方法を不断に確認することも重要です。
ステークホルダーに対する情報提供
株主・従業員・債権者・取引先などのステークホルダーに対しては、AIの利用に関する透明性を確保するための情報提供を行う必要があります。
たとえば、次の事項について取りまとめた情報を提供したうえで、適切に説明を行うことが求められます。
- AIを利用している事実と活用範囲
- データ収集やアノテーションの手法
- 学習や評価の手法
- 基盤としているAIモデルに関する情報
- AIの能力や限界、提供先における利用方法
- AIの提供先、AI利用者が所在する国や地域において適用される関連法令等
実際に情報提供を行う際には、ステークホルダーがどのような説明を必要としているかを把握したうえで、納得感や安心感を得られるように努めることが大切です。
ステークホルダーに対するアカウンタビリティ（説明責任）
ステークホルダーに対しては、利用するAIに関する情報を開示するだけでなく、トレーサビリティの確保やリスクへの対応状況などについてのアカウンタビリティ（説明責任）を果たすことも求められます。
「トレーサビリティ」とは、データの出所やAIの開発・提供・利用中に行われた意思決定等について、追跡や遡求ができることを意味します。企業は普段からAI利用に関するトレーサビリティを確保したうえで、ステークホルダーの合理的な求めがあった際には、必要に応じて経緯等を説明すべきです。
責任者を明確化したうえで、AIに関するトレーサビリティの確保やリスクへの対応に取り組みましょう。
AIガバナンスやプライバシーに関するポリシー等の策定
ステークホルダーに対するアカウンタビリティを果たす観点からは、AIガバナンスに関するポリシーやプライバシーポリシー等の方針を策定し、公表することが有意義です。社会に対して適正なAIの利用方針を宣言することにより、社内全体のガバナンス意識が高まるとともに、企業イメージの向上も期待できます。
事業者の状況に応じた具体的なアプローチの検討
AIガバナンスの構築に当たって実際に取り組むべき事項は、事業内容や置かれた状況などによって個々に異なります。企業においては、自社の状況を分析し、必要な取り組みを取捨選択したうえで実施することが求められます。
経済産業省が公表している資料において、各事業者における具体的なアプローチ検討のためのワークシートが示されているので、参考にしつつ自社の取り組みを検討してください。
参考｜経済産業省「具体的なアプローチ検討のためのワークシート (共通の指針関連)」
生成AIの利用ルール整備に当たって確認すべきチェックポイント
最近では、企業の間でも生成AIの利用が急速に普及しています。生成AIは手軽に利用できる反面、不適切な入力や出力によって予期せぬ事態が生じるリスクを伴うため、利用ルールを適切に整備することが大切です。
生成AIの利用ルールを整備する際には、次に挙げるポイントを押さえておきましょう。
- 生成AIの利用目的や利用範囲を定めているか
- 利用可能な生成AIツールを定めているか
- 生成AI利用時の禁止事項・制限事項を明確にしているか
- AI出力を人間が確認するルールを設けているか
- 知的財産権に関する対応方針を定めているか
- 生成AIの利用規約を確認しているか
- 生成AIの利用ログや記録を管理しているか
- 問題発生時の報告・対応フローを整備しているか
- 従業員向けの教育・研修を実施しているか
- 生成AIの利用ルールを定期的に見直しているか
生成AIの利用目的や利用範囲を定めているか
生成AIをどのような目的で、どの業務において利用するのかを明確に定めましょう。利用の目的や範囲を明確化することで、従業員による不適切な利用や運用上の混乱を防ぎやすくなります。
利用可能な生成AIツールを定めているか
業務において利用できる生成AIツールを明確に指定しておくことも重要です。安全性や利用条件などを確認したうえで信頼できるツール選定することで、情報漏えいなどのリスクを抑えられます。
生成AI利用時の禁止事項・制限事項を明確にしているか
個人情報や機密情報の入力など、生成AIの利用に当たってやってはいけないことを具体的に定めましょう。従業員が判断に迷わないように、具体例を示しつつ禁止事項を明確に示すことが大切です。
AI出力を人間が確認するルールを設けているか
生成AIの出力には、誤った情報や不正確な内容が含まれる可能性があります。そのため、業務で生成AIを利用する際には、その内容が妥当かどうか人間によって確認するプロセスを整備することが大切です。
ダブルチェック、トリプルチェックの体制を整えておくと、誤情報等の出力によるトラブルのリスクを防げます。
知的財産権に関する対応方針を定めているか
AI生成物により、他人の著作権や商標権などの知的財産権を侵害するリスクにも注意しなければなりません。AIによる出力について知的財産権の侵害が含まれないことを確認するためのプロセスなどをあらかじめ定めておきましょう。
生成AIの利用規約を確認しているか
生成AIの利用規約には、利用者が遵守すべき条件が定められています。導入する生成AIの選定に当たっては、自社が想定している利用方法が許容されているかどうか、利用規約の内容を慎重に確認したうえで検討を行いましょう。
生成AIの利用ログや記録を管理しているか
業務において生成AIを利用する際には、利用履歴や出力内容などを適切に記録・保存することが重要です。AI生成物に関して問題が発生した際の原因調査や、社内監査などの際に役立ちます。
問題発生時の報告・対応フローを整備しているか
AIの利用に伴って情報漏えいが生じたり、他社から権利侵害を指摘されてトラブルに発展したりする事態が懸念されます。このような事態が発生した場合に備えて、報告や対応の手順をあらかじめ明確化し、迅速に対応できる体制を整備しましょう。
従業員向けの教育・研修を実施しているか
生成AIの利用に関しては、単にルールを定めるだけでは不十分で、その内容を従業員に対して周知することが大切です。定期的な教育や研修を通じて、生成AIのリスクや適切な利用方法などに関する理解を深めましょう。
生成AIの利用ルールを定期的に見直しているか
生成AIを取り巻く技術や法規制は、速いスピードで変化していきます。最新の動向や自社における実際の活用状況などを踏まえ、利用ルールの内容を定期的に見直すことが重要です。
AIガバナンスのチェックリストについてよくある質問
AIガバナンスとは何ですか？なぜ必要？
「AIガバナンス」とは、AIの利用によるリスクを許容可能な範囲にコントロールしつつ、そのメリットを最大限享受するための仕組みを指します。
AIは便利であり、業務の効率化やイノベーションに繋がるメリットがある一方で、不適切な出力などによるリスクが伴います。業務の中で安心してAIを活用できるようにするため、企業の規模にかかわらずAIガバナンスの構築に取り組むことが重要です。
AIガバナンスのチェックリストの中でも、特に重要な項目はどれですか？
理念としては、特に「人間中心」の考え方が重要と考えられます。AIの活用に伴う人権侵害の防止は、AIガバナンスの至上命題に位置づけられます。
しかしその他の項目も、いずれも重要度が高いものです。本記事で紹介したチェックリスト全般を参考にして、自社の実情に合わせたAIガバナンス体制を構築することが求められます。
「GovernOn」を活用したガバナンス体制構築の効率化
AIガバナンス体制を有効に機能させるためには、全社およびグループ子会社にわたる意思決定やルールの運用を「可視化」し、形骸化させない仕組みが必要です。
AIガバナンス・プラットフォーム「GovernOn」は、取締役会や各種委員会などの重要な会議体運営、書面決議、社内承認プロセスをデジタル化し、一元管理することができます。
AI活用ルールの制定・改定プロセスを明確に記録し、グループ全体へ迅速に周知・徹底。さらに、多言語対応や自動翻訳サポートにより、グローバル拠点や子会社に対しても実効性のあるAIガバナンス統制を実現します。「ルールを作る」だけでなく「ルールを適切に運用する」基盤として、GovernOnは企業の健全なAI活用とガバナンス高度化を強力にサポートします。
まとめ
AIガバナンスを構築するに当たっては、「人間中心」の考え方をはじめとして、安全性・公平性の確保やプライバシーの保護、ステークホルダーに対する透明性の確保やアカウンタビリティなどに留意する必要があります。
AIガバナンスのあるべき姿は事業内容や置かれた状況などによって異なるので、自社に合った形のAIガバナンスを追求してください。