AIガバナンスとは？｜国のガイドラインによる定義を解説
総務省と経済産業省が共同で策定・公表している「AI事業者ガイドライン」によると、「AIガバナンス」は次のとおり定義されています。
- AIガバナンス
- AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクト（便益）を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用
引用元｜総務省・経済産業省「AI事業者ガイドライン（第1.1版）」p10
AIは便利である一方で、活用に当たっては不適切な出力などによるリスクが避けられません。AIガバナンスは、リスクの存在を前提としつつ、その脅威をコントロールすることでトラブルの深刻化を防ぎ、安心してAIを活用できるようにするための仕組みです。
AIガバナンスが重要である理由
AIガバナンスを適切に構築することは、AIを活用するすべての事業者にとって重要です。
AIを活用すれば、人間は幅広い分野において大きな進歩を得られる可能性があります。企業活動も例外でなく、すでにAIの活用によって飛躍的な業務の効率化やイノベーションを生み出している事業者が増えています。
ただしAIは、時に不適切な出力をしたり、秘密情報漏えいの原因になったりすることもあります。AIを活用する分野や利用形態によっては、社会に対して大きなリスクを生じさせるおそれがあるため、適切なリスクのコントロールが欠かせません。そのための仕組みがAIガバナンスです。
リスクをコントロールする観点から、AIの活用には一定のルールを設ける必要があるものの、過度に規制すると利便性が大きく損なわれてしまいます。ステークホルダーの特性や要望などを踏まえつつ、リスクと利便性のバランスをとることがAIガバナンスの重要課題といえます。
AIガバナンスによって実現すべき事項（共通の指針）
AI事業者ガイドラインに掲げられている「共通の指針」では、AIにより目指す社会の実現に向けて、事業者を含む各主体が連携して次の事項に取り組むことを求めています。
- 人間中心｜人権侵害の防止・幸福の追求など
- 安全性｜ステークホルダーの保護など
- 公平性｜偏見や差別の抑止など
- プライバシー保護｜個人情報保護法の遵守など
- セキュリティ確保｜不正操作への対策など
- 透明性｜ステークホルダーへの情報提供
- アカウンタビリティ（説明責任）｜対応状況の説明など
- 教育・リテラシー｜従業員研修など
- 公正競争確保｜公正な競争環境の維持
- イノベーション｜適切な情報提供など
参考｜総務省・経済産業省「AI事業者ガイドライン（第1.1版）」p12～24
最重要となるのは「人間中心」の理念で、人権保障や幸福追求が至上の価値として掲げられています。それを実現すべく、AIの活用に伴う弊害や差別の防止、ステークホルダーに対する情報開示、さらには公正競争確保やイノベーションといった社会的価値への寄与などが求められています。
各項目について、以下詳述します。
人間中心｜人権侵害の防止・幸福の追求など
「人間中心」とは、AIの開発・提供・利用において人権が侵害されないようにし、およびAIが人々の能力を拡張することで、多様な人々の多様な幸せを追求できるようにするという考え方です。AIガバナンスによって実現すべき理念に位置づけられます。
人間中心の考え方の一環として、次の6つの指針が掲げられています。
- 人間の尊厳及び個人の自律
- AIによる意思決定・感情の操作等への留意
- 偽情報等への対策
- 多様性・包摂性の確保
- 利用者支援
- 持続可能性の確保
安全性｜ステークホルダーの保護など
「安全性」とは、AIの開発・提供・利用を通じて、ステークホルダーの生命・身体・財産に危害を及ぼさないようにするという考え方です。さらに、精神や環境に対する危害を防止することの重要性も指摘されています。
安全性を実現するための方法としては、AIのパフォーマンスレベルの維持や適切なリスク分析、目的外利用の防止や人間による判断（チェック）などが挙げられています。
公平性｜偏見や差別の抑止など
「公平性」とは、AIの開発・提供・利用において、特定の個人や集団に対する不当で有害な偏見や差別をなくすように努めるという考え方です。
AIを活用するのが人間である以上、バイアス（偏見や差別）を完全に回避することはできません。そのことを前提としつつ、AIを通じて顕在化し得るバイアスの要因を特定し、人権や多様な文化を尊重する観点から許容できない事態を防ぐための対策を講じることが求められています。
プライバシー保護｜個人情報保護法の遵守など
「プライバシー保護」とは、AIの開発・提供・利用において、個人のプライバシーを尊重・保護するという考え方です。AIを活用する主体は、個人情報保護法等の関連法令の遵守やプライバシーポリシーの策定・公表などを通じて、プライバシー保護に取り組む必要があります。
なおプライバシー情報は、種類によって重要性に差があります。特に重要度の高いプライバシー情報については、厳密に保護措置を講じることが求められます。
セキュリティ確保｜不正操作への対策など
「セキュリティ確保」とは、不正操作によってAIが意図せぬ振る舞いをしないように、セキュリティを確保するという考え方です。事業者においては、その時点での技術水準に照らして、AIの機密性・完全性・可用性を維持するための合理的な対策を講じなければなりません。
また、AIに対する攻撃には日々新しい手法が生まれていることを踏まえ、そのリスクに対応するための留意事項を確認することが求められます。
透明性｜ステークホルダーへの情報提供
「透明性」とは、AIを活用するに当たって、ステークホルダーに対し合理的な範囲で情報を提供することを重要視する考え方です。
情報提供の前提として、AIの判断を検証できるように、学習プロセス・推論過程・判断根拠などのログを記録・保存することが求められます。
また、実際に情報提供を行う際には、受け手がどのような説明を必要としているかを分析・把握し、納得感や安心感を得られるような説明をすることが望ましいです。
アカウンタビリティ（説明責任）｜対応状況の説明など
「アカウンタビリティ」とは、AIのもたらすリスクの程度を踏まえ、合理的な範囲でステークホルダーに対する説明責任を果たすべきとする考え方です。
アカウンタビリティの対象となる事項としては、「共通の指針」への対応状況に加えて「トレーサビリティの向上」が挙げられています。AIの開発・提供・利用に当たっては、データの出所やAIが行った意思決定等について、技術的に可能かつ合理的な範囲で追跡・遡求できるようにしておくことが求められます。
教育・リテラシー｜従業員研修など
「教育・リテラシー」とは、事業者などにおいてAIに関わる者が、AIを正しく理解して正しく利用できる知識・リテラシー・倫理観を持つため、必要な教育を行うべきとする考え方です。
事業者においては、従業員が取り扱う業務の内容に応じたAIリテラシーを備えさせることや、AIによる業務の変化に対応できるような教育やリスキリングを検討することなどが求められます。
公正競争確保｜公正な競争環境の維持
「公正競争確保」とは、AIをめぐる公正な競争環境の維持に努めることを重視する考え方です。事業者においては、独占禁止法や取適法などの法令遵守や、政府・自治体・コミュニティを含む社会との積極的な連携が期待されます。
イノベーション｜適切な情報提供など
「イノベーション」とは、AIを通じた社会全体のイノベーションの促進に各主体が貢献すべきとする考え方です。
具体的には、国際化・多様化や産学官連携、オープンイノベーションなどの推進が掲げられています。また各事業者のレベルでは、自社と他社のAIの相互接続・相互運用を確保すること、標準仕様がある場合はそれに準拠すること、自らのイノベーションを損なわない範囲で必要な情報提供を行うことなどが求められます。
AIガバナンス体制の構築手順
AIガバナンスの構築は、次の手順で行います。
- 環境・リスク分析
- AIを利用するか否かの判断
- AIガバナンス・ゴールの設定
- AIマネジメントシステムの設計・運用
- AIマネジメントシステムの評価・改善
詳細は別記事に譲りますが、AI事業者ガイドラインでは「アジャイル・ガバナンス」の実践が重要である旨が指摘されています。アジャイル・ガバナンスとは、多様なステークホルダーを巻き込みながら上記のサイクルを継続的かつ高速に回転させることです。
アジャイル・ガバナンスの実践により、複雑で変化が速い社会の中でも、AIガバナンスを適切に行うことができるようになります。
AIガバナンスについてよくある質問
AIガバナンスとデータガバナンス・セキュリティガバナンスの違いは？
「ガバナンス」は「統治」「管理」「統制」などと訳されるところ、企業活動の文脈においては、リスクを許容可能な範囲にコントロールしつつ成長性やメリットを追求するという意義があります。AIガバナンス・データガバナンス・セキュリティガバナンスのいずれも、かかる意義は共通しています。
他方で、3つの間ではガバナンスの着眼点が異なっています。AIガバナンスはAIの開発・提供・利用を主眼とするのに対し、データガバナンスは情報データの収集・蓄積・利用、セキュリティガバナンスは不正アクセスや情報漏えいの防止に主眼があります。
3つの対象事項の範囲はそれぞれ異なりますが、重なり合う部分もあります。たとえば、AIに入力する情報の管理は、AIガバナンス・データガバナンス・セキュリティガバナンスのすべてに関係する事項といえるでしょう。
AIガバナンスを整備しないと、どのようなリスクが生じる？
AIが不適切な形で利用されたり、それが見過ごされたまま放置されたりするリスクが高くなります。その結果、他人に対する権利侵害や情報漏えいなどが生じてしまい、大規模な企業不祥事に発展するおそれが否めません。AIを活用する企業にとって、AIガバナンスの整備は必要不可欠です。
中小企業でもAIガバナンスは必要？
企業の規模にかかわらず、AIの利用にリスクが伴う点は共通しています。中小企業であっても、自社の事業の環境やリスクを分析したうえで、AIガバナンスを適切に行うことがきわめて重要です。
「GovernOn」を活用したガバナンス体制構築の効率化
AIガバナンス体制を有効に機能させるためには、全社およびグループ子会社にわたる意思決定やルールの運用を「可視化」し、形骸化させない仕組みが必要です。
AIガバナンス・プラットフォーム「GovernOn」は、取締役会や各種委員会などの重要な会議体運営、書面決議、社内承認プロセスをデジタル化し、一元管理することができます。
AI活用ルールの制定・改定プロセスを明確に記録し、グループ全体へ迅速に周知・徹底。さらに、多言語対応や自動翻訳サポートにより、グローバル拠点や子会社に対しても実効性のあるAIガバナンス統制を実現します。「ルールを作る」だけでなく「ルールを適切に運用する」基盤として、GovernOnは企業の健全なAI活用とガバナンス高度化を強力にサポートします。
まとめ
AIガバナンスは、AIの利用によるリスクを適切にコントロールしつつ、その利便性を享受して成長性を追求するための仕組みです。AIを活用する企業は、総務省と経済産業省が策定・公表している「AI事業者ガイドライン」を参考にして、自社に合った形でAIガバナンスの整備に取り組みましょう。