生成AIは、企業のDX推進において急速に導入が進んでいる技術である。多様な業務において、テキスト生成をはじめ、画像・音声などのメディア生成にまで応用可能となり、従来のITシステムにはないスピードでビジネス上の価値を創出している。一方で、その背後には、膨大なデータを扱うからこそ生じるリスクが存在する。プライバシー侵害、法令違反、知的財産権の問題など、企業が真剣に向き合わねばならない課題は多岐にわたる。
EYストラテジー・アンド・コンサルティング株式会社でリスク・コンサルティングのパートナーを務める川勝健司氏も、「生成AIだからこそ問題になるリスクは、かつてのITシステムより広範囲におよぶ」と述べている。とりわけ「画像や音声といった多様な生成物が、詐欺や誹謗中傷など犯罪的な行為を助長する可能性があることは、従来にはなかった大きな懸念材料である」と強調する。
このように高度化するリスクに対応するためには、単に「使い方に気をつける」だけでなく、新しいガバナンス体制の構築が不可欠である。技術の進化や規制動向に即応しつつ、企業として適切なチェック＆バランスをどのように取り入れるべきか。本記事ではまず、組織体制やポリシー策定の観点から、生成AIのリスク管理をいかに進めるべきかを探る。
従来の「コンプラ部門任せ」ではカバーできない広範なリスク
従来の企業ガバナンスでは、新しいテクノロジーを導入する際、法務やコンプライアンス部門が中心となってルールを整備してきた。しかし生成AIは、セキュリティやプライバシーにとどまらず、「データの学習プロセス」や「モデル選定」、「出力の信頼性・フェイク生成」など、技術的な知見を要するリスクを同時に包含する。
帝国データバンクが2024年夏に4,705社を対象に行った調査では、生成 AI を活用している企業のうちリスク対応の担当部門が「決まっていない」企業が45.1％も存在することがわかった。
川勝氏は、「法務コンプライアンスの方は規制面の知見に長けている一方、IT部門は技術面のリスクを理解している」と指摘する。だが、生成AIを使う上では「法務だけ」でも「ITだけ」でも不十分であるとし、「両者が連携する“全社横断的なチーム”が欠かせない」と強調する。
AIリスクを翻訳・実装する「1.5線」の必要性
さらに川勝氏は、金融機関の例を引き合いに出しながら、いわゆる「1.5線」と呼ばれるリスク管理の枠組みを提示している。通常の企業では、「現場（ファーストライン）」と「監査・コンプライアンス等（セカンドライン）」があるが、金融機関ではIT部門内などに「システムリスク管理機能」を設け、ファーストとセカンドの中間として機能させる場合があるという。
「1.5線的な役割を持つ部署を用意し、IT部門の中でリスク管理を担うメンバーを置くことが理想である。上流で話し合われたポリシーを、実際のシステム要件やサービス仕様に落とし込む“翻訳者”が必要になるからだ」と川勝氏は語る。
この「翻訳者」が存在しないと、上流のポリシーが抽象的なまま終わってしまい、現場で機能しない事態に陥る。AIならではの複雑なリスクに対応するためには、法務・コンプライアンス・ITそれぞれの領域を繋ぎ、具体的な実装要件にブレイクダウンしていく1.5線の仕組みが重要である。
横断委員会と1.5線が連携するメリット
組織体制を考える上で鍵となるのが、横断的な委員会（あるいは小委員会）と1.5線のITリスク部門の連携である。川勝氏によれば、下記のような流れが望ましいという。
- 横断委員会
- メンバー例：法務、コンプライアンス、IT、総務、経営企画など
- 役割：AI利用の全社方針（ポリシー）策定、社内規定と整合性をとる、各種規制・法令への対応判断
- 「個人情報をどこまで扱えるか」「海外拠点ではどう運用するか」など、包括的な議論を行う
- IT部門内の1.5線チーム
- 役割：横断委員会で決まった方針を実際のシステムやサービスに落とし込む、必要に応じて技術的な提案・修正
- 従業員が利用する生成AIサービスに、情報漏洩を防ぐための機能実装やログモニタリングを組み込む
- 「個人情報入力を遮断する仕掛けはどうするか」「特定モデルの利用を制限する場合のアクセス制御をどう構築するか」など、実務レベルの判断を行う
この体制が整えば、「ポリシーはあるが実行されていない」「法務が考えたルールと現場が想定する運用が噛み合わない」といったミスマッチを減らせるというわけだ。
ポリシー策定と運用のポイント：「最上位の基本規定」と「技術別ガイドライン」の二層構造
先述の帝国データバンクの調査によれば、生成 AI を活用している企業のうち指針やガイドラインを策定した企業は2割弱だった。
川勝氏は、ポリシー策定のポイントとして「大枠の方針と、実務ガイドラインを分けて整備すること」を推奨している。具体的には、たとえば最上位の“基本規定”では、OECDのAI原則など国際的な基準を参照しつつ、倫理やプライバシー保護の理念を社内規定として明文化する。一方で、利用モデルごと・技術ごとに“ガイドライン”を設け、より具体的な禁止事項や推奨事項を整理する。
「たとえば『個人情報をAIに入力してはいけない』というのは理念的には正しいが、業務上、どうしても個人情報を取り扱わざるを得ないケースもある。そうした場合は『本人同意の範囲を確認する』『データを匿名化する仕組みを導入する』といったガイドラインレベルの定義が必須である」（川勝氏）
柔軟なアップデートを可能にする仕組みが必要
AI技術は日進月歩であり、各国での規制強化も進んでいる。このため、いったん定めた社内規程やガイドラインを機動的にアップデートできる体制が重要となる。川勝氏は「厳格すぎる承認プロセスをポリシーに組み込むと、変化に追いつかなくなる」と警鐘を鳴らしている。
そのためには、横断委員会の定期開催や、AIガバナンス担当者の専任配置などで、スピーディにルール更新を決定できるようにしておくことが望ましい。
また、生成AIを使いこなし、新しい価値を創出するためには「何でも禁止」が最善ではない。一方で、無制限に使わせればプライバシー漏洩や規制違反、信用失墜のリスクは大きい。川勝氏は「ガードレールを決めて、一定の自由度を認める」アプローチが合理的だと述べている。
「こまかくすべてをチェックしてしまうと、導入が面倒になってイノベーションが損なわれる。逆に、野放しにしておくと重大な事故を起こす可能性がある。その間を埋めるガードレールとして、やはりポリシーやガイドラインが必要になる」という。
AIガバナンスにかかるコストをどう説明するか
経営層にとって悩ましいのは、AIガバナンスにかかるコストをどこまで正当化できるかという点である。だが、万一のインシデントによる当局からの制裁や信用失墜を考えれば、事後リスクの方が遥かに高額な損失に結びつく可能性がある。
「最近では、同業他社の事例を参考にして『あの企業はここまでやっている』という横並び意識で意思決定が進むことも少なくない」と川勝氏は語る。本来は「インシデントが起こった場合の処分や訴訟コスト」「ブランド毀損による売上減」などを考慮した上で、リスク対効果を定量的に考えていくのが理想であるものの、それができている企業はなかなかないという。
実際のデータ侵害コストは年々高騰している。日本IBMが2024年9月に公表したレポートによると、国内企業がデータ侵害を受けた際の平均コストは6億3,000万円（前年比5％増）と過去最高を更新した。
ガバナンス強化には一定の投資が必要であるが、このように一度大規模インシデントを起こせば、数億円規模の損失につながりかねない。経営層への説明としては、「事後コスト＞事前投資」を示す定量的な根拠として、こうしたデータが有力な裏付けとなるだろう。
生成AI時代のガバナンス構築は、単なるコンプライアンス対応ではなく、企業がAIを安心して活用しイノベーションを創出するための“土台づくり”である。横断委員会と1.5線が連携し、全社ポリシーと具体的な実装指針を行き来できる組織設計を整えることで、過度な制限なくリスクを最小化することが可能になるに違いない。
