企業の承認を得ないまま、従業員がChatGPTなどのAIツールを業務利用する「シャドーAI」が広がっているようですね。
表向きは業務効率化の味方となるのですが、その利用実態が把握されないまま進行していくことで、情報漏洩やコンプライアンス違反が発生しても原因すら追えなくなる構造的なリスクを抱えているようですよ。
シャドーAIの普及
シャドーAIは、IT部門や経営層が承認していないAIツールを、従業員が個人判断で業務に使う行為のことで、その対象となるのは、ChatGPTやClaude、Geminiのことでしょ？と思われがちなのですが、MidjourneyやStable Diffusionのような画像生成AIや、文字起こしを行う音声認識AIなど、ブラウザさえあれば今すぐ使える多様なサービスが含まれているんですよ。
最初は、メール文面の作成、資料のたたき台作り、コードの補完などの簡単なタスクから、会議録の自動作成といった範囲にまで広がり、「少し試してみる」うちに、その便利さと有能さから、どんどんと組織の管理外で利用が広がっていきやすいんですよね。
実際、こうしたツールによって業務が早く終わったり、作業負担が軽くなるというプラス面は絶大ですし、多くの従業員にとって、利用のための承認プロセスが整うのを待つよりも、すでに手元にある無料・低価格のサービスを使う方が合理的ですから。
一方で、企業側にはAI利用のルールが追いついていないケースが多く、「便利だから」「周囲も使っているから」という感覚で使われた結果、どの部署でどのツールがどの程度使われているのか、全体像を把握できなくなっていきます。
問題は、この「見えていない利用」がそのままリスクのブラックボックスになる点で、生成AIに業務で扱うデータや顧客情報を入力してしまうと、その情報はクラウド上のシステムで保存・処理されることになり、サービスによっては、入力内容がAIモデルの改善に利用されてしまい、将来の回答に反映される仕組みもあったりします。
こうした仕様を十分に理解しないまま機密情報を入力してしまうと、本来社外に出るはずのなかった情報が、第三者に露出する形となるだけでなく、生じたことさえ気付かれないままになったりすることも。
情報漏洩は個人情報だけにとどまりませんし、取引先との機密保持契約（NDA）で保護されている技術情報や、企業の戦略資料などがプロンプトとして流入してしまえば、一般データ保護規則（GDPR）や個人情報保護法といった法令だけでなく、契約上の義務違反にもつながってしまいます。
さらに、生成AIが学習したデータをもとに作り出した文章や画像に、既存の著作物が意図せず紛れ込んでしまうと、著作権侵害の火種にもなり得ますし、どの情報を、どのサービスに、誰が入力したのか追跡できない状態は、法的リスクの大きさを冷静に測ることすら難しくしてしまいます。
時間が経過してしまうと、作った本人ですら、忘れてしまうことも出てくるでしょうから・・・。
また、セキュリティの観点でも、IT部門がチェックしていないAIサービスには、脆弱性や設定不備が残っている可能性があります。
そうしたサービスを業務ネットワークから利用すれば、不正アクセスやマルウェア侵入の入口になりかねないですし、生成AIの仕組みを悪用し、入力内容や保存データを引き出そうとするプロンプトインジェクション攻撃も報告もあるようですから、安全性が検証されていないツールが増えれば増えるほど、企業が抑制したくなるのも無理はありませんよね。
また、リスクは目に見える攻撃だけではなく、生成AIは、もっともらしく見えても事実と異なる内容を平然と生成してきますし、いわゆる「ハルシネーション」が混ざった文面を十分に検証することなく、対外資料や意思決定の材料として使ってしまうと、誤った情報が社内外へと連鎖的に広がっていきます。
部門ごとに利用しているAIツールがばらばらであれば、成果物の品質やスタイルもそろいにくいですし、企業としてのブランドや信頼性への影響してきます。
こうしたリスクの多くは、単純に「AIツールの利用を禁止する」だけでは制御しきれず、業務上のニーズがある限り、別のツールを探して使ってみるという動きはなくならないでしょう。
従業員も会社のため、効率化のためという目的で使うわけで、この辺の匙加減が難しいところ。
むしろ、禁止一辺倒の対応は、利用実態をさらに地下に潜らせ、いざ問題が起きたときに経路をたどれない状況を強めてしまいますし、鍵となるのは、利用そのものではなく「何が、どこで、どのように」使われているのかを組織として把握できる状態を作ることなのでしょうね。
とはいっても、簡単な話ではないのですが・・・。
第一歩、AIガバナンス体制の整備。
AIツール導入時に、セキュリティ、リスク、コンプライアンスの観点から事前評価を行い、承認プロセスを通じて利用範囲を定め、その中で、機密情報や個人情報をプロンプトに含めないことを明文化した利用ポリシーを作成し、従業員に周知すること。
ここで重要なのは、単に禁止事項を列挙するのではなく、「どのようなツールであれば、どのような前提で利用してよいのか」という肯定的なルールを明示することで、企業側が安全性を確認したAIツールを公式に提供すれば、従業員は業務効率化のニーズを満たしながら、組織としての統制の中で利用できるようになるはずです。
とはいえ、ルールとツールを整えるだけでは十分とも言えず、実際に手を動かす従業員一人ひとりが、生成AIの特徴やリスクを理解しているかどうかが、最終的なリスクレベルを左右してきます。
なので、情報漏洩やコンプライアンス違反の具体例、ハルシネーションの性質、適切な指示の出し方などを扱う教育を継続的に行うことで、「便利だから使う」から「どう使えば安全で有効かを考える」へと意識を切り替えることができるのではないでしょうか？
また、利用状況を技術的にも把握する仕組みは必要となってくるでしょう。
ネットワーク通信の監視を通じ、承認されていないAIサービスへのアクセスを検知したり、許可されたツールの利用ログから異常なパターンを洗い出したりすることで、形式上のルールと現場での運用のギャップを早期に見つけられるようになります。
プロンプトに機密情報が含まれていないかをチェックする仕組みを組み合わせれば、シャドーAIがもたらす「見えないリスク」を徐々に可視化していくことができるはずですからね。
とはいえ、そこまでの大掛かりなことになってくると、対応できるのは大手企業だけになってしまうのでしょうね。
シャドーAIを巡る状況は今後も大きくなってくるでしょうし、問題は従業員が生成AIを使うかどうかではなく、企業がその利用をどこまで把握し、統制の枠組みの中に組み込めているかどうかにかかってきます。
業務現場で生じたAI活用の動きを押さえ込むのではなく、安全性と透明性を担保したうえで公式なルートへ引き上げることができるかどうかが、情報漏洩や法令違反を防ぎつつAIを戦力として活かせるかどうかの分かれ目になってくるのでしょう。
AIを使って大きく成長する企業が生まれてくる反面、そのリスクを軽視してしまった企業は、大きな問題を抱えていくようなことにもなっていくのでしょうね。
