AI利用者の7割が「経験3年未満」——情報漏えい不安の正体は、ツールではなく「説明できない構造」

IPAの調査が突きつけた「7割が初心者」という現実

IPAは2026年6月1日、「AIの動作・分析・利用等の説明に関する意識調査」を公開しました。企業規模(大企業・中小企業)と業種(製造業・非製造業)の4象限で、それぞれ500人ずつ回答を集めています。合計2,000人を対象にした調査です(出典)。

結果は率直に言って意外でした。業務でAIを利用する人の70%以上が「AI利用経験3年未満」だったのです。2025年以降にAI利用を始めた人も全体の30%を占めています。生成AIが急速に普及した2025年を境に、現場には「使い始めたばかりの人」が大量に流れ込んでいる、ということです。

私たちの現場経験でも、これは実感と一致します。顧客先で伴走していると、AIツールの操作自体には慣れていても、「なぜこの判定結果が出たのか」「どこまでのデータを入力していいのか」を答えられる担当者は、驚くほど少ないというのが実情です。ツールの導入スピードに、説明できる人材の育成が追いついていません。

情報漏えい不安と「説明できない」不安は、セットで発生している

この調査で特に注目すべきは、情報漏えいへの不安と、社内で説明できないという課題が、同時に強く出ている点です。

AIの信頼性や安全性に関する懸念について、「情報漏えいが起こる」との回答は「非常に大きい」が14.9%、「やや大きい」が38.7%で、合計すると半数を超えます。一方で、職場でAIについて説明を求めたり求められたりする場面が「ある」との回答は55〜58%に達しているにもかかわらず、組織内で説明する際に課題があるとの回答も、同調査によれば32〜52%に上ります。

つまり、説明を求められる場面は既に日常的に発生しているのに、答えられる体制がまだ整っていない。この「需要と供給のずれ」こそが、情報漏えい不安の正体だと私たちは考えています。技術的な脆弱性の話ではなく、組織としての説明責任を誰も引き受けていない状態が、漠然とした不安として現場に滞留しているのです。

正直に言えば、私たちも最初は「情報漏えい不安=セキュリティ製品の不足」だと捉えていました。ですが顧客の現場を回るうちに、印象は変わりました。ファイアウォールやDLP(データ漏えい防止)ツールを導入している企業でも、不安は消えていません。誰が・何を・なぜ許可したかを、担当者が自分の言葉で説明できないことのほうが、不安の核心に近いのです。

ガードレール製品を入れても、不安が消えない理由

大手ベンダー各社は、生成AIの入出力を監視する「ガードレール」製品を相次いで打ち出しています。技術・運用・ガバナンスの3層でリスクを抑える、という論調はどこも似ています。

この方向性自体は正しいと私たちも考えています。ただし、ガードレール製品を導入すれば説明責任の問題が解決するかというと、それは違います。ガードレールは「何を止めたか」を記録する仕組みであって、「なぜその設計にしたか」を社内の誰かが語れる状態を自動的には作ってくれません。製品を買って終わり、では「知識はあるが説明できない」という調査結果の課題は残ったままです。

私たちがFDEとして顧客先に入るとき、最初に確認するのはツールの有無ではなく、「この権限設計を、担当者が自分の言葉で説明できるか」です。ここが空白の企業ほど、ツールを導入したあとも不安が残り続けます。ここは意見が分かれるところかもしれませんが、私たちは「仕組み」と「説明できる人」はセットでなければ機能しないと考えています。

「AIに学ばせるのは解き方だけ」——AI-Pathが自社で実践している統制

では、説明できる状態はどう作るのか。私たちが自社のAIPLAで実践しているのは、「AIに学ばせるのは解き方だけ」というシンプルな原則です。

顧客対応でも社内業務でも、AIに過去のやり取りを学習させる際は、金額や固有名詞を学習対象から外し、情報をマスキングした状態で扱います。AIが学ぶのは「こういうトラブルにどの回答で解決したか」というアルゴリズムだけで、誰の・いくらの話かは学習させません。この設計にしてから、顧客から「情報が他社に漏れないか」と聞かれたとき、担当者が具体的に答えられるようになりました。曖昧な「対策しています」ではなく、「何を・どう除外しているか」を説明できる状態です。

顧客データの扱いについても、私たちは「硬いデータ(基幹の正)」と「柔らかいデータ(AIが活用するデータ)」に分けています。基幹システムのデータはそのまま維持し、AIが働く層だけをバッチでコピーした仮想のブロックエリアに置く。この設計により、AIはインフラを選ばず、オンプレでもクラウドでも、閉域環境でも動かせます。このデータの分け方は、「脱SaaSで『自社のAI OS』を持つという選択」で詳しく扱いました。

権限分離・二段階本番反映・レッドチームアタックという実装

思想だけでは不安は消えません。私たちが実装レベルで担保しているのは、次の3点です。

1つ目は機能単位の権限分離です。資料の閲覧制限だけでなく、機能単位でアクセス権を振り分け、財務・経理や人事系まで含めて権限を分けています。誰が・何を・いつ・なぜ使ったかを、後から追えるようにしています。

2つ目は本番反映の二段階運用です。先にステージング環境で修正し、回帰テストが通ってから本番に反映する。トレーニング環境は背景色を変え、本番と一目で区別できるようにしています。本番デプロイは、たとえ指示があっても人間の確認を挟む運用を徹底しています。

3つ目はレッドチームアタックです。顧客の自社環境へ移行する前に、あえて攻撃を仕掛けるテストを実施し、本番にはIP制限を入れます。私たちはこの3点を自社のAIPLAで先に実践し、そこで見つかった穴を顧客環境に展開する前に塞いでいます。「AIが作った基盤の穴は、まず自社で踏み抜いて塞ぐ」というのが、私たちのやり方です。

知識不足を埋めるのは、マニュアルではなく「動くものを見せる」教育

IPAの調査では、AI利用時に参照したい情報として「AIの基本知識」が最も多く挙げられました。ここで多くの企業が陥りがちなのが、分厚いマニュアルや研修資料を整備しようとすることです。

私たちの経験では、マニュアルを読んで「分かった気になる」ことと、実際に説明できることの間には大きな溝があります。効果があったのは、動くものを見せながら教えるやり方でした。構想段階で実際に動くプロトタイプをその場で作り、それを叩き台に「ここはなぜこう判断したか」を一緒に確認していく。図や仕様書ではなく、触れるものを見せる。この進め方に変えてから、商談の成約率は9割を超えました。

これはVibeCoding(自然言語でAIに指示を出しながらシステムを作る手法)の考え方そのものです。プロトタイプは大がかりな調達からではなく、1日で動くものから始めます。小さく作って現場で触ってもらい、疑問が出たその場で「なぜこう動くか」を説明する。この反復こそが、マニュアルよりも早く「説明できる人」を育てます。

業種によって、不安の中身は違う

IPAの調査でもう一つ興味深いのは、業種によって課題認識の中身が違う点です。医療・介護業種の回答者は、知識・スキル不足への課題認識が他業種より強く、AIの利用により蓄積された業務スキルが継承されないことへの不安(38.5%が「課題」と回答)も高い傾向が見られました。

私たちが製造業の現場で感じるのは、これとは少し違う種類の不安です。「設備が壊れるかどうかの予兆は、長年の経験と信用に基づいて判断している」という、ベテランの勘に頼った運用が多く残っています。この場合の不安は、情報漏えいそのものよりも、「AIに判断を渡した結果、その判断根拠を誰も検証できなくなること」に近いというのが実感です。

業種や現場によって、恐れているものの中身は違います。だからこそ、汎用的なガードレール製品を一律に導入するだけでは足りません。自社の現場でどの種類の不安が強いのかを、まず自分たちで診断する必要があります。データ主権の観点からこの診断をさらに掘り下げたい方は、「ソブリンAIとは何か」も参考にしてください。

自己診断:自社は「知識不足型」か「情報漏えい不安型」か

ここまでの内容を踏まえ、自社の状況を簡単に診断する視点を提示します。

知識不足型の兆候: 「なぜこのAIがこう判定したか」を説明できる担当者が特定の1人しかいない。マニュアルはあるが、実際に使われた形跡がない。ベテラン社員の勘に依存した判断が多く残っている。

情報漏えい不安型の兆候: 経営層がAIの利用実態を把握していない。ツールは導入済みだが、何を入力してよいかのルールが現場任せになっている。過去に近い業界でインシデントのニュースを見て不安だけが先行している。

多くの企業は、この両方が少しずつ混ざっています。ただし、対応の順番は変わります。知識不足型が強ければ、まず動くものを見せながらの教育から着手すべきですし、情報漏えい不安型が強ければ、権限分離とデータの仕分けを先に着手すべきです。どちらから手をつけるべきかを見誤ると、労力をかけた割に不安が減らないという結果になりがちです。

よくある質問

Q. ガードレール製品の導入は不要ということですか。

いいえ、そうではありません。技術的な防御層としてのガードレールは有効です。ただし、それだけで説明責任の問題は解決しません。ツールと、説明できる人材育成は両輪で進める必要があります。

Q. 中小企業でも、権限分離やレッドチームアタックのような対策は必要ですか。

規模に応じた優先順位づけは必要です。私たちの経験では、まず影響範囲の大きいデータ(顧客情報・財務情報)から権限を区切り、影響が限定的な領域は後回しにするという段階的な進め方が現実的です。

まず試すなら

1. 社内で「なぜこのAIがこう判定したか」を即答できる人が何人いるか、まず数えてみてください。1人もいなければ、それが最初に着手すべき課題です。

2. 顧客データや業務データを「基幹の正」と「AIが活用するデータ」に分けられているか、棚卸ししてみてください。分かれていなければ、そこから設計を見直す価値があります。

3. 次にAIツールを導入する前に、「動くプロトタイプを見せながら説明する」教育の場を1回だけ作ってみてください。マニュアルより早く、説明できる人が育つはずです。

AI-Pathでは、無償の業務プロセス診断(BPR)を実施しています。まずは無償の業務診断で、自社が「知識不足型」と「情報漏えい不安型」のどちらに近いのかを明らかにしませんか。

参考リンク

• 「取りあえずAI導入」の末路 現場で深まる情報漏えい不安 IPAの意識調査で明らかに(@IT)
• IPAテクニカルウォッチ「AIの動作・分析・利用等の説明に関する意識調査」(IPA)
• IPA調査、AI利用者の7割超が経験3年未満 生成AIの説明責任とリスク情報への関心高まる(JAPANSecuritySummit Update)