文 = 榊 優介（株式会社 ENTER 代表取締役）／text by Sakaki Yusuke
2026年3月、米Meta社でAIの利用に起因する重大なセキュリティ事案が発生しました。簡単に説明します。ある社員が社内の掲示板に、「この技術的な問題、どうすれば解決できる？」という趣旨の質問を投稿した。別のエンジニアが、それを社内のAIに分析させた。問題はここから先です。
本来、そのAIの回答は、依頼した社員だけに返されるはずだった。ところがAIは、その社員の確認を取らずに、その回答を社内の掲示板へ投稿してしまった。そして、その回答を見た別の社員が、「なるほど。これをやれば解決するのか」と、その内容を実行した。すると、会社のシステムの「誰が、どの情報を見ることができるか」という設定に問題が発生し、本来見る権限のない社員でも、機密性の高い企業・ユーザー関連データを含む社内システムへアクセスできる状態が約2時間続いてしまった。
外部へのデータ流出は確認されませんでしたが、Meta社はこれを高レベルのインシデントとして扱いました。
「情報の取り扱い」以外の注意点
生成AIの進化スピードは、管理する側の想像をはるかに超えています。文章作成や画像生成、データ分析にとどまらず、自律的に業務を進める「AIエージェント」の実用化も進んでいます。急速な普及に伴い、企業の現場や本部からは不安の声も多く聞かれます。
「情報漏洩のリスクはないのか」
「AIの誤りを誰がチェックするのか」
これまでAIのリスク対策といえば「個人情報や機密情報を入力しないこと」と「誤答（ハルシネーション）」が中心でした。ホール現場でも、AIが提案した営業施策や数値予測を盲信して実行すれば、思わぬ損失やトラブルにつながる恐れがあります。AIは自然な文章で誤答（ハルシネーション）を出力する特性を持ちますから、使う側は、「AIは優秀である」ことと、「AIは常に正しい」ことを明確に区別して扱い、確認することが必要です。
しかし先のMeta社の事案の問題は、「AIが人間の確認を飛ばして行動した」ことにあります。これは、AIに指示を出す段階だけでなく、「AIに何をさせるか」「AIの出力を誰が確認し、どの権限で実行させるか」という運用の統制が不可欠であることを示しています。
「全面禁止」が招くシャドーAIの罠
こうした懸念から、「よく分からないので、社内での生成AI利用は全面禁止」という判断を下す企業も少なくありません。
しかし、リスクを避けるために全面禁止にすれば安全かといえば、そうではありません。そこには「シャドーAI（会社に無断で個人端末や私的アカウントを使って業務にAIを利用すること）」という別の問題が発生します。
禁止されていても、利便性を知る社員は個人の判断で利用しがちです。その結果、会社は「誰が、どのツールで、どんな情報を扱っているか」を把握できなくなります。 つまり全面禁止は、リスクをゼロにするのではなく、「見えていたリスクを見えないリスクに変えている」に過ぎないのです。
経営の視点からは「禁止すれば安全だが、それで競争に勝てるのか？」という問いかけが必要です。最も深刻なのは「使わないことによる生産性格差」です。資料作成やデータ集計、販促のアイデア出しなどにAIを活用し作業時間を短縮し、1日90分の時間を創出できたとします。創出できた時間を接客向上やスタッフ教育、営業戦略の立案といった「人にしかできない業務」へ充てる企業と、旧来の作業に追われ続ける企業とでは、1年後、店舗数や組織全体で埋めがたい競争力の差がつきます。年間225日出勤する店長だったら年337.5時間です。店長が10人いたら3,375時間です。1日では小さな差でも、会社全体で1年間を通して見れば非常に大きな生産性の差、競争力の差になります。
ルールは「ガードレール」
目指すべきは、利用を制限することではなく「安全に使いこなせる環境づくり」です。機密情報の取り扱い基準、推奨するツールの指定、人間による最終確認プロセスの義務化など、明確な運用基準を設けます。
ルールとは、前進を止める「ブレーキ」ではなく、安心してアクセルを踏むための「ガードレール」です。このガードレールを機能させる土台として有効なのが、共通リテラシーの習得です。
例えば、一般社団法人生成AI活用普及協会（GUGA）が実施する「生成AIパスポート」のような資格は、操作技術だけでなく、著作権や情報管理、誤回答への対処法など、ビジネス利用に必要な基礎知識を体系的に網羅しています。これをいわば「AI時代の運転免許証」と位置づけ、まずは店長や実務マネージャー、本部スタッフから取得を進めることを私は推奨します。「生成AIを仕事で使うなら、最低限これだけは知っておこう」という共通のAIリテラシーを持つことで、「ここまではAIに任せ、ここからは人間が責任を持つ」という自社基準をスムーズに構築・共有できます。「ルールを守るなら、どんどんAIを使って仕事を変えてほしい」という会社に変わります。
AIを怖がって禁止する組織から、リスクを正しく理解して組織の競争力に変える企業へ――。確かなリテラシーというガードレールを整備し、事業成長のためのアクセルを踏み込むことこそが、これからのデジタル化における確実な一歩となります。
