「個人情報保護法」と聞いてもピンとこない人は多いと思います。でも、ChatGPTやClaude、Notion AIを仕事で使っているなら、話は別です。顧客の名前やメールアドレス、従業員の連絡先をプロンプトに貼り付けたことはないでしょうか。

この記事では、2026年11月に公表されたNotion AIの委託先事故を入り口に、ZDR(Zero Data Retention)の限界、個人情報保護法の「第三者提供」、そして国内で相次ぐ「AIへの個人情報送信」事案を整理します。最後に、AI導入支援やFDE(Forward Deployed Engineer)として本当に提供すべき価値についても考えます。

※筆者は法律の専門家ではありません。本記事は一般的な情報整理であり、個別の判断は弁護士など専門家に相談してください。

何が起きたのか:Notion AI × Fireworks AI 事故の経緯

Notion AIは、Notionの中で文章作成・要約・検索などをAIで行える機能です。多くの利用者は意識していませんが、その処理の一部は外部のAI推論基盤であるFireworks AIに委託されていました。

公表内容をまとめると、経緯はおおむね次のとおりです。

日付(2026年) 出来事
10月6日 Fireworksが内部認証情報の不正利用を発見(1回目の侵害。評価ジョブの環境変数などが読まれた)
10月23〜24日 Fireworksの研究開発用マシンを置くクラウド事業者で事案が発生し、開発機へ侵入される(2回目)
11月2日夜 FireworksがNotionに「少量のデータにアクセスされた。中身は合成テストデータ」と連絡
11月3日 NotionがFireworksとの接続を遮断し、Fireworks側の全データを削除
11月6日 Fireworksから「顧客データにアクセスされた可能性がある」と再連絡
11月8日 影響データセットが確定。Notion AIのチャット記録が含まれていた
11月9日 Notionが公表し、影響顧客(ワークスペースの1%未満)へ連絡

対象は主に、管理者向けの利用分析機能「Insights」のためにFireworksへ送られていたNotion AIのチャット記録(入力と回答)です。Notionによれば多くは利用者やワークスペースに紐づかない形でしたが、国内でも自動運転開発のチューリングが、10月5日〜24日に従業員がNotion AIに入力した内容の一部が対象だったと11月12日に公表しています。Fireworksは攻撃者を、盗んだLLMのトークンを売る「LLMJacking」に関わる金銭目的のグループとみています。

図解1_NotionAIのデータ経路とZDRの範囲
図解1_NotionAIのデータ経路とZDRの範囲

応答生成のAPI呼び出し(経路A)はZDRで守られていましたが、Insights分析のために保存データを送る経路BはZDRの対象外で、委託先に残っていたデータが侵入で読まれました。

ZDRは万能ではない:「保持しない」約束が及ぶ範囲

この事故が大きく話題になった最大の理由は、\*\ZDR(Zero Data Retention:データを保持しない)\\*の約束があったのに、データが残っていたことです。

Notionの説明を整理すると、ZDRには2つの層があります。

  1. API呼び出しの層:Notion AIの応答を生成するために外部モデルへ送るリクエスト。ここはZDR対応のエンドポイントを使い、データは残らない前提。
  2. 機能のために保存する層:チャット履歴やInsightsのように、保存しないと機能が成り立たないもの。ここはそもそもZDRの対象外。

Insightsの分析では、保存済みのチャット記録をFireworksに送って処理していました。Fireworksは契約上ZDRを約束していたものの、Notionの調査で、使っていたエンドポイントにデータが残っていたことが判明しています。Fireworks自身も、推論サービスなどはデフォルトでZDRだが、学習系のワークフローではデータセットなどを保持しうると説明しています。

ここから得られる教訓はシンプルです。

  • 「ZDRです」は、どの機能・どの経路の話かを必ず確認する。 履歴、分析、学習、評価など「保存が前提の機能」は別扱いになっていることが多い。
  • 委託先のさらに先(サブプロセッサ)まで見る。 利用者の誰もFireworksと契約した覚えはないのに、データはそこにあった。
  • 契約は技術的な保証ではない。 約束が守られているかを監査できる仕組みや、そもそも送らない設計が必要。

漏れなくても問題になる:個人情報保護法の「第三者提供」

「情報漏洩なんて1億分の1の確率でしょ」「外部に公開されるわけじゃないし」——そう考える人は多いのですが、論点はそこではありません。自社に預けられた個人データを、本人の同意なく外部に送ること自体が、法律上の問題になりうるのです。

個人情報保護法では、個人データを第三者に提供するには原則として本人の同意が必要です。そして、Google、OpenAI、Anthropic、Notion、Amazonといった事業者も、自社から見れば当然「第三者」です。

ただし、同意がなくても提供にあたらない・許される整理がいくつかあります。

  • 委託:利用目的の達成に必要な範囲で取扱いを委託する場合。ただし委託元には委託先を監督する義務があります。
  • クラウド例外:クラウド事業者が個人データを「取り扱わない」(契約やアクセス制御で中身に触れない)場合は提供にあたらない、という個人情報保護委員会Q&Aの整理。ただし、ラベルが「クラウド」「AI」かどうかではなく、実際の取扱い実態で判断されます。
  • 外国にある第三者への提供には、さらに追加の規律があります。

個人情報保護委員会は2023年6月の「生成AIサービスの利用に関する注意喚起」で、本人の同意なく個人データを含むプロンプトを入力し、それが応答の出力以外の目的で取り扱われる場合は法に違反する可能性があると示しました。入力する場合は、事業者が機械学習に使わないことなどを十分確認するよう求めています。

また、2026年7月に公布された改正個人情報保護法では、AI開発を含む「統計情報等の作成」目的に限って同意なく提供できる特例が新設されました。ただし、業務でChatGPTなどに顧客情報を貼り付けるような日常的な利用には及ばない、と解説されています。

図解2_個人データをAIに入れる前の判定フロー
図解2_個人データをAIに入れる前の判定フロー

まず「送らない」選択肢(マスキング・仮名化)を検討し、それが無理なら同意、委託、クラウド例外のどれで整理するかを決めます。どれにも当てはまらなければ入力しません(実際の判断は専門家と確認してください)。

さらに、漏洩の「おそれ」が生じた段階で、一定の場合には個人情報保護委員会への報告と本人への通知が必要になります。Notion AIにガンガン個人情報を入れていた会社は、「たぶん大丈夫」で済ませず、自社が影響を受けていないか、受けていた場合の報告要否を確認しておくべきでしょう。

相次ぐ「AIへの送信」事案と、「持たないデータは漏れない」原則

今回のNotionの件に限らず、ここ数年「AIに送ったこと自体」が問題になる事案が続いています。共通するのは、誰かに見られた・悪用されたことが確認されていなくても、公表・報告の対象になっている点です。

事案 概要
サムスン電子(2023年) 半導体部門のエンジニアがエラー修正のためにソースコードや会議内容をChatGPTに入力。同社は生成AIの社内利用を制限した
RIZAP(2026年9月) 特定保健指導の委託先として扱っていたデータを、社員が私用の外部生成AIにアップロード。疾患情報など要配慮個人情報も含まれ、本人の自己申告で発覚
パナソニック グループ(2026年10月) 人事システム導入プロジェクトのメンバーが、利用禁止の外部生成AIに従業員・元従業員とその家族の約33万4千人分の情報をアップロード。学習には使われていないが、個人情報保護委員会に報告し公表

※動画内で「LINE UPの委託先」と触れられていた事案は、内容(委託先がAIに個人情報を送信)からRIZAPの件を指していると思われます。

あわせて、AIとは直接関係しないものの「持つ必要のないデータを持っていた」ことが被害を大きくした事例もあります。

  • タイムズカー(2026年9月):Webシステムへの不正アクセスで、退会者を含む最大約660万件の会員情報が流出し、うち運転免許証などの画像は約160万件。退会後7年以内の人まで対象でした。本人確認のための画像は、確認が終われば即時破棄するのがシステム設計の基本です。法律も、不要になった個人データは遅滞なく消去するよう求めています。
  • GMO「お名前.com デスクトップクラウド」(2026年10月):一部顧客のサーバー環境に不正なプログラムが設置され、影響は約2万6千台のサーバーに及びました。保存されていた取引口座のログイン情報が悪用されたほか、リモートデスクトップのドライブ共有を通じて利用者側のPCや共有フォルダにまでリスクが及ぶと指摘されています。

「いらないデータは持たない」「いらない経路はつながない」。これはエンジニアの基礎の基礎ですが、AIによってエンジニアでない人も日常的にデータを外部へ投げる時代になったことで、改めて全員が意識すべき原則になっています。

AI導入支援・FDEの本当の価値はどこにあるか

AIの登場で、エンジニアでなくてもClaude CodeやCodexを使えばシステムが組めるようになりました。その結果、「お客さんの要望を聞いて、AIで作って納品する」タイプのAI導入支援も増えています。

もちろん、それにもニーズはあります。ただ、要望を聞いてAIに指示するだけなら、本当にすごいのはAIであり、極端に言えばお客さん自身でもできます。たとえば「撮影した動画をAIで編集してYouTubeにアップロードまで自動化したい」という依頼は、技術的には十分実現できます。

しかし、その素材に通行人の顔や、画面に映った他人の名前・メールアドレスが含まれていたらどうでしょう。社内システムの紹介動画で、ユーザー管理画面に顧客の氏名や住所が映っていたら?「モザイク処理が面倒だからAIに全部投げる」は、そのまま個人データの外部送信です。依頼者はそこまで考えていないことがほとんどです。

図解3_AI導入支援の価値の3層
図解3_AI導入支援の価値の3層

「作る」だけならAIで代替できます。依頼者が気づかない「守る」「回す」の2層を引き受けられることが、導入支援の差になります。

だからこそ、AI導入支援・FDEに求められるのは次のような視点です。

  • 法令とガイドライン:個人情報保護法に加え、金融・医療ならそれぞれのガイドライン、クレジットカードを扱うならPCI DSSなど。
  • 契約とポリシー:顧客との契約、プライバシーポリシー、利用目的の範囲で本当に送ってよいのか。
  • システム構成:データをどこから取り出し、どこで処理し、どう戻し、どう継続運用するか。AWSで組むのか、どのAIサービスのどのプラン(Team/Enterprise等)をどう使うのか。

「こういう理由でそのままはダメです。回避するならこういう方法があります」と提案できること。お客さんが気づけないリスクを指摘し、解決まで伴走すること。ここに、AIだけでは代替できない価値があります。

今日からできる対策チェックリスト

AIを業務で使う人・組織向け

  • [ ] 個人情報・顧客情報・機密情報をプロンプトに入れていないか、まず現状を棚卸しする
  • [ ] 使ってよいAIツールとプラン、入力してはいけない情報を社内ルールとして明文化する
  • [ ] 私用アカウントや未承認ツールの業務利用(シャドーAI)を防ぐ仕組みを用意する
  • [ ] 利用中のAIサービスの「学習に使わない」「保持しない」の範囲を、機能ごと(履歴・分析・学習など)に確認する
  • [ ] AIサービスのサブプロセッサ(委託先の委託先)を確認する

Notion AIを使っている組織向け

  • [ ] Notionから影響の連絡が来ていないか、管理者が確認する
  • [ ] Notion AIに入力した内容に個人情報や認証情報が含まれていないか振り返り、認証情報は念のためローテーションする
  • [ ] 個人データが含まれていた可能性がある場合、報告・通知の要否を専門家と確認する

AI導入支援・FDE・システム開発をする人向け

  • [ ] 個人データを送る経路ごとに「同意/委託/クラウド例外」のどれで整理するかを設計段階で決める
  • [ ] 本人確認書類など、目的を果たしたデータは即時破棄する設計にする
  • [ ] マスキング・仮名化・ローカル処理など「送らない」選択肢を最初に検討する
  • [ ] 判断が難しい部分は、自分で抱えず弁護士やセキュリティの専門家につなぐ

おわりに

セキュリティに「これで完璧」はありません。それでも、法律で決まっていることを「AIが使えなくなるから」と無視してよい理由にはなりません。遅刻しそうだから信号無視してよい、とはならないのと同じです。

AIを使えるようになった次のステップは、AIを安全に使えるようにすること。今回のNotion AIの件は、その必要性をあらためて突きつける出来事でした。

「SMART AI WATCHER  スマート AI ウォッチャー 」でできる対策

本記事で取り上げた事案の多くは、「誰が、どの端末で、どのAIを使っているか」を会社が把握できていないことが出発点でした。弊社のエンドポイント統制製品「SMART AI WATCHER」は、端末側からこの「見えない」を減らすための製品です。

記事中のリスク 関連事案 SAWでできること
未承認・私用AIへの入力(シャドーAI) RIZAP、パナソニック グループ 生成AIの利用ログを監視し、社内でのAI利用の実態を可視化。社内ルールを「作って終わり」にしない
事故後の影響範囲の特定 Notion AI×Fireworks AI インシデント発生後もAIログ管理で事後追跡でき、個人情報保護委員会への報告や本人通知の要否を判断する材料になる
端末上のソフトウェアの脆弱性 GMO「お名前.com デスクトップクラウド」 NVDを使った脆弱性評価を実装済み。JVN iPedia・KEV・EPSSによる評価強化も実装予定
外部から見える攻撃面 タイムズカー、GMO EASMとの連携に対応

導入面では、Mac・Linuxに対応し、Microsoft IntuneのMDM APIとも連携できるため、既存の端末管理の仕組みを活かしながらAI利用の統制を加えられます。

「AIを使いたい。でも情報漏洩が怖い」という企業にとって、禁止するだけではシャドーAIはなくなりません。「使わせながら見えるようにする」ことが、AIを安全に使うための現実的な第一歩です。SAWについては、お気軽に弊社までお問い合わせください。

参考情報

  • Notion「Fireworks AI incident」セキュリティアドバイザリー(2026年11月9日)https://www.notion.com/ja/security/advisories/security-incident-involving-a-third-party-ai-vendor
  • BleepingComputer「Notion says Fireworks breach exposed customer AI chat transcripts」https://www.bleepingcomputer.com/news/security/notion-says-fireworks-breach-exposed-customer-ai-chat-transcripts/
  • innovatopia「Notion AIのチャット記録に攻撃者がアクセス、委託先Fireworks AIの侵害で」https://innovatopia.jp/cyber-security/cyber-security-news/120008/
  • Xenospectrum「Notion Fireworks AI chat leak」https://xenospectrum.com/en/notion-fireworks-ai-chat-leak/
  • innovatopia「パナソニック、利用禁止の生成AIに従業員・家族の個人情報 約33万4千人分」https://innovatopia.jp/cyber-security/cyber-security-news/119409/
  • Rocket Boys「RIZAP、生成AIにIHI健保の加入者情報を誤アップロード」https://rocket-boys.co.jp/?p=39943
  • @IT「タイムズカーで不正アクセス 約660万件の情報が流出」https://atmarkit.itmedia.co.jp/ait/articles/2609/30/news038.html
  • 北海道新聞 社説(タイムズカー免許証画像流出)https://www.hokkaido-np.co.jp/article/1384883/
  • Impress Watch「お名前.comデスクトップクラウドで不正アクセス」https://www.watch.impress.co.jp/docs/news/2150663.html
  • The Register「Samsung puts ChatGPT back in the box after 'code leak'」https://www.theregister.com/2023/05/02/samsung\_generative\_ai\_ban/
  • 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」(2023年6月2日)の解説:https://www.jipdec.or.jp/library/report/m0p0h60000001g6j-att/20240227\_r02.pdf
  • モノリス法律事務所「クラウド例外」解説 https://monolith.law/corporate/personal-information-cloud-exceptions
  • ギフトエックス「生成AIに個人情報を入力してよいのか」(2026年改正法の特例について)https://ai.giftx.co.jp/blog/generative-ai-personal-data-protection/