Fireworks AIに不正アクセス、Notion AIのチャット履歴が流出

Fireworks AIの被害とNotionへの影響

Fireworksは世界で数万の顧客を抱えると説明しており、法務テック企業のHarveyやAI企業のCursorも利用している。被害が確認されている顧客の一つがNotionで、自社の顧客の約1%が影響を受けたと開示した。

Notionによると、Fireworksから事案の連絡を受け、のちにNotion顧客のデータが盗まれたと確認された。Notionは11月3日、自社システムをFireworksから切り離し、保存していたデータを削除して、両者の接続をすべて止めた。

今週になってNotionは、Insights機能を使ったNotion AI利用者のチャット記録が盗まれたと認めた。記録には、チャットに書き込まれたモデルへの入力と出力が含まれる。ただしデータの多くは、どの顧客のものか特定できないという。

攻撃者の狙いは何か

Fireworksは、攻撃者は金銭目的とみている。狙いは大規模言語モデル(LLM)へのアクセス権をトークンとして売ることだ。買い手は自前の資源を使わずにAIモデルを使い倒せる。

Fireworksの被害は10月の事案に続き、2カ月で2度目になる。IT企業が他社のサービスに依存している以上、一社への侵入が別の顧客にも波及する。今回はその典型例といえる。