Fireworks AI 해킹, Notion AI 대화 기록 유출

Fireworks AI 해킹으로 누가 피해를 입었나

Fireworks는 전 세계 수만 곳의 고객이 이용한다고 설명하며, 리걸테크 기업 Harvey와 AI 기업 Cursor가 고객으로 꼽힙니다. 피해가 확인된 고객 중 하나가 문서 편집기이자 노트 앱인 Notion으로, 자사 고객의 약 1%가 영향을 받았다고 공개했습니다.

Notion은 Fireworks로부터 보안 사고를 통보받았고, 이후 Notion 고객 데이터가 도난당했다는 사실을 확인받았다고 밝혔습니다. 11월 3일 Notion은 자사 시스템을 Fireworks에서 분리하고 저장된 데이터를 삭제했으며 두 회사 사이의 모든 연결을 끊었습니다.

이번 주 Notion은 Insights 기능을 쓴 Notion AI 고객의 대화 기록이 유출됐다고 확인했습니다. 여기에는 채팅에 입력된 모델 입력값과 출력값이 모두 포함될 수 있습니다. 다만 데이터 상당수는 어느 고객의 것인지 특정할 수 없다고 합니다.

해커의 목적은 무엇인가

Fireworks는 공격자가 금전을 노린 것으로 보고 있습니다. 대규모 언어 모델(LLM)에 접근할 수 있는 토큰을 파는 것이 목표라는 설명입니다. 구매자는 자기 자원을 쓰지 않고 AI 모델 사용량을 마음껏 소진할 수 있습니다.

Fireworks는 10월 보안 사고에 이어 두 달 새 두 번째 침해를 겪었습니다. IT 기업이 다른 업체의 서비스에 기대는 만큼, 한 곳이 뚫리면 다른 고객에게도 피해가 번질 수 있다는 점이 이번에 드러났습니다.