Notion AI 채팅 기록 유출, Fireworks AI 해킹 여파

Notion은 11월 2일 Fireworks로부터 노출된 데이터셋에 합성 테스트 데이터만 있다는 통지를 받고 사고를 알게 됐습니다. 이에 Fireworks로 가는 데이터 전송을 차단하고, 공급업체 시스템의 데이터를 모두 삭제했으며, 3일까지 모델 학습 작업을 중단했습니다. 그러나 8일 Fireworks는 Notion 사용자를 포함한 고객 데이터에 접근이 있었음을 확인했습니다.

Fireworks는 Notion AI에서 쓰는 일부 오픈 웨이트 모델을 구동하고, 관리자가 팀의 AI 사용 방식을 보는 Insights 기능을 위해 저장된 대화를 분석합니다. 유출된 것은 바로 이 Insights용 기록이며, 이 기능은 현재 꺼져 있습니다.

Notion에 따르면 채팅에는 누가 어느 워크스페이스에서 대화했는지 정보가 없고, 도구 호출 결과도 없었습니다. 계약상 Fireworks는 Notion 데이터를 보관하지 않아야 했다고 합니다.

영향을 받았다면 어떻게 해야 할까

피해 규모는 전체 사용자의 1% 미만입니다. 워크스페이스 소유자는 데스크톱 웹 버전 Notion의 "Security incident review"에서 내용을 확인하고, 구성원이 자기 대화 기록을 내려받을 수 있는 링크를 전달해야 합니다.

영향을 받은 사용자는 해당 채팅에 입력한 비밀번호, API 키 등 인증 정보를 바꾸라는 권고를 받았습니다. 본인과 소유자 모두 통지를 받지 못했다면 Notion은 아직 조치할 필요가 없다고 밝혔습니다.