OpenAI проверила телефоны уволенных исследователей на чаты Signal

OpenAI во время расследования утечки попросила трёх исследователей безопасности ИИ открыть свои личные телефоны, а спустя неделю уволила их. Об этом сообщила The Wall Street Journal со слов самих сотрудников. TNW самостоятельно эти сведения не проверяла.

«Мне сказали, что произошло нарушение доверия, потому что я общался с третьей стороной по неодобренным каналам», — заявил один из уволенных, Томек Корбак. Вместе с ним уволены Микита Балесни и Жасмин Ван. Все трое утверждают, что не передавали конфиденциальную информацию за пределы компании.

Что произошло

Расследование началось после публикации The Information от 1 сентября. В ней говорилось, что Astra, новейшая модель OpenAI, использует новый метод: она стала мощнее, но меньше показывает свои рассуждения. Главный научный сотрудник Якуб Пахоцкий назвал эти данные «путаными».

Служба безопасности назвала возможным источником утечки исследователя Райана Гринблатта, который отрицает причастность. При осмотре телефонов выяснилось, что часть сотрудников включила в Signal исчезающие сообщения в чатах с ним. Через неделю всех троих вызвали на встречи в 14:00 и уволили. Балесни и Корбак говорят, что руководство назвало среди причин именно исчезающие сообщения. Корбак считает их «базовой практикой безопасности» в Кремниевой долине.

В OpenAI заявили, что внутреннее расследование выявило нарушение правил обращения с чувствительной информацией, а увольнения произошли «не за поднятие вопросов безопасности». По словам представителя, Signal не был одобрен, но не это единственная причина. Ван рассказала, что ей поставили в вину неоднократное открытие почты руководителя: доступ она просила убрать почти год назад, а одно чувствительное письмо открыла по ошибке и сразу сообщила об этом. В компании ответили, что к самому доступу претензий нет.

Версия Гринблатта

Гринблатт, ранее главный научный сотрудник Redwood Research, а теперь сотрудник METR, написал в X, что OpenAI выдвинула против него ложные обвинения. По его словам, он не помогал утечке: журналист The Information выходил на него до публикации, но он не комментировал, кроме одного вопроса о своём блоге. Он также отрицает чтение внутреннего меморандума с чувствительными деталями: ему показывали лишь одобренную версию. Переписки в Signal, по его словам, были с профессиональными контактами.

Летом исследователи добивались сохранения видимости цепочки рассуждений моделей, а в октябрьском письме совету директоров призвали работать с внешними группами по безопасности. «Лучшее объяснение: разговоры с аудиторами — это слишком много безопасности, исчезающие сообщения — слишком много защиты», — написал Корбак.