OpenAI prüfte Handys entlassener Forscher auf Signal-Chats

OpenAIs Sicherheitsteam hat drei KI-Sicherheitsforscher bei einer Leak-Untersuchung aufgefordert, ihre privaten Handys zu öffnen. Etwa eine Woche später wurden die drei entlassen. Das geht aus einem Bericht des Wall Street Journal hervor, den einer der Betroffenen bestätigte. „Mir wurde gesagt, es gebe einen Vertrauensbruch, weil ich über nicht genehmigte Kanäle mit einem Dritten interagiert habe“, sagte Tomek Korbak.

Was die Untersuchung ergab

Die Ermittler benannten den KI-Sicherheitsforscher Ryan Greenblatt als mutmaßlichen Informanten. Er bestreitet das. Auslöser war ein Bericht von The Information vom 1. September: Astra, OpenAIs neuestes Modell, nutze eine neue Technik, die es leistungsfähiger mache, aber weniger von seinem Denken zeige. Chefwissenschaftler Jakub Pachocki nannte die Berichterstattung „verworren“.

Auf den Handys sahen die Sicherheitsleute, dass einige Forscher in Signal-Chats mit Greenblatt verschwindende Nachrichten aktiviert hatten. Danach bestellte das Unternehmen Korbak, Mikita Balesni und Jasmine Wang am selben Tag um 14 Uhr zu Gesprächen und entließ sie. Balesni und Korbak sagen, die Führung habe die verschwindenden Nachrichten als einen Grund genannt. Alle drei geben an, nie vertrauliche Informationen nach außen gegeben zu haben. Ihre Darstellung ist nicht unabhängig überprüft.

Gegensätzliche Darstellungen

OpenAI erklärt, eine interne Untersuchung habe Verstöße der drei gegen Regeln zu sensiblen Informationen ergeben; die Entlassungen erfolgten „nicht, weil Sicherheitsbedenken geäußert wurden“. Eine Sprecherin sagte, Signal sei nicht genehmigt gewesen, aber nicht der einzige Grund. Korbak nennt verschwindende Nachrichten eine „grundlegende Sicherheitspraxis“ im Silicon Valley.

Wang sagt, man habe ihr vorgeworfen, wiederholt das E-Mail-Postfach einer Führungskraft geöffnet zu haben. Sie habe schon fast ein Jahr zuvor gebeten, diesen Zugriff zu entfernen, eine sensible Mail versehentlich geöffnet und sofort gemeldet. OpenAI habe den Zugriff selbst nicht beanstandet.

Greenblatt, heute bei METR, schrieb auf X, OpenAI habe „falsche Anschuldigungen“ gegen ihn erhoben. Er habe keine Architekturdetails weitergegeben und nur eine zur Weitergabe freigegebene Version eines internen Memos gesehen.

Warum das wichtig ist

Die drei hatten sich im Sommer dafür eingesetzt, das Denken von KI-Modellen, die „Chain-of-Thought“, sichtbar zu halten. In einem Brief im Oktober forderten sie den Verwaltungsrat auf, mit externen Sicherheitsgruppen zusammenzuarbeiten. Der Streit zeigt, wie KI-Labore Geheimhaltung und externe Kontrolle abwägen.