Google DeepMind、従業員が生涯の批判禁止条項に反発

現役の従業員2人は同紙に対し、こうした条項がAI開発の潜在的な影響を一般に伝えるうえで障害になると語った。2人は会社からの報復を恐れ、匿名で取材に応じた。従業員の1人によれば、最近は社内のコミュニケーション基盤で数十人が契約について議論した。条項を公然と批判する人もいれば、「1984年」を連想させる絵文字を投稿する人もいたという。

Googleの説明

Googleは、元従業員に対してこうした制限を行使していないとしている。また、直近の条件変更で、新規採用者の契約から、批判の禁止を退職後にも及ぼす条項を削除したと説明する。さらに、安全性や責任をめぐる率直な議論を奨励し、問題を報告するための社内窓口も用意しているという。

対立の核心はここにある。現役の従業員は、同じ変更を過去に結んだ契約にも適用するよう求めている。条項を適用しないと口頭や公の場で表明することと、署名済みの契約から削除することは同じではないからだ。

信頼をめぐる問題

先端モデルの開発者は、一般には知られていない情報を持っている。ただし、会社を批判する従業員が自動的に中立な判断者になるわけではない。リスクを誤って評価したり、事業上の背景を知らなかったりする可能性もある。従業員を完全に黙らせるのも、あらゆる内部対立を公の流出に変えるのも、妥当な解決策とは言えない。

それでも現在のAI開発では、社会が企業に大きな信頼を預ける構図になっている。企業がモデルを自ら作り、テストの多くも自ら行うためだ。GoogleがAIを信頼してほしいと訴える一方で、それを作る人々の一部が「信頼すべきでないときに伝えられる」という正式な保証を求めている点は皮肉だ。