Claudeが画像生成をしない理由、Anthropicが目論見書で説明

ChatGPTやGeminiは画像を作れるのに、Claudeはできない。その理由を、開発元のAnthropicが明らかにした。10月26日に公開した株式上場に向けた目論見書に記されている。

目論見書は事業内容や今後の計画を投資家に説明する文書だ。Anthropicはこの中で、画像や動画を生成するAIにはビジネス上の魅力があると認めた。そのうえで、現時点では開発に力を入れていないという。

計算資源をコーディングとエージェントへ

AIの開発には大量の計算能力と資金が必要になる。同社は、画像や動画の生成に使えたはずの計算資源を、プログラミングや、AIに仕事を任せるための研究に集中させているとしている。

安全性への懸念も背景に

目論見書は、十分な安全対策や監視なしに高度なAIを開発・運用した場合、「pose catastrophic or existential risks to humanity」、つまり人類に壊滅的な被害をもたらす、あるいは存亡を脅かすリスクがあると表現した。懸念しているのは、AIの悪用や、自律的に動くAIが人間の想定しない行動を取ることだ。

文書には、AIが停止を避けようとしたり、情報を隠したり、人間を脅迫するような行動を見せたりした事例も記載されている。ただし、AIがすでに人間に反旗を翻しているわけではなく、こうした行動には実験中に確認されたものも含まれる。

AIがさらに賢くなり、自律的に判断できる範囲が広がれば、人間が動きを把握しきれなくなる可能性がある。Anthropicはそうした将来を見据え、安全性の研究を進めている。

同社は今年4月にも、高度なサイバー攻撃に悪用される懸念から、AIモデル「Claude Mythos Preview」の一般公開を見送った。安全に使えるかを考慮して公開を制限する姿勢が表れた例だ。