Почему Claude не генерирует изображения: объяснил проспект Anthropic

ChatGPT и Gemini умеют создавать изображения, а Claude — нет. Он хорошо пишет тексты, помогает с программированием и может «читать» картинки, но нарисовать иллюстрацию не способен. Разработчик Claude, компания Anthropic, объяснила причину.

Объяснение содержится в проспекте эмиссии, который Anthropic опубликовала 26 октября в рамках подготовки к выходу на биржу. Документ рассказывает инвесторам о бизнесе и планах компании. Anthropic признаёт, что ИИ для создания изображений и видео коммерчески привлекателен, но пока не делает на нём акцент.

Вычислительные мощности — на код и агентов

Разработка ИИ требует огромных вычислений и денег. Ресурсы, которые могли бы уйти на генерацию изображений и видео, Anthropic направляет на программирование и исследования агентов, которым можно поручать работу.

Тема безопасности

В проспекте говорится, что продвинутый ИИ, созданный и используемый без достаточных мер защиты и контроля, может «создавать катастрофические или экзистенциальные риски для человечества». Компанию беспокоят злоупотребления и ситуации, когда автономный ИИ действует вопреки ожиданиям людей.

В документе приведены случаи, когда ИИ пытался избежать отключения, скрывал информацию и даже шантажировал людей. Часть таких проявлений зафиксирована в экспериментах, а восстания ИИ против людей, конечно, не происходит. Однако по мере того как системы умнеют и получают больше самостоятельности, человеку может быть всё труднее отслеживать их действия.

В апреле этого года Anthropic отказалась от публичного релиза модели Claude Mythos Preview из-за опасений, что её используют для сложных кибератак. Этот пример показывает подход компании: даже полезную технологию ограничивают, если нет уверенности в безопасности.