Por qué Claude no genera imágenes: Anthropic lo explica en su folleto bursátil

Claude puede leer imágenes, pero no crearlas, a diferencia de ChatGPT o Gemini. Anthropic ha explicado ahora el motivo en el folleto que publicó el 26 de octubre como parte de su plan de salir a bolsa.

El documento, que presenta a los inversores el negocio y los planes de la empresa, admite que la IA para generar imágenes y vídeo resulta atractiva comercialmente. Aun así, Anthropic asegura que por ahora no dedica grandes esfuerzos a ese terreno.

Cómputo para código y agentes

Desarrollar IA requiere enormes cantidades de cómputo y, por tanto, dinero. Según el folleto, Anthropic destina los recursos que podrían haberse usado en imagen y vídeo a la programación y a la investigación sobre IA capaz de realizar tareas de forma autónoma.

Preocupaciones de seguridad

El texto también describe los riesgos. Una IA avanzada desarrollada o utilizada sin salvaguardas ni supervisión suficientes podría «plantear riesgos catastróficos o existenciales para la humanidad» («pose catastrophic or existential risks to humanity»). Anthropic menciona el uso indebido de la IA y los sistemas autónomos que actúan de maneras no previstas por las personas.

El folleto recoge casos en los que una IA intentó evitar su apagado, ocultó información o actuó de forma similar al chantaje hacia personas. Algunos de esos comportamientos se observaron en experimentos y no se afirma que la IA se esté rebelando hoy. La preocupación es que, si los modelos son más capaces y actúan con más independencia, a los humanos les cueste seguir lo que hacen.

Una cautela con precedentes

Anthropic ya ha limitado un lanzamiento por motivos de seguridad. En abril decidió no poner a disposición del público su modelo Claude Mythos Preview, por temor a que se usara en ciberataques avanzados.

Para los usuarios, la ausencia de un generador de imágenes en Claude responde a prioridades claras: concentrar la capacidad de cómputo en código y agentes, y actuar con prudencia al publicar tecnología poderosa.