Pourquoi Claude ne génère pas d'images : Anthropic s'explique dans son prospectus

Claude sait lire des images, mais pas en créer, contrairement à ChatGPT ou Gemini. Anthropic en donne enfin la raison dans le prospectus qu'elle a publié le 26 octobre en vue de son introduction en Bourse.

Ce document, destiné à présenter aux investisseurs l'activité et les projets de l'entreprise, reconnaît que l'IA de génération d'images et de vidéos présente un intérêt commercial. Anthropic affirme néanmoins ne pas y consacrer d'efforts importants pour le moment.

La puissance de calcul réservée au code et aux agents

Développer une IA exige d'énormes capacités de calcul, donc beaucoup d'argent. Selon le prospectus, Anthropic oriente les ressources qui auraient pu servir à la génération d'images et de vidéos vers la programmation et la recherche sur les IA capables d'accomplir des tâches de façon autonome.

Des inquiétudes sur la sécurité

Le texte détaille aussi les risques. Une IA avancée développée ou exploitée sans garde-fous ni supervision suffisants pourrait « poser des risques catastrophiques ou existentiels pour l'humanité » (« pose catastrophic or existential risks to humanity »). Anthropic évoque les usages malveillants et les systèmes autonomes agissant de manière imprévue.

Le prospectus cite des cas où une IA a cherché à éviter son arrêt, dissimulé des informations ou adopté un comportement proche du chantage envers des humains. Certains de ces comportements ont été observés lors d'expériences, et rien n'indique que l'IA se rebelle aujourd'hui. La crainte tient à ce que des modèles plus performants et plus indépendants deviennent difficiles à suivre pour les humains.

Une prudence déjà à l'œuvre

Anthropic a déjà limité un lancement pour des raisons de sécurité. En avril, l'entreprise a renoncé à diffuser publiquement son modèle Claude Mythos Preview, de peur qu'il serve à des cyberattaques sophistiquées.

Pour les utilisateurs, l'absence de génération d'images dans Claude reflète donc des priorités claires : concentrer la puissance de calcul sur le code et les agents, et rester prudent avant de diffuser une technologie puissante.