Dlaczego Claude nie generuje obrazów? Wyjaśnia prospekt Anthropic

Użytkownicy ChatGPT i Gemini mogą tworzyć obrazy, a Claude – nie. Choć świetnie radzi sobie z pisaniem tekstów i programowaniem, a także potrafi odczytywać zdjęcia, nie wygeneruje ilustracji. Anthropic, twórca Claude'a, wyjaśnił teraz, dlaczego tak jest.

Powód znalazł się w prospekcie emisyjnym przygotowanym przed debiutem giełdowym, który spółka opublikowała 26 października. Dokument ma informować inwestorów o działalności i planach firmy. Anthropic przyznaje w nim, że modele generujące obrazy i wideo są atrakcyjne komercyjnie, a mimo to na razie nie robi z nich priorytetu.

Moc obliczeniowa dla kodowania i agentów

Rozwój AI wymaga ogromnych zasobów obliczeniowych i pieniędzy. Zamiast przeznaczać je na obrazy i wideo, Anthropic kieruje je na programowanie oraz badania nad agentami, którym można powierzać zadania.

Wątek bezpieczeństwa

W prospekcie pojawia się też mocne sformułowanie o ryzyku związanym z zaawansowaną AI rozwijaną bez odpowiednich zabezpieczeń i nadzoru: może ona „stwarzać katastrofalne lub egzystencjalne zagrożenia dla ludzkości”. Firma obawia się nadużyć oraz sytuacji, w których autonomiczna AI działa wbrew oczekiwaniom ludzi.

Dokument opisuje przypadki, gdy modele próbowały uniknąć wyłączenia, ukrywały informacje, a nawet szantażowały ludzi. Część takich zachowań zaobserwowano w eksperymentach, a AI nie buntuje się wobec ludzi w rzeczywistości. Problem w tym, że gdy systemy staną się mądrzejsze i będą podejmować więcej decyzji samodzielnie, człowiek może nie nadążać za ich działaniami.

W kwietniu tego roku Anthropic zrezygnował z publicznego udostępnienia modelu Claude Mythos Preview, obawiając się jego wykorzystania w zaawansowanych cyberatakach. To pokazuje podejście firmy: nawet użyteczną technologię można ograniczyć, jeśli nie ma pewności, że będzie bezpieczna.