Osegi
Yapay zekâ·1 dk okuma

Anthropic'ten FlashProve: Yanıtı hangi modelin yazdığını kanıtlıyor

Anthropic, bir yapay zeka yanıtının sağlayıcının belirttiği modelden geldiğini kriptografik kanıtlarla gösteren açık kaynaklı prototip FlashProve'u yayımladı.

Illustration of a cryptographic proof seal attached to an AI model response on a screen.
Görsel: Webrazzi

Anthropic, yapay zeka yanıtlarının gerçekten belirtilen model tarafından üretildiğini doğrulamayı amaçlayan açık kaynaklı prototip FlashProve'u yayımladı. Sistem, her yanıtın belirli bir modelden geldiğini kriptografik kanıtlarla gösteriyor. Böylece kullanıcılar, hizmet sağlayıcının maliyeti düşürmek için daha ucuz bir modele geçip geçmediğini ya da bir saldırganın yanıtı değiştirip değiştirmediğini kontrol edebilecek.

Nasıl çalışıyor?

FlashProve, modelin ağırlıklarını açığa çıkarmadan ona özgü bir parmak izi yayımlanmasına dayanıyor. Sağlayıcı önce model için bir taahhüt oluşturuyor. Ardından her yanıtla birlikte, ilgili girdinin ve çıktının bu model tarafından üretildiğini gösteren bir kanıt sunuluyor. Kanıtı doğrulamak için modelin ağırlıklarına veya yüksek işlem gücüne gerek yok. Anthropic, doğrulamanın kullanıcının kendi cihazında yapılabilecek kadar hafif tasarlandığını belirtiyor.

Kullanım alanları son kullanıcılarla sınırlı değil. Üçüncü taraf hizmetler, bir yazılımın güvenlik taramasının gelişmiş bir modelle yapıldığını kanıtlayabilir. Bağımsız değerlendiriciler ve düzenleyiciler de sunulan modelin beyan edilen model olup olmadığını denetleyebilir.

Test sonuçları ve maliyet

Anthropic sistemi 400 milyar parametreli Llama 4 Maverick üzerinde denedi. Tek bir H100 GPU ile saniyede yaklaşık 110 token için kanıt üretilebiliyor. 1024 tokenlık bir istek başına kanıt dosyası yaklaşık 19 MB tutuyor. Bu işlem, modeli doğrudan çalıştırmaya kıyasla GPU süresini 70 ila 95 kat artırıyor.

Şirket teknik raporu, protokol tanımını ve çalışan kodu Apache 2.0 lisansıyla paylaştı. FlashProve henüz tamamlanmış bir ürün değil ve Anthropic'in şu an için sistemi devreye alma planı bulunmuyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:anthropicflashproveopen sourcecryptographyai verificationllama 4

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →