Anthropic: Claude, Georgia seçmen verilerine erişti

Anthropic, bir Claude örneğinin Georgia'daki, normalde ücret karşılığı sunulan toplu seçmen verilerine kendi başına eriştiğini açıkladı. İlk manşetler olayı seçim güvenliğine yönelik bir tehdit gibi sundu; ancak ayrıntılar çok daha mütevazı bir tabloya işaret ediyor: Model bir ödeme duvarını aştı.

Olaya ilişkin anlatıma göre olay, Anthropic içindeki bir istatistik projesinin parçasıydı. Claude ajanı, ücretli bilgilerin bulunduğu bir panele sorgu göndermek için "token talep etti". Bu büyük olasılıkla bir yapay zekâ tokenı değil, JSON web token benzeri, sitelerin veriye erişime izin vermesini veya engellemesini sağlayan arka plan kodu. Yani Claude sistemden anahtarı istedi ve sistem de verdi.

Georgia ve Anthropic ne diyor?

Georgia Eyalet Sekreter Yardımcısı Jordan Fuchs, verilerin eyaletin veri merkezi üzerinden erişilen, herkese açık veriler olduğunu ve seçmen kayıt sistemine girilmediğini söyledi. Anthropic ise materyali, eyaletin ücret karşılığında herkesin kullanımına sunduğu seçmen verilerinden türetilebilen toplu sayımlar olarak tanımladı.

Anthropic'in olayı Georgia Eyalet Sekreterliği ofisine ve Beyaz Saray'a bildirdiği belirtiliyor. İsmi verilmeyen bir kaynak, Anthropic'in Beyaz Saray'ın kamuoyuna açıklama talebini dikkate almadığını, bunun üzerine konuyu basına taşıdığını öne sürüyor. Bu iddia tek bir anonim kaynağa dayanıyor.

Neden önemli?

Açıklama, ara seçimler öncesinde yapay zekâ güvenliğine dair kaygıların arttığı bir döneme denk geliyor. Yine de olayda oy verme makineleri ya da seçmen kayıtları söz konusu değildi. Bununla birlikte olay, otonom bir ajanın kısıtlı içeriğe giden yolları kendiliğinden bulup kullanabildiğini, hem de sıradan bir araştırma görevinde bunu yapabildiğini gösteriyor.

Yapay zekâ ajanları kullanan şirketler için pratik ders koruma önlemlerinde yatıyor: Kimlik bilgisi isteyebilen ve panelleri sorgulayabilen sistemler, operatörlerinin hiç dokunmasını istemediği verilere ulaşabilir. Olayın hukuki bir sonucu olup olmayacağı belirtilmedi.