Apple, Siri AI'ı öne çıkarırken çalışanların AI token bütçesini kısıyor

Tasarruf ne kadar anlamlı?

Karar, piyasa değeri en yüksek teknoloji şirketinden geldiği için dikkat çekiyor. Üstelik Apple, Siri AI'ı yapay zekadaki büyük dönüşü olarak sunuyor. Şirket son mali yılında Ar-Ge'ye 45,765 milyar dolar harcadı; bu, bir önceki yıla göre yüzde 32 artış demek ve Apple artışı kısmen AI yatırımlarına bağlıyor.

Bloomberg'in konuştuğu çalışanlara göre günlük 300 dolarlık limitin tamamını kullanan çok az kişi vardı, dolayısıyla gerçek tasarruf küçük olabilir. Bazı çalışanlar ise bunun daha büyük kesintilerin ya da diğer teknoloji şirketlerindeki gibi işten çıkarmaların habercisi olmasından endişe ediyor.

Sektörde benzer adımlar

Nvidia'nın CEO'su Jensen Huang tam tersini savunuyor. All-In podcast'inde, 500 bin dolar maaşlı bir mühendisin AI token'ına 250 bin dolardan az harcamasından endişe duyacağını söyledi. Nvidia'nın mühendisleri için yılda yaklaşık 2 milyar dolar harcayıp harcamadığı sorulduğunda ise "Deniyoruz" yanıtını verdi. Nvidia modellerin çalıştığı çipleri sattığı için bu yaklaşımın ticari bir mantığı var.

"Tokenmaxxing" eğilimi aylardır yavaşlıyor. Meta'da en çok token harcama yarışı yaşandı, Amazon mayısta benzer bir sıralamayı kapattı. Microsoft'ta tek bir çalışan bir ayda 28 bin dolarlık token yaktı; başkan yardımcısı Jay Parikh iç yazışmada "tokenmaxxing optimize ettiğimiz şey değil" dedi.

Revolut ise farklı bir yol seçti: yaklaşık 2.000 mühendis varsayılan olarak, kendi sunucularında çalıştırılabilen açık ağırlıklı Çin modeli GLM ile kod yazıyor. Altyapı sorumlusu David Abitbol, en gelişmiş modellerin maliyetinin onda birini ödediklerini ve faturanın sabit olduğunu söylüyor.