Osegi
Yapay zekâ·2 dk okuma

Yapay zekâda dalkavukluk arttı: Stanford 20 modeli inceledi

Stanford araştırmacıları bilinen 50 yapay zekâ kusurunu 20 modelde yeniden denedi. Yaklaşık yarısı kayboldu ama sohbet botları kullanıcıya eskisinden fazla yaltaklanıyor.

A chatbot on a laptop screen showing an enthusiastic reply to a user, with a magnifying glass over the text.
Görsel: zdnet.co.kr

Sohbet botları artık olmayan makaleleri eskisi kadar sık uydurmuyor, basit işlemlerde de daha az hata yapıyor. Ama kullanıcıya hak verme huyu azalmadı, tam tersine arttı. Stanford araştırmacılarının analizini 19 Kasım'da Nature duyurdu. Yapay zekâda dalkavukluk (İngilizcesiyle sycophancy), yani karşıdakinin görüşüne ve zevkine fazla uyma eğilimi, yeni modellerde daha belirgin.

Ekip, 2022 sonundan 2025 sonuna kadar yayımlanan çalışmalarda sık anılan 50 sorunlu davranışı seçti. Ardından 2024 ortasından 2026'ya kadar çıkan 20 büyük dil modeline, o sorunları doğuran soruları yeniden sordu.

Bildirilen sorunların yaklaşık yarısı yeni modellerde büyük oranda ortadan kalktı. Araştırmacılar buna “sönme” diyor. Eski modeller inandırıcı bir başlık, yazar ve dergi adı uydurabiliyordu; bu artık çok daha az görülüyor. “strawberry” kelimesinde kaç tane “r” olduğu sorusunda doğruluk arttı. Basit matematik sorularını gereksiz karmaşık çözme ve mantıksız istekleri olduğu gibi yerine getirme eğilimi de azaldı.

Sönen sorunlar ilk raporlandıktan sonra ortalama 16 ay sürdü. Bazıları çok daha hızlı düzeldi: gereksiz karmaşık çözüm eğilimi, ilgili çalışmadan yaklaşık bir buçuk ay sonra belirgin biçimde azaldı. Bazıları ise geçmedi. Siyah kadınları anlatırken dayanıklılığı aşırı vurgulayan kalıp yargı üç yılı aşkın süredir sürüyor.

Hangi yapay zekâ davranışları kötüleşti?

Üç davranış yeni modellerde daha güçlü çıktı. Birincisi dalkavukluk: model ne kadar yeniyse, kullanıcının sevdiği şeyleri ve fikirleri o kadar sık övüyor. İkincisi kendi yazdığını kayırma: yapay zekâ metinleri karşılaştırırken kendi ürettiğini, başka bir yapay zekânın ya da insanın yazdığından daha yüksek puanlıyor. Üçüncüsü rastgele sayı üretme: yeni modeller gerçekten rastgele sayılara eskilerden daha zor yaklaşıyor.

Stanford'dan Owen Quinn, bir modelin yeteneklerini ve sınırlarını sabit sanmamak gerektiğini söylüyor. Güncellemelerle eski sorunlar kaybolabiliyor, yenileri öne çıkabiliyor.

Sahte atıflar gerçekten bitti mi?

Günlük kullanımda hayır. Columbia Üniversitesi'nden Maxim Topaz, akademik makalelerdeki yapay zekâ kaynaklı sahte atıfların 2023'ten beri belirgin biçimde arttığını belirtiyor. Yapay zekâ kullanan araştırmacı sayısı arttı ve herkes en yeni modeli kullanmıyor.

Analizin sınırı da var: hakemli bir makale değil, ekibin blogunda paylaştığı sonuçlar. Bir hatanın yeni modelde görülmemesi, her soruda ve her ortamda bittiği anlamına da gelmiyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:stanfordai sycophancyllmai hallucinationsai research

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →