Oyun konsolları, güçlü donanımları sayesinde alışılmış kullanım alanlarının dışında da değerlendirilebiliyor. Jailbreak uygulanmış bir PlayStation 5 üzerinde 27 milyar parametreli bir büyük dil modelinin çalıştırılması, bu alandaki dikkat çekici deneylerden biri oldu. Projede konsolun grafik işlemcisinden yararlanılarak cihazın yerel bir yapay zekâ sunucusu gibi çalışması hedeflendi.
ShiftDelete.Net'in aktardığı deneye göre, Reddit kullanıcısı u/AdIllustrious7246 tarafından gerçekleştirilen çalışma, PS5'in bellek sınırlarını aşmak için sürücü optimizasyonları ve model kuantizasyonu gibi tekniklerden yararlanıyor.
PS5 üzerinde 27 milyar parametreli model nasıl çalıştırıldı?
Deneyde Qwen3.8-27B olarak belirtilen 27 milyar parametreli yapay zekâ modeli kullanıldı. Standart yöntemlerle konsolun sınırlı belleğine sığdırılması zor olan modelin çalıştırılabilmesi için yazılım tarafında çeşitli optimizasyonlar yapıldı.
Çalışmanın temelinde, yapay zekâ işlemlerini yalnızca işlemciye yüklemek yerine GPU gücünden yararlanmak bulunuyor. llama.cpp projesinin PS5 üzerinde çalışacak şekilde uyarlanması, konsolun donanım kaynaklarının daha farklı kullanılmasını sağladı.
Bellek optimizasyonu ve kuantizasyonun rolü
PlayStation 5'in 16 GB GDDR6 belleği bulunmasına rağmen bu kapasitenin tamamı yapay zekâ modeli için kullanılamıyor. İşletim sistemi ve diğer sistem bileşenleri de belleğe ihtiyaç duyuyor. Haberde aktarılan optimizasyonlarla kullanılabilir bellek miktarının 6 GB seviyesinden 11,4 GB'a çıkarıldığı belirtiliyor.
Bu iyileştirmede açık kaynaklı RADV sürücülerinden ve Vulkan API desteğinden yararlanıldı. Ayrıca modelin bellek gereksinimini azaltmak için kuantizasyon yöntemi uygulandı.
2-bit kuantizasyon neden önemli?
27 milyar parametreli bir modelin 16-bit hassasiyetle saklanması yaklaşık 54 GB bellek gerektiriyor. Bu miktar PS5'in kullanılabilir belleğinin çok üzerinde. Model ağırlıklarının 2-bit seviyesinde kuantize edilmesiyle boyutun yaklaşık 6,8 GB'a düşürüldüğü aktarılıyor.
Bu yöntem, daha büyük bir modeli sınırlı belleğe sığdırmaya yardımcı oluyor. Bununla birlikte, kuantizasyon modelin doğruluğunu ve bazı görevlerdeki performansını olumsuz etkileyebiliyor. Dolayısıyla modelin konsolda çalıştırılabilmesi, masaüstü sistemlerdeki performans ve kaliteyle aynı sonuçların elde edildiği anlamına gelmiyor.
PS5 üzerindeki yapay zekâ performansı
Haberde paylaşılan test sonuçları, konsolun farklı boyutlardaki dil modellerini çalıştırabildiğini gösteriyor. Ancak performans, kullanılan modele ve uygulanan optimizasyonlara göre değişiyor.
| Model veya ölçüm | Aktarılan sonuç |
|---|---|
| Qwen3.8-27B | Saniyede 20,9 token |
| Gemma 4 E4B | Saniyede 61 token |
| Llama 3.2 3B | Saniyede 124 token |
| GPU kullanımı | %100 |
| CPU kullanımı | %2 |
| Sistem güç tüketimi | 86 W |
| Ölçülen sıcaklık | 54 °C |
Bu değerler, kaynak haberde aktarılan deney sonuçlarıdır ve farklı donanım veya yazılım koşullarında aynı performansın elde edileceğini garanti etmez. Özellikle büyük dil modellerinde bellek kapasitesi, modelin kuantizasyon seviyesi ve bağlam uzunluğu sonuçları doğrudan etkileyebilir.
PS5'i yapay zekâ sunucusuna dönüştürmenin riskleri
Bu tür deneyler teknik açıdan ilgi çekici olsa da konsolun yazılımını değiştirmek bazı riskleri beraberinde getiriyor. Jailbreak işlemi cihazın garanti kapsamını etkileyebilir ve çevrimiçi hizmetlerden uzaklaştırılma riskine yol açabilir.
Ayrıca modelin çalıştırılabilmesi için yapılan değişiklikler, konsolun standart kullanım deneyiminden farklı bir yapı oluşturuyor. Bu nedenle elde edilen sonuçları bütün PS5 kullanıcılarının kolayca uygulayabileceği genel bir yöntem olarak değerlendirmemek gerekiyor.
Oyun konsolları yerel yapay zekâ için kullanılabilir mi?
PS5 üzerinde gerçekleştirilen bu deney, oyun konsollarının grafik işlemcisi ve bellek bant genişliğinin farklı hesaplama görevlerinde değerlendirilebileceğini ortaya koyuyor. Bununla birlikte, büyük dil modellerini çalıştırmak için yalnızca güçlü donanım yeterli değil; uyumlu sürücüler, yazılım optimizasyonları ve bellek yönetimi de kritik önem taşıyor.
Bu yaklaşım, mevcut donanımlarla yerel yapay zekâ deneyleri yapmak isteyen teknik meraklılar açısından ilgi çekici bir örnek sunuyor. Ancak konsolun bir yapay zekâ sunucusu olarak kullanılmasının pratikliği, güvenlik riskleri ve elde edilen performans birlikte değerlendirilmelidir.
Yapay zekâ ve donanım dünyasındaki diğer gelişmeleri takip etmek için Atış Ajans Blog sayfasındaki teknoloji haberlerine de göz atabilirsiniz.
