Google Research, büyük dil modellerinin bellek darboğazını ortadan kaldıran TurboQuant sıkıştırma algoritmasını duyurdu. Doğruluk kaybı olmaksızın 6 kata kadar bellek tasarrufu ve H100 GPU'larda 8 kat hız artışı sağlıyor.
Google Research, büyük yapay zekâ modellerinin en kritik performans engellerinden birini aşmak için yeni bir algoritma ailesi geliştirdi. TurboQuant, dil modellerindeki bellek darboğazını teorik sınırlara yakın bir verimlilikle çözerken doğruluk kaybı yaşatmıyor.
Sorun şu: Büyük dil modelleri çalışırken sıkça başvurulan verileri anahtar-değer (KV) önbelleğinde saklıyor. Bu önbellek ne kadar büyük olursa model o kadar yavaşlıyor ve daha fazla bellek tüketiyor. Vektör sıkıştırma bu problemi çözse de geleneksel yöntemler her veri bloğu için ek sıkıştırma sabitleri depolamak zorunda kalıyor — bu da amaçlanan tasarrufun bir kısmını geri alıyor. TurboQuant bunu iki adımda çözüyor: PolarQuant yöntemi veriyi Kartezyen koordinatlardan kutupsal koordinatlara dönüştürerek sıkıştırma sabitlerinin gerektirdiği ek belleği tamamen ortadan kaldırıyor.
QJL (Quantized Johnson-Lindenstrauss) algoritması ise her sayıyı tek bir bit işaretiyle (+1 veya -1) temsil ederek kalan hata payını sıfır bellek ek yükü ile gideriyor. Sonuçlar çarpıcı. TurboQuant, eğitim veya ince ayar gerektirmeden KV önbelleğini yalnızca 3 bit'e sıkıştırabiliyor ve bu süreçte model doğruluğunda hiçbir bozulma yaşanmıyor. Bellek kullanımı en az 6 kat azalırken NVIDIA H100 GPU'larda 8 kat hız artışı elde ediliyor.
Vektör arama performansında da rakip yöntemleri geride bırakan üstün sonuçlar elde edildi. TurboQuant, ICLR 2026 konferansında; PolarQuant ise AISTATS 2026'da sunulacak. Google Research, bu teknolojinin yalnızca pratik bir mühendislik çözümü değil, güçlü teorik kanıtlarla desteklenen temel bir algoritmik katkı olduğunu vurguluyor. Gemini gibi modellerde KV önbelleğini optimize etmenin yanı sıra milyarlarca vektör arasında anlamsal arama yapan sistemler için de kritik bir altyapı olarak konumlandırılıyor.
Kaynak: Google
Apple, macOS Tahoe 26.4 güncellemesini dün kullanıma sundu. Pil şarj sınırı, Safari'nin kompakt sekme çubuğu ve 8 yeni emoji başlıca yenilikler arasında yer alıyor.
Project NOMAD, Wikipedia, yapay zekâ asistanı, çevrimdışı haritalar ve Khan Academy içeriklerini internet bağlantısı gerektirmeden kendi bilgisayarınızda çalıştırmanızı sağlayan ücretsiz açık kaynak bir sunucu.
Apple, cihaz yönetimi, iş e-postası, takvim ve müşteri keşif araçlarını tek çatı altında toplayan Apple Business platformunu duyurdu. 14 Nisan'da 200'den fazla ülkede ücretsiz erişime açılacak.
Instagram, içerik üreticilerinin Reels videolarına doğrudan ürün etiketleyebileceği ve affiliate komisyon kazanabileceği yeni 'Ürün Ekle' özelliğini duyurdu.
Anthropic, Claude Code için yeni bir izin modu olan Auto Mode'u duyurdu.
Blue Origin, JPL ve Caltech iş birliğiyle geliştirilen NEO Hunter misyon konseptini duyurdu.
Apple, bu yaz itibarıyla Maps uygulamasına arama sonuçlarında sponsorlu içerik eklemeyi planlıyor. Servisler gelirini artırmayı hedefleyen adım, Google Maps reklamlarına benzer bir modelle işleyecek.
NASA, 'Ignition' etkinliğinde Ay üssü inşası, nükleer uzay aracı ve Mars planlarını kapsayan kapsamlı bir strateji duyurdu. ABD'nin uzaydaki liderliğini pekiştirmeye yönelik bu adımlar, aylık ve yıllık somut hedefler içeriyor.
