DeepSeek, yapay zekâ modellerini yüksek performansla çalıştırmak için geliştirdiği DeepInfer adlı şirket içi çıkarım altyapısını Apache 2.0 lisansıyla açık kaynak olarak yayımladı.
DeepSeek, yapay zekâ modellerini yüksek performansla çalıştırmak için geliştirdiği DeepInfer adlı şirket içi çıkarım altyapısını Apache 2.0 lisansıyla açık kaynak olarak yayımladı.
DeepSeek-V4.1-Flash modelini destekleyen sistem, optimize edilmiş GPU işlemleri, paralel hesaplama ve asenkron görev planlamasıyla büyük ölçekli yapay zekâ çıkarım süreçlerini hızlandırmayı hedefliyor. NVIDIA ve Huawei hızlandırıcılarını destekleyen ilk sürüm, çevrimdışı çıkarım sunarken eksiksiz bir üretim servisi için ek bileşenler gerektiriyor.