Fujitsu ve Pillar Security, büyük dil modellerini hedef alan BadEngram adlı yeni bir arka kapı saldırısı yöntemini ortaya koydu.
Fujitsu ve Pillar Security, büyük dil modellerini hedef alan BadEngram adlı yeni bir arka kapı saldırısı yöntemini ortaya koydu.
Saldırı, çıkarımı hızlandırmak için CPU belleğinde tutulan yardımcı model verilerini ve bu verilerin modele etkisini ayarlayan geçit mekanizmasını değiştiriyor; ana model değiştirilmediği için model, saldırganın belirlediği tetikleyici kelime girdide geçene kadar normal davranıyor. Araştırmada DeepSeek'in Engram bellek mimarisini ya da benzer yapıları kullanan modellerin etkilendiği görüldü; Fujitsu, kendi dil modeli Takane'nin bu saldırıdan etkilenmediğini açıkladı.