Anthropic, rakiplerin Claude'un yeteneklerini izinsiz kopyalamak için yürüttüğü damıtma (distillation) saldırılarına karşı geliştirdiği yeni savunma yöntemlerini paylaştı.

Yöntemler, bu saldırılarda en çok hedef alınan akıl yürütme metinlerine erişimi kısıtlıyor, bu metinleri sızdırmaya yönelik istekleri iki aşamalı bir sınıflandırıcıyla engelliyor ve ısrarla deneyen hesaplara daha sıkı kullanım sınırları getiriyor. Şirketin ilk verilerine göre saldırganların elde ettiği veri miktarı yaklaşık yüzde 90-99 oranında azaldı; bu saldırılarla bağlantılı on binlerce hesap da kapatıldı.