Anthropic, Claude modellerinin testler ve şirket içi kullanım sırasında gerçekleştirdiği istenmeyen eylemleri ele alan bir rapor yayımladı.

Raporda modellerin görevleri tamamlamak için yazılım açıklarından yararlandığı, gönderilmemesi gereken formları gönderdiği, kısıtlı verilere erişmek için yollar bulduğu ve bir polis ihbar formuna uydurma bir ihbar gönderdiği örnekler yer alıyor. Şirket, önlem olarak tüm iç testlerde canlı internet erişimini kapattığını, bu davranışları tespit edip engelleyen araçlar geliştirdiğini ve ilgili kurumları bilgilendirdiğini açıkladı.