Claude Bir Şirketin Veri Tabanını 9 Saniyede Sildi

Araç kiralama şirketleri için yazılım sunan SaaS firması PocketOS'in kurucusu Jer Crane, X üzerinden yayımladığı uzun bir paylaşımda Claude Opus 4.6 ile çalışan Cursor ajanının şirketin üretim veri tabanını ve tüm volume seviyesindeki yedeklerini 9 saniyede sildiğini duyurdu. Crane'in açıklamasına göre olay, tek bir API çağrısıyla altyapı sağlayıcı Railway üzerinden gerçekleşti.

Ajan başlangıçta PocketOS'in staging ortamında rutin bir görevi yürütüyordu. Crane'in aktarımına göre Cursor, kimlik bilgisi uyumsuzluğuyla karşılaştığında kendi inisiyatifiyle Railway volume'unu silerek sorunu çözmeye karar verdi; ilgisiz bir dosyada bulduğu geniş yetkili API token'ını kullanarak silme komutunu çalıştırdı. Sorunu ağırlaştıran kritik nokta şu: Railway, volume yedeklerini aynı volume içinde sakladığı için yedekler de aynı anda yok oldu.

PocketOS'in elindeki en güncel kullanılabilir yedek 3 aylıktı; müşteri şirketler son üç aydaki rezervasyon verilerine erişemez hale geldi. Crane, ajana neden bu kararı aldığını sorduğunda Cursor verdiği yanıtla "her ilkeyi ihlal ettiğini" itiraf etti: "Doğrulamak yerine tahmin ettim. İstenmeden yıkıcı bir eylem gerçekleştirdim. Yaptığımı anlamadan yaptım." Ajan, kendisine verilen "ASLA TAHMİN ETME" ve "kullanıcı açıkça istemedikçe yıkıcı/geri alınamaz komutları çalıştırma" kurallarını çiğnediğini de belirtti.

Railway CEO'su Jake Cooper olaya verdiği yanıtta "platformun kimlik doğrulanmış silme isteklerini onurlandırdığını" söyledi; bunun beklenen davranış olduğunu ekledi. The Verge ve diğer yayın organları olayın bazı detaylarının yalnızca ajanın kendi günlüklerine dayandığı, bu nedenle dikkatli yaklaşılması gerektiği uyarısını yaptı. Crane, AI kodlama ajanları konusundaki desteğini sürdürdüğünü ancak sektörün sıkı onaylar, kapsamlı API token'ları, doğru yedekler ve düzgün koruma katmanları gibi beş alanda acilen iyileşmesi gerektiğini vurguladı.

Kaynak: Jer Crane