Anthropic'ten Pentagon'a Net Red: "Vicdanımız El Vermez"
Dario Amodei, ABD ordusunun yapay zeka üzerindeki kısıtlamaları kaldırma talebini kamuoyu önünde reddetti.
Anthropic CEO'su Dario Amodei, Savaş Bakanlığı'nın askeri sözleşmedeki güvenlik önlemlerini tamamen kaldırma talebine karşı çıktı. Pentagon, Claude'un "tüm yasal amaçlar" için kısıtsız kullanılmasını talep ederken Amodei, şirketin bu konuda vicdanen geri adım atamayacağını resmi bir bildiride açıkça ilan etti.
Anthropic'in çizdiği iki temel kırmızı çizgi var: Amerikan vatandaşlarına yönelik kitlesel gözetim ve insan denetimi olmaksızın çalışan otonom silah sistemleri. Amodei, mevcut yapay zeka teknolojisinin özerk silah kararları vermek için henüz yeterince güvenilir olmadığını ve gözetim alanında ise güçlü yapay zekanın konum kayıtları, tarama geçmişi ve sosyal ilişkiler gibi bireysel verileri birleştirerek derin bir profilleme aracına dönüşebileceğini savundu.
Bakanlık, Anthropic'e Cuma günü saat 17:01'e kadar süre tanırken iki ağır yaptırım tehdidi de masaya koydu: şirketi "tedarik zinciri riski" olarak ilan etmek ya da Kore Savaşı döneminden kalma Savunma Üretim Yasası'nı devreye sokarak Claude'u zorla kullanabilmek. Amodei bu iki tehdidi doğrudan çelişkili bulduğunu belirterek "Biri bizi güvenlik riski, diğeri Claude'u ulusal güvenlik için vazgeçilmez ilan ediyor" diye yanıt verdi.
Tartışma, sektörde yankı uyandırdı. OpenAI çalışanları Anthropic'e destek açık mektubu yayımlarken OpenAI CEO'su Sam Altman da otonom silah ve kitlesel gözetim konusundaki kırmızı çizgilerin aynı zamanda kendi şirketinin ilkeleri olduğunu kamuoyuyla paylaştı. Google'dan 100'den fazla çalışan da benzer bir mektupla şirketlerinin Gemini modellerine yönelik askeri kullanımda güvence talep etti.
Anthropic, müzakerelere iyi niyetle devam edeceğini açıkladı; ancak gece gönderilen son sözleşme taslağının kitlesel gözetim ve otonom silah kullanımını fiilen yasaklamak yerine bu kısıtlamaları hukuki formülasyonlarla by-pass edilebilir hale getirdiğini de kayıt altına aldı. Şirket, Bakanlık'ın başka bir sağlayıcıya geçmesi durumunda operasyonların aksamadan sürdürülmesi için sorunsuz bir geçiş sürecini koordine etmeye hazır olduğunu da taahhüt etti.
Kaynak: Anthropic
