Google, geliştiricilere sunulan yapay zekâ modeli Gemma'yı AI Studio üzerinden geçici olarak erişimden kaldırdı. Bu kararın temel nedeni, modelin bir ABD senatörü hakkında gerçek dışı suçlamalar üretmesi ve sahte bağlantılar oluşturması oldu. Olay, yapay zekâ sistemlerinin zaman zaman "halüsinasyon" olarak adlandırılan uydurma bilgi üretme sorununu yeniden tartışmaya açtı.
Şirket, Gemma'nın deneysel ve geliştirici odaklı bir model olduğunu, tüketici kullanımına yönelik tasarlanmadığını vurguladı. Ancak modelin kullanıcı arayüzü üzerinden erişilebilir olması, risk içeren senaryoların ortaya çıkmasına neden oldu. Google, gerekli güvenlik kontrolleri güçlendirildikten sonra Gemma'nın platformda yeniden aktif hâle geleceğini belirtiyor.
Bu gelişme, yapay zekâ modellerinin sadece teknik başarılarıyla değil, aynı zamanda güvenilirlik ve etik kullanım kriterleriyle değerlendirilmesi gerektiğini bir kez daha gösteriyor. Teknoloji şirketleri artık yalnızca daha gelişmiş modeller üretmekle değil, bu sistemlerin yaratabileceği toplumsal ve hukuki etkileri yönetmekle de yükümlü.
