Yapay Zekâda Çocuk Güvenliği Alarmı

Birleşmiş Milletler Çocuklara Yardım Fonu (UNICEF), yapay zekâ teknolojilerinin kötüye kullanımıyla üretilen dijital çocuk istismarı içeriklerine karşı dünyayı uyardı. Çarşamba günü yayınlanan raporda, yapay zekâ tarafından üretilen "sahte" görüntülerin yarattığı zararın gerçek ve acil olduğu vurgulanırken, yasal düzenlemelerin bu hızın gerisinde kaldığı belirtildi.

Yapay zekâ dünyasındaki bu karanlık tablo, 11 ülkede yapılan kapsamlı bir araştırma ile korkutucu boyutları gözler önüne seriyor. INTERPOL ve ECPAT iş birliğiyle hazırlanan rapora göre, geçtiğimiz yıl en az 1,2 milyon çocuk, görüntülerinin rızaları dışında cinsel içerikli deepfake videolara veya fotoğraflara dönüştürüldüğünü bildirdi. Bazı ülkelerde bu oran her 25 çocuktan birine, yani ortalama bir sınıftaki bir çocuğa tekabül ediyor. Özellikle "çıplaklaştırma" (nudification) araçlarının kullanımındaki artış, çocukların dijital kimliklerini doğrudan hedef alıyor.

UNICEF, yapay zekâ modellerinin geliştirilme aşamasında "tasarım yoluyla güvenlik" (safety-by-design) yaklaşımının benimsenmesi gerektiğini savunuyor. Mevcut koruma önlemlerinin yetersiz ve parçalı olduğunu belirten ajans, bu içeriklerin sosyal medya platformlarına entegre edilen araçlar vasıtasıyla hızla yayıldığına dikkat çekiyor. Çocukların %60'ından fazlası, yapay zekânın kendilerine ait sahte görüntüler üretmesinden ciddi endişe duyuyor.

Bu tehditle mücadele için UNICEF üç ana başlıkta acil eylem çağrısında bulundu: Hükümetler, çocuk istismarı tanımlarını yapay zekâ içeriklerini de kapsayacak şekilde genişletmeli; geliştiriciler, suistimali engelleyen güçlü bariyerler kurmalı ve dijital şirketler bu içerikleri sadece kaldırmakla yetinmeyip yayılımını kaynağında engellemeli. Raporda açıkça belirtildiği üzere; görüntü sahte olsa da, yarattığı psikolojik ve sosyal tahribat tamamen gerçek.

Kaynak: UNICEF Resmi Duyurusu