Sosyal Medyada Anonimlik Sona mı Erdi?

İnternette takma adla paylaşım yapmak artık sizi korumayabilir. ETH Zurich ve Anthropic bünyesindeki araştırmacılar, büyük dil modellerinin (LLM) sahte hesap kimliklerinin arkasındaki gerçek kişileri kişi başına yalnızca 1-4 dolar maliyetle tespit edebildiğini ortaya koydu.

"Large-Scale Online Deanonymization with LLMs" (Büyük Ölçekli Çevrimiçi Kimlik Tespiti) başlıklı çalışma, yapay zekanın bu işi nasıl yaptığını adım adım belgeliyor. Sistem; forum yazılarını, yorumları ve röportaj metinlerini tarayarak kişinin mesleği, konumu ve ilgi alanları gibi kimlik ipuçlarını çıkarıyor; ardından bu bilgileri LinkedIn gibi gerçek kimlik platformlarıyla eşleştiriyor. Hacker News kullanıcıları üzerinde yapılan testte sistem, 338 profili analiz etti ve bunların 226'sını doğru şekilde gerçek kimliklerle eşleştirdi.

Bu oran yaklaşık yüzde 67'ye karşılık geliyor; 89.000 adaylık bir havuz içinden. Başarı yalnızca bu platformla sınırlı kalmadı: Reddit kullanıcıları ve Anthropic'in kısmen anonimleştirilmiş bilim insanı röportaj veritabanında da benzer sonuçlar elde edildi. Araştırmanın en rahatsız edici bulgularından biri, sistemin bu kimlik tespitini zararsız görünen adımlarla gerçekleştirmesi: Metni özetlemek, benzerlik araması yapmak, adayları sıralamak. Hiçbir adım tek başına kötü niyetli görünmüyor; bu da mevcut güvenlik filtrelerinin saldırıyı fark etmesini zorlaştırıyor.

Araştırmacılar ayrıca modelin akıl yürütme kapasitesi arttıkça tespit başarısının da yükseldiğini vurguluyor; yani yapay zeka güçlendikçe bu tehdit de büyüyecek. Çalışma, internetin uzun süredir dayandığı "pratik belirsizlik" varsayımını —yani dağınık ve takma adlı paylaşımların bağlanmasının çok zahmetli olduğu fikrini— fiilen geçersiz kılıyor. Araştırmacılar etik onay aldıklarını, kod ve veri setlerini kamuoyuyla paylaşmayacaklarını ve çalışmanın amacının bu zafiyeti kapatmak olduğunu belirtiyor.

Kaynak: arXiv