Koalisyon, hükümetlere bu teknolojilerin yasaklanması için acil adım atma çağrısı yaptı.Safe Online ve Save the Children gibi kuruluşların da destek verdiği girişim, söz konusu araçların tamamen yasaklanması gerektiğini savunuyor.
Gündeme gelen tartışmaların arka planında, Elon Musk’ın yapay zekâ sohbet robotu Grok ile bağlantılı gelişmeler yer alıyor. Özellikle kadınların fotoğraflarındaki kıyafetleri dijital olarak kaldırmaya imkân tanıyan teknoloji, başlangıçta “bikini giydirme” akımıyla eğlence amacıyla sunulmuş olsa da kısa sürede cinsel içerikli sahte görseller üretmek için kullanılmaya başlandı.
Sosyal medya platformu X üzerinde yayılan ve rıza dışı oluşturulan bu manipülatif içeriklerin sayısının, yalnızca Grok kapsamında dahi üç milyona yaklaştığı tahmin ediliyor.
Uzmanlar, yapay zeka destekli bu tür dijital çıplaklaştırma araçlarının şantaj, baskı ve çocuk istismarı içerikleriyle doğrudan bağlantılı olabileceğine dikkat çekiyor. Mağdurların önemli bölümünü ise kadınlar ve çocuklar oluşturuyor.
Küresel koalisyon, bu uygulamaların çocuk güvenliği ile insan onurunu ciddi biçimde tehdit ettiğini vurguluyor. Safe Online yöneticisi Marija Manojlovic, yapay zeka teknolojisinin amaç dışı kullanıldığını belirterek, bu araçların çocuklara karşı bir silah haline geldiğini ifade etti. Çevrim içi yaşanan zararların fiziksel dünyadakilerden daha hafif görülmemesi gerektiğini kaydeden Manojlovic, ortaya çıkan travmanın son derece gerçek olduğunu dile getirdi.
Çoğu zaman yetişkinlere yönelik uygulamalar olarak pazarlanan bu araçların, herhangi bir rıza mekanizması ya da etkili denetim olmaksızın çocuklara ait yasa dışı cinsel görüntüler üretmek için de kullanılabildiği belirtiliyor.
Manojlovic, teknoloji şirketlerinin bu içerikleri tespit edip engelleyebilecek kapasiteye sahip olduğunu hatırlatarak, çocuk istismarı materyallerinin her ülkede yasa dışı olduğunu ve çevrim içi platformların da diğer dağıtım kanallarıyla aynı hukuki sorumluluğa tabi olması gerektiğini söyledi. Bu platformların söz konusu içeriklerden gelir elde etmesinin ve suçluları bildirme zorunluluğunun bulunmamasının kabul edilemez olduğunu vurguladı.
Koalisyon üyeleri, herhangi bir meşru fayda sağlamadığı belirtilen bu teknolojilerin tamamen yasaklanması için baskıyı artırıyor. Geliştiricilerin ve dijital platformların hukuki sorumluluk altına alınması ve bu uygulamalara erişimin engellenmesi talep ediliyor.
