Güney Kore’de Yapay Zeka ile Oluşturulan “Sahte Cinsel İçerikler” Krizi
Güney Kore’de yapay zeka teknolojisi kullanılarak oluşturulan “sahte cinsel içerikli görüntüler”, son zamanlarda büyük bir infiale yol açtı. Bu durum, özellikle görüntülerin yayıldığı Telegram uygulamasının inceleme altına alınmasına neden oldu. Seul merkezli Yonhap ajansının haberine göre, Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileri, Telegram temsilcileri ile geçen hafta yüz yüze bir toplantı gerçekleştirdi.
Toplantıda, “Koreli kadınların değiştirilmiş görüntülerinin” ülkede yayılmasına yönelik ciddi endişeler dile getirildi. Telegram, “sahte cinsel içerikli görüntüler” dahil olmak üzere yasa dışı içerikleri platformdan kaldırmayı taahhüt etti. Telegram yetkilileri, bu tür yasa dışı materyallere karşı sıkı önlemler alacaklarını ve “sıfır tolerans politikası” benimseyeceklerini ifade etti.
Toplumsal Sorun Olarak Cinsel Deepfake
KCSC Başkanı Ryu Hee-lim, düzenlediği basın toplantısında, “Telegram, cinsel deepfake içeriklerin önemli bir toplumsal sorun haline geldiği Güney Kore’deki durumu anladı.” diyerek, bu mesele ile mücadelede katı tedbirlerin uygulanacağını vurguladı. Komisyonun taleplerine yanıt olarak, dijital cinsel suçları hedef alan yeni “sıfır tolerans” politikası çerçevesinde Telegram, fuhuş, uyuşturucu ve kumar gibi içerikleri platformdan kaldırmayı taahhüt etti.
Telegram, ülkedeki güvenlik makamları ve kolluk kuvvetleri ile yakın bir işbirliği içinde çalışacak ve KCSC ile düzenli toplantılar yapacak. Ayrıca, içerik ihlallerine yönelik müdahaleleri hızlandırmak amacıyla Telegram ile KCSC arasında yeni bir iletişim hattı kurulacak.
İstatistikler ve Önlemler
Yonhap ajansının bildirdiğine göre, Telegram, KCSC’nin istemi üzerine 3-25 Eylül tarihleri arasında platformundan toplam 148 cinsel istismar materyali dosyasını kaldırmıştı.
Güney Kore’de “Deepfake” Olayları
Ülkede, okul ve üniversitelerle bağlantılı çeşitli sohbet gruplarında, çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun “deepfake” teknolojisi ile manipüle edilen ses ve görüntüleri içeren “cinsel içerikli” videoların yayıldığı tespit edilmiştir. Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu tür görüntülerin yayıldığı Telegram’a “suça yataklık etme” gerekçesiyle ön soruşturma açıldığını duyurdu.
