Taylor Swift’in yapay zeka tarafından üretilen pornografik görüntüleri, yapay zeka ile üretilen sahte pornografinin yaygınlaşması ve yayılmasını engellemenin zorluğunu bir kez hepimize gösterdi.
X’te yayınlanan bu tip Swift görüntülerini paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kaldı.
Kullanıcılar viral gönderiyi konuşmaya başlayınca görüntüler yayılmaya başladı ve diğer hesaplarda tekrardan paylaşıldı. Üstelik birçoğu hala yayında ve o zamandan beri yenileri ortaya çıktı. Bazı bölgelerde “Taylor Swift AI” terimi trend topic oldu ve görsellerin daha geniş kitlelere ulaşmasını sağladı.
X’in yapay ve manipüle edilmiş medya ve rıza dışı çıplaklıkla ilgili politikaları bu tür içeriklerin platformda yer almasını açıkça yasaklıyor.
Kaynak: Chip
https://twitter.com/Safety/status/1750765055380263272
Swift’in hayran kitlesi, paylaşımların çoğunun bu kadar uzun süre yayında kalmasına izin verdiği için X’e adeta savaş açmış durumda. Hayranlar, görüntüleri dolaşıma sokmak için kullanılan hashtag’leri, Swift’in gerçek kliplerini tanıtan mesajlarla doldurarak sahte görüntüleri gizlemeye çalıştı.
Bu olay, deepfake pornoyu ve gerçek insanların yapay zeka tarafından üretilen görüntülerini engellemenin ne kadar zor olduğunu ortaya koyuyor. Bazı yapay zeka görüntü oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi görüntülerinin üretilmesini önleyen kısıtlamalara sahip, ancak bazıları açıkça böyle bir hizmet sunuyor. Sahte görüntülerin yayılmasını önleme sorumluluğu genellikle sosyal platformlara düşüyor, bu da en iyi koşullarda yapılması zor olabilecek bir şey ve X gibi moderasyon kabiliyetlerini yitirmiş bir şirket için daha da zor.
X, şu anda AB tarafından “yasadışı içerik ve dezenformasyon yaymak” için kullanıldığı iddialarıyla soruşturuluyor ve İsrail – Hamas savaşıyla ilgili yanlış bilgilerin platformda yayıldığının tespit edilmesinin ardından kriz protokollerinin sorgulandığı bildiriliyor.
