Sora 2 uygulaması, kullanıcıların ünlülerin görüntülerini manipüle etmesine olanak tanıyor. Son dönemde, OpenAI CEO’su Sam Altman, iş insanı Mark Cuban ve popüler YouTuber Jake Paul gibi isimlerin sanki ırkçı ifadeler kullanıyormuş gibi gösterildiği videolar ortaya çıktı. Uygulamanın filtreleri, nefret söylemini engellemeyi amaçlasa da bazı kullanıcılar, kelimelerin fonetik benzerliklerini kullanarak bu engelleri aşabiliyor.
Kullanıcılar Cameo Özelliğini İstismar Ediyor
Sora 2’nin Cameo özelliği, kullanıcıların kendi kısa videolarını yükleyip bu içerikleri Sora tarafından üretilen videolara entegre etmesine izin veriyor. Copyleaks’in incelemelerine göre kullanıcılar, bu özelliği 2020’de bir uçakta yaşanan ırkçı olayları yeniden canlandırmak için kullanıyor. Videolarda, homofonlar aracılığıyla ünlülerin sanki ırkçı sözler söylüyormuş gibi görünmesi sağlanıyor. Örneğin Altman’ın dijital ikizi, bazı videolarda “I hate knitters” gibi ifadeler kullanıyor. Jake Paul’un videolarında ise “neck hurts” ifadesi, belli gruplara atıfta bulunuyor.
Bu içerikler, Sora platformunda sınırlı erişim almasına rağmen sosyal medya platformlarında hızla yayıldı. TikTok’ta paylaşılan videolar milyonlarca görüntüleme ve on binlerce beğeni aldı. Uzmanlar, bu tür içeriklerin sadece telif haklarını ihlal etmekle kalmayıp, ünlülerin itibarını zedeleme, yanlış bilgi yayma ve toplumsal algıyı etkileme riskini beraberinde getirdiğini belirtiyor.
Sora 2’nin filtreleri, doğrudan hakaret ve nefret söylemini engellemek için tasarlanmış olsa da kullanıcılar, küçük değişiklikler ve kelime oyunları ile filtreleri atlatabiliyor. Bu durum, uygulamanın güvenlik önlemlerinin etkinliğini sorgulatıyor. Uzmanlar, platformların sadece teknik filtreler ile yetinmemesi, kullanıcı davranışlarını denetleyen ek önlemler geliştirmesi gerektiğini ifade ediyor.
Dijital içerik analistleri, bu tür derin sahte videoların yayılmasının sadece bireysel itibarları değil, toplumsal güveni de zedeleyebileceğini belirtiyor. Sora 2 gibi uygulamalarda ünlülerin izni olmadan dijital kopyalarının kullanılması, hukuki ve etik açıdan sorun yaratıyor. Profesyoneller, platformların içerik üretiminde daha sıkı denetimler ve yapay zekâ destekli doğrulama mekanizmaları kurmasını tavsiye ediyor.
