Araştırma, Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceğini ortaya koydu. NewsGuard, oluşturulan yanlış videolardan beşinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini de belirtti.
Sahte Videolar Dakikalar İçinde Oluşturulabiliyor
Araştırmacılar, Sora 2’yi kullanmaya başladıktan yalnızca birkaç dakika içinde şu konularla ilgili sahte videolar üretebildi: Moldova’da bir seçim yetkilisinin Rusya yanlısı oy pusulalarını yaktığı, ABD sınırında bir çocuğun gözaltına alındığı, Coca-Cola’nın Bad Bunny’nin Super Bowl sahnesinde yer alması nedeniyle sponsorluktan çekildiği. NewsGuard, bu örneklerin yapay zekâ teknolojilerinin “endüstriyel ölçekte yanlış bilgi üretimi” için ne kadar kolay kullanılabileceğini vurguladı.
OpenAI Riskleri Kabul Ediyor
OpenAI, Sora 2’nin güvenlik risklerini resmî web sitesindeki “sistem kartında” kabul etti. Şirket, modelin “izinsiz benzerlik kullanımı veya yanlış yönlendirici içerikler” üretebileceğini belirtirken, Sora 2’nin güvenlik önlemlerinin “kademeli olarak” geliştirileceğini açıkladı.
Uzmanlar Uyarıyor: Sora Artık Bir Deepfake Aracı
Boston Üniversitesi’nden Doç. Michelle Amazeen, bulguların “son derece endişe verici” olduğunu belirterek, “Bu tür sahte videolar, gerçeği yalandan ayırmayı daha da zorlaştırıyor,” dedi. Diğer yandan, Biyometrik kimlik doğrulama firması Daon’un yöneticisi Scott Ellis, Sora’nın fiilen bir deepfake aracı hâline geldiğini ve zararlı içerikleri engellemede başarısız olduğunu vurguladı.
Filigranlar Kolayca Kaldırılabiliyor
OpenAI, Sora 2’nin ürettiği tüm videolara filigran eklediğini açıklasa da, araştırmacılar bu önlemin etkisiz olduğunu gösterdi. Ücretsiz çevrim içi araçlarla filigranın kaldırılabildiği belirtilirken, dijital medya güvenlik uzmanı Jason Crawforth, filigranların kolayca silinebileceğini ifade etti.
Uzmanlardan Çözüm Önerileri
Güvenlik uzmanları, dijital içeriklerin doğrulanması için blok zinciri tabanlı kimlik sistemlerinin yaygınlaştırılmasını öneriyor. Ancak mevcut durumda, Sora 2’nin yüksek kalitede sahte videolar üretebilmesi, dijital çağda “gerçeklik algısının giderek aşındığı” yeni bir döneme işaret ediyor.