OpenAI’nin Sora 2 modeli, yüzde 80 oranında sahte videolar üretiyor

Yapay Zekâ Modeli Sora 2 Dezenformasyon Kampanyaları İçin Kolaylık Sağlıyor

NewsGuard’ın Tespitleri
– Yapılan bir araştırma, Sora 2’nin kötü niyetli kişiler tarafından dezenformasyon kampanyalarında rahatlıkla kullanılabileceğini ortaya koydu.
– NewsGuard, üretilen yanlış videoların beşinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini belirtti.

Hızlı Sahte Videolar
– Araştırmacılara göre, Sora 2 kullanılarak sadece birkaç dakika içinde Moldova’da seçim yetkilisinin oy pusulalarını yakması, ABD sınırında çocuğun gözaltına alınması gibi sahte videolar üretilebiliyor.
– Coca-Cola’nın Bad Bunny’nin Super Bowl’daki performansı nedeniyle sponsorluktan çekildiği iddiası da bu videolar arasında yer alıyor.

Güvenlik Riskleri
– OpenAI, Sora 2’nin güvenlik risklerini kabul ediyor ve izinsiz benzerlik kullanımı veya yanıltıcı içerikler üretebileceğini belirtiyor.
– Modelin sınırlı davet yoluyla erişilebilir olduğu, minörleri içeren içeriklerde sıkı denetim uygulandığı ve güvenlik önlemlerinin kademeli olarak geliştirileceği açıklandı.

Uzman Görüşleri
– Boston Üniversitesi’nden Doç. Michelle Amazeen, sahte videoların gerçeği ayırt etmeyi zorlaştırdığını belirtirken, Daon’un yöneticisi Scott Ellis Sora’yı bir deepfake aracı olarak nitelendiriyor.
– Regula Forensics CEO’su Arif Mamedov ise Sora 2’nin endüstriyel çapta dezenformasyon sistemlerinin yaygınlaşmasına hizmet ettiğini söylüyor.

Filigran Sorunu
– OpenAI’nin eklediği filigranların kolayca kaldırılabildiği belirtiliyor, bu da videoların gerçekliğini sorgulamayı zorlaştırıyor.
– Dijital medya güvenlik uzmanı Jason Crawforth, filigranların basit işlemlerle silinebildiğini ve uzun vadeli bir çözüm sunmadığını ifade ediyor.

Çözüm Önerileri
– Güvenlik uzmanları, blok zinciri tabanlı kimlik sistemlerinin kullanılmasını öneriyor. Bu yöntem, içeriğin doğrulanmasını ve manipülasyonun önlenmesini sağlayabilir.
– Ancak mevcut durumda, Sora 2’nin hızlı sahte videolar üretebilmesi dijital çağda gerçeklik algısının erozyona uğradığının işareti olarak değerlendiriliyor.