Dezenformasyonun ürküten yüzü: Deepfake ve Cheapfake nedir?

2 Ağu 2022

13:00

Teknoloji hayatımızın her detayında var. ‘Olmazsa olmazımız’ desek abartmış olmayız. Ortamlarda teknolojinin geldiği noktaya dikkat çekmek için dile gelen, “ya bu uçak nasıl uçuyor” geyiği de bayatladı. Artık, silah kullanan robotların gerçekliğini, yapay zekanın sınırlarını konuşuyoruz. Şuraya hemen bir parantez açalım, silah kullanan robotlarla ilgili bazı videolar kurgudan ibaret. Mesela daha önce doğruladığımız bu içeriği inceleyebilirsiniz. Yapay zekaya gelecek olursak:

İnsan bilincine her geçen gün daha fazla yaklaşan yapay zeka, tamamıyla belli bir algoritma mühendisliği prensibiyle çalışıyor ve makine öğrenme yoluyla kendini gerçeğe en yakın olacak şekilde yeniden programlayabiliyor. Yapay zekanın ilerleyişiyle ortaya çıkan bir dijital yüz maskeleme yöntemi olan deepfake ve cheapfake bir süredir insanların ilgisini çekmekte. Bu teknikle yıllar önce hayatını kaybeden ünlü figürlerin yüzlerinden alınan görsel veri setleriyle hazırlanan hareketli canlandırmalarda, onları tıpkı bugün gerçekmiş gibi ekranda konuşurken, gülerken ya da ağlarken izleyebiliyoruz.

Örneğin Amerikalı aktris Audrey Hepburn’ün ölümünden 21 yıl sonra deepfake yöntemi ile üretilen reklamını gerçekten ayırt edebilmek neredeyse imkansız diyebiliriz.

Hızlı ve Öfkeli serisinin başrollerinde oynayan ABD’li oyuncu Paul Walker 2013 yılında geçirdiği bir trafik kazası sonucu hayatını kaybetmişti. Walker, serinin 7. filmi çekildiği sıralarda hayatta olmasa da, CGI teknolojisiyle yüzü yeniden canlandırılmıştı. Bu da, kusursuz derecede gerçekçi ‘deepfake’ yöntemi sayesinde başarılmıştı.

Ne var ki bu deepfake ve cheapfake teknikleri de, kimi zaman diğer teknolojik yenilikler gibi suistimale açık birer enstrüman olabiliyor. Bu dijital maskeleme yöntemlerinin, siyasi itibar suikastı, şantaj, karalama politikası veya şaka amaçlı kullanılması olası.

Örneğin eski ABD Başkanları Donald Trump ve Barack Obama’nın şaka amaçlı hazırlanan deepfake videoları sosyal medyada çokça paylaşılmış, hatta haber bültenlerine konu olmuştu.

Deepfake ile cheapfake arasındaki fark nedir?

Yüz maskeleme teknolojisinin suistimal edilebilir oluşundan ve özellikle yakın gelecekte yanlış bilgi yayılımına ne denli etki edebileceğinden bahsetmiştik. Öncelikle deepfake ile cheapfake arasında kavramsal olarak çok da fark olmadığını belirtelim.

Deepfake isminden de anlaşılacağı üzere daha derin ve etkili bir maskeleme yoludur. Kişi, söz konusu görüntülerin sahte oluşunu, dikkatle incelemediği müddetçe anlayamaz. Ne var ki, bazı deepfake videoları o kadar profesyonelce hazırlanmıştır ki, bazen gerçekten ayırt etmek imkansıza yakın hale gelir. Videoya konu olan kişi tarafından teyit edilmediği sürece anlaşılamaz.

Tom Cruise’un yüzü kullanılarak yapılmış gerçekçi bir deepfake örneği:

Öte yandan cheapfake, görece basit maskeleme tekniği ile hazırlanmış görüntülerdir. Bu tip videoların sahte olduğunu anlamak için görüntülere ciddi anlamda odaklanmak gerekmez. Kişi, bu videoları, herhangi bir uzmanlık gerekmeksizin ilk bakışta ‘kolaylıkla’ anlayabilir.

Örneğin Donald Trump’ın yüzünün çocuklar üzerinde kullanılarak hazırlandığı bu absürt videoyu cheapfake’e örnek olarak gösterebiliriz.

Deepfake ve cheapfake nasıl anlaşılır?

Bu gibi dijital hileleri anlamak her zaman kolay olmasa da bazı tekniklerle sahte olduğu tespit edilebiliyor. Bunun için öncelikle videodaki kişinin yüzündeki hareketlere, mimiklere, ağız, burun ve gözlerin birbiriyle olan uyumuna, ten rengi tonuna, kısacası ne kadar ‘doğal bir insan yüzüne’ benzediğine odaklanmak gerekiyor. Videonun gerçekten uzak, bambaşka bir amaçla üretildiğini ve dolayısıyla yeniden seslendirmek gerektiğini düşünecek olursak, videodaki kurmaca sesin, kişinin gerçek sesine tıpatıp benzemesi gerekir. Yapay zeka, insan sesini taklit etmekte, henüz insan yüzünü canlandırmakta olduğu kadar yetenekli değil. Dolayısıyla videodaki yüzün, ses ile senkronize bir şekilde akması gerekir ancak bu genellikle başarılı sonuçlar ortaya koymaz.

İlk bakışta dikkat edilmesi gereken noktaları şu maddelerle özetleyebiliriz:

Ağız ve burun arasındaki uyuma dikkat edilmeli. Videoda konuşan kişinin ağzı, mimiksiz, yapay bir şekilde hareket ediyorsa yüzünün sonradan maskelenmiş olma ihtimali epey yüksek denilebilir.
Duruşun yapaylığı da tipik bir maskeleme videosunu ele veren detaylardan biridir. Videodaki kişinin, kafası ve yüzü hareket ederken, vücudunun tek bir yöne dönük, ‘sabit’ olarak durması videonun gerçek olmadığına dair bir ipucu verebilir.
Gözlerin alakasız bir yöne odaklanması ya da hiç göz kırpmama gibi durumlar da dikkat edilmesi gereken şüpheli noktalardan birisidir.
Ses kişiye özel ve ‘doğal’dır. Duru olmayan (robotik) bir ses tonu da videonun sahte olma ihtimalini güçlendirir.

Deepfake ve cheapfake’i tespit etmek için bazı çevrimiçi araçlar da mevcut. Örneğin, Deepware.ai ile YouTube veya diğer video oynatma platformları üzerindeki videoların URL adresini ekleyerek taratabilirsiniz. Diğer kullanıcıların sistemde daha önce taratmış olduğu videolardan görece daha hızlı ve tutarlı sonuçlar alabilirsiniz. Ancak unutulmamalıdır ki, Deepware veya muadili yazılımlar hali hazırda orta düzeyde tespit edebilme gücüne sahip olsa da, yapay zekanın geliştirdiği kusursuza yakın taklit performansı günden güne tespit edilmesi zor bir hal alıyor. Bu da teknolojinin nazar boncuğu diyelim.