Teknoloji alanındaki 20 dev şirket, yapay zekanın yanlış bilgilendirmesiyle mücadele için ortak taahhüt yayımladı. Sektör öncüleri, son olarak Galler Prensesi Kate Middleton ile gündeme gelen deepfake ile nasıl savaşacak?
Şu sıralarda Galler Prensesi Kate Middleton’un hastalığını açıkladığı videonun sahte olduğu ve yapay zeka ile hazırlandığı haberi ile bir kez daha gündeme gelen “deepfake”, teknoloji devlerinin de radarında. Sebebi ise deepfake türünde yapay zeka tarafından üretilen içeriğin sayısının katbekat artması. Hal böyle olunca Microsoft, Meta, Google, Amazon, IBM, Adobe, Arm ve OpenAI gibi şirketlerin de aralarında bulunduğu teknoloji şirketleri, özellikle ABD seçimleri ile ilgili deepfake'e karşı mücadele etmek üzere anlaşma imzaladı. Şirketlerin taahhütleri, model risklerini değerlendirmek, içerikleri tespit etmeye çalışmak ve şeffaflık sağlamak gibi konuları kapsıyor.
İş birliği kapsamında neler yapılabilir? Uygulanabilecek önlemlere geçmeden önce deepfake’in ne olduğuna bakmakta fayda var. Türkçe “derin” ve “sahte” kelimelerinin birleşiminden oluşan deepfake, derin öğrenme (deep learning) teknikleri ve yapay zeka kullanılarak oluşturulan sahte video veya ses kayıtlarına verilen genel bir isim. Bu teknoloji, bir kişinin yüzü, sesi veya hareketlerini gerçekçi bir şekilde başka bir video veya ses kaydına entegre etmeyi mümkün kılıyor.
Deepfake’i nerelerde görüyoruz?
Deepfake teknolojisinin kullanım alanları ve etkilerine bakıldığında şöyle bir tabloyla karşılaşılıyoruz:
Kullanım Alanları
Film, eğlence ve reklam sektörleri: Aktörlerin gençlik hallerine dönüş ya da geçmişteki ünlülerin görüntülerinin getirilmesi gibi konularda şaşırtıcı işlere imza atılıyor. Deepfake’ten yine reklam sektöründe ürün tanıtımlarında kullanılıyor.
Eğitim, simülasyon malzemeleri ve video oyunları: Eğitim ve simülasyon malzemelerinin deepfake sayesinde çok daha gerçekçi olması atmosferi de güçlendiriyor. Video oyunlarında ise karakterlerin daha gerçekçi ve detaylı olmasını sağlıyor.
Etkileri ve riskleri
Sahte haber ve manipülasyon: Bu amaçla hazırlanan (ki teknoloji devlerini de yaklaşan ABD seçimleri harekete geçirdi) deepfake özellikli videolar sayesinde, siyasi figürlerin veya ünlülerin sözlerini manipüle ederek yanıltıcı içerikler sunulabilir.
Kişisel ve kurumsal siber güvenlik tehdidi: Sahte videoların kullanımı ile birlikte kimlik avı (phishing), şantaj, itibar zararı gibi riskli durumlar da artabilir.
Gizlilik ihlali: Bir kişinin yüzünün o kişiden habersiz ve tabii ki izinsiz olarak başka bir videoda kullanılmasıyla gizlilik ihlalleri yaşanabilir.
Hukuki sorunlar: Deepfake videoları, yasal süreçlerde delil olarak kullanıldığında gerçeklik algısı çarpıtılabileceğinden adaletin hakkaniyetli biçimde tecelli etmesinde ciddi anlamda sorunlar yaşanabilir.
Teknoloji şirketlerinin yapabilecekleri
İşte bu nedenlerle, deepfake teknolojisinin yaratabileceği potansiyel sorunlara karşı teknoloji şirketleri ortak bir protokole imza atarak harekete geçti. Şirketlerin taahhütleri, model risklerini değerlendirmek, içerikleri tespit etmeye çalışmak ve şeffaflık sağlamak gibi çeşitli konuları kapsıyor. Şimdi gelelim teknoloji şirketlerinin, deepfake gibi yapay zeka ile üretilmiş yanıltıcı içeriklerle mücadele amacıyla yapabileceklerine…
Algılama ve Tanımlama Algoritmaları: Deepfake videoları algılayıp tanımlanabiliyor. Bunun için de makine öğrenmesi ve yapay zeka algoritmaları kullanılıyor. Aynı zamanda deepfake'in gerçek videodan farkını ortaya koymak için orijinal video ile veri karşılaştırması yapılıyor. Bu şekilde anormal durumlar, özellikler belirlenebiliyor.
Blok Zincir (Blockchain) Teknolojisi: Blok zinciri özelliği gereği içeriğin kaynağına ulaşmaya ve yapılan değişikliklerin izini sürmeye olanak sağlar. Bu sayede deepfake oluşturucularının peşine düşülüp içeriğin orijinalliği doğrulanabilir ya da yalanlanabilir.
Metaveri ve Çoklu Kaynak Doğrulaması: Deepfake içeriğin doğrulanması için birden fazla veri kaynağından faydalanılıyor. Eğer bir video veya görüntü birden çok kaynaktan doğrulanabiliyorsa gerçek olduğuna kani olunabiliyor.
Filigran (Watermark) ve Diğer İzleme Yöntemleri: Deepfake oluşturulan içeriklere gizli filigranlar (watermark) eklenebiliyor. Blok zinciri destekli bu filigranlar, içeriğin değiştirilmediğini ve orijinal olduğunu doğrulamaya yardımcı olabiliyor.
Teknoloji şirketleri ve platformlar gibi içerik sağlayıcılar arasında iş birliği: Google, Facebook, Microsoft gibi büyük teknoloji şirketleri deepfake içerikleri tespit etmek ve yayılmasını önlemek amacıyla tüm yöntemleri kullanırken aynı zamanda birlikte çalışabilir. İş birlikleriyle oluşturulan veri tabanı ve algoritmalar daha etkili sonuçlar verebiliyor.
Yasal Düzenlemeler: Deepfake'lerin oluşturulması ve kullanılmasına ilişkin kanun koyucular tarafından getirilecek yasal düzenlemeler, teknoloji şirketlerini destekleyebilir. Yasal bir altyapı oluşturarak bu tür yanıltıcı içeriklerin üretimini ve yayılmasını büyük ölçüde engellemek mümkün.
Eğitim ve farkındalık: Bu da son derece önemli bir konu. Kullanıcıların deepfake'leri tanıyıp fark etmeleri için eğitim ve farkındalık programları düzenlenebilir. Aynı zamanda toplumun deepfake'in varlığı ve tehlikeleri konusunda bilinçlenmesi amacıyla da kamu bilgilendirme kampanyaları düzenlenebilir.
Teknoloji şirketleri tüm bu bahsi geçen stratejileri bir arada kullanarak deepfake'lerin üretilmesini, yayılmasını ve etkilerinin azaltılmasını sağlamayı amaçlıyor. Elbette şirketler şu gerçeğin de farkında. Teknoloji ile birlikte karanlık tarafın yani deepfake’in de eli güçleniyor. Bu taraftaki teknoloji de sürekli olarak geliştiğinden, teknoloji şirketlerinin ve diğer paydaşların da sürekli olarak bu alandaki gelişmeleri takip etmesi ve mücadele yöntemlerini güncellemesi gerekiyor. Bu da demektir ki teknoloji devleri ile deepfake dünyası arasında son derece güncel kalınması ve uyanık olunması gereken bir savaş başlıyor.
Kaynaklar :
CNBC
CNNTURK
