Deepfake tuzağı sosyal medyada “beklenenden daha hızlı” yayılıyor

Bu haberin orijinal dili İngilizce idi.

Deepfake içerikleri beklenenden daha hızlı bir şekilde siber suçlular, hacktivistler ve sahte haber kuruluşları tarafından kullanılan bir araç haline geldi.

Deepfake içerik izleme şirketi Sensity tarafından bugün yayınlanan rapor, teknolojinin oluşturduğu çeşitli tehditlerin durumunu inceliyor.

Raporda, “Siber suçlular, bilgisayar korsanları, düşman ülkeler, dolandırıcılar, sahte haber kuruluşları ve siber askerler, saldırılar ve dolandırıcılık için yapay zeka teknolojilerini kamu ve özel sektördeki herkesin beklediğinden daha hızlı bir şekilde birleştirdi” ifadeleri yer alıyor.

2018 yılında kurulan Avrupalı ​​şirket, raporu oluşturmak için 2023 ve 2024'ün ilk yarısında deepfake'lerin oluşturduğu riskler hakkında bilgi toplamak amacıyla müşterilerinin anonimleştirilmiş verilerini kullandı. Raporun vurguladığı ilk nokta, teknolojilerin artan karmaşıklığı ve mevcut araçların çokluğudur.

Politikacılar en çok taklit edilen kategoridir

Deepfake teknolojisini kullanan dolandırıcılık girişimlerinin yaklaşık yüzde 40'ı politikacılar tarafından gerçekleştiriliyor ve bunu yüzde 30'la ünlüler izliyor.

Hiper-gerçekçi taklitlerin yaklaşık %20'sini işletmeler oluşturuyor.

Politikacılar genellikle seçimleri etkilemek veya kamuoyunu manipüle etmek amacıyla yalan beyanda bulunan taklitçilerin hedefi oluyor.

Ukraynalı bir siyasetçinin, Moskova'daki terör saldırısının arkasında ülkesinin olduğunu iddia ettiği sahte bir TV röportajı, deepfake örneği olarak gösterildi.

Yaklaşan ABD seçimleriyle ilgili olarak raporda şunlar belirtiliyor: “Seçim kampanyası henüz erken aşamada olsa da, özellikle ön seçim döneminde Donald Trump'ın rakiplerine karşı deepfake silahın ilk kanıtını bulduk.”

Dolandırıcılıklar giderek daha fazla deepfake içeriyor

Ünlüler ve şirketler sıklıkla dolandırıcılıkta kullanılan deepfake teknolojisinin kurbanı oluyor.

Örneğin, yeni bir deepfake Dolandırıcılara 23 milyon euro aktarıldıIşık vardı.**

Dolandırıcılığı teşvik etmek için Tom Hanks, Elon Musk veya YouTuber MrBeast gibi birçok ünlünün kimliğine bürünüldü.

Rapora göre dolandırıcılıklar, viral ve reklam potansiyeli nedeniyle sosyal medyada sıklıkla paylaşılıyor ve bu da dolandırıcıların ticaret, kumar veya kripto para birimleriyle ilgilenme olasılığı daha yüksek olan belirli gruplara daha kolay ulaşmasını sağlıyor.

Ticaret, deepfake dolandırıcılığından açık ara en çok etkilenen sektör (%35) oldu. Bunu her ikisi de yaklaşık %15 ile perakende ve kumar takip ediyor. Kamu yararına dolandırıcılık oranı %12,5'tir.

Raporda ayrıca çevrimiçi bankacılık veya finansal hizmetlere erişim için biyometrik doğrulamanın atlatılmasını içeren yüksek teknolojili dolandırıcılık girişimleri de vurgulanıyor.

Deepfake dedektör pazarı

Yapay zekanın ürettiği fotoğraf ve video içeriklerini tespit etmek için yeni teknikler geliştiren Big Tech'e pek çok kişi yetişmeye çalışıyor.

Sensity'nin, pikselleri ve dosya yapısını analiz ederek değiştirilip değiştirilmediklerini tespit eden kendi aracı vardır.

Intel, ışığın yüzdeki kan damarlarıyla nasıl etkileşime girdiğini inceleyen gerçek zamanlı bir deepfake dedektörünü 2022'de piyasaya sürdü.

Meta platformları yakında kullanıcılarına yapay zeka tarafından üretilen içerikleri de sunacak.