Yapay Zekâ ile Üretilen Sahte İçerikler: Yeni Nesil Dijital Silahlar
Bilgi manipülasyonu ve dijital dolandırıcılıkta yapay zekâ dönemi başlıyor.
Yapay zekâ teknolojilerinin hızla gelişmesiyle birlikte, sahte görseller, taklit sesler ve deepfake videolar; savaş alanlarından seçim kampanyalarına kadar birçok alanda “yeni nesil silah” olarak kullanılmaya başlandı. Uzmanlar, bu teknolojilerin kontrolsüzce yayılmasının küresel güvenlik, kamu düzeni ve demokratik süreçler üzerinde ciddi tehditler oluşturduğunu belirtiyor.
Küresel Ölçekte Manipülasyon Vakaları
Sensity AI şirketinin araştırmalarına göre, Rusya-Ukrayna Savaşı sırasında Ukraynalı asker ve siyasetçilerin deepfake videolarla “teslim olmaya çağıran” veya “savaş suçu işlediğini itiraf eden” kişiler gibi gösterildiği tespit edildi. Bu içerikler, savaşın seyrini etkilemeye yönelik psikolojik operasyonların bir parçası olarak değerlendiriliyor.
Tayvan’da ise seçim dönemlerinde Çin kaynaklı yapay zekâ içerikleriyle politikacıların sahte konuşmaları, uydurma skandalları ve gaf benzeri sahneleri sosyal medyada yayılıyor. Bu içerikler, karşıt görüşlü adayları itibarsızlaştırmak için kullanılıyor.
Japonya’da ise sahte doğal afet görüntüleri, nükleer kazalar ve sel felaketleri gibi kurgular halkta panik yaratmak amacıyla dolaşıma sokuluyor. Bu örnekler, yapay zekâ araçlarının bilinçsizce ve denetimsiz şekilde kullanıldığında ne denli tehlikeli olabileceğini gözler önüne seriyor.
Taklit Sesler ve Deepfake Videolar Alarm Veriyor
Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zekâ ile üretilen içeriklerin giderek daha gerçekçi hale geldiğini ve insan gözüyle ayırt edilmesinin zorlaştığını belirtiyor. Özellikle düşük çözünürlüklü veya sıkıştırılmış formatlarda bu içeriklerin tespiti neredeyse imkânsız hale geliyor.
Cavalli, yapay zekâ ile taklit edilen seslerin en yüksek riski oluşturduğunu vurguluyor. Örneğin, ABD Dışişleri Bakanı Marco Rubio’nun sesi taklit edilerek sahte bir Signal hesabı üzerinden üç ülkenin dışişleri bakanlarıyla temas kurulduğu ortaya çıktı. Bu tür dolandırıcılık girişimleri, diplomatik ilişkileri bile tehdit edebilecek boyutlara ulaşabiliyor.
Proaktif Denetim ve Uluslararası İşbirliği Şart
Uzmanlar, teknoloji şirketleri ve sosyal medya platformlarının yapay zekâ tabanlı dezenformasyonla mücadele konusunda daha etkin adımlar atması gerektiğini savunuyor. Cavalli, bazı platformların dolandırıcılık kampanyalarından bilinçli şekilde kâr ettiğini, ancak dış baskı olunca müdahale ettiğini belirtiyor.
Yapay içeriklerin yalnızca “etiketlenmesi” yeterli görülmüyor. Cavalli’ye göre, içeriklerin zararlı olup olmadığı kullanım şekline ve bağlamına göre değerlendirilmeli. Özellikle deepfake dolandırıcılık reklamlarına karşı sosyal medya ağlarının denetimsiz kullanımına ağır yaptırımlar uygulanmalı.
Toplumun Eğitilmesi ve Farkındalık Artırılması Gerekiyor
Cavalli, gazetecilerin, araştırmacıların ve teknoloji kullanıcılarının adli araçlarla donatılması gerektiğini vurguluyor. Yapay zekâ ile üretilen içeriklerin risklerine karşı toplumun bilinçlendirilmesi, dijital okuryazarlığın artırılması ve medya farkındalığının yaygınlaştırılması gerektiği ifade ediliyor.