İran'la Savaş Hakkında Yapay Zeka Kaynaklı Sahte Haberlerin Yayılması İnternette Kaosa Yol Açtı
İran'daki savaşın ilk haftalarında yapay zekâ tarafından üretilen sahte videolar ve görüntüler sosyal ağları adeta ele geçirdi.
Gerçekleşmemiş büyük patlamaları, hiç saldırıya uğramamış yerle bir olmuş şehir sokaklarını veya var olmayan savaş karşıtı askerleri gösteren videolar, çevrimiçi ortamdaki çatışmaya kaotik ve kafa karıştırıcı bir boyut daha kattı.
New York Times, Ortadoğu'daki savaşla ilgili son iki haftaya ait 110'dan fazla yapay zeka tarafından üretilmiş sahte görüntü ve video tespit etti. Sahte görüntüler, savaşın her yönünü kapsıyordu: Tel Aviv'i yerle bir eden patlamalar sırasında çığlık atan İsraillileri, ölenlerinin yasını tutan İranlıları ve füze ve torpidolarla bombalanan Amerikan askeri gemilerini yanlış bir şekilde tasvir ediyorlardı.
Toplu olarak, bu fotoğraflar X, TikTok ve Facebook gibi ağlar aracılığıyla milyonlarca kez çevrimiçi olarak, bölgede ve dünyada popüler olan özel mesajlaşma uygulamaları içinde ise sayısız kez daha görüntülendi.
Times gazetesi, yapay zekâ içeriğini hem bariz işaretler (örneğin var olmayan binaların tasvirleri, anlaşılmaz metinler ve beklentilere aykırı davranışlar veya hareketler) hem de dosyalara gömülü görünmez filigranlar aracılığıyla tespit etti. Gönderiler ayrıca birden fazla yapay zekâ tespit aracıyla kontrol edildi ve haber kuruluşlarından gelen raporlarla karşılaştırıldı.
Gelişmiş yeni nesil yapay zeka araçları, sahte içeriklerin üretilmesini mümkün kılıyor ve neredeyse herkesin, çıplak gözle aldatıcı olabilecek, gerçeğe yakın savaş simülasyonları oluşturmasını, çok az bir maliyetle veya hiç maliyet olmadan sağlıyor. Benzer içerikler, Ukrayna ile Rusya arasındaki savaş da dahil olmak üzere diğer çatışmalarda da yayıldı. Ancak uzmanlara göre, bu savaşın birden fazla cephesi var ve bu durum, ABD ve İsrail'in İran'a ilk saldırısından bu yana sahte içeriklerin çoğalmasına yol açtı.
Katar'daki Northwestern Üniversitesi'nde medya analitiği doçenti olan Marc Owen Jones, "Ukrayna savaşı çıktığı zamana kıyasla bile, şu anki durum çok farklı," dedi. "Muhtemelen daha önce hiç olmadığı kadar yapay zeka ile ilgili içerik görüyoruz."
Genel olarak, yapay zeka tarafından üretilen sahtekarlıklar şunları içeriyordu…
Devam eden savaşı yanlış bir şekilde tasvir eden 37 sahte görüntü ve video.
Savaş hazırlıklarını yanlış bir şekilde gösteren 5 sahte fotoğraf ve video.
Yıkımı yanlış bir şekilde tasvir eden 8 sahte fotoğraf ve video
5 sahte fotoğraf ve video. Ağlayan askerleri yanlış şekilde gösteren
43 meme ve yapay zekanın açık kullanımı
13 diğer sahte resim ve video
Bu içerik, bölge genelinde yıkım ve tahribat sahneleri göstererek kamuoyunun savaşa olan toleransını sarsmayı amaçlayan Tahran için güçlü bir bilgilendirme silahı haline geldi. çevrimiçi faaliyetler üzerine yaptığı bir araştırmaya göre, savaşla ilgili yapay zekâ videolarının büyük çoğunluğu, genellikle İran'ın askeri üstünlüğünü ve gelişmişliğini yanlış bir şekilde göstermek amacıyla İran yanlısı görüşleri savunuyor. Sosyal medya istihbarat şirketi Cyabra'nın
Bay Jones, "İran'ın stratejisinde Körfez'deki yerlerin yakıldığını veya hasar gördüğünü gösteren yapay zeka görüntülerinin kullanımı daha da önem kazanıyor," dedi, "çünkü bu, savaşın gerçekte olduğundan daha yıkıcı ve belki de Amerika'nın müttefikleri için daha maliyetli olduğu izlenimini vermelerini sağlıyor."
İnternette en çok yayılan sahte videolardan birinde, Tel Aviv'deki bir apartman balkonundan çekilmiş gibi görünen titrek bir el kamerası görüntüsünde, ön planda İsrail bayrağı bulunurken şehir silüetinin füzelerle bombalandığı gösteriliyor. The Times'ın sosyal medya aktivitesine ilişkin bir incelemesine göre, video platformlar genelinde milyonlarca kez izlendi ve sosyal medya fenomenleri ve marjinal haber siteleri tarafından paylaşıldı.
Uzmanlar, videonun ön planında yer alan İsrail bayrağının, videonun yapay zeka tarafından üretildiğinin en belirgin işaretlerinden biri olduğunu söyledi. Bu tür videoları oluşturmak için, yapay zeka araçlarını kullanan içerik oluşturucular genellikle, örneğin İsrail'e füze saldırısının titrek bir el kamerası videosu gibi basit metin talimatları yazarlar. Yapay zeka araçları daha sonra bu isteği yerine getirmek için genellikle bir İsrail bayrağı veya Davut Yıldızı ekler. Diğer birçok yapay zeka videosunda da bayrak yer alıyordu.
Cep telefonları ve sosyal medya platformları aracılığıyla savaşın gerçek zamanlı görüntülerini içeren çok sayıda gerçek fotoğraf da internette paylaşılıyor. Bu görüntülerin ve videoların çoğu, yapay zeka araçları tarafından oluşturulan sahnelerden daha sakin bir tonda.
Füze saldırılarının gerçek görüntüleri genellikle uzaktan, tipik olarak gece vakti çekilir ve füzeler uzakta parlak ışıklar olarak görünür. Gerçek videolardaki patlamalar genellikle ateş topu şeklinde değil, duman bulutları şeklinde gösterilir ve olay yerindekiler ancak mühimmat hedeflerine ulaştıktan sonra sahneyi filme almak için acele ederler.
Öte yandan, bazı yapay zekâ videoları ve görüntüleri, savaşı abartılı bir Hollywood aksiyon filmi gibi yanlış bir şekilde tasvir ediyor; devasa patlamalar mantar bulutlarına, isimsiz şehirlerde yankılanan ses patlamalarına ve gökyüzünde parlayan izler bırakan sözde hipersonik füzelere yer veriyor. Gerçek görüntüler bazen yapay zekâ araçlarıyla iyileştirilerek patlamaların daha büyük ve daha yıkıcı görünmesi sağlanıyor ve bu da gerçek ile sahte arasındaki çizgiyi daha da bulanıklaştırıyor.
Uzmanlar, yapay zekâ ile oluşturulan görüntülerin esasen sosyal medyaya daha uygun, abartılı görüntülerin daha geniş bir izleyici kitlesi bulma olasılığının yüksek olduğu alternatif bir gerçeklik yarattığını söyledi.
Bir örnekte, yapay zekâ tarafından üretilen sahte görüntüler, bölgeye konuşlandırılmış bir uçak gemisi olan USS Abraham Lincoln'ün kaderiyle ilgili çevrimiçi ve hükümetler arasındaki tartışmada büyük rol oynadı. İran İslam Devrim Muhafızları Donanması, 1 Mart'ta gemiye başarılı bir saldırı düzenlediklerini ve muhtemelen batırdıklarını öne sürdü. Bu durum, gemiyi veya benzerlerini yanarken gösteren çok sayıda yapay zekâ tarafından üretilmiş sahte görüntünün ortaya çıkmasına yol açtı. İranlı kullanıcılar, bu görüntüleri ülkelerinin karşı saldırısının ABD-İsrail ittifakını sarstığının kanıtı olarak çevrimiçi ortamda kutladılar.
Amerika Birleşik Devletleri daha sonra saldırının başarısız olduğunu ve geminin zarar görmediğini açıkladı.
Diğer onlarca yapay zekâ ürünü görüntü ve video, sahte olduklarını gizlemek için hiçbir çaba göstermedi; bunun yerine, hükümetler veya propaganda organları tarafından tipik olarak öne sürülen siyasi argümanları hayata geçiren yeni bir dijital propaganda biçimi olarak işlev gördüler. Bunlar arasında dünya liderlerinin güçlü adamlar olarak övgü dolu tasvirleri veya muhalefet liderlerinin insanlıktan uzaklaştırıcı tasvirleri yer alıyordu.
Açıkça kurgusal olan videolardan oluşan bir koleksiyon, ABD'nin 28 Şubat'ta yanlışlıkla attığı bir füze saldırısıyla yerle bir ettiği Şajarah Tayyebeh ilkokulunun görüntüsünü sunuyordu . İranlı yetkililere göre, saldırıda çoğu çocuk olmak üzere en az 175 kişi hayatını kaybetti.
Yapay zekâ tarafından oluşturulan videolar, kısa filmler gibi ilerleyerek, bir Amerikan savaş uçağının füze fırlatmasından önce okul kızlarının dışarıda oynadığını gösterdi.
Sosyal medya şirketleri, yapay zeka videoları belasıyla mücadele etmek için çok az şey yaptı Sora'yı piyasaya sürmesinin ardından geçen yıl platformlarını altüst eden OpenAI'nin herkesin basit bir uygulama aracılığıyla gerçekçi sahte videolar oluşturmasına olanak tanıyan video oluşturma uygulaması . (New York Times, 2023'te OpenAI ve Microsoft'u yapay zeka sistemleriyle ilgili haber içeriğinin telif hakkını ihlal etmekle suçlayarak dava etti . İki şirket de bu iddiaları reddetti.)
Birçok yapay zeka aracı tarafından oluşturulan videolarda, sahte olduklarını belirten hem görünür hem de görünmez filigranlar bulunsa da, bunların kaldırılması veya gizlenmesi kolaydır. The Times tarafından tespit edilen videolardan sadece birkaçında bu tür filigranlar vardı.
Platformunda yanlış bilgilere geniş ölçüde müsamaha gösteren Elon Musk'ın X'i, geçen hafta, kullanıcıların bu yanlış bilgilerden kar elde etmesini engellemek amacıyla, "silahlı çatışma" ile ilgili yapay zeka tarafından üretilmiş içerikleri bu şekilde etiketlemeden paylaşan hesapların 90 gün boyunca platformdan gelir elde etmesini askıya alacağını duyurdu.
Ancak Cyabra tarafından tespit edilen İran bağlantılı hesapların birçoğu, para kazanmaktan ziyade İran'ın mesajlarını yaymaya odaklanmış görünüyordu.
Brookings Enstitüsü'nde dış politika ve yapay zekâ üzerine çalışan Valerie Wirtschafter, "Bu, İran'ın istismar etmeye çalışacağı doğal bir cephe ve bu kadar büyük olmasının nedenlerinden biri de bu gibi görünüyor," dedi. "Aslında bu bir savaş aracı."
Not: Bazen Büyük Dosyaları tarayıcı açmayabilir...İndirerek okumaya Çalışınız.
Yorumlar
Yorum Gönder