Dijital güvenlik

Gerçek insanlara ait uydurma görüntüler, videolar ve ses klipleri ana akım haline geldikçe, yapay zeka destekli dezenformasyonun bir yangın hortumu olasılığı, artan endişelere neden oluyor

Phil Muncaster

Şubat 13 2024
 • 
,
5 dk. okuman

Sahte haberler o zamandan beri seçim manşetlerine hakim oldu büyük bir hikaye haline geldi 2016'daki Beyaz Saray yarışı sırasında. Ancak sekiz yıl sonra tartışmasız daha büyük bir tehdit var: yanlış bilgi verme ve deepfakes bu uzmanları bile kandırabilir. Son zamanlarda olma ihtimali yüksek örnekler dolaşımda olan çok sayıda resim ve video da dahil olmak üzere, seçim temalı yapay zeka tarafından oluşturulan içerik Arjantin'de yapılacak seçimler yaklaşırken ve ABD Başkanı Joe Biden'ın üzerinde oynanmış ses kaydı – daha büyük ölçekte gelmesi muhtemel olanın habercisiydi.

Yaklaşık bir dünya nüfusunun dörtte biri 2024'te sandık başına giderken, dezenformasyonun ve yapay zeka destekli hilelerin hain aktörler tarafından sonuçları etkilemek için kullanılabileceğine dair endişeler artıyor; birçok uzman, deepfake'lerin ana akım haline gelmesinin sonuçlarından korkuyor.

Deepfake dezenformasyon tehdidi

Daha önce de belirtildiği gibi, bu yıl en az iki milyar insan favori temsilcilerine ve eyalet liderlerine oy vermek için yerel seçim merkezlerine gitmek üzere. ABD, Birleşik Krallık ve Hindistan da dahil olmak üzere (aynı zamanda Avrupa Parlamentosu için) birden fazla ülkede büyük seçimler yapılacak olduğundan, bunun önümüzdeki birkaç yıl için siyasi manzarayı ve jeopolitiğin yönünü değiştirme potansiyeli var. öte.

Ancak aynı zamanda son zamanlarda yanlış bilgi ve dezenformasyon da ortaya çıktı. sırada Dünya Ekonomik Forumu (WEF) tarafından önümüzdeki iki yılın bir numaralı küresel riski olarak belirlendi.

Deepfake ile ilgili zorluk, yapay zeka destekli teknolojinin artık ucuz, erişilebilir ve büyük ölçekte zarar verebilecek kadar güçlü hale gelmesidir. Siber suçluların, devlet aktörlerinin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha fazlasını başlatma becerilerini demokratikleştirir geçici, tek seferlik dolandırıcılıklar. WEF'in kısa süre önce yanlış bilgi/dezenformasyonu önümüzdeki iki yılın en büyük küresel riski, aşırı hava koşullarından sonra ise mevcut iki numaralı risk olarak sıralamasının bir nedeni de bu. WEF'in danıştığı akademi, iş dünyası, hükümet, uluslararası toplum ve sivil toplumdan 1,490 uzmana göre bu böyle.

Rapor şu uyarıda bulunuyor:"Sentetik içerik önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak... bazı hükümetlerin çok yavaş hareket etmesi ve yanlış bilgilendirmeyi önlemek ile ifade özgürlüğünü korumak arasında bir seçimle karşı karşıya kalması riski var."

(Derin)numara yapıyor

Buradaki zorluk, ChatGPT ve serbestçe erişilebilen üretken yapay zeka (GenAI) gibi araçların, daha geniş bir yelpazedeki bireylerin deepfake teknolojisinin yönlendirdiği dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılmasıdır. Kendileri için yapılan onca sıkı çalışmanın ardından, kötü niyetli aktörlerin, sahte içeriklerinin görülmesini ve duyulmasını sağlamak amacıyla mesajları ve güçlendirme çabaları üzerinde çalışmak için daha fazla zamanları var.

Seçim bağlamında, deepfake'ler açıkça seçmenlerin belirli bir adaya olan güvenini sarsmak için kullanılabilir. Sonuçta, birini bir şeyi yapmamaya ikna etmek, tam tersini yapmaktan daha kolaydır. Bir siyasi partinin ya da adayın destekçileri sahte ses ya da görüntüyle uygun şekilde etkilenebilirse, bu rakip gruplar için kesin bir kazanç olacaktır. Bazı durumlarda, haydut devletler tüm demokratik sürece olan inancı baltalamaya çalışabilir, böylece kim kazanırsa kazansın meşruiyetle yönetmekte zorlanır.

Bu zorluğun temelinde basit bir gerçek yatıyor: İnsanlar bilgiyi işlerken niceliğe ve anlama kolaylığına değer verme eğilimindedirler. Bu, benzer bir mesajla ne kadar çok içerik görüntülersek ve anlaşılması ne kadar kolay olursa, buna inanma şansımızın da o kadar yüksek olacağı anlamına gelir. Pazarlama kampanyalarının kısa ve sürekli tekrarlanan mesajlardan oluşmasının nedeni budur. Buna, deepfake'leri gerçek içerikten ayırmanın giderek zorlaştığı gerçeğini de eklerseniz, demokratik felaket için potansiyel bir reçeteyle karşı karşıya kalırsınız.

Teoriden pratiğe

Endişe verici bir şekilde, deepfake'lerin seçmen duyarlılığı üzerinde etkisi olması muhtemeldir. Şu yeni örneği ele alalım: Ocak 2024'te ABD Başkanı Joe Biden'ın derin sahte bir sesi dağıtıldı New Hampshire'daki bilinmeyen sayıda ön seçmene otomatik çağrı yoluyla. Mesajında ​​görünüşe göre onlara katılmamalarını ve bunun yerine "oyununuzu Kasım seçimlerine saklamalarını" söyledi. Görüntülenen arayan kimlik numarası da, otomatik mesaj, şu anda Biden yanlısı bir süper PAC'ı yöneten eski Demokrat Parti başkanı Kathy Sullivan'ın kişisel numarasından gönderilmiş gibi görünecek şekilde sahteydi.

Bu tür çağrıların seçmenleri Kasım ayında yapılacak başkanlık seçimleri öncesinde tercih ettikleri adaya katılma konusunda caydırmak için nasıl kullanılabileceğini anlamak zor değil. Az sayıda seçmenin bir taraftan diğerine kaymasının sonucu belirlediği, çekişmeli geçen seçimlerde risk özellikle ciddi olacaktır. Seçimin sonucuna karar verecek olan bir avuç hareketli eyalette sadece on binlerce seçmenin olduğu düşünülürse, bunun gibi hedefe yönelik bir kampanya anlatılmaz zararlar verebilir. Yaralanmanın üstüne hakaret de eklendiğinde, yukarıdaki vakada olduğu gibi sosyal medya yerine otomatik aramalar aracılığıyla yayılıyor, etkiyi takip etmek veya ölçmek daha da zorlaşıyor.

Teknoloji firmaları bu konuda ne yapıyor?

Hem YouTube hem de Facebook yavaş olduğu söyleniyor Son seçimleri etkilemesi amaçlanan bazı deepfake'lere yanıt olarak. Bu, sosyal medya şirketlerinin seçim manipülasyonu girişimlerini engellemesini gerektiren yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen.

OpenAI, kendi adına, tarafından oluşturulan görüntüler için İçerik Kanıtlanması ve Orijinallik Koalisyonu'nun (C2PA) dijital kimlik bilgilerini uygulayacağını söyledi. DALL-E3. Meta ve Google tarafından da denenen kriptografik filigran teknolojisi, sahte görseller üretmeyi zorlaştırmak için tasarlandı.

Ancak bunlar henüz bebek adımlarıdır ve haklı endişeler Seçim ateşi dünyayı sardıkça tehdide teknolojik tepkinin çok az ve çok geç olacağı belirtiliyor. Özellikle WhatsApp grupları veya otomatik çağrılar gibi nispeten kapalı ağlarda yayıldığında, herhangi bir sahte ses veya videoyu hızla takip etmek ve çürütmek zor olacaktır.

“Önyargıyı sabitlemek” teorisi anlaşılacağı İnsanların duyduğu ilk bilgi, yanlış olduğu ortaya çıksa bile aklımızda kalan bilgidir. Eğer deepfake'ciler ilk önce seçmenleri etkilemeyi başarırsa, nihai kazananın kim olacağına dair tüm bahisler kapanacak. Sosyal medya ve yapay zeka destekli dezenformasyon çağında, Jonathan Swift'in "Yalan uçar ve gerçek onun ardından topallayarak gelir" sözü tamamen yeni bir anlam kazanıyor.