Seçimlerde yanlış bilgilendirmeyle mücadele etmek için kararlı bir hamleyle OpenAI, bir açıklama yaptı. titiz duruş üretken yapay zeka araçlarının seçim kampanyalarında ve seçmenleri bastırma taktiklerinde kullanılmasına karşı.
2024'teki dünya çapındaki seçimlere nasıl hazırlandığımıza dair anlık görüntü:
• Yanıltıcı deepfake'ler de dahil olmak üzere kötüye kullanımı önlemek için çalışmak
• Yapay zeka tarafından oluşturulan içerikte şeffaflık sağlama
• Yetkili oylama bilgilerine erişimin iyileştirilmesihttps://t.co/qsysYy5l0L- OpenAI (@OpenAI) Ocak 15, 2024
Bu duyuru, 2024 için planlanan çok sayıda önemli seçimin bütünlüğünü sağlamaya yönelik önemli bir adım olarak geliyor.
Ayrıca okuyun: OpenAI, Haber İçeriği Lisansı için CNN, Fox ve Time ile Görüşüyor
Kötüye kullanımla yenilik ve politikayla mücadele etmek
OpenAI, teknolojisinin seçim sonuçlarını manipüle etmek amacıyla istismar edilmesini önlemek için bir strateji başlattı. Şirket, hukuk, mühendislik ve politika dahil olmak üzere çeşitli departmanların uzmanlığını birleştirerek, seçimle ilgili konulara odaklanan uzman bir ekip kurdu. Bu ekibin birincil amacı, seçimlerde yapay zekanın olası kötüye kullanımını tespit etmek ve azaltmaktır.
"Güvenlik sistemlerimiz, tehdit istihbaratı, hukuk, mühendislik ve politika ekiplerimizin uzmanlığını bir araya getiren, seçim çalışmalarına adanmış işlevler arası bir çabamız var."
Siyasette yanlış bilgi tehdidi yeni değil, ancak yapay zeka teknolojisinin ortaya çıkışı eşi benzeri görülmemiş zorlukları da beraberinde getiriyor. OpenAI bunun farkında olarak proaktif önlemler alıyor. Şirket, kırmızı ekip oluşturma, kullanıcı etkileşimi ve güvenlik korkulukları gibi tekniklerin bir karışımını kullanmayı planlıyor. Özellikle onların imajı nesil aracı, DALL-E, siyasi adaylar da dahil olmak üzere gerçek kişileri gösteren görsellerin oluşturulmasını engelleyecek şekilde güncellendi.
"DALL·E, adaylar da dahil olmak üzere gerçek kişilerin imajının oluşturulmasını isteyen talepleri reddetmek için korkuluklara sahiptir."
OpenAI, yapay zeka teknolojisinin gelişen ortamına ve potansiyel kötüye kullanımına ayak uydurmak için kullanıcı politikalarını sürekli olarak revize ediyor. Güncellenen güvenlik politikaları artık siyasi kampanya ve lobi faaliyetlerine yönelik yapay zeka uygulamalarının geliştirilmesini açıkça kısıtlıyor. Ayrıca gerçek kişi veya kuruluşları taklit eden chatbotların oluşturulmasını önlemek için de önlemler alındı.
Şeffaflığın ve hesap verebilirliğin arttırılması
OpenAI'nin stratejisinin önemli bir bileşeni, DALL-E aracı için bir kaynak sınıflandırıcısının tanıtılmasıdır. Şu anda beta testinde olan bu özellik, DALL-E tarafından oluşturulan görüntüleri tespit edebiliyor. Şirket, yapay zeka tarafından oluşturulan içerikte şeffaflığı artırmak için bu aracı gazetecilerin, platformların ve araştırmacıların kullanımına sunmayı amaçlıyor.
"Yakında gazeteciler, platformlar ve araştırmacılar dahil olmak üzere ilk test grubumuzun geri bildirim için kullanımına sunmayı planlıyoruz."
OpenAI ayrıca gerçek zamanlı haber raporlamayı da entegre ediyor ChatGPT. Bu entegrasyon, kullanıcılara doğru ve zamanında bilgi sağlamayı, yapay zeka tarafından sağlanan bilgi kaynakları konusunda şeffaflığı artırmayı amaçlıyor.
ABD'deki Ulusal Dışişleri Bakanları Birliği ile ortak bir çaba içinde olan OpenAI, teknolojisinin seçime katılımı caydırmasını önlemeye odaklanıyor. Ekip çalışması, GPT destekli sohbet robotu kullanıcılarını CanIVote.org gibi güvenilir oy verme bilgileri web sitelerine yönlendirmeyi içeriyor.
AI yarışında rakipler de aynısını yapıyor
OpenAI'nin duyurusu, AI endüstrisinde bir emsal oluşturdu; Google LLC ve Meta Platforms Inc. de teknolojileri aracılığıyla yayılan yanlış bilgilerle mücadele etmek için önlemler uyguluyor. Sektör liderlerinin bu kolektif çabası, yapay zekanın demokratik süreçler üzerindeki potansiyel etkisine yönelik artan bir farkındalığa ve sorumluluğa işaret ediyor.
Peki bu yeterli mi? Pund-IT Inc.'den Charles King, bu önlemlerin zamanında mı yoksa tepkisel mi olduğunu sorgulayarak kritik bir noktaya değiniyor. Yapay zeka tarafından üretilen yanlış bilgilerle ilgili endişelerin yıllardır mevcut olduğunu ve OpenAI'nin son duyurusunun çok az ve çok geç görülebileceğini savunuyor. Bu perspektif, yapay zeka geliştiricilerinin siyasi ortamdaki rolü ve sorumluluğu üzerine daha derin bir düşünceyi teşvik ediyor.
"Yani en iyi ihtimalle bu duyuru, OpenAI'nin geçişte uykuda olduğunu gösteriyor. Ancak en kötü ihtimalle, bu yıl yaklaşan küresel seçimler sırasında üretken yapay zekanın hayran kitlesine ulaşması durumunda OpenAI'nin işaret edebileceği bir el yıkama ritüeline benziyor."
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://metanews.com/openai-rules-out-use-in-elections-and-voter-suppression/
