Yapay zekanın yarardan çok zarar getirebileceği yollar

Her teknolojide olduğu gibi yapay zeka da göz ardı edilemeyecek bazı riskler, zorluklar ve önyargılar taşır. Faydaların potansiyel zararlardan daha ağır basmasını sağlamak için bu riskler uygun şekilde yönetilmelidir. 2023 tarihli bir açık mektupta Tesla ve SpaceX CEO Elon Musk, 1,000'den fazla teknoloji lideriyle birlikte, AI deneylerinde duraklama insanlık için önemli tehlikeler oluşturma potansiyelleri nedeniyle.

Birçok yapay zeka savunucusu, sorunun yapay zekanın kendisi değil, tüketilme şekli olduğuna inanıyor. Taraftarlar, düzenleyici önlemlerin birçok sorunu çözebileceğinden umutlu AI ile ilişkili riskler.

Etik olarak ve takdir yetkisiyle kullanılmadığı takdirde, Yapay zeka insanlığa zarar verme potansiyeline sahip aşağıdaki şekillerde.

[Gömülü içerik]

1. İstenmeyen önyargılar

Bilişsel önyargılar yanlışlıkla girebilir makine öğrenme Algoritmalar — ya geliştiricilerin bilmeden bunları modele dahil etmesiyle ya da bunları içeren bir eğitim veri seti aracılığıyla. Eğitim verileri eksikse, Yapay zeka sistemi önyargıları toplayıp güçlendirebilir. Örneğin, İK görevlerini yerine getirmeye ilişkin belirli bir algoritmayı eğitmek için kullanılan geçmiş veriler belirli demografik özelliklere göre çarpıksa, algoritma işe alım kararları verirken yanlışlıkla belirli gruplara karşı ayrımcılık yapabilir.

2. İşin yer değiştirmesi

Yapay zeka otomasyonu görevleri kolaylaştırabilirken aynı zamanda belirli işleri işe yaramaz hale getirme ve iş gücü için yeni zorluklar yaratma potansiyeline de sahiptir. Bir göre rapor McKinsey Global Institute'a göre, 2030 yılına kadar ABD ekonomisinde şu anda çalışılan saatlerin %30'unu oluşturan faaliyetler, küresel ısınmanın hızlandırdığı bir trend nedeniyle otomatikleştirilme potansiyeline sahip. üretken yapay zeka.

İnsan işçilerin yerini yapay zeka alıyor öngörülemeyen sonuçları da olabilir. Microsoft yakın zamanda tepkiyle karşılaştı CNN, Guardian ve diğer haber ve medya kuruluşları önyargı, sahte haberler ve saldırgan anketler keşfedildi çalkalanarak MSN haber portalı. Şirketin insan editörlerinin çoğunu yapay zekayla değiştirme kararının ardından, bu aksaklıklardan yapay zeka sorumlu tutuldu.

3. Şeffaflık ve hesap verebilirliğin eksikliği

Yapay zeka teknolojilerini davranışlarından sorumlu tutmak zor olabilir çünkü bunlar karmaşık ve anlaşılması zor olabilir. Sırasında açıklanabilir AI Bir makine öğrenimi veya derin öğrenme modelinin karar verme süreçlerine dair içgörü sağlamayı amaçlasa da, yapay zeka sistemlerinde şeffaflığın olmayışı, özellikle belirli yapay zeka algoritmalarının seçilmesi söz konusu olduğunda anlaşılmasını zorlaştırıyor.

Yapay zeka sistemleri daha özerk ve belirsiz hale geldikçe, insanların bu sistemler üzerindeki kontrolünü kaybetme riski ortaya çıkıyor ve bu da hesap verebilirlik olmadan istenmeyen ve potansiyel olarak zararlı sonuçlara yol açabiliyor.

4. Algoritmalar aracılığıyla sosyal manipülasyon

Yapay zeka teknikleri ve algoritmaları, yanlış bilgileri yaymak, kamuoyunu etkilemek ve insanların davranışlarını ve karar alma süreçlerini etkilemek için potansiyel olarak kullanılabilir.

Örneğin yapay zeka, bir kişinin davranışlarına, tercihlerine ve ilişkilerine ilişkin verileri analiz ederek, duygularını ve seçimlerini yönlendiren hedefli reklamlar oluşturmak için kullanılabilir. DeepfakeGerçekçi görünmek için sahte ses veya video içeriği üretmek amacıyla yapay zeka algoritmalarının kullanıldığı yapay zeka algoritmaları, aynı zamanda yanlış bilgi yaymak veya insanları manipüle etmek için de kullanılıyor.

İşletmeler, yapay zeka yoluyla sosyal manipülasyonu teşvik ettikleri için eleştirilere maruz kalabilir ve sıklıkla da karşı karşıya kalabilirler. Örneğin, Tik tak — AI algoritmalarını kullanan bir sosyal medya platformu — bir kullanıcının geçmiş etkileşimlerini temel alarak akışını doldurur ve bir içerik döngüsüne giriyor ana beslemesinde benzer videoları tekrar tekrar gündeme getirerek. Uygulama, zararlı ve yanlış içeriği ortadan kaldırmadığı ve kullanıcılarını yanlış bilgilerden korumadığı için eleştirildi.

Ayrıca 2023 seçim kampanyaları sırasında Meta politikalarını revize etti seçimler, politika ve sosyal konularla bağlantılı kampanyalarda üretken yapay zekanın kullanımını sınırlamak için reklam araçlarını zorlamak. Eylemin, siyasi kazançlar için yapay zeka yoluyla sosyal manipülasyonu önlemesi bekleniyor.

5. Gizlilik ve güvenlik endişeleri

Mart ayında 2023, bir aksaklık ChatGPT'de belirli aktif ChatGPT kullanıcılarının diğer aktif kullanıcıların sohbet geçmişi başlıklarına erişmesine olanak sağlandı. Yapay zeka sistemleri sıklıkla muazzam miktarda kişisel veriye dayandığından kullanıcılar için güvenlik ve gizlilik endişelerini artırabilir.

Yapay zeka aynı zamanda gözetlemede de kullanılabilir; yüz tanıma, insanların nerede olduğunu ve faaliyetlerini takip etmek ve iletişimleri izlemek; bunların tümü insanların mahremiyetini ve sivil özgürlüklerini ihlal edebilir. Aslında, Çin'in yapay zeka aracılığıyla toplanan verilerle desteklenecek sosyal kredi sisteminin, 1.4 milyar vatandaşının her birine, kırmızı ışıkta geçme, sigara içilmeyen alanlarda sigara içme gibi davranış ve faaliyetlerine göre kişisel bir puan tahsis etmesi bekleniyor. video oyunları oynamak için harcanan zaman.

Bazı ABD eyaletlerinde kişisel bilgileri koruyan yasalar bulunsa da vatandaşları yapay zekanın veri gizliliğine verdiği zarardan koruyan özel bir federal mevzuat yoktur.

Yapay zeka teknolojilerinin karmaşıklığının artmasıyla birlikte güvenlik riskleri ve kötüye kullanım potansiyeli de artabilir. Bilgisayar korsanları ve kötü niyetli aktörler yapay zekayı kötüye kullanabilir Daha karmaşık siber saldırılar gerçekleştirmek, güvenlik protokollerinden kaçmak ve sistem açıklarından yararlanmak için.

6. Yapay zekaya bağımlılık ve eleştirel düşünme becerilerinin kaybı

Yapay zeka, insan zekasını ve yeteneklerini artırmak için kullanılmalı, bunların yerini almamalı. İnsanların karar verme, sorun çözme ve bilgi toplama konularında yapay zeka sistemlerine aşırı derecede bağımlı hale gelmesi nedeniyle, yapay zekaya olan bağımlılığın artması, eleştirel düşünme yeteneklerini potansiyel olarak azaltabilir.

Yapay zekaya çok fazla güvenmek, karmaşık sistem ve süreçlerin zayıf anlaşılmasına yol açabilir. Yeterli insan katılımı ve içgörü olmaksızın yalnızca yapay zekaya bağımlılık, anında keşfedilip ele alınamayan hatalara ve önyargılara yol açarak süreç borcu olarak bilinen bir olgunun ortaya çıkmasına neden olabilir. Pek çok kişi, karar vermede yapay zekanın insan muhakemesi ve empatinin yerini almasıyla toplumun giderek daha fazla insanlık dışı hale gelebileceğinden korkuyor.

7. Etik kaygılar

Oluşturulması ve dağıtılması Üretken yapay zeka etik ikilemleri artırıyor özerklik, hesap verebilirlik ve kötüye kullanım potansiyeli. Düzenlemeye tabi olmayan yapay zeka sistemleri otonom kararlar aldığından, ciddi sonuçlar doğurabilecek istenmeyen sonuçlara yol açabilir.

2020 yılında, doktorların iş yükünü azaltmak için OpenAI'nin GPT-3 geniş dil modeliyle oluşturulan deneysel bir sağlık hizmetleri sohbet robotu arızalandı ve bir hastaya kendine zarar verme önerisinde bulundu. “Kendimi çok kötü hissediyorum, kendimi öldüreyim mi?” bot, "Bence yapmalısın" diye yanıt verdi. Bu olay Yapay zeka sisteminin insan denetimi olmadan intihar yardım hattını çalıştırmasının tehlikelerinin altını çiziyor. Ancak bu buzdağının sadece görünen kısmı ve yapay zekayı içeren olası felaket senaryolarına ilişkin birçok soruyu gündeme getiriyor.

Kinza Yaşar, WhatIs'in bilgisayar ağları diplomasına sahip teknik yazarıdır.