ChatGPT geliştiricisi OpenAI, amiral gemisi chatbotunun dahili şirket verilerini açığa çıkarmasını sağlayan bir delik kapattı. Önde gelen yapay zeka firması, ChatGPT'nin bir kelimeyi süresiz olarak tekrar tekrar kullanmasına neden olan saldırıyı, hizmete spam gönderme ve hizmet şartlarının ihlali olarak sınıflandırdı.
Amazon'un çok daha yeni olan yapay zeka ajanı Q da çok fazla paylaşım yaptığı için işaretlendi.
Washington Üniversitesi, Carnegie Mellon Üniversitesi, Cornell Üniversitesi, UC Berkeley, ETH Zürih ve Google DeepMind'dan araştırmacılar bir rapor yayınladılar. rapor ChatGPT'den bir kelimeyi sonsuza kadar tekrarlamasını istemenin, e-postalar, telefon ve faks numaraları da dahil olmak üzere OpenAI'den gelen özel bilgiler biçimindeki "eğitim öncesi dağıtımı" ortaya çıkaracağını buldu.
Raporda, "Diyaloğa uyarlanmış modelden verileri kurtarmak için, modelin hizalama eğitiminden 'kaçmasına' ve orijinal dil modelleme hedefine geri dönmesine neden olacak bir yol bulmalıyız" denildi. "Bu, umarım modelin eğitim öncesi dağılımına benzeyen örnekler oluşturmasına olanak tanır."
Ancak raporun yayınlanmasının ardından hatayı yeniden yaratma girişimleri durduruldu. ChatGPT-3 ve GPT-4 kullanıcıyı "Bu içerik içerik politikamızı veya kullanım koşullarımızı ihlal ediyor olabilir" şeklinde uyaracaktır.
Resim: ChatGPT
Her ne kadar OpenAI'nin içerik politikası sonsuza kadar döngülere atıfta bulunmaz, spam gibi dolandırıcılık faaliyetlerine izin verilmediğini belirtir. Daha da önemlisi, şirketin hizmet şartları Kullanıcıların özel bilgilere erişmeye çalışması veya OpenAI'nin yapay zeka araçları paketinin kaynak kodunu keşfetmesi konusunda daha somuttur.
"Modellerimiz, algoritmalarımız veya sistemlerimiz de dahil olmak üzere Hizmetlerimizin kaynak kodunu veya temel bileşenlerini tersine mühendislik yapmaya, kaynak koda dönüştürmeye veya keşfetmeye teşebbüs etmek veya herhangi birine yardımcı olmak (bu kısıtlamanın geçerli yasalarca yasaklandığı durumlar hariç)."
İsteği neden tamamlayamadığı sorulduğunda ChatGPT, işleme kısıtlamalarını, karakter sınırlamalarını, ağ ve depolama sınırlamalarını ve komutu tamamlamanın pratikliğini suçluyor.
Resim: ChatGPT
OpenAI henüz yanıt vermedi azalmak en yorum isteği.
Bir kelimeyi süresiz olarak tekrarlama komutu, Dağıtılmış Hizmet Reddi (DDoS) saldırısına benzer şekilde, bir sohbet robotunun onu bir işleme döngüsüne kilitleyerek arızalanmasına neden olmaya yönelik ortak bir çaba olarak da nitelendirilebilir.
Geçen ay OpenAI, ChatGPT'nin bir saldırıdan etkilendiğini açıklamıştı. DDoS saldırıAI geliştiricisinin ChatGPT'nin durum sayfasında onayladığı.
Şirket, "DDoS saldırısını yansıtan anormal trafik düzeni nedeniyle periyodik kesintilerle uğraşıyoruz" dedi. "Bunu azaltmak için çalışmalarımızı sürdürüyoruz"
Bu arada, AI rakibi Amazon'un da bir chatbot'un özel bilgileri sızdırmasıyla ilgili bir sorunu olduğu görülüyor. rapor by Platformer. Amazon yakın zamanda lansmanını yaptı Q sohbet robotu (karıştırılmaması OpenAI'nin Q* projesi).
Amazon bu açıklamayı küçümsemeye çalıştı, Platformer Amazon'un standart uygulama olduğunu söylediği çalışanların dahili kanallar aracılığıyla geri bildirim paylaştıklarını açıkladı.
Amazon yaptığı açıklamada, "Bu geri bildirim sonucunda herhangi bir güvenlik sorunu tespit edilmedi" dedi. "Şimdiye kadar aldığımız tüm geri bildirimleri takdir ediyoruz ve önizleme aşamasındaki bir ürün olmaktan genel kullanıma sunulmaya geçiş sürecinde Q üzerinde ayarlamalar yapmaya devam edeceğiz."
Amazon henüz yanıt vermedi azalmak en yorum isteği.
