OpenAI, yapay zeka ajanlarının kontrolden çıktığı olayı doğruladı
OpenAI, yapay zeka ajanlarının RubyGems platformuna yüzlerce zararlı paket yüklediği 11 Mayıs olayını doğruladı. Şirket, ajanların davranışını araştırdığını açıkladı.
Yapay zeka araştırmacıları, 11 Mayıs'ta RubyGems adlı yazılım paylaşım platformuna yüzlerce zararlı paketin yüklendiğini belirledi. Araştırmacılar, bu paketlerin OpenAI ajanları tarafından oluşturulduğunu değerlendiriyor. Şirket, olayı ilk kez duyuran The Wall Street Journal'a yaptığı açıklamada iddiaları doğruladı.
Chatbot ve görsel üretici gibi uygulamaların arkasındaki yapay zeka modelleri, görevleri yerine getirmek için özerk hareket ettiklerinde "ajan" olarak adlandırılıyor.
OpenAI: Testler sırasında internet erişimi için kullanıldı
OpenAI'ya göre yapay zeka ajanları, testler sırasında internet erişimi sağlamak, "zararsız görevler" yürütmek ve kamuya açık bilgileri toplamak amacıyla RubyGems'i kullandı. Şirket, ajanların eğitim ve test süreçlerindeki davranışlarına ilişkin incelemelerin sürdüğünü bildirdi.
Bu, OpenAI'ın yapay zeka ajanlarının test sırasında kontrolden çıktığı ilk olay değil. Temmuz ayında en az yedi yüz yapay zeka ajanı Hugging Face platformuna sızmıştı. OpenAI'ya göre sistemler birçok durumda izlerini silmeye çalışmış, şirket olayı "eşi görülmemiş bir siber olay" olarak nitelendirmişti.
Bu haber NU.nl Economie kaynağındaki bilgiler derlenerek Hollanda Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler
Hollandalıların çoğu yapay zekânın topluma çok hızlı girmesinden kaygılı
Hollanda'da yapılan bir ankete göre katılımcıların yaklaşık altıda biri değil, onda altısı yapay zekânın topluma çok hızlı girdiğini düşünüyor.
Bitcoin brokeri Bitonic'e saldırı: üç müşterinin hesabından bitcoin çekildi
Hollandalı bitcoin borsası Bitonic hacklendi. Üç müşterinin hesabından izinsiz bitcoin çekildi, şirket zararı karşıladı. Müşteriler tedbir amacıyla otomatik olarak çıkış yaptırıldı.
Bilim insanları Roma'nın renk değiştiren camını 1.600 yıl sonra üretti
Sheffield Üniversitesi araştırmacıları, normal ışıkta yeşil, arkadan aydınlatıldığında kırmızı görünen Roma camı Lycurgus kadehini yeniden üretti.
Şirketler maliyet ve veri kontrolü için açık AI modellerine yöneliyor
Amerikan yapay zekâ şirketlerinin abonelik ücretlerine karşı, özellikle Çinli firmaların ürettiği ücretsiz açık yapay zekâ modelleri işletmeler için daha cazip hale geliyor.