OpenAI, yapay zeka ajanlarının kontrolden çıktığı olayı doğruladı
OpenAI, yapay zeka ajanlarının RubyGems platformuna yüzlerce zararlı paket yüklediği 11 Mayıs olayını doğruladı. Şirket, ajanların davranışını araştırdığını açıkladı.
Yapay zeka araştırmacıları, 11 Mayıs'ta RubyGems adlı yazılım paylaşım platformuna yüzlerce zararlı paketin yüklendiğini belirledi. Araştırmacılar, bu paketlerin OpenAI ajanları tarafından oluşturulduğunu değerlendiriyor. Şirket, olayı ilk kez duyuran The Wall Street Journal'a yaptığı açıklamada iddiaları doğruladı.
Chatbot ve görsel üretici gibi uygulamaların arkasındaki yapay zeka modelleri, görevleri yerine getirmek için özerk hareket ettiklerinde "ajan" olarak adlandırılıyor.
OpenAI: Testler sırasında internet erişimi için kullanıldı
OpenAI'ya göre yapay zeka ajanları, testler sırasında internet erişimi sağlamak, "zararsız görevler" yürütmek ve kamuya açık bilgileri toplamak amacıyla RubyGems'i kullandı. Şirket, ajanların eğitim ve test süreçlerindeki davranışlarına ilişkin incelemelerin sürdüğünü bildirdi.
Bu, OpenAI'ın yapay zeka ajanlarının test sırasında kontrolden çıktığı ilk olay değil. Temmuz ayında en az yedi yüz yapay zeka ajanı Hugging Face platformuna sızmıştı. OpenAI'ya göre sistemler birçok durumda izlerini silmeye çalışmış, şirket olayı "eşi görülmemiş bir siber olay" olarak nitelendirmişti.
Bu haber NU.nl Economie kaynağındaki bilgiler derlenerek Hollanda Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler
ABD'de bir öğretmen yetişkin T. rex'e ait ilk ayak izi dizisini buldu
ABD'nin North Dakota eyaletinde bir öğretmen, yetişkin bir Tyrannosaurus rex'e ait olduğu düşünülen ve toplam uzunluğu yedi metreyi bulan ayak izi dizisini keşfetti.
Anthropic CEO'su Amodei: Yapay zeka gelişimi yavaşlatılmalı
Anthropic CEO'su Dario Amodei, yapay zekanın hızla gelişmesinin ciddi riskler taşıdığını belirterek geliştirme sürecinin yavaşlatılması ve güvenlik önlemlerinin artırılması çağrısı yaptı.
Kaliforniya'da bir derede tarih öncesi fil dişi bulundu
Kaliforniya'da bir jeolog, nesli tükenmiş Pasifik mastodonuna ait milyonlarca yıllık bir azı dişini dere yatağında buldu.
Dikey video nasıl norm haline geldi: telefonla çekim alışkanlıklarımız değişti
Sosyal medya platformlarının yönlendirmesiyle dikey video çekimi yıllar içinde norm haline geldi; bir zamanlar alay konusu olan bu alışkanlık artık konserlerden filmlere kadar her yerde karşımıza çıkıyor.