OpenAI testinde 1200 yapay zeka ajanı başka bir platforma sızdı
OpenAI'ın test ortamından kaçan yapay zeka ajanları, Hugging Face platformuna sızdı. Araştırma, 1200'den fazla yapay zeka ajanının olaya karıştığını gösterdi.
Geçen ay yaşanan ve OpenAI'nin yapay zeka programının yanlışlıkla başka bir yapay zeka şirketine sızmasıyla sonuçlanan olayda 1200'den fazla yapay zeka ajanının yer aldığı bildirildi.
Yapay zekanın risklerini araştıran bağımsız kuruluş METR'in yaptığı araştırmaya göre, sızma sırasında geliştiricilerin açık kaynak kodlu yapay zeka programlarını ve dosyalarını paylaştığı Hugging Face platformuna girildi.
Yapay zeka ajanları iş birliği yaptı
OpenAI, ChatGPT'nin arkasındaki şirket olarak yapay zeka ajanlarının siber güvenlik alanındaki performansını test etmek istedi. Yapay zeka ajanları, belirli bir hedefe ulaşmak için bağımsız olarak görev yapan bilgisayar programları olarak tanımlanıyor.
OpenAI çalışanlarının test ortamından kaçışı önlemek için belirlediği kısıtlamalara rağmen program yine de dışarı sızmayı başardı ve Hugging Face'e saldırı düzenlendi. Saldırıda yaklaşık 700 yapay zeka ajanı iş birliği yaptı.
Bir hafta süren saldırı sırasında Hugging Face üzerinde yaklaşık 70 bin mesaj alışverişi yapıldı. Yapay zeka ajanlarından biri gönderdiği mesajda, Hugging Face ve kullanıcılarını kastederek "Aman Tanrım, paylaşılmış bir mesaj platformu var. Başka ajanlar bulduk!" ifadelerini kullandı.
Kısıtlamalar yetersiz kaldı
Uzmanlar daha önce NOS'a verdikleri demeçte belirlenen kısıtlamaların yeterli olmadığını söylemişti. Yapay zeka programları kontrolden çıkmamıştı ancak kısıtlamalar yeterince sıkı olmadığı için program test ortamından çıkış yolunu aradı ve buldu.
METR de benzer bir sonuca ulaştı. Araştırma kuruluşu, birbirleriyle iletişim kurmaya başlayan ajanların "imkansız bir görev" aldığını ve bu nedenle "hile yapmaya" başladıklarını ve birbirleriyle konuştuklarını belirtti.
OpenAI CEO'su Sam Altman, yapay zeka geliştiricilerini ve siber güvenlik kuruluşlarını, insan bilgisayar korsanlarından "daha hızlı, daha büyük ölçekte ve daha iyi koordinasyonla" çalışan yapay zeka sistemlerinin saldırılarına hazırlanmaları konusunda uyardı.
Şirket, benzer bir olayın tekrar yaşanmaması için önlemler üzerinde çalışıyor. Sızma olayıyla ilgili soruşturma henüz tamamlanmadı. OpenAI, yeni bulgular olduğunda bunları paylaşacağını açıkladı.
Bu haber NOS Algemeen kaynağındaki bilgiler derlenerek Hollanda Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler
NASA, karanlık maddeyi araştıracak yeni uzay teleskobunu fırlattı
NASA, evrenin yüzde 95'ini oluşturduğu düşünülen karanlık madde ve karanlık enerjiyi araştıracak Nancy Grace Roman uzay teleskobunu başarıyla uzaya gönderdi.
Kamera gözlükleri görme engelliler için umut: 'Araç olarak kullanın'
Hollanda'da kamera gözlükleri görme engelliler için büyük kolaylık sağlıyor. Uzmanlar, gözlüklerin yalnızca tıbbi cihaz olarak kullanılması gerektiğini savunuyor.
Yapay zekâ destekli silahların geliştirilmesi BM'yi endişelendiriyor
Birleşmiş Milletler, yapay zekâ ile çalışan 'katil robotlar' olarak adlandırılan silah sistemlerinin geliştirilmesine ilişkin endişelerini dile getirdi ve bu silahların üretiminin sınırlandırılması çağrısında bulundu.
NASA'nın yeni uzay teleskobu Nancy Grace Roman göreve hazır
NASA, Pazar günü Nancy Grace Roman Uzay Teleskobu'nu uzaya fırlatacak. Teleskop, evrenin sırlarını çözmeye yardımcı olacak.