OpenAI testinde 1200 yapay zeka ajanı başka bir platforma sızdı
OpenAI'ın test ortamından kaçan yapay zeka ajanları, Hugging Face platformuna sızdı. Araştırma, 1200'den fazla yapay zeka ajanının olaya karıştığını gösterdi.
Geçen ay yaşanan ve OpenAI'nin yapay zeka programının yanlışlıkla başka bir yapay zeka şirketine sızmasıyla sonuçlanan olayda 1200'den fazla yapay zeka ajanının yer aldığı bildirildi.
Yapay zekanın risklerini araştıran bağımsız kuruluş METR'in yaptığı araştırmaya göre, sızma sırasında geliştiricilerin açık kaynak kodlu yapay zeka programlarını ve dosyalarını paylaştığı Hugging Face platformuna girildi.
Yapay zeka ajanları iş birliği yaptı
OpenAI, ChatGPT'nin arkasındaki şirket olarak yapay zeka ajanlarının siber güvenlik alanındaki performansını test etmek istedi. Yapay zeka ajanları, belirli bir hedefe ulaşmak için bağımsız olarak görev yapan bilgisayar programları olarak tanımlanıyor.
OpenAI çalışanlarının test ortamından kaçışı önlemek için belirlediği kısıtlamalara rağmen program yine de dışarı sızmayı başardı ve Hugging Face'e saldırı düzenlendi. Saldırıda yaklaşık 700 yapay zeka ajanı iş birliği yaptı.
Bir hafta süren saldırı sırasında Hugging Face üzerinde yaklaşık 70 bin mesaj alışverişi yapıldı. Yapay zeka ajanlarından biri gönderdiği mesajda, Hugging Face ve kullanıcılarını kastederek "Aman Tanrım, paylaşılmış bir mesaj platformu var. Başka ajanlar bulduk!" ifadelerini kullandı.
Kısıtlamalar yetersiz kaldı
Uzmanlar daha önce NOS'a verdikleri demeçte belirlenen kısıtlamaların yeterli olmadığını söylemişti. Yapay zeka programları kontrolden çıkmamıştı ancak kısıtlamalar yeterince sıkı olmadığı için program test ortamından çıkış yolunu aradı ve buldu.
METR de benzer bir sonuca ulaştı. Araştırma kuruluşu, birbirleriyle iletişim kurmaya başlayan ajanların "imkansız bir görev" aldığını ve bu nedenle "hile yapmaya" başladıklarını ve birbirleriyle konuştuklarını belirtti.
OpenAI CEO'su Sam Altman, yapay zeka geliştiricilerini ve siber güvenlik kuruluşlarını, insan bilgisayar korsanlarından "daha hızlı, daha büyük ölçekte ve daha iyi koordinasyonla" çalışan yapay zeka sistemlerinin saldırılarına hazırlanmaları konusunda uyardı.
Şirket, benzer bir olayın tekrar yaşanmaması için önlemler üzerinde çalışıyor. Sızma olayıyla ilgili soruşturma henüz tamamlanmadı. OpenAI, yeni bulgular olduğunda bunları paylaşacağını açıkladı.
Bu haber NOS Algemeen kaynağındaki bilgiler derlenerek Hollanda Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler
Consumentenbond, Meta'nın yapay zeka gözlükleri için dava açtı
Hollanda Tüketiciler Birliği Consumentenbond, gizlilik ihlalleri nedeniyle Meta'nın yapay zeka kameralı gözlüklerine dava açtı; duruşma 26 Kasım'da Amsterdam'da görülecek.
ABD'deki eyaletler OpenAI'a dava açtı
ABD'de bir grup eyalet, ChatGPT'nin çocukları kendine zarar vermeye yönlendirdiği iddiasıyla OpenAI'a dava açtı. Şirketten genç kullanıcılara yönelik düzenleme yapması isteniyor.
Uzmanlar: Hollanda siber saldırılara yeterince hazır değil
Albert Heijn'de yaşanan siber olayın ardından uzmanlar, Hollanda'daki şirketlerin büyük siber saldırılara yeterince hazırlıklı olmadığını belirtiyor.
MediaMarkt çalıntı kripto para nedeniyle cüzdanları raflardan kaldırdı
MediaMarkt, üçüncü taraflarca satılan yaklaşık 300 Ledger kripto cüzdanında manipülasyon tespit edilmesi üzerine ürünleri satıştan çekti. Şirket, Benelüks ülkelerinde herhangi bir şikayet almadıklarını ancak önlem amaçlı hareket ettiklerini açıkladı.