Yapay zeka ajanlarının hack girişimleri artıyor, düzenleme belirsiz

Yapay zeka ajanları, ChatGPT gibi sohbet botlarından farklı olarak belirli bir görevi bağımsız şekilde yerine getirmek üzere tasarlanan programlar. Bu tür ajanlar geçtiğimiz temmuz ayında ABD merkezli yapay zeka platformu Hugging Face'in internet sitesine izinsiz giriş yaptı. O tarihten bu yana çok sayıda benzer olay bildirildi. Son olarak OpenAI'ın ajanlarının Avustralya hükümetine ait sistemlere sızdığı öne sürüldü. Bu botların kurumlara ne sıklıkla izinsiz eriştiği bilinmiyor. Axios haber sitesi, yapay zeka ajanlarıyla ilgili güvenlik olaylarının sayısının on binlere ulaştığını yazdı.

Söz konusu ajanlar güvenlik filtrelerini aşarak test ortamlarından çıkıyor ve internet sitelerine girmeye çalışıyor. Bu bazen siteleri hackleyerek ya da güvenlik açıklarından faydalanarak gerçekleşiyor. Haberlerde bu durum "kontrolden çıkan" veya "zincirinden boşanan" yapay zeka ajanları olarak aktarılıyor. Ancak bu tür bir anlatıma dikkat edilmesi gerekiyor.

Uzmanlar: Sınırlar iyi çizilmezse ajanlar kötü yollara sapabilir

Leiden Üniversitesi'nden yapay zeka bilimci Thomas Moerland, "Bir yapay zeka ajanına iyi sınırlandırılmamış bir görev verirseniz, program sorunu çözmek için durmadan çalışır. Bu sırada hackleme gibi aslında niyetimizde olmayan yöntemlere başvurabilir" dedi. Moerland, ajanları yönlendirirken doğru talimat vermenin ve kontrolü elden bırakmamanın önemine işaret etti. ESET Hollanda'dan siber güvenlik uzmanı Dave Maasland ise "İnsanların emir verdiğini bazen unutuyoruz" ifadesini kullandı. Maasland, yapay zeka şirketlerinin olayları duyurma biçimini eleştirerek, "Olanların ayrıntıları hiçbir zaman tam olarak açıklanmıyor, bu yüzden olayları anlamak mümkün olmuyor" değerlendirmesini yaptı.

OpenAI çalışanlarının aylar önce yapay zekanın yetersiz denetimi konusunda uyarıda bulunduğu, şirket yönetiminden ise yeni modelleri bir an önce piyasaya sürebilmek için testlerin sürmesi gerektiği yanıtını aldığı belirtildi. Moerland bu durumu "dibe doğru bir yarış" olarak nitelendirdi. "Yapay zeka şirketleri teknolojilerinin güvenliğinin önemli olduğunu biliyor, ancak rakiplerinin gerisinde kalmak istemiyor" dedi. Yapay zeka şirketi Anthropic'in yöneticisi birkaç hafta önce yapay zeka gelişiminin yavaşlatılması gerektiğini, çünkü şirketlerin artık kendi kendini denetlemekte zorlandığını söylemişti. OpenAI yöneticisi de bu görüşe katıldı.

ABD Başkanı Donald Trump ise devlet düzenlemesine karşı çıkarak sektörde özdenetimi savunuyor. Bu, yapay zeka şirketlerinin yöneticilerinin kendi aralarında anlaşması anlamına geliyor. Trump, ABD'li yapay zeka şirketlerinin küresel liderliği sürdürebilmesi için kesintisiz geliştirme yapabilmesi gerektiği görüşünde. Çin hükümeti de düzenlemeye sıcak bakmıyor. Moerland, düzenleme konusunda karamsar: "Çözüm küresel düzenlemelerde, ancak mevcut jeopolitik durum bunu başaramayacak kadar istikrarsız. Bu bir çıkmaz. Yakın gelecekte olacağını görmüyorum" dedi.

Güvenli geliştirme sorumluluğu şirketlerde

Güvenli yapay zeka modelleri geliştirme sorumluluğu da bu nedenle yapay zeka şirketlerine kalıyor. Maasland, şirketlerin zaten bunu istediğini düşünüyor: "Şirketler düzenleme masasında oturup gücü ellerinde tutmak istiyor." Sorun, yapay zekanın öngörülemez bir yazılıma dönüşmesi ve insanların A noktasından B noktasına hangi yolu izlediğini her zaman bilmemesi. Moerland, teknolojinin kontrolü ele geçirmesini engellemek için sandbox olarak bilinen dijital kafeslerin daha sıkı kapatılması ve modellerin etik çerçeveler içinde kalacak şekilde eğitilmesi gerektiğini söyledi. "Dünyanın sonu gelmiyor" diyen Moerland, "Ancak yapay zeka alanındaki en iyi araştırmacılar bile gelişimin nereye varacağından emin değil. Bu yüzden riskleri kabul edip tedbirli olma anlayışıyla yönergeler oluşturmalıyız" diye konuştu.

Yapay zeka ajanlarının bugüne kadar gerçekleştirdiği hacklerin ciddiyeti ise belirsiz. İngiliz siber güvenlik uzmanı Marcus Hutchins bu hafta, "Şimdiye kadar sadece kötü güvenlik önlemlerini istismar eden basit hileler gördüm" yazdı. Maasland, teknoloji şirketlerinin ajanlarını süper hackerlar gibi sunmasından hoşnut değil. "Sanki siber güvenlik artık işe yaramıyormuş gibi görünüyor. Öyle değil. Sorun, kurum ve şirketlerdeki temel güvenliğin çoğu zaman yetersiz olması. Yapay zeka ajanları mevcut açıkları daha hızlı bulabildiği için durum daha kötü görünüyor" dedi.