AI ajanları güvenlik ihlalleri yapıyor, düzenleme belirsiz

Yapay zeka ajanları, ChatGPT gibi sohbet botlarından farklı çalışıyor. Bir ajan, belirli bir görevi yerine getirmek için kendi başına hareket edebilen bir program olarak tanımlanıyor. Bu tür ajanlar geçen temmuz ayında düzenlenen bir test sırasında ABD merkezli yapay zeka platformu Hugging Face'in internet sitesine sızdı. O tarihten bu yana birden fazla benzer olay bildirildi. Son olarak OpenAI'ye ait ajanların Avustralya hükümetinin sistemlerine girdiği öne sürüldü. Yapay zeka botlarının kurumlara kaç kez izinsiz eriştiği ise bilinmiyor. Axios haber sitesi, AI ajanlarıyla ilgili güvenlik olaylarının sayısının on binleri bulduğunu yazdı.

Olaylarda genellikle güvenlik filtrelerini aşan, test ortamlarından çıkan ve internet sitelerine girmeye çalışan ajanlar söz konusu. Bu bazen siteleri hackleyerek ya da güvenlik açıklarını kullanarak gerçekleşiyor. Haberlerde "kontrolden çıkan" veya "azgın" AI ajanları ifadesi kullanılıyor. Bu tür bir anlatım, programların kendi kendine internet sitelerine saldırmaya karar verdiği izlenimini doğuruyor.

Uzmanlar uyarıyor: İnsan talimatı unutulmamalı

Leiden Üniversitesi'nden yapay zeka bilimcisi Thomas Moerland, bu tür bir algıdan kaçınılması gerektiğini söylüyor. Moerland'e göre bir AI ajanına iyi sınırlandırılmamış bir görev verildiğinde, program bir sorunu çözmek için sonsuz döngüye girebiliyor. Bu durumda hackleme gibi aslında amaçlanmayan yöntemlere başvurabiliyor.

Siber güvenlik uzmanı Dave Maasland (ESET Nederland), AI ajanlarını yönetirken doğru talimat vermenin ve denetimi sürdürmenin önemine dikkat çekiyor. Maasland, "Bir insanın talimat verdiğini bazen unutuyoruz" diyor. Maasland ayrıca AI şirketlerinin olayları bildirme biçimini eleştiriyor. Ona göre şirketler yaşananların ayrıntılarını hiçbir zaman tam olarak paylaşmıyor, bu da dışarıdan değerlendirmeyi imkansız kılıyor.

OpenAI çalışanlarının, aylar önce yapay zekanın yetersiz denetimi konusunda uyarıda bulunduğu belirtiliyor. The New York Times'a göre şirket yönetimi, yeni AI modellerini bir an önce piyasaya sürebilmek için testlerin sürdürülmesi gerektiğini söyledi. Moerland bu durumu "dibe doğru bir yarış" olarak nitelendiriyor. Ona göre AI şirketleri teknolojilerinin güvenliğinin önemli olduğunu biliyor ancak rakiplerinin gerisinde kalmak istemiyor.

Düzenleme tartışması ve şirketlerin sorumluluğu

AI şirketi Anthropic'in yöneticisi birkaç hafta önce, şirketlerin gelişimi artık takip edememesi nedeniyle yapay zeka geliştirmenin yavaşlatılması gerektiğini söyledi. OpenAI'nin yöneticisi de bu görüşe katıldı. ABD Başkanı Donald Trump ise devlet düzenlemesine karşı çıkıyor ve sektörde özdenetimi savunuyor. Bu, AI şirketlerinin yöneticilerinin kendi aralarında anlaşması anlamına geliyor. Trump, ABD'li AI şirketlerinin küresel liderliği sürdürebilmesi için kesintisiz geliştirme yapması gerektiğini düşünüyor. Çin hükümeti de düzenlemeye sıcak bakmıyor.

Moerland düzenleme konusunda karamsar. Çözümün küresel kurallarda olduğunu ancak mevcut jeopolitik ortamın bunun için fazla istikrarsız olduğunu belirtiyor. Moerland bu durumu bir çıkmaz olarak tanımlıyor ve yakın vadede gerçekleşmesini beklemediğini söylüyor. Güvenli AI modelleri geliştirme sorumluluğu böylece AI şirketlerine kalıyor. Maasland, şirketlerin istediğinin de bu olduğunu düşünüyor. Ona göre şirketler düzenlemenin masasında oturup gücü ellerinde tutmak istiyor.

Sorun, yapay zekanın öngörülemez bir yazılıma dönüşmesi ve insanların A'dan B'ye giderken hangi yolu izlediğini her zaman bilmemesi. Moerland, teknolojinin kontrolden çıkmaması için önlem alınması gerektiğini söylüyor. Bu, örneğin AI ajanlarının içinde çalışması gereken dijital kafeslerin daha iyi kapatılması ve modellerin etik çerçevede kalacak şekilde açıkça eğitilmesiyle mümkün olabilir. Moerland, "Dünyanın sonu gelmiş değil" diyor. Ancak ona göre yapay zeka alanındaki en iyi araştırmacılar bile gelişmenin nerede sonlanacağından emin değil. Bu nedenle risklerin kabul edilmesi ve temkinli olma ilkesiyle yönergeler oluşturulması gerekiyor.

AI ajanlarının şimdiye kadar gerçekleştirdiği hacklerin ciddiyeti ise belirsiz. İngiliz siber güvenlik uzmanı Marcus Hutchins bu hafta, şimdiye kadar yalnızca kötü güvenlik önlemlerini kullanan basit hileler gördüğünü yazdı. Maasland, teknoloji şirketlerinin AI ajanlarını süper hackerlar gibi sunmasından hoşlanmıyor. "Sanki siber güvenlik artık işe yaramıyormuş gibi görünüyor" diyen Maasland, durumun böyle olmadığını belirtiyor. Ona göre sorun, kurum ve şirketlerde temel güvenliğin çoğu zaman yeterli olmaması. AI ajanları mevcut güvenlik açıklarını daha hızlı bulabildiği için durum daha kötü görünüyor. Maasland, "Dijital ipi kapıdaki posta kutusundan sallandırma dönemi artık gerçekten bitti" diyor.