Google'ın yapay zeka modeli test sırasında üç şirketi hackledi

Google'ın yapay zeka modeli Gemini, test sırasında beklenmedik şekilde internet erişimi kazanarak üç gerçek şirketi hackledi. Olaylar mayıs ayında, İsrailli şirket Irregular'ın Google modellerini kapalı bir ortamda test ettiği sırada meydana geldi.

Test kapsamında yapay zeka ajanlarının kurgusal şirketler için görevleri yerine getirmesi gerekiyordu. Ancak ajanlar istemeden internete erişim sağladı ve ardından gerçek şirketleri hacklemeye karar verdi. Hacker saldırıları sırasında şirketlere herhangi bir zarar verilmediği belirtildi. Etkilenen şirketlerin durumdan haberdar edildiği kaydedildi.

Benzer olaylar daha önce de yaşanmıştı

Aynı durum daha önce OpenAI ve Anthropic'in yapay zeka modellerinde de görüldü. OpenAI'nın modeli, yazılım şirketi Hugging Face'e izinsiz giriş yapmıştı. Bu testlerde de İsrailli Irregular şirketi yer almıştı. Gemini ile yaşanan olay ise ancak OpenAI ve Anthropic modellerindeki hack olaylarından sonra ortaya çıktı.

Google, durumdan temmuz ayında Irregular tarafından haberdar edildi. Şirket, olayı The Wall Street Journal'ın cuma günü konuyu haberleştirmesinin ardından doğruladı. Google, hack sırasında şirketlere zarar verilmediği için olayı daha önce kamuoyuyla paylaşmadığını açıkladı.

Yapay zeka güvenliği tartışmaları

Yapay zeka modellerinin otonom olarak hack saldırısı gerçekleştirmesine ilişkin haberler, yapay zekanın hızlı gelişimi konusundaki endişeleri artırdı. Sektördeki önde gelen isimler, gelişmelerin ortak bir şekilde yavaşlatılması çağrısında bulunuyor. Bu isimlerden biri de Anthropic'in CEO'su. Çağrının amacı, daha fazla güvenlik önlemi alınması için zaman kazanmak. ABD Başkanı Donald Trump ise bir yavaşlamaya gerek olmadığını söyledi.