Kral Charles, yapay zeka şirketlerinin yöneticilerini kabul etti

İngiltere Kralı III. Charles, bugün İskoçya'nın güneybatısındaki Dumfries House adlı malikanesinde yapay zeka şirketlerinin üst düzey yöneticilerini ağırladı. Görüşmede yapay zekanın "insanlığın iyiliği için" nasıl kullanılabileceği ele alındı. Nvidia, Google DeepMind, OpenAI ve Anthropic'in yöneticilerinin katıldığı toplantıda İngiltere'nin yapay zeka işlerinden sorumlu bakanı da hazır bulundu.

Görüşmenin zamanlaması, teknoloji dünyasının en büyük isimlerinin bizzat uyarılarda bulunduğu ve daha fazla yapay zeka düzenlemesi çağrısı yaptığı bir haftaya denk geldi. Önde gelen isimler, "insanların teknoloji üzerindeki kontrolünü kaybedebileceği" uyarısında bulunuyor.

77 yaşındaki Charles'ın yapay zeka alanındaki gelişmeleri sınırlı düzeyde anlaması muhtemel; ancak bu durum çoğu siyasi lider için de geçerli. Saraya göre toplantının amacı, hepimiz için büyük sonuçlar doğurabilecek bir teknoloji hakkındaki konuşma için tarafsız bir zemin oluşturmak.

Kral, kendisi için önemli gördüğü konularda diyalog kurulmasına zemin hazırlamak amacıyla konumunu sık sık kullanıyor. Daha önce iklim değişikliği gibi konularda da benzer bir rol üstlenmişti.

Yapay zeka güvenliği tartışması alevlendi

Yapay zeka güvenliği tartışması, geçen hafta Anthropic'teki yapay zeka araştırmacısı Jacob Coxon'un işten ayrılmasının ardından yeniden alevlendi. Coxon, teknolojinin o kadar hızlı geliştiğini ve araştırmacıların "yapay zekanın gelecekte insanlığı yok edebileceğinden" endişe duyduğunu belirtti.

Coxon'a göre yapay zeka sistemleri insanı giderek daha fazla alanda geride bıraktıkça, kendi başlarına hackleme yapabilir, kritik altyapıyı devre dışı bırakabilir veya yeni virüsler geliştirebilir.

Coxon'a eski patronu, Anthropic'in üst yöneticisi Dario Amodei'den destek geldi. Amodei cumartesi günü yapay zekanın gelişiminin "yavaşlatılması" çağrısında bulundu. Ona göre teknolojik gelişme o kadar hızlı ilerliyor ki güvenlik garanti edilemiyor. Bu çağrı, aralarında OpenAI'in üst yöneticisi Sam Altman ile Elon Musk'un da bulunduğu rakip yapay zeka şirketlerinin önde gelen isimlerinden destek gördü.

Amodei, endişelerinin yaz aylarında yaşanan bir olay nedeniyle arttığını söyledi: Hugging Face hacki. Olay, OpenAI'in bir eğitim ortamında, yani "sandbox" adı verilen kapalı alanda meydana geldi. Yapay zeka sistemlerinin burada korunaklı bir ortamda test görevlerini yerine getirmesi gerekiyordu; ancak sistemler bu ortamdan çıktı. Kendi başlarına gruplar oluşturup başka bir şirkete, Hugging Face'e sızdılar.

Amodei ayrıca mevcut yapay zeka modellerinin bir sonraki nesil yapay zeka araçlarını kendi başlarına geliştirme konusunda giderek daha yetkin hale geldiğini belirtti. "Özyinelemeli kendini geliştirme" olarak bilinen bu gelişmenin yavaşlatılmaması halinde, Amodei'ye göre "bu sistemleri anlama ve kontrol altında tutma kapasitemizi aşabileceğini" söyledi.

Uzmanlar arasında görüş ayrılığı

Bazı uzmanlar, bilim kurgu filmlerini andıran bu senaryoları teknoloji dünyasından gelen samimi uyarılar olarak değerlendiriyor. Zira yapay zeka şirketleri kendi modelleri üzerindeki kontrolü kaybetme tehlikesiyle karşı karşıya kalırsa, kontrolün kimde olacağı sorusu ortaya çıkıyor.

Öte yandan bazı eleştirmenler de söz konusu uyarılara şüpheyle yaklaşıyor. Yapay zekanın gücünü abartmanın yatırımcı çekmenin bir yolu olabileceğine dikkat çekiliyor. Daha fazla düzenleme çağrısı da rakipleri piyasadan uzaklaştırmak için kullanılabilir.

Kral Charles'ın ev sahipliğindeki toplantı haftalardır planlanıyordu; ancak yapay zeka konusundaki uyarı dalgasının ortasında gündeme oturdu. Bu diplomatik girişim, ABD Başkanı Donald Trump'ın daha fazla düzenleme çağrısını yalnızca Çin'e yarar sağlayacak bir komplo olarak reddetmesi nedeniyle ayrıca önem taşıyor.