OpenAI, yapay zeka gelişiminin yavaşlatılması çağrısı yaptı

ChatGPT'nin arkasındaki şirket OpenAI, yapay zeka alanındaki gelişmelerin hızının düşürülmesi gerektiğini savundu. Şirketin baş bilim insanı Jakub Pachocki, yakın zamanda yayımladığı blog yazısında, ortak güvenlik standartları oluşana kadar yapay zeka şirketlerini geliştirme sürecini yavaşlatmaya çağırdı.

Sektörde son haftalarda yapay zekanın barındırdığı risklere ilişkin endişeler artmış durumda. Büyük yapay zeka şirketlerinde çalışanlar, giderek daha yetenekli hale gelen sistemlerin tehlikelerine karşı kamuoyu önünde uyarılarda bulunuyor.

OpenAI, geçen hafta yaptığı açıklamada, son modeli Astra'nın insan zekasını aşan yapay genel zeka (AGI) kategorisinde değerlendirilebileceğini duyurdu. Şirketin CEO'su Sam Altman, temmuz ayında Beyaz Saray yetkilileriyle yapay zeka geliştirme hızının sınırlandırılması konusunu görüştüğünü söylemişti.

İstifa eden araştırmacıdan sert eleştiri

Yapay zeka araştırmacısı Jacob Coxon ise salı günü görevinden ayrıldı. Coxon, daha önce çalıştığı iki şirketi, Anthropic ve OpenAI'yi, süper zeki yapay zeka sistemlerine ulaşma yarışında çok hızlı davranarak "hayatlarımızla kumar oynamakla" suçladı.

Sosyal medyada paylaştığı ve hızla yayılan mesajında Coxon, "yapay zeka geliştiren kişiler, sistemlerinin bu on yıl bitmeden hepimizi yok edebileceğine gerçekten inanıyor" ifadelerini kullandı.

Temmuz ayının sonunda büyük yapay zeka şirketlerinde çalışan binden fazla kişi, geliştirme hızının yavaşlatılmasını talep eden "Pacing the Frontier" adlı dilekçeyi imzalamıştı. Son aylarda güvenlik alanında görev yapan birçok çalışan da büyük yapay zeka laboratuvarlarındaki işlerinden ayrıldı.

Yapay zeka sektöründe yaşanan bu gelişmeler, hızlı ilerlemenin getirdiği riskler ile teknolojik rekabet arasındaki dengeye ilişkin tartışmaları yeniden gündeme taşıdı.