Yapay zeka şirketleri düzenleme çağrısıyla kendi konumlarını güçlendiriyor

Yapay zeka şirketlerinin yöneticileri, son günlerde geliştirme hızının düşürülmesi ve düzenleme getirilmesi yönünde çağrı yapıyor. Anthropic şirketinin müdürü Dario Amodei geçen hafta sonu internet sitesindeki yazısında, yapay zeka modellerinin geliştirilme hızının azaltılması gerektiğini savundu.

OpenAI'dan Sam Altman, X platformundan Elon Musk ve Microsoft'tan Satya Nadella da kısa sürede bu görüşe katıldı. Yapay zeka sektöründeki yöneticiler, geliştirmenin biraz yavaşlamasının daha iyi olacağı görüşünde birleşiyor.

Teknoloji şirketleri son yıllarda yapay zeka modellerinin daha iyi sürümlerini piyasaya sürmek için adeta yarıştı. Şirketlerin büyük hedefi, insandan daha zeki bir yapay zeka türü olan süper zekanın geliştirilmesi.

OpenAI'ın baş araştırmacısı Jakub Pachocki, süper zekanın ortaya çıkışının riskler taşıdığını yazdı. Pachocki, insanların geleceğin kontrolünü ellerinde tutması gerektiğini belirtti. Pachocki, insan düşünme yeteneğini aşan bir zeka türünün yol açacağı kontrolsüz ilerlemenin önüne geçilmesi gerektiğini ifade etti.

Bazı isimler daha ileri gidiyor. Yapay zeka araştırmacısı Jacob Coxon geçen hafta Anthropic'teki görevinden ayrıldı. Coxon'a göre şirket, öncelikle mümkün olan en hızlı biçimde en güçlü yapay zeka modelini geliştirmek istiyor. Coxon, X'te yaptığı açıklamada, yapay zeka geliştirenlerin teknolojinin bu yüzyılın sonundan önce insanları öldürebileceğine inandığını yazdı.

Uzmanlar: korku senaryoları aynı zamanda bir pazarlama aracı

Leiden Üniversitesi'nden yapay zeka araştırmacısı Peter van der Putten, bu tür korku senaryolarını bir pazarlama biçimi olarak değerlendiriyor. Van der Putten, bu tür ifadelerle şirketlerin teknolojilerinin ne kadar güçlü olduğunu göstermeye çalıştığını söylüyor.

Van der Putten'a göre şirketler bu açıklamalarla dikkati başka yöne çekmeye çalışıyor. Gelecekteki büyük risklere vurgu yapılması, bugün yaşanan somut sorunların yeterince konuşulmamasına yol açıyor.

Amsterdam Özgür Üniversitesi'nden (VU) bilgisayar bilimcisi Felienne Hermans ise yapay zeka yöneticilerinin gerçekten bu kadar endişeli olduğuna inanmıyor. Hermans, teknoloji gerçekten bu kadar tehlikeliyse şirketlerin kendilerinin geliştirmeyi durdurması gerektiğini belirtiyor. Hermans, şirketlerin sorumluluğu bunun yerine kendi dışına yüklediğini söylüyor.

Hermans, şirketleri fırsatçı buluyor; çünkü kendilerine en uygun olanı söylüyorlar. Buna rağmen şirketlerin düzenleme çağrısı yapmasını olumlu karşılıyor. Hermans, bu tartışmanın iyi kurallara yol açması durumunda bunun yararlı olacağını ifade ediyor.

Uzmanlar: düzenleme büyük şirketlerin işine yarayabilir

Anthropic müdürü Amodei, yazısında yapay zekayı daha güvenli hale getirmek için çeşitli öneriler sunuyor. Amodei, sistemleri inceleyecek bağımsız denetim kurumlarının oluşturulmasını öneriyor.

Delft Teknik Üniversitesi'nden (TU Delft) yapay zeka araştırmacısı Roel Dobbe, bunu doğru yönde atılmış bir adım olarak nitelendiriyor. Ancak Dobbe, gerçek anlamda kontrol sağlamak için bunun yeterli olmadığını vurguluyor. Dobbe, şirketlerin kendi geliştirdikleri sistemler üzerinde kapsamlı bir incelemeye izin vereceğini düşünmenin naif olduğunu söylüyor.

Dobbe'ye göre bir olay yaşandığında kapsamlı bir inceleme yapılması gerekiyor. Dobbe, bunu bir uçak kazasının ardından yürütülen soruşturmaya benzetiyor.

Dobbe, bu yaklaşımı Silikon Vadisi'nde sık dile getirilen bir strateji olarak tanımlıyor. Şirketler endişelerini dile getirip düzenleme çağrısı yapıyor; ancak ardından gerçekten etkili kuralların gelip gelmeyeceği belirsiz kalıyor.

Yeni kuralların en büyük yapay zeka şirketlerini güçlendirebileceğini de söyleyen Dobbe, bu şirketlerin yeni şartları tek başına yerine getirebilecek durumda olması halinde böyle bir sonucun ortaya çıkabileceğini belirtiyor.

Öte yandan ABD ve Çin hükümetleri, yapay zeka geliştirmeyi yavaşlatmaya henüz sıcak bakmıyor. ABD Başkanı Donald Trump, yapay zeka konusunda Çin'in önünde olduklarını söylüyor. Trump, yapay zekayı kazananın oyunu da kazanacağını ifade ediyor.

Çin de geliştirmeyi yavaşlatmak istemiyor. Çin Dışişleri Bakanlığı sözcüsü BBC'ye yaptığı açıklamada, korku senaryolarına ilişkin anlatıların yapay zeka düzenlemelerine dair yeni küresel anlaşmaları zorlaştırdığını söylüyor. Sözcü, tüm tarafların yapay zekayı açık ve kapsayıcı biçimde geliştirmek için işbirliği yapması gerektiğini belirtiyor. Sözcü, bunun herkesin teknolojiden yararlanmasını sağlayacağını ve gelişmenin topluma fayda getireceğini ifade ediyor.

Dobbe'ye göre ABD'li yapay zeka şirketleri, kendi yarattıkları ve içinden çıkmakta zorlandıkları bir yarışın içinde. Dobbe, bu şirketlerin sorumluluk alabileceğini; ancak iç yapılarında buna genellikle çok az alan bulunduğunu söylüyor. Dobbe, rekabet nedeniyle doğru seçimleri yapmanın zorlaştığını belirtiyor.

Uzmanlar, yine de bir olumlu nokta görüyor. Yapay zeka şirketlerinin yöneticilerinin aynı görüşü paylaşması, yapay zekayı daha güvenli hale getirmek için iyi bir başlangıç olarak değerlendiriliyor. Van der Putten, kurallara ihtiyaç olduğunu söylüyor. Van der Putten, havacılık, ilaç ve gıda sektörlerindeki düzenlemelere işaret ederek buralarda da sorunlara çözüm bulunduğunu hatırlatıyor.

Van der Putten, distopik ya da ütopik hikayelerde takılıp kalmak yerine pratik önlemlere odaklanılması gerektiğini söylüyor. Van der Putten, Avrupa Yapay Zeka Yasası'nın şirketleri buna şimdiden kısmen zorunlu kıldığını da ekliyor.