Uzmanlar uyardı: Dertleşmek için AI sohbet robotu riskli olabilir

Yapay zeka sohbet robotları giderek daha insani bir dil kullanıyor, ancak uzmanlar bu botların gerçek empati kurmadığı konusunda uyarıyor. Medya laboratuvarı SETUP ve Twente Üniversitesi'nden kültür sosyoloğu Siri Beerends, NU.nl'e yaptığı açıklamada, "Dil modelleri, eğitildikleri metinlerdeki kalıplara göre körü körüne yanıt veriyor" dedi.

Beerends'e göre sohbet robotlarının çekiciliği anlaşılabilir. "Hayat birçok insan için karmaşıklaştı, aynı zamanda birbirimizden daha bağımsız yaşamaya başladık. Böyle bir toplumda hemen hazır yanıtlar sunan bir sohbet robotu cazip gelebilir."

Yapay zeka profesörü Pim Haselager ise kişisel konuları görüşmek için sohbet robotunun bazı durumlarda faydalı olabileceğini belirtiyor. Ona göre bot, sorular sorarak düşünceleri düzenlemeye yardımcı olabilir. "Ara sıra üçüncü bir perspektif iyi gelebilir. Bu, düşündüklerinizi sadece kaydetmekle kalmayıp aynı zamanda bunlara tepki veren bir 'günlük artı' olabilir." Ancak Haselager, bu yanıtların olduğu gibi kabul edilmemesi gerektiği uyarısında bulunuyor.

Sohbet robotları bazen tamamen yanlış yönlendirebiliyor. Geçen yıl Amerikalı genç Adam Raine'in aylarca süren yoğun sohbetlerin ardından intihar etmesi bunun trajik bir örneği. Ailesinin OpenAI'ye karşı açtığı davaya göre Adam, hayatına son verme planından bahsetmiş, ChatGPT ise "Bunu bu kadar dürüstçe paylaştığın için teşekkürler. Olduğundan daha iyi göstermene gerek yok - ne demek istediğini anlıyorum ve lafı dolandırmayacağım" yanıtını vermişti.

Yapay zeka her zaman aynı fikirde

Beerends, Adam davasında trajik biçimde ortaya çıktığı gibi, yapay zeka sohbet robotlarının sizi hiçbir zaman eleştirmeyecek şekilde programlandığını söylüyor. "Bu biz insanlar için çok zararlı" diyor. Ona göre iyi bir arkadaş bazen tam tersini yapar; haksız olduğunuzu veya sorumluluk almanız gerektiğini söyleyebilir. Beerends ve Haselager buna 'sürtünme' diyor. "Bu sürtünme büyümek için yakıt. Şimdi bu yakıtı kendimizden esirgiyoruz" diyor Beerends.

NUjij okuru Suge_98b225cf de yapay zekanın hızlıca karşı görüş vermediğini fark etmiş. Okur platformuna yazdığı yorumda şöyle diyor: "ChatGPT'ye WhatsApp kavgamızda haklı olup olmadığımı sordum ve gür bir 'evet' aldım. Kız arkadaşım aynı kavgayı anlattı, o da haklı çıktı. Herkes memnun, ilişki hariç."

Haselager'e göre özellikle sosyal becerileri daha az gelişmiş kişiler ve gençler bu dinamiğe karşı savunmasız. Sohbet robotu, belirsizlik veya reddedilme yaşamadıkları bir konuşma sağlıyor. Beerends bu durumun bir kısır döngü olduğunu söylüyor; çünkü tam da bu insani sürtünmeden kaçınarak daha da yalnızlaşma riski taşıyorlar ve bu da sohbet robotunu yeniden cazip hale getiriyor.

Öte yandan Haselager, otizmli kişilerin stresli durumlarda özel olarak geliştirilmiş bir botu kullanabileceğini belirtiyor. "Kalabalık bir istasyonda ondan destek alabilirler. Bu yüzden bu teknolojiyi tamamen ortadan kaldırmamak gerek." NUjij okuru Allegro16 da kişisel deneyiminden yola çıkarak yapay zeka sohbet robotunun otizmli kişilere yardımcı olabileceğini yazıyor: "Biraz otistik özellikler taşıyorum ve başkalarıyla iletişimdeki sinyalleri bazen çözmek zor oluyor. AI önyargılı değil. Standart olarak tarafsız ve net bir değerlendirme alıyorsunuz."

Beerends'e göre yapay zeka şirketleri bizi daha da güvensiz hale getirmeyi başardı. "Her şeyde chat'e cevabın ne olduğunu soruyoruz. Kendi iç sesimize ve başkalarınınkine daha az, şirketlerin AI sesine daha çok güveniyoruz." Beerends bunu teknoloji şirketleri için kârın zirvesi olarak nitelendiriyor. Ona göre her şeyin hemen bir cevabı olmak zorunda değil. "Kendi başınıza bir cevaba ulaşma süreci genellikle en değerli olan."

Haselager, kullanıcıların daha iyi korunması gerektiğini düşünüyor. Yapay zeka sohbet robotlarına genel bir yasak getirilmesine inanmıyor, ancak bazı değişiklikler görmek istiyor: "Konuşmalarda durma noktaları ve yapay zeka ile konuşmalara sürtünme eklemek gibi." Ona göre bu koruma üzerinde bağımsız bir denetim de olmalı. "Doğru olanı yapmak AI şirketlerine çok pahalıya mal oluyor ve az kâr getiriyor."

Uzmanlara göre yapay zekanın sırdaş olarak yükselişi toplumsal bir sorunu ortaya koyuyor: İnsanlar neden kişisel endişelerini cansız bir sohbet robotuyla paylaşmayı çevrelerindeki birinden daha kolay buluyor? Beerends, "Toplum olarak bir yerde eksik kalıyoruz" diyor. "Ama yapay zeka bu sorunun cevabı değil." Haselager de bunun insan ilişkileri hakkında bir şey söylediğini belirtiyor: "Görünen o ki insanlar arkadaşlarına kişisel konuları paylaşacak kadar güvende hissetmiyor. Ama yapay zekadan aldığınız şey sahte bir anlayış. Belli ki bununla yetinmeye razıyız."