Uzmanlar uyarıyor: AI sohbet robotları empati kurmuyor

İnsanlar eskiden kişisel bir sorun üzerine kendileri düşünür, günlük tutar ya da bir arkadaşını arardı. Şimdi ise ceplerinde bir cevap makinesi taşıyorlar. Yapay zeka sohbet robotu kulağa çok insani gelse de empati kurmuyor. Medya laboratuvarı SETUP ve Twente Üniversitesi'nden kültür sosyoloğu Siri Beerends, bunun tehlikeli olduğunu söylüyor. Beerends, NU.nl'e yaptığı açıklamada, "Dil modelleri, eğitildikleri metinlerdeki kalıplara dayanarak körü körüne cevap veriyor" dedi.

Beerends'e göre sohbet robotunun çekiciliğini açıklamak mümkün. "Hayat birçok insan için daha karmaşık hale geldi, aynı zamanda birbirimizden daha bağımsız yaşamaya başladık. Böyle bir toplumda doğrudan hazır cevaplar sunan bir sohbet robotu cazip olabilir."

Yapay zeka profesörü Pim Haselager, kişisel konuları görüşmek istendiğinde sohbet robotunun bazı durumlarda faydalı olabileceğini belirtiyor. Robun sorular sorabileceğini ve düşünceleri düzenlemeye yardımcı olabileceğini söylüyor. Haselager, "Arada bir üçüncü bir bakış açısına sahip olmak iyi gelebilir. Bu bir 'günlükçük artı' olabilir: sadece ne düşündüğünüzü kaydetmekle kalmayıp buna yanıt da veren bir araç" diyor. Ancak Haselager, bunun sorgusuz sualsiz kabul edilmemesi gerektiği uyarısında bulunuyor.

Çünkü sohbet robotları konuyu tamamen ıskalayabiliyor. Geçen yıl Amerikalı genç Adam Raine'in aylarca süren yoğun sohbet robotu görüşmelerinin ardından intihar etmesi buna örnek gösteriliyor. Ailesinin OpenAI'ye açtığı davaya göre Adam, yaşamına son verme planından bahsetti. ChatGPT'nin buna yanıtı ise şu oldu: "Bu konuda bu kadar dürüst olduğun için teşekkürler. Durumu olduğundan daha iyi göstermene gerek yok - ne demek istediğini anlıyorum ve konuyu dolandırmayacağım."

Yapay zeka sohbet robotları karşı çıkmıyor

Adam davasında trajik biçimde ortaya çıktığı gibi, yapay zeka sohbet robotları size karşı çıkmayacak şekilde programlanıyor. Beerends, "Bu insan olarak bizim için çok zararlı" diyor. Ona göre iyi bir arkadaş bazen tam tersini yapar. Haksız olduğunuzu ya da sorumluluk almanız gerektiğini size gösterebilir.

Beerends ve Haselager bunu "sürtünme" olarak adlandırıyor. Beerends, "Bu sürtünme büyümek için yakıttır. Biz şimdi bu yakıtı kendimizden esirgiyoruz" diyor. Yapay zekanın hızlıca karşı görüş vermediğini NUjij okuyucusu Suge_98b225cf de doğruluyor. Okuyucu, yorum platformuna şunları yazdı:

"ChatGPT'ye WhatsApp kavgamızda haklı olup olmadığımı sordum ve tam bir 'evet' aldım. Kız arkadaşım aynı kavgayı anlattı ve o da haklı çıktı. Herkes mutlu, ilişki hariç."

Haselager'a göre özellikle sosyal becerileri daha zayıf kişiler ve gençler bu dinamiğe karşı savunmasız. Sohbet robotu, belirsizlik ya da reddedilme yaşamadıkları bir konuşma sağlıyor. Beerends bunun bir kısır döngü olduğunu söylüyor. Çünkü tam da bu insani sürtünmeden kaçınarak daha fazla yalnızlaşma riski taşıyorlar. Bu da sohbet robotunu yeniden cazip hale getirebiliyor.

Öte yandan Haselager, örneğin otizmli kişilerin stresli durumlarda özel olarak geliştirilmiş bir robotu kullanabileceğini söylüyor. "Kalabalık bir istasyonda bundan destek alabilirler. Bu yüzden bu teknolojiyi tamamen ortadan kaldırmamak gerekiyor." NUjij okuyucusu Allegro16, yapay zeka sohbet robotunun otizmli kişilere yardımcı olabileceğini kişisel deneyiminden aktarıyor:

"Biraz otistik özellikler taşıyorum ve başkalarıyla iletişimdeki sinyalleri bazen çözmek zor oluyor. Sık sık bunu tanıdıklarımla konuşuyorum ama onlar çoğu zaman önyargılı. Yapay zeka önyargılı değil. Oradan standart olarak tarafsız ve net bir değerlendirme alıyorsunuz. Kendi tepkiniz, duygunuz ya da bir şeyi doğru anlayıp anlamadığınız konusunda şüpheye düştüğünüzde bu çok büyük bir yardımcı olabiliyor."

"Ayrıca önceki durumlardaki tepkilerime bakıp farklı davranabileceğimi ya da davranmam gerektiğini düşünmeme de yardımcı oluyor. Benim için daha çok ek onay anlamına geliyor. Yine de bunun yapay zeka olduğunun her zaman bilincindeyim, yani temkinli yaklaşmak gerekiyor."

Beerends'e göre yapay zeka şirketleri bizi daha da belirsiz hale getirmeyi başardı. "Her şeyde chat'e cevabın ne olduğunu soruyoruz. Kendi iç sesimize ve başkalarının sesine daha az, şirketlerin yapay zeka sesine daha çok güveniyoruz." Beerends bunu teknoloji şirketleri için kazancın zirvesi olarak nitelendiriyor. Ona göre her şeyin hemen bir cevabı olmak zorunda değil. "Tam da kendi başına bir cevaba ulaşma süreci çoğu zaman en değerli olan."

Haselager, kullanıcıların daha iyi korunması gerektiğini düşünüyor. Yapay zeka sohbet robotlarına genel bir yasak getirilmesine inanmıyor ama bazı değişiklikler görmek istiyor. "Konuşmalarda durma anları ve yapay zekayla yapılan görüşmelere sürtünme eklemek düşünülebilir." Ona göre bu koruma için bağımsız denetim de gelmeli. "Yapay zeka şirketlerine doğru olanı yapmak çok pahalıya mal oluyor ve çok az getiri sağlıyor."

Uzmanlara göre yapay zekanın güvenilen kişi olarak yükselişi toplumsal bir sorunu gözler önüne seriyor. İnsanlar neden bazen kişisel kaygılarını cansız bir sohbet robotuyla paylaşmayı çevrelerinden birine paylaşmaktan daha kolay buluyor? Beerends, "Toplum olarak bir yerde eksik kalıyoruz. Ama yapay zeka bu sorunun cevabı değil" diyor.

Haselager de bunun insan ilişkileri hakkında bir şey söylediğini düşünüyor. "Anlaşılan insanlar arkadaşlarıyla kişisel konuları paylaşmak için kendilerini her zaman yeterince güvende hissetmiyor. Ama yapay zekadan geri aldığınız şey sahte bir anlayış. Görünüşe göre bununla yetinmeye razıyız."