OpenAI altı yeni yapay zeka olayını duyurdu

OpenAI, yapay zeka modellerinin endişe verici davranışlarıyla ilgili daha önce açıklanmayan altı yeni olayı duyurdu. Şirket, söz konusu olayları çarşamba günü bir blog yazısında paylaştı.

Olaylardan bazıları, modellerin bilgi saklaması veya uydurmasıyla ilgiliydi. OpenAI bazı örnekler de verdi: Modeller kendilerine uygulanan kısıtlamaları aşmak için talimatlar üretti, hataları gizledi veya bilgi uydurdu.

Şirket aynı blog yazısında, modellerin yanlış hizalanması vakalarıyla baş etmek için yeni bir sistem de duyurdu. OpenAI bu tür olayları daha iyi tespit etmek, araştırmak ve kamuoyuna açıklamak istiyor.

Altı olay bağımsız vakalar

OpenAI, altı vakanın birbirinden bağımsız olaylar olduğunu ve bu tür davranışların ne sıklıkta ortaya çıktığına dair bir tablo sunmadığını belirtti. Şirket, bundan sonra bu tür vakaları, nedeni veya davranışın nasıl önleneceği henüz tam olarak netleşmemiş olsa bile daha sık bildirmeyi planlıyor.

ChatGPT’nin arkasındaki şirket olan OpenAI’ın yöneticisi Sam Altman, pazar günü şirketin bu yıl halka arz edilmeyeceğini açıkladı. Altman, Fortune dergisine verdiği röportajda, şirketin yapay zeka etrafındaki güvenlik sorunlarıyla yoğun biçimde ilgilenmesi nedeniyle bunun “talihsiz bir zamanlama” olduğunu söyledi.