ChatGPT metinlere görünmez yapay zeka filigranı ekliyor

OpenAI, ChatGPT'nin ürettiği metinlere görünmez bir yapay zeka filigranı eklemeye başladı. Şirketin textGrain adını verdiği bu filigran, programcılara yönelik Codex uygulamasında da kullanılacak.

Filigran, banknotlara tutulan ışıkta beliren klasik işaretlere benzemiyor. Doğrudan kelimelerin kendisine gizleniyor: ChatGPT'nin dil modeli, kelimeleri belirli bir örüntüye göre seçiyor. Özel bir yazılım, uzun bir metindeki bu örüntüyü tespit edebiliyor.

Yalnızca onaylı araştırmacılar ve uzman kuruluşlar bu dedektöre erişebiliyor. OpenAI, sonuçların sağlıklı biçimde yorumlanabilir hale gelmesinin ardından erişimi genişletmek istiyor; ancak şirkete göre şu anki sonuçlar bu anlamda henüz kusursuz değil.

Yanlış sonuç ve düzenleme sorunu

Dedektör hata yapabiliyor: olmayan bir filigranı bildirebiliyor ya da var olan bir filigranı fark etmeyebiliyor. Bu nedenle sıradan kullanıcılar, öğretmenler ve işverenler bir metinde filigran bulunup bulunmadığını ve metnin ChatGPT yardımıyla yazılıp yazılmadığını doğrudan göremiyor.

OpenAI'ya göre filigran kısa metinlerde daha zor bulunuyor ve metin üzerinde düzenleme yapıldığında kısmen kayboluyor. Şirketin bir testinde, yaklaşık 400 kelimelik bir metinde bir insan her onuncu kelimeyi eş anlamlısıyla değiştirdiğinde tanınma olasılığı yüzde 92'den yüzde 66'ya düştü.

Filigranın bulunmaması da kesin bir kanıt sunmuyor: metin düzenlenmiş olabilir, başka bir yapay zeka programıyla üretilmiş olabilir ya da AB dışındaki bir ChatGPT sürümüyle yazılmış olabilir. Bulunan bir filigran ise yalnızca bir yapay zeka modelinin muhtemelen katkıda bulunduğunu gösteriyor; metni kimin yazdığını veya yapay zekanın payının tam olarak ne kadar olduğunu ortaya koymuyor.

Avrupa Birliği'nin yapay zeka düzenlemesi, ağustos başından bu yana yapay zeka tarafından üretilen metinlerin tanınabilir olmasını şart koşuyor. Başka şirketler de benzer adımlar atmış durumda: Claude adlı sohbet botu filigran kullanıyor, Spotify ise yapay zeka müziklerini etiketliyor.