ChatGPT metinlerine görünmez 'filigran' ekleniyor

OpenAI, Avrupa Birliği'ndeki ChatGPT kullanıcılarının ürettiği metinlere görünmez bir filigran eklemeye başladı. textGrain adı verilen bu işaret, metnin gerçekten bir insan tarafından mı yazıldığını yoksa yapay zeka tarafından mı oluşturulduğunu daha net göstermeyi amaçlıyor. Uygulama şimdilik yalnızca AB ülkelerindeki kullanıcıları kapsıyor; AB dışındaki metinlerde filigran bulunmuyor.

Filigran, normal kullanıcıların göremeyeceği bir biçimde çalışıyor. Metne eklenen fiziksel bir damga ya da özel bir simge yok; işaret, üretken yapay zeka modelinin kelime seçimlerine gömülü olarak yerleştiriliyor. OpenAI'a göre özel bir dedektör, bu filigranı tespit ederek yapay zeka tarafından üretilmiş kelime ve metinleri belirleyebiliyor. Şirket, bu aracın şimdilik yalnızca onaylanmış araştırmacılar ve uzman kuruluşlar tarafından kullanılabildiğini belirtiyor.

Sistem güçlü ama kusursuz değil

OpenAI, sistemin güçlü olduğunu ancak hatasız olmadığını açıkladı. Kısa ve üzerinde değişiklik yapılmış metinler, güvenilir tespiti zorlaştıran etkenler arasında. Şirket, filigranın her durumda kesin sonuç veremeyeceğini kabul ediyor.

Chatbot Claude'un arkasındaki şirket Anthropic de iki ay önce benzer bir filigran uygulamasını başlatmıştı. İnsan gözünün göremediği bu işaret, bilgisayar sistemleri tarafından algılanabiliyor ve Anthropic'in filigranı dünya genelinde uygulanıyor.

Yeni AB kuralları ve rekabet

Her iki şirket de filigranları, yapay zeka içeriğinin şeffaflığına ilişkin yeni Avrupa kurallarına uyum sağlamak için devreye aldıklarını söylüyor. Söz konusu kurallardan biri, yapay zeka tarafından üretilen içeriğin filigran gibi bir işaretle belirtilmesini öngörüyor.

Teknoloji uzmanı Bert Hubert'e göre Avrupa'da filigransız yapay zeka metni üretmek hâlâ mümkün; ancak bazı durumlarda bunun kullanıcı tarafından açıkça belirtilmesi gerekiyor. Hubert, şirketlerin filigranları toplu şekilde eklemeye başlamasını kendi aralarındaki rekabete bağlıyor. "Yoksa OpenAI'ın şu anda bu özelliği neden sunmadığını açıklaması gerekir. Bu tür bir durum satış sürecine zarar verebilir" diyor.

Filigranlar, içeriğin özgünlüğü ve özgün olmayan içeriğin sonuçları üzerine yoğun tartışmaların yaşandığı bir dönemde geliyor. Hubert, "Bu, çıtayı biraz daha yükseltiyor" değerlendirmesini yapıyor. Ona göre filigranlar özellikle dolandırıcılık olaylarında işe yarayabilir. "Bir enerji şirketinden gelmiş gibi görünen, inandırıcı ama yapay zeka tarafından üretilmiş e-postaları düşünün. E-posta sisteminizin 'dikkat, bu yapay zeka tarafından üretilmiş bir e-posta' diyebilmesi çok işe yarar" diyor.