ChatGPT metinlerine görünmez 'filigran' ekleniyor
OpenAI, Avrupa Birliği'ndeki ChatGPT kullanıcılarının metinlerine textGrain adlı görünmez bir filigran yerleştirmeye başladı. Filigran, yapay zeka tarafından üretilen metinlerin ayırt edilmesini amaçlıyor.

OpenAI, Avrupa Birliği'ndeki ChatGPT kullanıcılarının ürettiği metinlere görünmez bir filigran eklemeye başladı. textGrain adı verilen bu işaret, metnin gerçekten bir insan tarafından mı yazıldığını yoksa yapay zeka tarafından mı oluşturulduğunu daha net göstermeyi amaçlıyor. Uygulama şimdilik yalnızca AB ülkelerindeki kullanıcıları kapsıyor; AB dışındaki metinlerde filigran bulunmuyor.
Filigran, normal kullanıcıların göremeyeceği bir biçimde çalışıyor. Metne eklenen fiziksel bir damga ya da özel bir simge yok; işaret, üretken yapay zeka modelinin kelime seçimlerine gömülü olarak yerleştiriliyor. OpenAI'a göre özel bir dedektör, bu filigranı tespit ederek yapay zeka tarafından üretilmiş kelime ve metinleri belirleyebiliyor. Şirket, bu aracın şimdilik yalnızca onaylanmış araştırmacılar ve uzman kuruluşlar tarafından kullanılabildiğini belirtiyor.
Sistem güçlü ama kusursuz değil
OpenAI, sistemin güçlü olduğunu ancak hatasız olmadığını açıkladı. Kısa ve üzerinde değişiklik yapılmış metinler, güvenilir tespiti zorlaştıran etkenler arasında. Şirket, filigranın her durumda kesin sonuç veremeyeceğini kabul ediyor.
Chatbot Claude'un arkasındaki şirket Anthropic de iki ay önce benzer bir filigran uygulamasını başlatmıştı. İnsan gözünün göremediği bu işaret, bilgisayar sistemleri tarafından algılanabiliyor ve Anthropic'in filigranı dünya genelinde uygulanıyor.
Yeni AB kuralları ve rekabet
Her iki şirket de filigranları, yapay zeka içeriğinin şeffaflığına ilişkin yeni Avrupa kurallarına uyum sağlamak için devreye aldıklarını söylüyor. Söz konusu kurallardan biri, yapay zeka tarafından üretilen içeriğin filigran gibi bir işaretle belirtilmesini öngörüyor.
Teknoloji uzmanı Bert Hubert'e göre Avrupa'da filigransız yapay zeka metni üretmek hâlâ mümkün; ancak bazı durumlarda bunun kullanıcı tarafından açıkça belirtilmesi gerekiyor. Hubert, şirketlerin filigranları toplu şekilde eklemeye başlamasını kendi aralarındaki rekabete bağlıyor. "Yoksa OpenAI'ın şu anda bu özelliği neden sunmadığını açıklaması gerekir. Bu tür bir durum satış sürecine zarar verebilir" diyor.
Filigranlar, içeriğin özgünlüğü ve özgün olmayan içeriğin sonuçları üzerine yoğun tartışmaların yaşandığı bir dönemde geliyor. Hubert, "Bu, çıtayı biraz daha yükseltiyor" değerlendirmesini yapıyor. Ona göre filigranlar özellikle dolandırıcılık olaylarında işe yarayabilir. "Bir enerji şirketinden gelmiş gibi görünen, inandırıcı ama yapay zeka tarafından üretilmiş e-postaları düşünün. E-posta sisteminizin 'dikkat, bu yapay zeka tarafından üretilmiş bir e-posta' diyebilmesi çok işe yarar" diyor.
Bu haber NOS Algemeen kaynağındaki bilgiler derlenerek Hollanda Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler

Yapay zeka Riemann hipotezini çözdü iddiası tartışma başlattı
Bir yapay zeka modelinin Riemann hipotezine çözüm bulduğu iddiası, matematikçiler arasında yöntem ve öğrenme üzerine tartışma yarattı.

GTA VI'da suç yerine kuş gözlemi yapan oyuncu
Yeni çıkan GTA VI'da banka soymak yerine kuş gözlemlemeyi seçen bir oyuncu, oyunun detaylı doğa tasarımını ve 62 kuş türünü anlatıyor.

Anthropic çalışanı 150 yıllık Riemann hipotezini AI ile çözdüğünü açıkladı
Anthropic'te çalışan Levent Alpöge, 1859'dan beri çözülemeyen Riemann hipotezini yapay zeka modeli Claude ile çözdüğünü duyurdu. Kanıt henüz doğrulanmadı.

GTA VI rekor bütçesini çıkış gününde geri kazandı
Piyasanın en pahalı oyunu olan GTA VI, 2 milyar dolarlık yapım maliyetini satışa çıktığı ilk günde neredeyse geri kazandı.

