Yapay zeka metin denetleyicileri ve yazarlık tartışması

ChatGPT ve Claude gibi yapay zeka modelleri yazı işlerinde giderek daha fazla kullanılıyor. Bu metinler gazetelerin görüş sayfalarında veya sosyal medya kanallarında karşımıza çıkıyor. Hollanda Başbakanı Dick Schoof'un Moluk toplumundan özür mesajını yapay zeka ile yazması tepki çekmişti. Schoof, RTL Nieuws'e yaptığı açıklamada, mesajları kendisinin yazdığını ve kontrol ettiğini, ancak yapay zekadan metinleri daha iyi hale getirmek için yararlandığını söyledi.

Teknoloji filozofu Joris Krijger, bir metni okurken yazarın da emek verdiğini bilmenin önemli olduğunu belirtiyor. Krijger'e göre yapay zeka ile herkesin kusursuz metin yazabilmesi, kişisel niteliklerin göstergesi olan bu emeğin değerini düşürüyor. Utrecht Uygulamalı Bilimler Üniversitesi'nden yapay zeka okutmanı Stefan Leijnen ise yapay zeka ile yazmanın, düşünmenin bir kısmını bilgisayara devretmek anlamına geldiğini söylüyor. Leijnen'e göre metin belki daha iyi hale geliyor, ancak yazarın kendisi aynı ölçüde gelişmiyor.

Pangram aracı ve sınırları

Başbakan Schoof'un mesajları yapay zeka ile hazırladığı, Volkskrant gazetesinin araştırmasıyla ortaya çıktı. Araştırmada, yapay zeka metinlerini analiz eden ve tanıyan en bilinen araçlardan biri olan Pangram kullanıldı. Pangram, yapay zeka metinlerinde sık görülen kalıpları, örneğin tahmin edilebilir kelime seçimlerini ve cümle yapılarını arıyor. Buna dayanarak bir metnin yapay zeka tarafından yazılma olasılığını hesaplıyor ve yüzde olarak sunuyor.

Pangram son dönemde adından sıkça söz ettiriyor. Yazar Thélyson Orélien'in C'était ça ou mourir adlı romanı bir Fransız kitap ödülünün uzun listesine girmişti. Ancak romanın neredeyse tamamen yapay zeka ile yazıldığı ortaya çıktı. Orélien her şeyi kendisinin yazdığını savunsa da Pangram'ın yüksek skoru nedeniyle durum aleyhine gelişti. Leijnen'e göre insanlar, beyinlerindeki çeşitlilik nedeniyle dil modellerinden farklı yazıyor. Bu nedenle Orélien listeden çıkarıldı. Kitabın bu tartışmaların ardından çok satanlar arasına girdiği belirtiliyor.

Leijnen, Pangram'ın sonuçlarının genellikle iyi olduğunu, özellikle uzun metinlerde aracın sıklıkla haklı çıktığını söylüyor. Ancak Pangram'ın kendisi de aracın yüzde yüz kesinlik sunmadığını belirtiyor. Leijnen, Pangram'ın kontrol edilen metinlerin yüzde 0,0041'inin hatalı olduğunu iddia ettiğini, bunun milyonlarca kontrol içinde yüzlerce metnin yanlışlıkla yapay zeka olarak işaretlenmesi anlamına geldiğini vurguluyor. "Bir mahkemede sadece Pangram'ın sonucu geçerli olmamalı" diyor.

Yapay zeka yasası ve toplumsal tartışma

Avrupa Yapay Zeka Yasası kapsamında bir metnin yapay zeka mı yoksa insan mı tarafından yazıldığının netleşmesi gerekiyor. Krijger, bu tür araçların şimdiden sık kullanılmasının gerekli olduğunu düşünüyor. "Bu, toplum olarak yürütmemiz gereken tartışma için iyi" diyor. Böylece yapay zekanın metinlerde ne zaman istenip istenmediğine dair normlar belirlenebilir.

Krijger'e göre yapay zeka insanların güven duygusunu etkiliyor. İnsanlar bir metnin yapay zeka ile yazıldığını öğrendiğinde onu genellikle daha az beğeniyor. Birinin bir işe emek vermiş olması önemseniyor; insanlar başkalarıyla bağ kurmak istiyor ve yapay zeka bu bağı bozuyor. Bir hikaye artık samimi gelmiyor. Uzmanlar Pangram veya benzeri tespit araçlarına karşı değil, ancak değerlendirmede daha fazla bağlam görmek istiyor. Bir metindeki insanlık yüzdesi tek başına her şeyi söylemiyor. Metin bir insan tarafından yazılmış olabilir, ancak cümleleri iyileştirmek veya zor terimleri basitleştirmek için yapay zekadan yararlanılmış olabilir. Yapay zeka metinlerini uyarlamak veya kendi metinlerini yapay zeka ile tamamlamak, aracın yapıştırdığı skoru belirsizleştiriyor.

Krijger'e göre bir okuyucu öncelikle yapay zekanın yazma sürecinde ne için kullanıldığını bilmek istiyor. Okunabilirliği artırmak ve kaynak bulmak için mi kullanıldı? Bu, yazma işini devretmekten çok farklı. Okuyucu, metnin özgün fikrinin yazarın kendisinden gelip gelmediğini bilmek istiyor; bunu bir dedektör tanıyamaz. Bu tartışmanın sonuçlarından biri de bir metnin yapay zeka ile yazılmış olmasının çok da önemli olmayabileceği yönünde. Krijger, yapay zeka ile yazılan spor raporlarının sorun olmayabileceğini, ancak derinlemesine bir analizde bunun daha az iyi hissettirdiğini söylüyor. Leijnen ise politika çerçevelerinin oluşturulmasında bilimsel çalışmaların yardımcı olabileceğini, ancak henüz bununla ne yapılacağının tam olarak bilinmediğini ve bu konudaki kuralların birlikte belirlenmesi gerektiğini ifade ediyor.