Meclis sorularının dörtte biri yapay zeka ile yazıldı

Hollanda Temsilciler Meclisi'ne sunulan soru belgelerinin dörtte birinin en azından bir bölümü yapay zeka tarafından yazıldı. NOS'un 2 bin 500 belge ve bu belgelerdeki 28 binden fazla meclis sorusu üzerinde yaptığı araştırma bu sonucu ortaya koydu. Araştırmaya göre metinler, ChatGPT veya Claude gibi yapay zeka araçlarıyla hazırlandı. Yapay zekanın kullanımı birkaç cümleden tam soru listelerine kadar uzanıyor.

Oran da artıyor: Son altı ayda meclis sorularının yüzde 26'sında yapay zeka izi bulunurken, önceki altı ayda bu oran yüzde 17'ydi. Ancak son iki ayda "yapay zeka soruları" bir miktar azaldı.

Araştırmada kullanılan Pangram adlı yapay zeka tespit programı, yapay zeka modellerinin yazı stilini güvenilir biçimde tespit edebiliyor; ancak modellerin düşünce sürecinin ne kadarını devraldığını ölçemiyor. Uzmanlar, milletvekilleri içerikten kendileri sorumlu olduğu sürece yapay zeka kullanımının sorun olmadığını belirtiyor.

"Düşünce sürecini elden bırakmamalı"

Geçen hafta Volkskrant gazetesinin araştırması, Başbakan Jetten'in sosyal medya mesajlarını kısmen yapay zekaya yazdırdığını ortaya çıkarmıştı. Hollandalı AI-Report bülteni de gazetelerdeki görüş yazılarının kısmen yapay zeka ile üretildiğini bildirdi.

Kendi dil modelini geliştiren ve NOS'un talebiyle yapay zeka ile kaleme alınmış meclis sorularını inceleyen yapay zeka geliştiricisi Maarten Sukel, "Milletvekilleri yapay zekayı hiç kullanmasaydı, bunu bir yerde kusur sayardım" diyor. Büyük dil modellerinin milletvekillerine doğru soruları daha hızlı sormalarında yardımcı olabileceğini düşünen Sukel, yine de risklere dikkat çekiyor: "Hakkında az bilgi sahibi olduğunuz bir dosyada yapay zekadan soru bulmasını isterseniz bu risklidir. Bir konuya derinleşmeye devam etmeli ve düşünce sürecini elden bırakmamalısınız."

Teknoloji düşünürü Marleen Stikker de asıl riski burada görüyor. "Demokratik sistemlerimizi Amerikalı yapay zeka şirketlerinin algoritmalarına devrediyoruz; üstelik bu algoritmalar tarafsız değil, taraflı. Bu kabul edilemez" diyor.

Eleştirmenler ayrıca yapay zeka modellerinin, şirketlerin aldığı önlemlere rağmen hâlâ hatalı bilgi üretebildiğini ve bunun meclis sorularına yanlış bilgi olarak yansıyabileceğini vurguluyor.

Milletvekilleri: İçerikten biz sorumluyuz

JA21 milletvekili Daniël van den Berg yapay zeka kullandığını doğruluyor ancak bunu sorun olarak görmüyor. "İşi kolayına kaçıp hemen eve dönmek için değil" diyen Van den Berg, tutanakları ve meclis belgelerini saatlerce taramak yerine yapay zekanın bu işi daha hızlı ve daha isabetli yapmasına yardımcı olduğunu söylüyor. Analize göre sorularının birçoğu büyük ölçüde yapay zeka ile yazılmış olsa da Van den Berg içerikten kendisinin sorumlu olduğunu vurguluyor: "Soruları en ince ayrıntısına kadar araştırdım. Bir ifadeyi toparlayamazsam yapay zekadan yardım istiyorum."

Bir dizi başka milletvekili de yapay zeka araçları kullandığını doğruluyor. VVD milletvekili Renate den Hollander, "Ben ve ekibim bir şeyi araştırmak, kısaltmak ya da yazım denetimi için yapay zeka kullanıyoruz" diyor. "Ancak Meclis'e sunduğum her şey kendi sorumluluğumda düşünülüp hazırlandı." D66 milletvekili Marieke Vellinga-Beemsterboer'in sözcüsü de yapay zekanın yazılı soruların netleştirilmesine ve anlaşılır olmasına yardımcı olduğunu, "artık tüm Hollanda'nın bunu yaptığını" belirtiyor. Sözcü, milletvekilinin tam soru listelerini yapay zekaya hazırlatmadığını kaydediyor.

NOS'un kullandığı Pangram, yapay zeka modellerinin yazı stilini tespit ediyor. Uzmanlara göre program büyük veri kümelerinde yapay zeka izlerini iyi yakalıyor; ancak tek tek belgelerde yanılabiliyor. Sukel, "Bir insanı bilgisayar başına oturtup yapay zeka stilinde yanıt vermesini isterseniz Pangram 'yapay zeka metni' der" diyor. "Yani duman her zaman yangın anlamına gelmez. Öte yandan Pangram insanın fark edemeyeceği kalıpları da yakalıyor."

Teknoloji düşünürü Stikker, kendimizin yazmaya devam etmesinden yana. "Bu tür enerji tüketen yapay zeka sistemlerini gündelik işler için kullanmak gerekip gerekmediğini sorgulamalısınız. Bir de meclis sorularına verilen yanıtlar yapay zeka ile yazılırsa, kim kiminle iletişim kuruyor diye sormak gerekir" diyor.

NOS, araştırma kapsamında geçen yaza kadar sunulan 2 bin 500 meclis sorusu belgesini otomatik olarak Pangram'dan geçirdi. Pangram büyük ölçekte daha iyi çalıştığı için bu yöntem seçildi. Doğrulama amacıyla "yapay zeka öncesi dönemden" olan ve neredeyse kesinlikle insanlar tarafından yazılmış 468 belgeden oluşan bir kontrol grubu da incelendi; Pangram bu eski metinlerin tamamını doğru şekilde "yüzde 100 insan" olarak sınıflandırdı. NOS, hatalı sonuç olasılığı yüksek olduğu için en çok "yapay zeka sorusu" soran milletvekillerinin yer aldığı bir sıralama yayımlamadı.