Denetçi AIVD ve MIVD'de yapay zeka kullanımından endişeli

İstihbarat denetleme kurumu CTIVD, Hollanda istihbarat servisleri AIVD ve MIVD'nin yapay zeka ve diğer algoritmaları giderek daha fazla kullandığını, ancak bunun getirdiği riskleri sınırlamak için yeterli güvencenin bulunmadığını açıkladı. Denetçinin yayımladığı değerlendirmeye göre servisler, verileri işlemek, metinleri özetlemek veya çeviri yapmak amacıyla hem yapay zekadan hem de otomatik veri analizinden (GDA) yararlanıyor. Bu sistemler ağırlıklı olarak servislerin kendisi tarafından geliştiriliyor.

Ancak hangi akıllı analiz sistemlerinin nerede kullanıldığına dair yeterli bir genel bakış bulunmuyor. CTIVD'nin incelemesi sırasında merkezi bir envanter ya da yapay zeka politikası mevcut değildi. Bu nedenle süreç büyük ölçüde yapay zeka sistemlerini geliştiren çalışanların bireysel değerlendirmesine bağlı kalıyor.

Riskler ve denetim güçlüğü

Denetçiye göre risk, yapay zeka sistemlerinin yanlış kullanılması halinde güvenilmez olabilmesi. Yapay zeka kullanımına ilişkin iyi bir genel bakış olmadığı için denetçinin servislerin kurallara uyup uymadığını değerlendirmesi de zorlaşıyor.

CTIVD, riski azaltmak amacıyla servisler içinde merkezi çerçeveler ve çalışma yöntemlerinin uygulanmasını öneriyor. Denetçiye göre servisler net adımlar atsa da “yapay zeka ve GDA'nın geliştirilmesi ve uygulanması, ilgili çerçevelerin, güvencelerin ve yapay zeka okuryazarlığının hayata geçirilmesinden daha hızlı ilerliyor.” CTIVD, servislerdeki bu açığın daha da büyümesini önlemek istiyor. Bu kapsamda denetçi, yapay zeka kullanımı üzerinde merkezi yönetimin uygulanma sürecinin ilerleyişi gibi konularda görüşmeler yapacak.

Öte yandan hükümet, istihbarat servislerine daha fazla yetki vermek istiyor. Kabineye göre bu, Rusya, Çin ve İran'dan gelen tehditler nedeniyle gerekli. Bu kapsamda yapay zeka kullanımına ilişkin yetkiler de genişletiliyor.

CTIVD daha önce de yeni yasaya yönelik sert eleştirilerde bulunmuştu. Denetçi, önerilen yasanın dengeli olmadığı görüşünde. Servislerin belirli yetkilerinin kullanımını önceden onaylaması veya reddetmesi gereken Toetsingscommissie Inzet Bevoegdheden (Yetki Kullanımı Değerlendirme Komisyonu) da bu eleştiriyi paylaşıyor.