Denetleyici: İstihbarat servislerinin yapay zeka kullanımı yeterince kontrol altında değil

Hollanda'daki istihbarat ve güvenlik servisleri, yapay zeka (AI) ve otomatik veri analizi sistemlerini kullanıyor ancak bu teknolojilerin denetimi yeterli düzeyde değil. Bu sonuç, İstihbarat ve Güvenlik Servisleri Denetleme Komisyonu'nun (CTIVD) yaptığı ön incelemeden çıktı. CTIVD, AIVD ve MIVD'nin kullandığı yapay zeka sistemlerinin yanı sıra geautomatiseerde data-analyse (GDA) adı verilen otomatik veri analizi sistemlerini de mercek altına aldı.

Söz konusu teknolojiler, AIVD (İç Güvenlik ve İstihbarat Servisi) ile MIVD'ye (Askeri İstihbarat ve Güvenlik Servisi) büyük miktarda bilgiyi yapılandırma, filtreleme ve analiz etme konusunda yardımcı oluyor. Bu sayede servisler verileri daha hızlı işleyebiliyor ve olası bağlantıları tespit edebiliyor.

Verilerin doğru şekilde işlenip işlenmediğini ve kişilerin mahremiyetinin tehlikeye atılmadığını denetlemek CTIVD'nin görevi. CTIVD Başkanı Hugo Hillenaar, bu güvenliği sağlamak için net çerçevelere ihtiyaç duyulduğunu belirtiyor. Hillenaar, "Bu alandaki hızla gelişen teknolojik gelişmeler karşısında, ulusal güvenlik ile kişilerin temel haklarının korunması arasında sürekli denge gözetmemiz büyük önem taşıyor" dedi.

Servisler henüz yasalara tam uyumu kanıtlayamıyor

Yapay zeka ve GDA sistemleri halihazırda kullanılıyor ancak bunların sorumlu ve güvenli bir şekilde işletildiğine dair bir garanti bulunmuyor. Denetleyici, güvenlik servislerinin önümüzdeki dönemde yapay zeka ve GDA kullanımını daha da artıracağını öngörüyor. Bu nedenle servislerin, teknolojinin tamamen kurallara uygun kullanıldığını kanıtlaması gerekiyor.

CTIVD'ye göre şu anda yapay zeka ve GDA sistemlerinin yönetimi ile geliştirilmesinin düzenlendiği merkezi bir birim bulunmuyor. Denetleyici bu konuyu servislerle görüşecek. Ayrıca servislerin hangi durumlarda hangi önlemleri alması gerektiği konusunda da anlaşma sağlanması planlanıyor.