IND sığınma başvurularında iki yapay zeka sistemini kullanıyor

Hollanda Göçmenlik ve Vatandaşlık Dairesi (IND), yaz aylarından bu yana sığınma başvurularının işlenmesinde personele yardımcı olmak için iki yapay zeka sistemi kullanıyor. NRC'nin iç belgelere dayandırdığı habere göre, kurum bu sistemleri kamuoyuna duyurmadı ve ulusal yapay zeka sistemleri siciline kaydettirmedi. Bu durum, IND'nin kendi belirlediği yapay zeka ilkeleriyle çelişiyor.

Kullanılan sistemler Robin ve ChatIND adını taşıyor. İç belgelerde Robin, personelin "tıpkı bir meslektaşına yapar gibi" soru sorabileceği veya görev verebileceği bir asistan olarak tanımlanıyor. ChatIND'in ise uzun belgeleri özetleyebildiği, metin çevirebildiği, görüşme ve araştırma belgelerini analiz edebildiği belirtiliyor.

IND, NRC'ye yaptığı açıklamada yapay zeka asistanlarını kullandığını doğruladı. Bir sözcü, personelin sığınma başvurularıyla ilgili kararları yapay zekaya verdirmediğini, ancak bu sistemlerin "hazırlık çalışmalarında" kullanılabildiğini söyledi.

Hukukçulardan şeffaflık eleştirisi

Sığınma sisteminde yapay zeka kullanımı hassas bir konu. Algoritmaların ayrımcılık yapabildiği biliniyor. Avukatlar daha önce IND'nin benzer sığınma davalarını bulmak için geliştirdiği Case Matcher adlı arama motorunu eleştirmişti. Bir mahkeme, Case Matcher'ın sığınma başvurularının sonucunu etkileyebileceğine ve IND'nin kullanımı konusunda yeterince şeffaf davranmadığına hükmetmişti.

Ancak Case Matcher'dan farklı olarak IND, Robin ve ChatIND'i Hollanda algoritma veri tabanına ve Avrupa siciline kaydetmedi. IND, NRC'ye bunun "gereksiz" olduğunu, çünkü yapılan değerlendirmede asistanların "yüksek risk" taşımadığının belirlendiğini söyledi. Bu açıklama, kurumun risk düzeyi ne olursa olsun tüm algoritmik sistemlerinin ayrıntılarını yayımlayacağını belirten kendi yapay zeka politikasıyla çelişiyor. IND ayrıca internet sitesinde yapay zeka uygulamalarını "zorunlu olmadığında bile" kaydettiğini ifade ediyor.

"Yapay zeka hataları sığınma kararlarına girebilir"

Utrecht Üniversitesi'nde kamu kurumlarının algoritma kullanımı üzerine araştırma yapan Ola al-Khatib, IND'nin yapay zeka sohbet robotlarını kullanmasından endişe duyuyor. NRC'ye konuşan al-Khatib, "İlk bakışta bir yapay zekaya soru sormakta pek bir zarar yokmuş gibi görünüyor" dedi. "Ancak araştırmalar, insanların bir yapay zeka ajanının söylediklerine aşırı güvenme eğiliminde olduğunu gösteriyor. Sonuç olarak, karar yapay zeka tarafından yazılmamış olsa bile yapay zeka hataları sığınma kararlarına girebilir."

Mülteci Avukatları Derneği Başkanı Wil Eikelboom da bu endişeleri paylaşıyor. Gazeteye konuşan Eikelboom, özellikle ChatIND kullanımından kaygı duyduğunu belirterek, davaya özgü belgelerin özetlenmesi ve analiz edilmesinin karar alma sürecinin bir parçası olduğunu ve bu nedenle ilgili taraflar için şeffaf olması gerektiğini söyledi. IND'nin bu konuda şeffaf olmaması nedeniyle mahkemelerin süreci denetleyemediğini ekledi.

Eikelboom ayrıca derneğin, IND'nin yapay zeka sistemlerini hukuk mesleğini bilgilendirmeden kullanmaya başlamasından "derin endişe" duyduğunu ifade etti.