AP: Tahsilat şirketleri yapay zekayı hukuka aykırı kullanıyor

Hollanda Veri Koruma Kurumu (Autoriteit Persoonsgegevens, AP), tahsilat şirketlerinin yapay zeka kullanımına ilişkin bir uyarı yayımladı. AP'nin incelemesine göre şirketler, borç tahsilatında hangi kişiyle önce temasa geçileceğini bilgisayar sistemleriyle belirliyor. Bu sistemler kişinin oturduğu yer, kredi puanı ve ödeme geçmişi gibi verilere dayanarak önceliklendirme yapıyor.

Kurum, sektörde 29 tahsilat şirketini kapsayan bir örnekleme araştırması yürüttü. Araştırmada hatalı karar alma, eşit olmayan muamele ve ayrımcılık riskleri tespit edildi. AP'ye göre bazı şirketlerin kararları tamamen bilgisayar tarafından, hiçbir insan devrede olmadan alınıyor. Bu tür otomatik karar alma yasaya aykırı.

AP, sektörden önlem almasını istiyor. Bu önlemler arasında ciddi sonuçlar doğurabilecek kararların her zaman bir insan tarafından gözden geçirilmesi yer alıyor. Ayrıca tahsilat şirketlerinin hangi kişisel verileri işlediğini haritalandırması gerekiyor. Kuruma göre şirketler, borçlulara algoritmaların nasıl kullanıldığını açıkça anlatabilmeli.

Sektör derneği araştırmadan haberdar edilmedi

Tahsilat sektörünün derneği NVI, AD gazetesine yaptığı açıklamada araştırmayı şaşkınlıkla karşıladı. Bir sözcü, "Bir sektör derneği olarak AP bize yaklaşmadı, araştırma veya yayın hakkında önceden bilgilendirilmedik" dedi. Sözcü, raporu önce ayrıntılı biçimde inceleyeceklerini ve AP'nin duyurduğu açıklamadan yararlanmak istediklerini söyledi.

AP'ye göre tahsilat şirketleri algoritma kullanımında hangi kuralların geçerli olduğunu tam olarak bilmiyor. Bu nedenle yasak olan otomatik karar almanın hâlihazırda geniş ölçekte yaşanma ihtimali yüksek. AP yönetim kurulu üyesi Katja Mur, AD'ye yaptığı açıklamada şunları söyledi: "Tahsilatla karşı karşıyaysanız bunun sizin için ciddi sonuçları olabilir. Önemli miktarda para ödemeniz gerekebilir. Ayrıca yapay zeka hata da yapabilir."

Kurum, aralık ayının başında tahsilat sektöründen kuruluşlarla bir yuvarlak masa toplantısı düzenleyecek ve sonuçları görüşecek. NVI, "AP'nin örnekleme araştırmasındaki tablonun üyeler arasındaki uygulamayı yansıtıp yansıtmadığını şu anda değerlendiremeyiz" açıklamasını yaptı. Dernek, insan müdahalesi, veri kullanımı konusunda farkındalık ve borçlulara karşı şeffaflıkla ilgili AP tavsiyelerini ciddiye aldıklarını ve üyeleriyle görüşeceklerini bildirdi.