İngiltere’de yapay zeka destekli işe alım sistemlerinin etnik azınlık mensubu adaylar üzerindeki ayrımcı etkilerine ilişkin endişeler ele alındı.
İngiltere Parlamentosunda milletvekilleri ve Lordlardan oluşan İnsan Hakları Ortak Komitesi (JCHR), geçen ay yayınladığı raporda, yapay zekanın insan hakları açısından oluşturduğu risklere karşı mevcut yasaların “yetersiz” kaldığına işaret ederek, yeni yasal düzenleme çağrısı yaptı.
Komite, yapay zekanın hızlı gelişimi karşısında mevcut yasal ve düzenleyici çerçevenin “parçalı ve takip edilmesi zor” olduğu, bunun da insan haklarının korunmasında boşluklar yarattığı uyarısında bulundu.
JCHR, yapay zekanın yol açabileceği tehditlerin ölçeği ve ciddiyeti dikkate alınarak, “yeni yapay zeka yasası” çıkarılması gerektiğine dikkati çekti.
Otomatik işe alım sistemleri adayları insan görmeden eleyebiliyor
İngiltere Parlamentosundaki insan hakları uyarıları, işe alım süreçlerinde yapay zeka ve otomatik sistemlerin kullanımıyla ilgili yeni araştırmalarla da destekleniyor.
İngiltere’de iş yerinde etnik eşitlik alanında çalışan sivil toplum kuruluşu “People Like Us” ile araştırma şirketi “Censuswide” tarafından 2 bin iş arayan kişiyle yapılan araştırma, otomatik işe alım yazılımlarının adaylarla iş arasında giderek daha belirleyici hale geldiğini ortaya koydu.
Araştırmaya göre, son iki yılda iş başvurusunda reddedilen adayların yüzde 74’ü, en az bir ret kararının otomatik sistem tarafından verildiğinden şüphelendiğini belirtti. Ancak adayların yalnızca yüzde 15’i, işverenin başvurularını değerlendirmek için otomatik sistem kullandığını kendilerine bildirdiğini aktardı.
Araştırmada, adayların çoğu zaman başvurularının bir insan tarafından görülmeden reddedildiği, bazı ret yanıtlarının ise başvuru süresi dolmadan ya da başvurudan dakikalar sonra gönderildiği belirtildi.
Etnik azınlık olan adaylar daha fazla etkileniyor
Otomatik eleme sistemlerinin etkisinin özellikle etnik azınlık mensubu adaylar üzerinde daha ağır hissedildiği belirtilen araştırmada, bu adayların beyaz adaylara kıyasla yaklaşık üçte bir oranında daha fazla işe başvurduğu, buna rağmen bir saat içinde ret yanıtı alma oranlarının daha yüksek olduğu kaydedildi.
Buna göre, etnik azınlık mensubu adayların yüzde 41’i başvurularına bir saat içinde ret yanıtı aldığını belirtirken, bu oran beyaz adaylarda yüzde 32 oldu.
Araştırmada, iş arayanların yüzde 60’ının otomatik sistemler tarafından elenme korkusuyla öz geçmişlerinde bazı bilgileri gizlediği ya da değiştirdiği ifade edildi. Bu oran etnik azınlık adaylarda yüzde 70’e çıktı.
Etnik azınlık adayların, öz geçmişlerinden doğum ülkesi, dini ya da kültürel kimliğe işaret eden bilgileri kaldırma ihtimalinin de daha yüksek olması dikkati çekti. Her 20 adaydan biri ise ismini değiştirdi.
Araştırma, iş arayanların da otomatik eleme sistemlerini aşmak için yapay zekadan yararlanmaya başladığını gösterdi.
İş arayanların yüzde 66’sı işe alım yazılımlarını “kandırmaya” çalıştığını belirtirken, yüzde 27’si otomatik elemeden geçebilmek için ChatGPT gibi yapay zeka araçlarıyla öz geçmişini yeniden yazdığını söyledi. Adayların yüzde 13’ü, işe alım yazılımlarının fark etmesi için özgeçmişlerine “beyaz renkle gizlenmiş anahtar kelimeler” eklediğini ifade etti.
Araştırmaya göre, iş arayanların yüzde 31’i yeterli olduklarını düşündükleri bir işe yapay zeka tarafından eleneceklerini düşündükleri için başvurmadığını belirtti. Bu oran etnik azınlık adaylar arasında yüzde 39’a yükseldi.
Adayların yüzde 81’i artık işe başvurmanın “bir insan olarak görülmekten çok, bir makine için testi geçmeye çalışmak” gibi hissettirdiğini kaydetti.
Araştırmada, otomatik eleme sistemlerini kullanan işverenlerin bu sistemler üzerindeki denetimine ilişkin soru işaretleri de gündeme getirildi.
Otomatik eleme kullanan işverenlerin yüzde 28’i, sistem sonuçlarının etnik köken ya da diğer korunan özelliklere göre farklılık gösterip göstermediğini izlemediğini söyledi. Bu farklılıkları izleyen işverenlerin yüzde 82’si ise sonuçlarda farklılık tespit ettiğini belirtti.
Ayrıca işe alım kararlarında yer alan kişilerin yüzde 30’u, kullandıkları eleme aracının adayları nasıl puanladığını bilmediğini ya da bundan emin olmadığını paylaştı.
Araştırmaya göre, adayların yüzde 75’i İngiltere veri koruma yasası kapsamında otomatik ret kararına karşı insan incelemesi talep edebileceklerini bilmiyor. Adayların yüzde 42’si bir ret kararına itiraz etmek istediğini ancak bunu nasıl yapacağını bulamadığını söylerken, insan incelemesi talep edenlerin yalnızca yüzde 28’i böyle bir inceleme alabildiğini belirtti.
“People Like Us”, işverenlere işe alım süreçlerinde otomatik ya da yapay zeka destekli eleme sistemleri kullanıldığını açıkça bildirmesi çağrısı yaptı. Kuruluş ayrıca, bu sistemlerin olası ayrımcılık risklerine karşı bağımsız denetimden geçirilmesini istedi.
People Like Us Kurucu Ortağı Sheeraz Gulsher, işverenlerin çoğunun artan başvuru sayılarıyla başa çıkmak için iyi niyetle otomasyona yöneldiğini ancak bunun denetim yerine geçemeyeceğini belirtti.
Gulsher, “Otomasyonun artan başvuru sayılarını yönetmede açık bir rolü var ancak işe alımın herkes için adil kalmasını sağlamak üzere denge ve denetim mekanizmaları olmalı.” değerlendirmesinde bulundu.
“Yapay zeka mevcut eşitsizlikleri derinleştirebilir”
Glasgow Üniversitesinde Kamu Politikası ve Araştırma Yöntemleri alanında kıdemli öğretim üyesi Dr. Mark Wong’un İngiltere Parlamentosuna sunduğu rapor da yapay zekanın insan hakları, ayrımcılık ve ırksal ön yargı üzerindeki etkilerine ilişkin benzer uyarılar içeriyor.
Raporda, yapay zeka sistemlerinin geliştirilmesi ve kullanımında marjinalleştirilmiş toplulukların merkeze alınması gerektiği belirtilerek, aksi halde mevcut eşitsizliklerin daha da derinleşebileceği vurgulanıyor.
Yapay zeka kaynaklı ayrımcılık ve ön yargının olumsuz etkilerinin, İngiltere’de etnik azınlık gruplarını orantısız şekilde etkilediğine işaret edilen raporda, söz konusu etkilerin mevcut sosyal eşitsizlikleri, marjinalleşmeyi ve insan hakları ihlallerini de derinleştirdiğine dikkat çekildi.
Raporda, otomatik karar alma, sosyal yardım haklarının belirlenmesi, sağlık hizmetleri, teşhis, eğitim, polislik, sınır ve göç uygulamaları gibi alanlarda kullanılan yapay zeka sistemlerinin ırksal ön yargı ve ayrımcılığa yatkın olduğu kaydediliyor.
Yalnızca teknik konuların bu sorunu çözmeye yetmeyeceği vurgulanan raporda, İngiltere’nin mevcut şekildeki kuralsızlaştırmaya dayalı yaklaşımla yapay zekayı yaygınlaştırması halinde “ırkçılığı otomatikleştirme” ve “eşitsizlikleri daha da derinleştirme riski bulunduğu” uyarısı yapıldı.
Raporda çözüm olarak bağımsız denetim, katılımcı yönetişim ve toplumsal katılım önerilerine yer verildi. Ayrıca, yapay zekadan en fazla etkilenebilecek toplulukların karar alma ve denetim süreçlerine dahil edilmesi gerektiğinin altı çizildi.
