Dijital sistemler kadınlar için adalet mi üretiyor, yoksa eşitsizliği daha hızlı ve daha “sessiz” biçimde mi çoğaltıyor? 8 Mart Dünya Kadınlar Günü’nü bu yıl farklı bir yerden okumamız gerekiyor.

İşe alım sistemleri, otomatik eleme araçları, performans puanları, vardiya planlama yazılımları ve kredi değerlendirme modelleri hayatımıza yerleşti. Bu sistemler “karar vermiyor” gibi görünebilir. Ama çoğu zaman kimin görüşmeye çağrılacağını, kimin terfi alacağını, kimin daha iyi ücret alacağını fiilen belirliyor.

Yapay zekâ ve algoritmalar kendiliğinden adil olmaz. Genellikle geçmiş verilerle öğrenirler. Geçmişte kadınlar işe alımda, terfide ya da ücrette dezavantaj yaşadıysa, sistem bunu “normal” diye öğrenip tekrar edebilir.

Mesela, kariyerinde çocuk bakımı nedeniyle ara veren bir kadının özgeçmişi otomatik olarak “riskli” görülebilir. Esnek çalışma kullanan bir çalışan “daha az bağlı” diye puanlanabilir. Müşteriyle temas eden rollerde “uygunluk” puanları, fark etmeden cinsiyet kalıplarını kopyalayabilir. Böylece eşitsizlik bir yöneticinin önyargısı gibi görünmez. “Sistem böyle dedi” cümlesinin arkasına saklanır.

8 Mart’ı bir adalet tartışması olarak ele almamız gerekiyor. Cevap teknolojide değil, kurum ve kuruluşların bu teknolojiyi nasıl yönettiğinde. Yapay zekâ kendiliğinden eşitlik getirmez. Özensiz kullanımı eşitsizliği otomatikleştirir.

Sistemler devreye alınmadan önce ve sonra düzenli test edilmeli. Kimin aleyhine çalıştığı ölçülmeli. Kullanılan verilerde kadınların temsili yeterli mi, hata payı kimlerde yükseliyor, sonuçlar belli sosyal ve demografik grupları daha sık mı eliyor raporlanmalı ve düzeltilmeli.

Şirketler bu sistemleri çoğu zaman hız ve verimlilik için kuruyor. Oysa işe alım ya da performans değerlendirmesinde sadece hız peşinde koşarsanız, adaleti kaybedersiniz. Hangi kararlar otomatikleşmeyecek, hangi durumlarda insan mutlaka devreye girecek, açıkça tanımlanmalı. İtiraz hakkı ve mekanizmaları ile yapay zekâlı sistemlerin “itiraz edilemez duvarlara dönüşmesi engellenmeli.

8 Mart’ı “teknoloji kadınlar için adil çalışsın” diye konuşalım. Mesele o yazılımın kimi yukarı çektiği, kimi görünmez biçimde aşağı ittiği.

8 Mart Dünya Kadınlar Günü kutlu olsun.