Kesişimsellik ve Yapay Zekâ

Kesişimsellik ve yapay zekâ arasındaki ilişki nedir? Keyifli okumalar!

AYANNA HOWARD 

MIT Sloan

Eylül 2021

Kesişimsellik, temelde kimliklerin birbirine bağlı doğasını temsil eder. Irk, cinsiyet ve engellilik durumu gibi sistematik ayrımcılık veya dezavantaj konusunda nasıl bir araya gelebileceğini anlatır. Kesişimsellik, cinsiyet veya ırk gibi her biri kendine özgü özellik taşıyan alanları ayrı ayrı ele almanın, birden fazla özelliğe bir arada sahip olanları daha da vahim hale getirdiği gerçeğini vurgular. Crenshaw'ın yazdığı gibi "kesişme deneyimi, ırkçılık ve cinsiyetçiliğin toplamından daha büyüktür".

Ayrımcılıkla mücadele yasası temelde istihdam gibi alanlarda ayrımcılığı önlemeyi amaçlıyor. Ama yasaların yetersizliğini vurgulayan araştırmalar giderek artıyor. Yasalar, kesişimsel deneyimler göz önüne alındığında, dezavantajlı kesimlerin yaşadığı sorunları çözmede yetersiz kalmıştır. Örneğin, siyah kadınlara yönelik algoritmik önyargı, siyah erkeklere yönelik önyargı ve beyaz kadınlara yönelik önyargının dışında kalan toplam olarak açıklanamaz. Basit bir örnek ücretlerdir: 2019'da ortalama bir kadın, erkeklerin kazandığı her 1 dolar karşında 82 sent kazandı. Siyah kadınlar, siyah erkeklerin kazandığı her dolar karşısında 91 sent kazandı. Ancak siyah kadınlar, beyaz erkekler karşısında sadece 61 sent kazandı. Latin kadınlarsa beyaz erkeklerle karşılaştırıldığında daha da az; sadece 53 sent kazandı.

Tüm bunların yapay zekâ dünyasında da etkisi vardır. İşe alımlarda veya terfilerde ücret belirlemek için kullanılan YZ tabanlı bir ücretlendirme aracının, bu verilerle beslendiğin- de nasıl bir sonuç çıkaracağını hayal edin.

Kesişimsellikle ilgili zorluklar 

Kesişimsellik kavramı, yapay zekâ dünyasında iyi algılan- dı ama üzerine çok da yoğunlaşılmadı. YZ araştırmacıları olarak, YZ algoritmalarının doğruluğuna katkı sunan veri kümelerinde çeşitliliğin ve bunların kesişiminin, doğruluğu nasıl etkilediğini inceledik. MIT Media Lab'den Joy Buolamwini ve daha sonra Microsoft Research'ten Timnit Gebru, yüz tanıma algoritmalarının farklı kesişim grupları için nasıl farklı sonuçlar doğurduğunu tartıştı. Buolamwini ve Gebru, ırk ve cinsiyetin kesiştiği noktalardaki farklı insan özelliklerine ilişkin algoritma performansını inceleyip YZ sistemleri için kesişimsellik denetiminin önemini gösterdiler.

De'Aira Bryant, Georgia Institute of Technology İnsan Otomasyon Sistemleri Laboratuvarındaki araştırma ekibinin bir parçası olarak yürüttüğü ilk çalışmada kesişimsellik kavramını ele aldı ve bir "çeşitlilik derecesi" tasarladı. Bu derecelendirme, YZ algoritmalarını eğitmek için kullanılan veri kümelerini denetlemek için yaş, cinsiyet ve etnik köken dahil çeşitli özelliklerin birleştirilmesine dayanıyor.

Ne yazık ki, umut verici olsa da bu çabalar, öncelikle yapay zekâ araştırma topluluğu içinde yürütülüyor. Tüketiciye yönelik uygulamalarda kullanılan sistemlerde, üçüncü taraflarca yapılan kesişimsel denetimler çok yavaş benimseniyor. Şirketler zamanla adil YZ geliştirme çabalarını attırsa da, bu algoritmaların çoğu hâlâ insan özelliklerini tek ve ayrı bileşenler olarak ele alıyor. 

Aslında, çoğu YZ sistemi tek eksenli çözüm düşünülerek tasarlanmıştır; cinsiyet yaştan, yaş sosyoekonomik durumdan bağımsız bir bileşendir. Hata oranlarını hesaplamak için kullanılan temel kriterler, tek bir değişkenle sınırlıdır. Bu da doğruluğu etkiler.

Sohbet robotlarından nefret söylemini algılama algoritmalarına kadar birçok doğal dil işleme uygulamasında, temel bir YZ tekniği olan kelime yerleştirme modelli kullanılır. Burada bariz önyargılardan biri, sohbet robotunun "doktor"un "erkek", "hemşire"ninse "kadın" olduğunu varsaymasıdır. Araştırmalar, bu kelime yerleştirme modellerindeki ırk, etnik köken ve cinsiyete dayalı dilde önyargılar azaltılsa bile, bu modellerin hâlâ kesişen gruplara karşı önyargı sergilediğini gösteriyor. Bu, Wei Guo ve Aylin Çalışkan tarafından 2020'de yayınlanan ve "Meksikalı Amerikalı kadınlar" gibi kesişimsellik gruplarına yönelik çalışmada da görülüyor. Bu çalışma, Meksikalı Amerikalı kadınlara karşı olan önyargının, Meksikalı Amerikalılar veya yalnızca kadınlardan oluşan gruplara göre daha kötü bir algoritmik performansa sahip olduğunu buldu.

Çözüm olabilecek kesişimsellik yaklaşımları 

Bir organizasyonda kesişimselliği ele almak, o işyerinde üst düzey yönetimdeki ve YZ algoritmalarındaki kapsayıcılıkla ilgili daha büyük sorunları çözmenin en iyi yollarından biridir. Organizasyonlar, tüm benzersiz kesişimsel kimlik deneyimlerinin makul ve bilgilendirici olduğunu kabul etmelidir. YZ uygulamalarındaki sorunu çözmenin dört yolu olduğunu düşünüyorum:

YZ sisteminizle etkileşime giren kesişimsel grupları belirleme konusunda bilinçli olun. Cinsiyet, yaş, yetenek ve/ veya engellilik durumu ve ırk ve/veya etnik kökenin nasıl dezavantaj yaratabildiğine; bunun diğer grupları nasıl avantajlı hale getirdiğine bakın.

Farklı kesişimsel gruplar arasındaki ölçütleri istatistiksel olarak değerlendirin. Farklı etki oranları gibi ölçütler değişiklik gösteriyor mu? Etki hakkında tahminlerde bulunmak için deneme yanılma gibi kaba kuvvet yöntemleri yerine yapay zekâ yöntemlerini kullanmak daha uygundur. Şirketler için, performansı bu şekilde değerlendirmek, kaç kişinin dezavantajlı durumda olduğunu (veya olmadığını) gerçekten anlamaya yardımcı olabilir.

Bu farklılıkların size sistem, süreç veya uygulamalarınız hakkında neler söylediğini düşünün. Bu, belki de en önemli adımdır. YZ, dikkatli şekildeoluşturulduğunda, tüm bireylerin yaşam kalitesi ve refahını artırma yeteneğine sahiptir. YZ sistemlerini kesişimsel çerçevede geliştirmek, toplumdaki bazı önyargıları azaltabilir.

İstatistiksel olarak yeterince temsil edilmeyen gruplara bilinçli olarak daha fazla hizmet eden bir model tasarlayın. Sorunları düşünün ve ardından verilerinizi kullanırken bu sorunların bazılarını düzelten bir model tasarlayın. İster inanın ister inanmayın, araştırmalar, kesişimsellik gruplarına özel önem vermenin hem yeterince temsil edilmeyen hem de fazla temsil edilen gruplar için daha iyi sonuçlar verdiğini gösteriyor. Algoritmalar tarafsızlıktan yoksun olabileceğinden, onları en baştan kesişimsellik kısıtlamalarına göre tasarlamak, kesişimsellik önyargısının bir kısmını azaltmaya yardımcı olur.

Kesişme önyargısı toplumda, toplum-devlet ve çalışan-yönetici etkileşiminde gerçekten vardır. Bu önyargı sadece çalışan düzeyinde değil yönetim kademesinde de mevcuttur. Liderlerin yüzde 21'i kadınlardan, bunların yüzde 4'ü beyaz olmayan kadınlardan ve yalnızca yüzde 1'i siyah kadınlardan oluşuyor. Kesişmeyle bağlantılı ayrımcılıklara maruz kalan çalışanların iş değiştirme oranları da daha yüksek ve bu da büyük bir maliyet kalemidir. Şirketler kesişimselliği, işe alımdan yapay zekâ teknolojilerine kadar tüm uygulamalarında ele aldığında, bu onlara büyük faydalar sağlar.