Kesişimsellik ve Yapay Zekâ

Optimist'ten harika bir yazıyla karşınızdayız! YZ sistemleri ve kesişimsellik nedir? Bunların hayatımızda ve yapay zekada yeri nedir? Ayanna Howard 2021 Eylül ayında yazdığı Kesişimsellik ve Yapay Zeka yazısını sakın atlamayın. Keyifli okumalar!

Keşisimsellik kavramını ilk kez 1989'da, şu an UCLA ve Columbia Hukuk Fakültesinde hukuk profesörü olan Kimberlé Crenshaw önerdi. Crenshaw, Chicago Üniversitesi Hukuk Forumunda yayınlanan bir makalede, yasaların çalışan siyah kadınları ayrımcılığa karşı korumada yetersiz kaldığını yazdı. Biri General Motors aleyhine olmak üzere üç davayı tartıştı. Bu davalarda mahkeme ayrımcılıkla mücadele yasasının sadece tek kimlik kategorisini koruduğuna yönelik ayrımcılık iddialarını reddetmişti.

Kesişimsellik, temelde kimliklerin birbirine bağlı doğasını temsil eder. Irk, cinsiyet ve engellilik durumu gibi sistematik ayrımcılık veya dezavantaj konusunda nasıl bir araya gelebileceğini anlatır. Kesişimsellik, cinsiyet veya ırk gibi her biri kendine özgü özellik taşıyan alanları ayrı ayrı ele almanın, birden fazla özelliğe bir arada sahip olanları daha da vahim hale getirdiği gerçeğini vurgular. Crenshaw'ın yazdığı gibi "kesişme deneyimi, ırkçılık ve cinsiyetçiliğin toplamından daha büyüktür".

Ayrımcılıkla mücadele yasası temelde istihdam gibi alanlarda ayrımcılığı önlemeyi amaçlıyor. Ama yasaların yetersizliğini vurgulayan araştırmalar giderek artıyor. Yasalar, kesişimsel deneyimler göz önüne alındığında, dezavantajlı kesimlerin yaşadığı sorunları çözmede yetersiz kalmıştır. Örneğin, siyah kadınlara yönelik algoritmik önyargı, siyah erkeklere yönelik önyargı ve beyaz kadınlara yönelik önyargının dışında kalan toplam olarak açıklanamaz. Basit bir örnek ücretlerdir: 2019'da ortalama bir kadın, erkeklerin kazandığı her 1 dolar karşında 82 sent kazandı. Siyah kadınlar, siyah erkeklerin kazandığı her dolar karşısında 91 sent kazandı. Ancak siyah kadınlar, beyaz erkekler karşısında sadece 61 sent kazandı. Latin kadınlarsa beyaz erkeklerle karşılaştırıldığında daha da az; sadece 53 sent kazandı.

Tüm bunların yapay zekâ dünyasında da etkisi vardır. İşe alımlarda veya terfilerde ücret belirlemek için kullanılan YZ tabanlı bir ücretlendirme aracının, bu verilerle beslendiğinde nasıl bir sonuç çıkaracağını hayal edin.

Kesişimsellikle ilgili zorluklar

Kesişimsellik kavramı, yapay zekâ dünyasında iyi algılandı ama üzerine çok da yoğunlaşılmadı. YZ araştırmacıları olarak, YZ algoritmalarının doğruluğuna katkı sunan veri kümelerinde çeşitliliğin ve bunların kesişiminin, doğruluğu nasıl etkilediğini inceledik. MIT Media Lab'den Joy Buolamwini ve daha sonra Microsoft Research'ten Timnit Gebru, yüz tanıma algoritmalarının farklı kesişim grupları için nasıl farklı sonuçlar doğurduğunu tartıştı. Buolamwini ve Gebru, ırk ve cinsiyetin kesiştiği noktalardaki farklı insan özelliklerine ilişkin algoritma performansını inceleyip YZ sistemleri için kesişimsellik denetiminin önemini gösterdiler.

De'Aira Bryant, Georgia Institute of Technology İnsan Otomasyon Sistemleri Laboratuvarındaki araştırma ekibinin bir parçası olarak yürüttüğü ilk çalışmada kesişimsellik kavramını ele aldı ve bir "çeşitlilik derecesi" tasarladı. Bu derecelendirme, YZ algoritmalarını eğitmek için kullanılan veri kümelerini denetlemek için yaş, cinsiyet ve etnik köken dahil çeşitli özelliklerin birleştirilmesine dayanıyor.

Ne yazık ki, umut verici olsa da bu çabalar, öncelikle yapay zekâ araştırma topluluğu içinde yürütülüyor. Tüketiciye yönelik uygulamalarda kullanılan sistemlerde, üçüncü taraflarca yapılan kesişimsel denetimler çok yavaş benimseniyor. Şirketler zamanla adil YZ geliştirme çabalarını attırsa da, bu algoritmaların çoğu hâlâ insan özelliklerini tek ve ayrı bileşenler olarak ele alıyor.

Aslında, çoğu YZ sistemi tek eksenli çözüm düşünülerek tasarlanmıştır; cinsiyet yaştan, yaş sosyoekonomik durumdan bağımsız bir bileşendir. Hata oranlarını hesaplamak için kullanılan temel kriterler, tek bir değişkenle sınırlıdır. Bu da doğruluğu etkiler.

Çözüm olabilecek kesişimsellik yaklaşımları

Bir organizasyonda kesişimselliği ele almak, o işyerinde üst düzey yönetimdeki ve YZ algoritmalarındaki kapsayıcılıkla ilgili daha büyük sorunları çözmenin en iyi yollarından biridir. Organizasyonlar, tüm benzersiz kesişimsel kimlik deneyimlerinin makul ve bilgilendirici olduğunu kabul etmelidir.

YZ uygulamalarındaki sorunu çözmenin dört yolu olduğunu düşünüyorum:

YZ sisteminizle etkileşime giren kesişimsel grupları belirleme konusunda bilinçli olun. Cinsiyet, yaş, yetenek ve/ veya engellilik durumu ve ırk ve/veya etnik kökenin nasıl dezavantaj yaratabildiğine; bunun diğer grupları nasıl avantajlı hale getirdiğine bakın.

Farklı kesişimsel gruplar arasındaki ölçütleri istatistiksel olarak değerlendirin. Farklı etki oranları gibi ölçütler değişiklik gösteriyor mu? Etki hakkında tahminlerde bulunmak için deneme yanılma gibi kaba kuvvet yöntemleri yerine yapay zekâ yöntemlerini kullanmak daha uygundur. Şirketler için, performansı bu şekilde değerlendirmek, kaç kişinin dezavantajlı durumda olduğunu (veya olmadığını) gerçekten anlamaya yardımcı olabilir.

Bu farklılıkların size sistem, süreç veya uygulamalarınız hakkında neler söylediğini düşünün. Bu, belki de en önemli adımdır. YZ, dikkatli şekilde oluşturulduğunda, tüm bireylerin yaşam kalitesi ve refahını artırma yeteneğine sahiptir. YZ sistemlerini kesişimsel çerçevede geliştirmek, toplumdaki bazı önyargıları azaltabilir.

İstatistiksel olarak yeterince temsil edilmeyen gruplara bilinçli olarak daha fazla hizmet eden bir model tasarlayın. Sorunları düşünün ve ardından verilerinizi kullanırken bu sorunların bazılarını düzelten bir model tasarlayın. İster inanın ister inanmayın, araştırmalar, kesişimsellik gruplarına özel önem vermenin hem yeterince temsil edilmeyen hem de fazla temsil edilen gruplar için daha iyi sonuçlar verdiğini gösteriyor. Algoritmalar tarafsızlıktan yoksun olabileceğinden, onları en baştan kesişimsellik kısıtlamalarına göre tasarlamak, kesişimsellik önyargısının bir kısmını azaltmaya yardımcı olur.

Kesişme önyargısı toplumda, toplum-devlet ve çalışan-yönetici etkileşiminde gerçekten vardır. Bu önyargı sadece çalışan düzeyinde değil yönetim kademesinde de mevcuttur. Liderlerin yüzde 21'i kadınlardan, bunların yüzde 4'ü beyaz olmayan kadınlardan ve yalnızca yüzde 1'i siyah kadınlardan oluşuyor. Kesişmeyle bağlantılı ayrımcılıklara maruz kalan çalışanların iş değiştirme oranları da daha yüksek ve bu da büyük bir maliyet kalemidir. Şirketler kesişimselliği, işe alımdan yapay zekâ teknolojilerine kadar tüm uygulamalarında ele aldığında, bu onlara büyük faydalar sağlar.

Etiketler: