Zeka Yapay, Peki ya Etik?
Yapay Zekada Toplumsal Cinsiyet Eşitliği

Kadın Hakları Bilgi Platformu kurucusu Handan Uslu ile yapay zeka teknolojisini toplumsal cinsiyet eşitliği perspektifinden konuştuk. Uslu, reklam sektörü ve büyük teknoloji firmalarını ekranlarımızı ele geçirdiği bu dönemde, yapay zeka cinsiyetçiliğini, tüketim toplumu kavramı ile beraber değerlendirmeyi doğru bulduğunu söylüyor.

Modern dönemlerde politik doğruculuğun da ötesinde insanların varoluşsal bir görev olarak benimsemesi gereken kavram: eşitlik. Uzun yıllardır adımlarını gün geçtikçe güçlendiren toplumsal cinsiyet eşitliği yürüyüşü hayatın her alanında denetlenmesi gereken bir mücadele örneği gösteriyor. Öyle ki teknoloji alanın da bile artık toplumsal cinsiyet eşitliği reflekslerine rastlamak mümkün. İnsan eli ve zekasının oluşturduğu her şeyde binlerce yıllık alışkanlık ve değer yargılarının izini görmek mümkün. Yapay zekâ gibi insani veri ve kodlamaya dayanan bir teknoloji sisteminin de etik açıdan birçok denetime tabi tutulacağı aşikâr. WIRED.com’un yapay zekâ araştırmasına göre makine öğrenmesi alanında çalışanların yalnızca 12%’si kadın. World Economic Forum ve Linkedin araştırmasına göre ise yapay zekâ alanındaki kadın çalışanlar yalnızca 22%’lik bir kısmı oluşturuyor. Hal böyleyken toplumsal cinsiyet eşitliği hususunda yapay zekâ, programlamalarda ortaya çıkan cinsiyetçi dil veya verilerin cinsiyetçi yapısı gibi birtakım durumları bünyesinde barındırabiliyor. Yapay zekanın öğrenme sürecinde dikkat edilmesi gereken bir nokta olan bu durum, bilgisayar sektöründe yıllardan beri oluşturulan gelenekselci veri ve algoritmalar için ise daha çok efor gerektiriyor.

Amazon’un kullandığı sistemde, veri toplayıp model geliştirme amacıyla geçmişe dönük 10 yıllık öz geçmişler (CV) referans alınmış, sektörde erkeklerin egemen olmasından dolayı yapay zekâ, erkek personelin daha tercih edilir yargısına varıp, cinsiyetçi kararlara sebep olmuştu. ABD merkezli dev firma, ‘cinsiyetçi’ sonuçlar doğurduğu için dört yıl boyunca işe alımlarda kullanılan sistemden 2018 yılında vazgeçmişti.

Teknolojinin toplumsal yansımaları, interdisipliner bir konu. Tıklamaların ekonomisi, kapitalizmin motivasyonları, algoritmaların öncelikleri, insan doğası gibi birçok alanı anlamayı gerektiriyor.

Teknoloji dünyasındaki sosyolojik gerçeklerin çok geniş bir yelpazede birçok etkene sahip olduğunu belirten Kadın Hakları Bilgi Platformu kurucusu Handan Uslu, kadın ve ırk bağlamındaki eşitsizlikleri acı örneklerle açıklıyor: “İnternet, 90’larda özgürlük, anonimlik, kollektif birliktelik vaat ediyordu. Şu anki internet ekosistemi, insanlığın teknolojiden beklentilerinin zamanında fazla iyimser olduğunu gösteriyor. Reklam sektörü ve büyük teknoloji firmaları ekranlarımızı ele geçirdiği bu dönemde, yapay zekanın cinsiyetçiliğini, tüketim toplumu kavramı ile beraber değerlendirmeyi doğru buluyorum. Teknolojinin toplumsal yansımaları, interdisipliner bir konu. Tıklamaların ekonomisi, kapitalizmin motivasyonları, algoritmaların öncelikleri, insan doğası gibi birçok alanı anlamayı gerektiriyor. 

2015’te Google’ın görsel tanıma teknolojisinin, siyahi kişileri gorilla olarak etiketlemesiyle tekrar gündeme gelen halkla ilişkiler faciasının bir benzeri, Türkçe üzerinden yaşandı. Google’ın çeviri ürünü Google Translate’in, zamirlerin cinsiyetsiz olduğu Türkçe dilinden, he-she olmak üzere cinsiyeti olan zamirlere çeviri yapması gerektiğinde, algoritma cinsiyetçi kararlar aldı.

En belirgin cinsiyetçiliğin, mesleki terimlerin çevirisinde yaşandığını söyleyen Uslu, temizlikçi, hemşire, öğretmen gibi, toplumsal cinsiyet rollerinin kadına biçtiği mesleklerin, İngilizcedeki feminen zamir olan she ile çevrildiğini, mühendis, müdür gibi mesleklerin ise, “He is an engineer, he is a manager” olarak maskülen zamire çevrildiğini belirtti. 

Aslında Yapay Zekanın Yaptığı, Toplumu Yansıtmak

Yapay zekanın toplumsal aynadan yansıyan veriler ile oluştuğunu belirten Uslu, teknoloji dünyasının kendi sürekliliği adına etik adımlar attığını savunuyor: Aslında yapay zekanın yaptığı, toplumu yansıtmak. Kendi kendine karar vermeye başlamadan önce, mevcut veriler ile eğitilen bir sistemden bahsediyoruz. Türkçe’den İngilizce’ye yapılan çeviriler, hali hazırda bulunan bazı çeviriler ile eğitildi, ve bu kaynaklar cinsiyetçiydi. Aslında algoritmayı biz cinsiyetçi hale getirmedik.

Yapay zekanın etiğinin yönetilmesi gerektiğine dair akademi ve teknoloji sektörünün anlaşmaya varmış durumda olduğuna değinen Handan Uslu, ”Teknoloji sektörü kültürüne baktığımızda aslında bu beklenmedik bir refleks. Sektörün en büyük korkusu regüle edilmek, ancak konu yapay zekanın etiğine geldiğinde regüle edilmek isteniyor. Burada regüle edilme isteği de yine teknoloji sektörünün, tabi ki kendini koruma altına alma refleksi ile ortaya çıkıyor.” dedi.

Birçok optimizasyon metodu ile reklamlar aslında kadınları sürekli sınıflandırıyor, hedefliyor.

Yapay zekadaki eşitsizliğin ekonomik sistem bazlı temsillerinden örnekler sunan Uslu kalıplaşmış sosyal rollerin önyargılar ile örülü olmasına rağmen çıkar amaçlı kullanıldığını belirtiyor: Yapay zekanın en çok kullanıldığı bir diğer alan, reklam hedeflemesi. Google, Facebook gibi teknoloji firmalarının ana gelir modelini oluşturan dijital reklamlar ile geleneksel pazarlamaya kıyasla çok daha nokta atışı reklam hedeflemesi yapmak mümkün. İnternete bıraktığınız bütün davranışlarınıza göre karar veren reklamlar, sizin yaş grubunuzda, sosyo ekonomik durumunuza, daha önceki aramalarınıza özel reklamlar çıkarak, reklamlarının performanslarını arttırabiliyorlar. Bu şekilde hedeflemede amaç, tüketimi maksimize etmek. Burada, 30 yaş üstü kadınların sürekli cilt yenileme reklamlarının gösterilmesi, yirmili yaşlarındaki başındaki kadınlara taşıyıcı annelik reklamlarının çıkması gibi birçok optimizasyon metodu ile reklamlar aslında kadınları sürekli sınıflandırıyor, hedefliyor.

Sansür, otosansür gibi problemlerin olduğu bir internet ekosisteminde, daha derin ve kompleks yapıların incelenmesine henüz sıra gelmeyecek gibi duruyor.

Duruma dair etik reflekslerin kaynaklarını Türkiye ve Yurtdışı odaklı bir kıyas ile örnekleyen Uslu, yerli alanda aşılması gereken aşamalar olduğunu belirtiyor: “Yurtdışındaki politik ekosistemde, özellikle teknoloji firmalarının açıklarının bulunması, politikacı kariyeri açısından ses getiriyor. Bu firmalara kafa tutmak, yeni bir politik muhalefet alanı. Türkiye’de, internet regülasyonu üzerine tartışmalarda, asla bu firmaların topluma faydası ya da zararı ekseninde bir diyalog döndüğünü düşünmüyorum. Twitter’ın, Stanford Gözlemevi ile ortaklaşa yürüttüğü, ve Aktrol ağının yok etmesi olayını düşünelim, Türkiye’deki analist, teknoloji sektörü çalışanı ya da internet üzerine araştırma yapan aktörlerin girişimiyle gerçekleşmedi maalesef. Tabi bunun bir nedeni var, o da konu internete geldiğinde, henüz temel hak ve hürriyetlerimizi koruyamamış olmamız. Sansür, otosansür gibi problemlerin olduğu bir internet ekosisteminde, daha derin ve kompleks yapıların incelenmesine henüz sıra gelmeyecek gibi duruyor.”