Ön yargılı Robotlar: İnsan Ön yargıları Yapay Zeka Sistemlerine Sızıyor

http:bilgilihocamcominternaldatasonyargilirobotlarinsanonyargilariyapayzekasistemlerinesiziyor5c2f54838d46dpng Cansu ErgünUzmanlar; yapay zekânın geleceğine ilişkin tartışmalarda, yeni sistemlerin katı bir biçimde akılcı ve objektif bir şekilde akla yatkın olacağını düşünüyor Oysaki bayağı cihaz öğrenmesi programları kolay insan diliyle eğitildiklerinde, muhakkak ifade kalıplarına gömülmüş kültürel ön yargılara sahip olabiliyor Bu ön yargılar, çiçekleri böceklere tercih etmekten; millet ve toplumsal cinsiyet konularında tatsız görüşlere sahip olmaya kadar geniş bir yelpazeye uzanabilirOnline metin araması yapmak veya otomatik tercüme sistemlerini göstermek doğal dilin işlenerek bilgisayarlara aktarılmasına birer örnektir Alet öğrenmesindeki muhtemel ön yargıların ele alınması, iletişimin bu şekilde sağlanmaya başlanmasıyla birlikte önemli ayla geliyor  http:bilgilihocamcominternaldatasonyargilirobotlarinsanonyargilariyapayzekasistemlerinesiziyor5c2f54839b98apngPrinceton Üniversitesi Veri Teknolojileri Politikaları Merkezi ’nde ve Stanford Hukuk Okulu İnternet ve Toplum Merkezi ’nde incelemeler yapan Arvind Narayanan ,Cihaz öğrenmesindeki yargı ve ön yargılara dair sorular toplum için muazzam derecede önemlidir diyorPrinceton Üniversitesi ’nden Aylin Çalışkan önderliğinde yazılan, Dil korpusundan otomatik olarak türetilen anlambilim, insana benzer ön yargılar içerir isimli bu çalışmaya ilişkin makale Science dergisinde 14 Nisan 2019 ’de yayınlandıÇalışmada, 1990 ’larda Washington Üniversitesi ’nde geliştirilmesinden daha sonra böylece çok sosyal psikoloji çalışmasında kullanılan Örtük Çağrışım Testi ’ne başvuruldu Bu test, katılımcıların bir bilgisayar ekranında görüntülenen kelimeleri eşleştirme sürelerini (milisaniye cinsinden) ölçen bir testtir Örtük Çağrışım Testi tekrar tekrar gösterildiğindeyse, katılımcıların benzer kavram çiftlerini bulma süresi; bambaşka olduğunu düşündükleri iki kavramı eşleştirme sürelerine oranla daha kısadırÖrneğin, çiçeklerden “gül ve “papatya; böceklerdense “karınca ve “güve kelimelerini ele alalım Bu kelimeler, hızlı bir şekilde “sarılmak ve “hoşlanmak gibi güzel; veya “kirli ve “çirkin gibi hoş olmayan kavramlarla eşleştirilebilir  Princeton ekibi, Örtük Çağrışım Testi ’nin alet öğrenmesi sürümü sayılabilecek GloVe adlı programı kullanarak bir deney tasarladı Program, Stanford Üniversitesi ’nden araştırmacılar kadar geliştirilen popüler, açık kaynaklı ve bir başlangıçup bir alet öğrenmesi şirketinin temel olarak kullanacağı cinsten bir programdır GloVe algoritması –mesela 10 kelime penceresinden oluşan bir metindeki kelimelerin eşdizim istatistiğini betimler Birbirine sık sık yakın beliren kelimeler arasındaki çağrışım, nadiren yakın belirenlere oranla daha fazladırGloVe, Stanford araştırmacıları göre 840 milyar sözcük taşıyan dünya çapındaki internet ağında yer alan büyük içerik trolüne bırakıldı Yazılmış insan kültürünün bu büyük örneklem kümesinde, Narayanan ve meslektaşları “bilgisayar programcısı, mühendis, bilim insanı ve “hemşire, hoca, kütüphaneci gibi kelimeleri; “adam, erkek ve “kadın, kadınsı gibi iki niteleyici kelime seti ile birlikte incelediler Amaçları ise insanların farkında olmadan sahip olabileceği türden ön yargılara dair kanıtlar bulmaktıElde ettikleri sonuçlarda çiçekleri böceklere tercih etmek gibi masum ve zararsız ön yargılar çıktığı gibi; toplumsal cinsiyet ve halk sınırlarındaki ön yargıları taşıyan örnekler de vardı Princeton alet öğrenmesi deneyi, uzun senelerdir insanlara ait temalara dayanan Örtük Çağrışım Testi çalışmalarında yer alan ön yargının ispatını gerçekleştirebilmiştiÖrneğin; makine öğrenmesi programı bayan isimlerini daha ziyade aileye atıfta yer alan “annebaba ve nikah gibi kelimelerle eşleştirmişti Erkek isimlerini ise, kariyer ile ilişkilendirilen “profesyonel ve ücret gibi kelimelerle Tabii oysa, bunun gibi sonuçlar gerçeğin ve cinsiyetler arası eşit dağılmayan meslek tiplerinin sadece objektif bir yansımasıdırBununla birlikte meslekler hakkındaki bu ön hak, negatif cinsiyetçi etkilere niçin olabilir Örneğin yabancı diller, makine öğrenmesi programları göre naifçe işlendiğinde bu programlar toplumsal cinsiyet kalıplarına yerinde cümleler oluşturur Türkçe ’de üçüncü birey (“o) zamiri cinsiyetsizdir Hepimizin bildiği tercüme servisi Google Çeviri ’ye O bir doktorve O bir hemşirecümleleri yazıldığında, İngilizce ’ye He is a doctorve She is a nursebiçiminde çevriliyorDiğer bir tatsız örnek ise, 2019 ’te Harvard Üniversitesi ’nden Sendhil Mullainathan ’a ve Chicago Üniversitesi ’nden Marianne Bertrand ’a ait bir makalede geçiyor Araştırmacılar; 1300 iş ilanına 5000 adet benzer özgeçmişi, yalnız başvuran kişinin adını AvroAmerikan veya AfroAmerikan olacak şekilde değiştirerek gönderdiler Birincil grup ikinciye oranla % 50 daha fazla mülakata çağrıldı Princeton ekibinin yeni çalışması ise, bu ön yargıyı doğrulayacak şekilde AfroAmerikan isimlerinin AvroAmerikan isimlerinden daha kötü çağrışımlar yaptığını ispatladıBilgisayar programcıları, yapay akıl sistemlerinin aşağı yatan makine öğrenmesi programlarını açık ve matematik temelli olarak geliştirerek belli kültürel stereotipleştirmelerin önüne geçebilirler Anne babalar ve danışmanların çocuklarda ve öğrencilerde yargı ve denklik kavramlarını aşılamaya çalışmaları gibi; kod yazanlar da makinelerin insan doğasının iyi taraflarını yansıtmalarına muavin olabilirKaynakPrinceton University, Engineering School Biased bots: Human prejudices sneak into artificial intelligence systemsScienceDaily ScienceDaily, 13 April 2019  http:wwwsciencedailycomreleases201904170413141055htmÇalışmayawwwsciencedailycomreleases201904170413141055htmÇalışmaya ait yayınlanmış makale:Aylin Caliskan, Joanna J Bryson, Arvind Narayanan Semantics derived automatically from language corpora contain humanlike biases Science, April 2019 DOI: 101126scienceaal4230Konuyla ilgili ek okumalar:“Tabula rasa robot Tay ve Twitter ’da Cinsiyetçilik http:catlakzemincomtabularasarobottayvetwitterdacinsiyetcilik2“Zo ve depolitize edilmiş zekası http:catlakzemincomzodepolitizeedilmiszekasi sizlere bilgilihocamcom farkıyla sunulmuştur