Önyargılara sahip yapay zekalar mı geliştiriyoruz?
Hayatımızla ilgili kararları etkileyen algoritmalar içselleştirilirse, gelecekte hayatımızdaki yeri giderek genişleyecek olan robotlar, çeşitli önyargılara sahip olacak...
İngiliz iletişim denetleme kurumu Ofcom'un yaptırdığı araştırmaya göre ebeveynler, çocuklarının fotoğraflarını sosyal medyada paylaşma hususunda ikiye bölünmüş.
Anne ve babaların yarısından biraz fazlası, çocuklarının fotoğraflarını sosyal medyada asla yayınlamıyormuş. Gerekçe olarak da çocuklarının mahremiyetlerinin korunması gerektiğini gösteriyorlarmış.
Aslında fotoğraf paylaşanlar da mahremiyetin korunmasından yanaymış. Ancak fotoğrafları kimlerin görebileceğini belirledikleri için içleri rahatmış.
Sosyal medya, sadece ana babaları ikiye bölmekle kalmıyor…
Toplumu her konuda bölen en uygun mecra olma özelliğini sürdürüyor…
Bölünme meselesi elbette ki pek çok açıdan ele alınabilir, ancak biz meseleye ırkçılık tarafından bakalım…
Hayatımızla ilgili kararları etkileyen algoritmaların, insanlar ve toplumlar arası çeşitliliği göz ardı etmesi bir yana; neleri beğenmemiz gerektiğinden, hangi suçu onaylamamız hatta teşvik etmemiz gerektiğine kadar her şeyi onlar belirler hale geldiler.
Yapay zeka, ırkçı algoritmalar da mı içeriyor?
Grafik tasarımcısı Johanna Burai, Google aramalarında karşılaştığı sonuçların ağırlık olarak "beyaz" olması üzerine, kendi internet sitesini kurdu.
"World White Web Project" adlı internet sitesinde, bu ırkçı tutumu biraz olsun dengelemeye gayret gösteriyor.
En azından buna dikkat çekiyor.
Bunu niçin yaptığını merak ettiyseniz, Google’da "eller" ya da "bebekler" kelimelerini aratın.
Görsel arama sonuçlarında çoğunlukla beyaz insanları göreceksiniz.
Algoritmalarda adaletin sağlanması amacıyla kurulan Algorithmic Justice League (AJL) de, bu konudaki farkındalığın iyi örneklerinden.
“Beyaz maske takmak zorunda kalıyordum”
AJL’nin kurucusu olan Joy Buolamwini, ABD'nin tanınmış üniversitelerinden Massachusetts Institute of Technology'de (MIT) doktora öğrencisi.
Yapay zeka, siyah olan Joy Buolamwini'yi ten renginden dolayı tanımayınca, beyaz maske takmaya başlamış. Beş yıl sonra da bu projeyi başlatmış:
"Çok karışık hisler içindeydim. Hem bu sorunun beş yıldır halen devam ediyor olması karşısında kızıyordum, hem de beyaz maskenin bu kadar işe yaraması bana eğlenceli geliyordu."
Google’da teknik çalışanların sadece yüzde 19'u kadın, yüzde 1'i siyah
Boulamwini'ye göre, algoritmalardaki sorunun bir kaynağı, teknoloji endüstrisinde çalışanlar arasındaki çeşitlilik eksikliği.
Örneğin, Google'ın Ocak 2016'da paylaşılan raporunda, şirketin teknik departmanlarında çalışanların sadece yüzde 19'unun kadın olduğu, yüzde 1'inin de siyahlardan oluştuğu görülüyor.
Microsoft'un Eylül 2016'daki raporuna göre, teknik çalışanların yüzde 17.5'i kadın ve yüzde 2.7'si siyah ya da Afrikalı Amerikalı.
Facebook'un Haziran 2016'da yayınladığı raporda ise, ABD departmanının yüzde 17'sinin kadın ve yüzde 1'inin de siyahlardan oluştuğu belirtilmiş.
Yapay zeka, suça eğilimde siyahları öne koyuyor
İşte size bir “yapay zeka” ön yargısı daha…
Araştırmaya göre, ABD'de suçluların tespit edilmesi için kullanılan yapay zeka, beyazlara oranla siyahların suçlarla bağlantılı olması ihtimalini daha fazla varsayıyor.
Dünya değişirken, karar mekanizmalarındaki taraflılık ve önyargılar, ileride mutlak doğru olarak görülecek ve bu durumun farkında bile olmayacağız.
Eğer bu algoritmalar içselleştirilirse -ki içselleştirilecek gibi görünüyor-, gelecekte hayatımızdaki yeri giderek genişleyecek olan robotlar da aynı önyargılarla geliştirilmiş olacak...
