09.08.2017 / 10:55

Halef R.  VAYIS

Önyargılara sahip yapay zekalar mı geliştiriyoruz?

Hayatımızla ilgili kararları etkileyen algoritmalar içselleştirilirse, gelecekte hayatımızdaki yeri giderek genişleyecek olan robotlar, önyargılara sahip olacak...

 

İngiliz iletişim denetleme kurumu Ofcom'un yaptırdığı araştırmaya göre ana-babalar, çocuklarının fotoğraflarını sosyal medyada paylaşma konusunda ikiye bölünmüş.

Anne ve babaların yarısından biraz fazlası, çocuklarının fotoğraflarını sosyal medyada asla yayınlamıyormuş. Gerekçe olarak da çocuklarının mahremiyetlerinin korunması gerektiğini gösteriyorlarmış.

Aslında fotoğraf paylaşanlar da mahremiyetin korunmasından yanaymış. Ancak fotoğrafları kimlerin görebileceğini belirledikleri için içleri rahatmış.

Sosyal medya, sadece ana babaları ikiye bölmekle kalmıyor…

Toplumu her konuda bölen en uygun mecra olma özelliğini sürdürüyor…

Bölünme meselesi elbette ki pek çok açıdan ele alınabilir, ancak biz meseleye ırkçılık tarafından bakalım…

Hayatımızla ilgili kararları etkileyen algoritmaların, insanlar ve toplumlar arası çeşitliliği göz ardı ediyor olması, endişelerimizi çoğaltıyor çünkü.

Neleri beğenmemiz gerektiğinden, hangi suçu onaylamamız hatta teşvik etmemiz gerektiğine kadar her şeyi, işte bu algoritmalar belirliyor.

Bu yolla, görünmez çeşitli baskılar oluşturulunca, birçoğumuz çeşitli ön yargılarla hareket etmeye başlıyor ve biz istemesek de karar süreçlerinde beynimiz etki altında kalabiliyor.

 

Yapay zeka, ırkçı algoritmalar da mı içeriyor?

Grafik tasarımcısı Johanna Burai, Google aramalarında karşılaştığı sonuçların ağırlık olarak "beyaz" olması üzerine, kendi internet sitesini kurdu.

"World White Web Project" adlı internet sitesinde, bu ırkçı tutumu biraz olsun dengelemeye gayret gösteriyor.

En azından buna dikkat çekiyor.

Bunu niçin yaptığını merak ettiyseniz, internette herhangi bir arama motorunda "eller" ya da "bebekler" kelimelerini aratın.

Görsel arama sonuçlarında çoğunlukla beyaz insanları göreceksiniz.

Algoritmalarda adaletin sağlanması amacıyla kurulan Algorithmic Justice League (AJL) de, bu konudaki farkındalığın iyi örneklerinden.

“Beyaz maske takmak zorunda kalıyordum”

AJL’nin kurucusu olan Joy Buolamwini, ABD'nin tanınmış üniversitelerinden Massachusetts Institute of Technology'de (MIT) doktora öğrencisi.

Yapay zeka, siyah olan Joy Buolamwini'yi ten renginden dolayı tanımayınca, beyaz maske takmaya başlamış. Beş yıl sonra da bu projeyi başlatmış:

"Çok karışık hisler içindeydim. Hem bu sorunun beş yıldır halen devam ediyor olması karşısında kızıyordum, hem de beyaz maskenin bu kadar işe yaraması bana eğlenceli geliyordu."

Google’da teknik çalışanların sadece yüzde 19'u kadın, yüzde 1'i siyah

Boulamwini'ye göre, algoritmalardaki sorunun bir kaynağı, teknoloji endüstrisinde çalışanlar arasındaki çeşitlilik eksikliği.

Örneğin, Google'ın Ocak 2016'da paylaşılan son raporunda, şirketin teknik departmanlarında çalışanların sadece yüzde 19'unun kadın olduğu, yüzde 1'inin de siyahlardan oluştuğu görülüyor.

Microsoft'un Eylül 2016'daki raporuna göre, teknik çalışanların yüzde 17.5'i kadın ve yüzde 2.7'si siyah ya da Afrikalı Amerikalı.

Facebook'un Haziran 2016'da yayınladığı raporda ise, ABD departmanının yüzde 17'sinin kadın ve yüzde 1'inin de siyahlardan oluştuğu belirtilmiş.

Yapay zeka, suça eğilimde siyahları öne koyuyor

İşte size bir “yapay zeka” ön yargısı daha…

Araştırmaya göre, ABD'de suçluların tespit edilmesi için kullanılan yapay zeka, beyazlara oranla siyahların suçlarla bağlantılı olması ihtimalini daha fazla varsayıyor.

Dünya değişirken, karar mekanizmalarındaki taraflılık ve önyargılar, ileride muğlak doğru olarak görülecek ve bu durumun farkında bile olmayacağız.

Eğer bu algoritmalar içselleştirilirse, gelecekte hayatımızdaki yeri giderek genişleyecek olan robotlar da aynı önyargılarla geliştirilmiş olacak...

 

twitter.com/halefrvayis

 

 
YORUMLAR

Yazarın Diğer Yazıları

>> Yapay zeka, savaş ve işsizlik… - 18.10.2017
>> Algı yoluyla manipülasyon - 11.10.2017
>> Kadınlar dört haftada dünyayı değiştirebilir mi? - 04.10.2017
>> Doğanın kendisi kapitalist değildir… - 27.09.2017
>> Eskiden vazgeçmeyen, eskimiş midir? - 20.09.2017
Medyaloji Yazarları
Neslihan KABAOĞLU Halef R.  VAYIS Hüseyin MOVİT Duygu ÇAVDAR
Kadir İnanır yine sahnede…
Tüm Yazarlar