07.03.2018 / 10:49

Halef R.  VAYIS

Yapay zekanın önümüzdeki 5 yıl içinde yaşatabileceği tehlikeler…

Yapay zeka sistemleri sadece insan seviyesinde performansa ulaşmıyor, aynı zamanda onu önemli ölçüde aşıyor. Özellikle endişe verici olan da bu; rehberlik eden ya da bir insan örneği olmadan, insanüstü seviyelerde zekaya sahip olacak şekilde eğitilmeleri…

 

Son yıllarda teknoloji dünyasının tüm dikkati yapay zeka üzerine çevrili. Gelecek adeta onun etrafında şekillendiriliyor. Gün geçmiyor ki, yapay zeka hakkında olumlu veya olumsuz bir görüş duymayalım.

Sonuçta insan, iyi ya da kötü her türlü amacını yapay zeka yoluyla kolayca uygulayabilir hale geldi. Şüphesiz iyileri insanın yaşamını kolaylaştırıyor. Ancak bir de kötü amaçlı olanları var ki... İşte bizim bu haftaki konumuz bu…

Olumsuz etki, son günlerde medyada sıkça dile getirildiği gibi sadece ‘insanın iş kaybı’ ile sınırlı değil maalesef.

Uluslararası güvenlik uzmanlarından oluşan 26 kişilik bir grup, yapay zekanın getirdiği tehditlerin gerçek olduğuna ve şimdiden uygulamaya konduğuna dikkat çekerken, kötü niyetle kullanılması halinde oluşacak tehlikeler hakkında da bir rapor yayımladılar.

Yüz sayfalık raporda, yapay zekayı tasarlayanlar, teknolojinin kötüye kullanımını engellemek için daha fazla çaba sarf etmeleri konusunda uyarılıyor. Siyasi yetkileri elinde tutanların ise bu konuda yapması gerekenler özetle şöyle sıralanıyor:

- Kanun koyucular ve teknik araştırmacılar, yapay zekanın kötüye kullanımının açacağı sorunları anlamak ve buna karşı hazırlanmak için birlikte çalışmalılar.

- Yapay zeka olumlu amaçlar için kullanılabilse de, gerçekte iki taraflı bir teknoloji olduğunun farkına varılmalı. Yapay zeka araştırmacıları ve mühendisleri çok dikkatli olmalı, kötüye kullanılma ihtimalini de göz önünde bulundurmalı.

- Bilgisayar güvenliği gibi, uzun zamandır çift yönlü riskleri olan disiplinlerden ders çıkarmalı.

- Yapay zekanın kötüye kullanılmasının oluşturacağı tehditleri önlemek ve azaltmak konusunda daha fazla çıkar grubu harekete geçmeli.
Cambridge Üniversitesi Varoluşsal Risk Araştırması Merkezi'nden Shahar Avin, BBC'ye yaptığı açıklamada, raporda yapay zekanın uzak bir geleceğe dair ortaya koyduğu tehditlerden ziyade, şu an getirdiği ya da önümüzdeki beş yıl içinde getirebileceği tehditlerin ele alındığını söyledi.

Yakın tehlikeler…

Yapay zekada özellikle endişe verici olan, rehberlik eden ya da bir insan örneği olmadan, insanüstü seviyelerde zekaya sahip olacak şekilde eğitilmeleri.

Shahar Avin, yakın gelecekte yapay zekanın kötü amaçlı kullanılabileceği muhtemel birkaç senaryoyu sıraladı:

- Google'un yapay zeka şirketi DeepMind tarafından geliştirilen ve zekasıyla rakiplerini alt eden AlphaGo oyunu, bilgisayar korsanları tarafından verilerde yeni örüntüleri ve kodlardan yararlanmanın yeni yollarını bulmak için kullanılabilir.

- Kötü niyetli kişi, insansız hava aracı satın alarak, birini hedef alması için onu yüz tanıma yazılımıyla eğitebilir.

- Bot'lar otomatikleştirilebilir ya da sahte videolar siyasi manipülasyon için kullanılabilir.

- Bilgisayar korsanları hedeflerin kimliğine bürünmek için ses sentezini kullanabilir.

Oxford Üniversitesi İnsanlığın Geleceği Enstitüsü'nden araştırmacı Miles Brundage ise şöyle diyor:

"Yapay zeka, vatandaşlar, organizasyonlar ve devletler için risklerin büyüklüğünü değiştirecek. Suçlular, makineleri hack’lemek ya da şifre çalmak üzere insan kapasitesi seviyesinde eğitebilir ya da gözetleme, fişleme ve baskı amacıyla kullanabilir. Yapay zekanın güvenlik üzerindeki etkisi çok büyük olacak..."

Genellikle yapay zeka sistemleri sadece insan seviyesinde performansa ulaşmıyor, aynı zamanda onu önemli ölçüde aşıyor.

Yani kendimizden hem daha güçlü hem daha akıllı varlıklar geliştiriyoruz.
Böyle bakınca, insanın ne kadar cesur olduğu görülüyor.

Cahil cesareti mi, özgüvene dayalı bir cesaret mi?

Fazla uzak olmayan bir tarih gösterecek?

 

twitter.com/HalefRVayis

 
YORUMLAR

Yazarın Diğer Yazıları

>> 2050 yılına gelindiğinde… - 12.12.2018
>> “Harekete geçirmek için öfkeyi kullanmak” - 05.12.2018
>> İnsan mı robot mu, nasıl anlayacağız? - 28.11.2018
>> Bildiğimiz internetin sonuna mı geldik? - 21.11.2018
>> Dünya Venüs’e dönüşebilir… - 14.11.2018
Medyaloji Yazarları
Halef R.  VAYIS Bülent BİRİCİK Neslihan KABAOĞLU Hüseyin MOVİT
2050 yılına gelindiğinde…
Tüm Yazarlar