Çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle bir arada yarattığı problemlerle da gündemde.
Temelini derin öğrenme (deep learning) ismi verilen bir sistemden alan yapay zeka eserler, internette bulunan mevcut bilgilerden öğrenerek kendi davranışlarını geliştiriyor.
Mevcut datalarda bulunan önyargı ve ayrımcılık üzere istenmeyen özellikleri de öğrenen yapay zeka eserler, geçmişte pek çok skandala da imza atmıştı.
2016 yılında Microsoft tarafından geliştirilen ve twitterde kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap “Tay” çok kısa bir müddet içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay’ın tweetlerine müdahale etmek zorunda kalmıştı.
Ayrımcılığın önüne geçme hedefi
Amerikan teknoloji sitesi CNET’te yer alan habere nazaran, Google Üst Yöneticisi (CEO) Sundar Pichai, yapay zekayı besleyen datalarda bulunan ayrımcı ön yargıları engellemek için harekete geçtiklerini bildirdi.
7 Mayıs’ta başlayan ve dün sona eren “Google I/O 2019” konferansında konuşan Pichai, TCAV sistemi ile makine öğrenmesinin çalışma yollarını tahlil ettiklerini ve yapay zekanın karar verme sistemlerindeki açıklarını düzeltmeye çalıştıklarını kaydetti.
Pichai, “TCAV, şayet bir yapay zeka beslendiği datalardan ötürü hekim olmak için erkek olmak gerektiği üzere bir ön yargıya sahipse bu yanılgıyı açığa çıkarabiliyor.” sözünü kullandı.