Yazıyı okuyorsunuz: Çalışma, yapay zeka modellerinin insanın görsel işlemesiyle eşleşmediğini gösteriyor
York Üniversitesi’nden yeni bir çalışma, derin evrişimli sinir ağlarının (DCNN), yapılandırılabilir şekil algısını kullanarak insanın görsel işlemesini eşleştirmede başarısız olduğunu gösteriyor. Araştırmanın ortak yazarı Profesör James Elder’a göre bu durumun, yapay zeka uygulamaları için gerçek dünyada ciddi ve tehlikeli sonuçları olabilir.
“ başlıklı yeni çalışmaDerin öğrenme modelleri, insan şekli algısının yapısal doğasını yakalamakta başarısız oluyorCell Press dergisinde yayınlandı iScience.
Bu, İnsan Görüşü ve Bilgi İşlem alanında York Araştırma Kürsüsü’nü elinde bulunduran ve aynı zamanda York Yapay Zeka ve Toplum Merkezi Eş Direktörü Elder ile psikoloji alanında yardımcı doçent ve eski Profesör Nicholas Baker’ın ortak çalışmasıydı. York’ta VISTA doktora sonrası araştırmacısı.
Roman Görsel Uyaranlar “Frankensteins”
Ekip, hem insan beyninin hem de DCNN’lerin nesnelerin bütünsel ve yapılandırılabilir özelliklerini nasıl işlediğini keşfetmelerine yardımcı olan “Frankenstein’lar” adı verilen yeni görsel uyaranlardan yararlandı.
Elder, “Frankenstein’lar basitçe parçalara ayrılıp tersten bir araya getirilen nesnelerdir” diyor. “Sonuç olarak, tüm doğru yerel özelliklere sahipler ancak yanlış yerlerdeler.”
Çalışma, DCNN’lerin, insanın görsel sistemi gibi Frankenstein’larla karıştırılmadığını buldu. Bu, konfigürasyon nesnesinin özelliklerine karşı duyarsızlığı ortaya koymaktadır.
Elder şöyle devam ediyor: “Sonuçlarımız, derin yapay zeka modellerinin belirli koşullar altında neden başarısız olduğunu açıklıyor ve beyindeki görsel işlemeyi anlamak için nesne tanımanın ötesindeki görevlerin dikkate alınması gerektiğine işaret ediyor.” “Bu derin modeller, karmaşık tanıma görevlerini çözerken ‘kısayollara’ başvurma eğilimindedir. Bu kısayollar birçok durumda işe yarasa da, şu anda endüstri ve hükümet ortaklarımızla üzerinde çalıştığımız bazı gerçek dünya yapay zeka uygulamalarında tehlikeli olabilir.”
Resim: York Üniversitesi
Gerçek dünya etkileri
Elder, bu uygulamalardan birinin de trafik video güvenlik sistemleri olduğunu söylüyor.
“Trafiğin yoğun olduğu bir sahnedeki nesneler (araçlar, bisikletler ve yayalar) birbirini engelliyor ve birbiriyle bağlantısız parçalardan oluşan bir karmakarışıklık halinde sürücünün gözüne ulaşıyor” diyor. “Beynin, nesnelerin doğru kategorilerini ve konumlarını belirlemek için bu parçaları doğru bir şekilde gruplaması gerekiyor. “Trafik güvenliğini izlemeye yönelik, yalnızca parçaları tek tek algılayabilen bir yapay zeka sistemi bu görevde başarısız olacak ve potansiyel olarak savunmasız yol kullanıcılarına yönelik riskleri yanlış yorumlayacaktır.”
Araştırmacılar ayrıca ağları daha beyne benzer hale getirmeyi amaçlayan eğitim ve mimari değişikliklerin, yapısal işlemeyi başaramadığını söylüyor. Her iki ağ da, deneme bazında insan nesne kararlarını doğru bir şekilde tahmin edemedi.
Elder, “İnsanın yapılandırma duyarlılığına uyum sağlamak için ağların, kategori tanımanın ötesinde daha geniş bir yelpazedeki nesne görevlerini çözecek şekilde eğitilmesi gerektiğini düşünüyoruz” diye bitiriyor.
