George Mason ve Emory Üniversitesi’ndeki Araştırmacılar ‘RES’i Geliştiriyor: Açıklama Denetimi ile DNN’leri (Derin Sinir Ağları) Açıklamayı Öğrenmek için Sağlam Bir Python Çerçevesi

Şu yazıyı okuyorsunuz: George Mason ve Emory Üniversitesi’ndeki Araştırmacılar ‘RES’i Geliştiriyor: Açıklama Denetimi ile DNN’leri (Derin Sinir Ağları) Açıklamayı Öğrenmek için Sağlam Bir Python Çerçevesi

Açıklanabilirlik veya açıklanabilir yapay zeka üzerine yapılan çalışma, DNN’lerin çeşitli uygulama alanlarında erişilebilir hale gelmesiyle şu anda büyük ilgi görüyor. DNN’in kara kutusunu açma çabası içinde.

Yerel açıklama teknikleri son yıllarda araştırmalarda hızlı bir büyüme kaydederken, açıklamaların doğru veya makul olup olmadığını, öyle ise ne yapılacağını ve bunların nasıl değiştirileceğini anlamaktan ziyade, açıklamaların üretilmesinin yönetilmesine odaklanılmıştır. Modelin daha kesin veya makul açıklamalar üretmesini sağlar.

Açıklama prosedürlerinden elde edilen denetleyici sinyalleri kullanarak model oluşturucuların modellerini geliştirmelerine yardımcı olan açıklama izleme stratejileri, bazı umut verici sonuçlar vermeye yeni başladı. Bunun sonuçları arasında, her veri özelliği için doğru insan açıklama etiketlerinin sağlanabildiği çeşitli veri formatlarında DNN’lerin içsel yorumlanabilirliğinin ve genelleştirilmesinin geliştirilmesi yer alır.

Metin verileri ve atfedilen veriler bu veri türlerine örnektir. Ancak açıklamanın belirginlik haritaları kullanılarak görselleştirildiği görüntü verilerinde açıklama yönetimi konusunda halen yeterli çalışma bulunmamaktadır. İnsan açıklama sınırının yanlışlığı ve insan açıklama bölgesinin eksikliği, görsel açıklamaların düzenlenmesinde ortaya çıkan doğal zorluklardan sadece birkaçıdır.

Yakın zamanda yayınlanan bir makalede, George Mason Üniversitesi ve Emory Üniversitesi’nden araştırmacılar, DNN’lere açıklama denetimi altında kendilerini açıklamayı öğretmek için genel bir paradigma önerdiler. Grup, hem olumlu hem de olumsuz açıklamalar için etiketlerle DNN’lerde açıklama izlemeyi mümkün kılan ve halihazırda kullanımda olan birçok farklılaştırılabilir açıklama tekniğiyle kullanılabilen birleştirici bir çerçeve sundu.

Kaynak: https://arxiv.org/pdf/2206.13413v1.pdf

Araştırmacılar, gürültülü insan açıklamalarından gelen etiket izleme sinyalini işleyebilecek sağlam bir model hedefi oluşturdular. Gürültülü insan açıklama etiketlerini denetleyici bir sinyal olarak kullanmak için, belirsiz bir kenar, eksik bir bölge ve tutarsız bir dağılım gibi zorlukların üstesinden gelebilecek yeni ve sağlam bir açıklama kaybı önerdiler. Araştırmacılar, resmi bir teorem kullanarak omurga DNN modellerini eğitmek için önerilen sağlam açıklama kaybını kullanmanın genelleme hatası için bir üst sınır belirlediler.

Grup, önerilen paradigmanın etkinliğini doğrulamak için kapsamlı niceliksel ve niteliksel deneysel analizler gerçekleştirdi. Sahne tanıma ve cinsiyet sınıflandırması için iki gerçek dünya görüntü veri kümesini kullanan kapsamlı testler, önerilen çerçevenin temel DNN’lerin öngörülebilirliğini ve açıklanabilirliğini önemli ölçüde arttırdığını gösterdi. Ayrıca önerilen çerçevenin ne kadar etkili olduğunu örnek olay çalışmaları ve model açıklamasının kullanıcı çalışmaları aracılığıyla ortaya koymak amacıyla nitel değerlendirmeler sunulmuştur.

Çözüm

George Mason Üniversitesi ve Emory Üniversitesi’nden araştırmacılar yakın zamanda, model genellemesinin faydasını teorik olarak gerekçelendiren gürültülü insan açıklama etiketlerini denetleyici bir sinyal olarak ele alabilecek yeni bir açıklama modeli hedefi geliştirmek için işbirliği yaptı. Bu çalışma, görsel açıklamaların izlenmesi için genel bir çerçeve öneren yeni bir makale olarak yayımlandı. İki gerçek dünya görüntü veri kümesi üzerinde yapılan kapsamlı testler, önerilen çerçevenin omurga DNN modelinin performansının yanı sıra açıklamanın açıklanabilirliğini nasıl iyileştirdiğini göstermektedir. Çalışmalar, önerilen RES çerçevesinin oldukça az sayıda eğitim örneği üzerinde etkinliğini göstermiştir, ancak insan açıklama etiketlerinden elde edilen ek veriler hazır olmayabilir. Bu, veri örneklerinin seyrek olduğu ve elde edilmesinin zor olduğu uygulama alanları için avantajlı olabilir.

Bu makale Marktechpost personeli tarafından ‘belgesine dayanarak özet makale olarak yazılmıştır’RES: görsel açıklamaya rehberlik edecek sağlam bir çerçeve‘. Bu araştırmanın tüm kredisi bu projenin araştırmacılarına aittir. Görüntüle kağıt Ve github.

Lütfen katılmayı unutmayın ML alt dizimiz

Yüzlerce Harika Yapay Zeka Aracını bulmak için https://aitoolsclub.com adresini ziyaret edin