Yazıyı okuyorsunuz: UCLA, UCSD, Pekin Üniversitesi ve Pekin Genel Yapay Zeka Enstitüsü’nden (BIGAI) araştırmacılar yakın zamanda açıklayabilen yeni bir yapay zeka sistemi geliştirdiler…
Bir araştırmacı ekibi, karar verme prosedürlerini bilgisayar kullanmayan kullanıcılara açıklayabilen yeni bir yapay zeka sistemi oluşturdu. Sistem, yapay zekanın geliştirilmesinde daha güvenilir ve anlaşılır yeni bir atılımı temsil edebilir. Açıklanabilir yapay zeka alanı, robotlar ve insanlar arasında işbirliğine dayalı bir güven oluşturmayı amaçlıyor.
XAI’nin amacı insanlar ve robotlar arasındaki işbirliğini ve güveni artırmaktır. DARPA XAI Projesi bu çalışma alanının gelişimi için mükemmel bir katalizör oldu. Ekip, açıklanabilir sistemlerin, insan-makine etkileşimleri sırasında kullanıcıların algılarını ve yapay zekaya olan güvenini nasıl etkileyebileceğini araştırdı. Araştırmacılar esas olarak yapay zeka sistemlerinin kullanıcı adına nasıl karar verdiğini göstererek sınıflandırma görev modellerini analiz ediyor. “Pasif makine aktif kullanıcısı” paradigması, kullanıcıların yapay zeka kararlarının ardındaki mantığı anlamak için sürekli olarak XAI sistemleriyle iletişim kurmasını gerektirir.
Araştırmacılar “değer uyumu” olarak bilinen şeyi başarmayı amaçlayan bir sistem geliştirdiler. Bir robot veya makine, bir insan kullanıcının eylemlerinin veya sonuçlarının ardındaki nedenleri anlayabilir. Bu, insanlar ve robotlar arasındaki iletişimi ve etkileşimi büyük ölçüde geliştirebilir.
Araştırmacılar, oyuncuların XAI sistemlerini eğitmek ve değerlendirmek için görevleri tamamlamak üzere işbirliği yaptıkları “keşif keşfi” adı verilen bir oyun yarattılar. İnsanların ve robotların sözde “değer işlevlerini” uyumlu hale getirme gerekliliği, oyunun en önemli unsurlarından biridir.
Kaynak: https://www.science.org/doi/10.1126/scirobotics.abm4183Araştırmacılara göre, robotlardan oluşan bir koleksiyon, oyundaki çevrelerini algılayarak, robotların bağımsız olarak çalışmasını ve insan müdahalesine olan ihtiyacı azaltmayı amaçlayan gerçek dünya uygulamalarını simüle edebiliyor. İnsan kullanıcı çevreyle doğrudan etkileşime giremediğinden, kullanıcıya bazı parametrelerin ağırlıklandırılmasıyla temsil edilen belirli bir değer fonksiyonu verilmiştir.
Scouting oyununda robot ekibinin insan kullanıcılara sağlanan değer fonksiyonuna erişimleri olmadığından bir çıkarım yapması gerekmektedir. Açıklamak ve iletişim kurmak zor olduğundan, robot ve insan ekibinin görevi tamamlamak için birbirlerinden bu değeri çıkarması gerekir.
Robot ekibinin, “keşif keşfi”ndeki görevleri tamamlamak için esasen yalnızca insan geri bildirimlerine dayalı olarak insan kullanıcıların değer işlevini anlaması gerekir. İnsan kullanıcılar, robotların gelişmesine yardımcı olacak geri bildirimler sağlayabilir ve mevcut değer tahminlerine aşina oldukça onları uygun tepkiye yönlendirebilir.
Araştırmacılar tarafından geliştirilen sistem, ilk değerlendirmelerde dikkate değer sonuçlar göstererek, keşif keşif oyununda değerlerin etkileşimli ve anında hizalanmasını sağladı. Ekip, kullanıcılar oyunun yarısında robotun değer işlevlerini doğru bir şekilde algılayabilse de, robotun oyunun %25’inde insan kullanıcının değer işleviyle uyumlu hale geldiğini buldu.
Kullanıcının gerçek değeri, robotların değerinin kullanıcının gerçek değerlerine yakınsaması ve kullanıcının robotların önemine ilişkin tahmini ile robotların mevcut değerlerinin yakınsaması ile oluşan çift yönlü bir değer hizalaması için bir çapa görevi görür. Araştırmacının yaklaşımı, romanlarda ve beyazperdede tasvir edilen birçok distopik bilim kurgu öyküsünden kaçınmak için gerekli olan etkileşimler yoluyla niyetlerimizi ve değerlerimizi öğrenen ve anlayan akıllı makineler inşa etme ihtiyacını vurguluyor.
XAI sistemleri, insanlarla aktif olarak etkileşime giren, süreçlerini paylaşan ve kullanıcı geri bildirimlerine yanıt olarak performanslarını artıran akıllı robotları veya yardımcıları içerir. Bu akademisyen ekibinin son çalışması, daha anlaşılır yapay zeka oluşturmaya odaklanan bilgi birikimine önemli bir katkı sağlıyor.
Değer uyumu, insanlar ve robotlar arasındaki genel işbirliğine yönelik ilk adımdır. Bu çalışmada değer uyumu belirli bir görev çerçevesinde gerçekleşir. Örneğin araştırmacılar, her biri yalnızca tek bir görevi yerine getirebilen çok sayıda robot satın almak yerine, tek bir ev robotunun bize birkaç günlük görevde yardımcı olacağını öngörüyor.
Araştırma ekibi ayrıca ilerideki çalışmalarımızda çerçevemizi diğer gerçek görevlere ve robotlara da uygulamak istiyor. Değerlere ek olarak, potansiyel yollardan birinin insanlar ve robotlar arasındaki zihinsel modellerin farklı bileşenlerini birleştirmek olabileceğine inanıyorlar. Araştırmacılar, yeni açıklanabilir yapay zeka paradigmasıyla çeşitli görevlerde insan-makine işbirliğini geliştirmeyi umuyor. Dahası, bu stratejinin insanların sanal asistanlar, robotlar ve akıllı asistanlar gibi yapay zeka tabanlı sistemlere olan güvenini artıracağını öngörüyorlar.
Bu makale Marktechpost personeli tarafından ‘araştırma çalışmasına dayalı olarak bir araştırma özeti makalesi olarak yazılmıştır’Yerinde insan-robot çift yönlü değer uyumu‘. Bu araştırmanın tüm kredisi bu projenin araştırmacılarına aittir. Görüntüle kağıt, proje sayfası Ve referans makalesi.
Lütfen katılmayı unutmayın ML alt dizimiz
Yüzlerce Harika Yapay Zeka Aracını bulmak için https://aitoolsclub.com adresini ziyaret edin
