Yazıyı okuyorsunuz: Graz Üniversitesi’nin en son yapay zeka araştırmasına göre Intel’in nöromorfik çipleri, derin öğrenme için 16 kata kadar daha fazla enerji verimlidir
Bu makale Marktechpost personeli tarafından ‘araştırma makalesine dayanarak özet olarak yazılmıştır’Spike Tabanlı Nöromorfik Donanım Üzerindeki Yapay Zeka Uygulamaları için Kısa Süreli Bellek‘. Bu araştırmanın tüm kredisi bu projenin araştırmacılarına aittir. Görüntüle kağıt, referans makalesi.
Lütfen aramıza katılmayı unutmayın Makine Öğrenimi Alt Dizini
Yüksek güç tüketimi nedeniyle, DNN kullanan yeni yapay zeka yöntemleri, özellikle uç cihazlarda daha geniş dağıtıma önemli bir engel teşkil ediyor. Spike tabanlı nöromorfik elektroniklerin kullanılması bu soruna olası bir çözüm olabilir. Çalışmanın bu yönü öncelikle, yalnızca 20 W güç tüketirken daha karmaşık ve daha büyük sinir ağlarını çalıştıran beyinden etkilenir. Beyindeki nöronlar saniyede ortalama yalnızca birkaç kez sinyal (sivri uç) yayarlar; bu da onların inanılmaz enerji verimliliği açısından çok önemlidir. Buna karşılık, tipik bir DNN’deki birimler, birkaç büyüklükteki çıktı değerlerini daha sık yayar ve daha yüksek oranda enerji tüketir. Bununla birlikte, modern yapay zeka çözümleri için ne tür DNN’lerin, nöromorfik donanım üzerindeki seyrek aktif nöronlarla enerji açısından verimli bir şekilde uygulanabileceği hala bilinmiyor. Bu genellikle DNN tasarım fikirlerinin gözden geçirilmesini gerektirir.
Sıralı işleme görevlerini gerçekleştiren derin sinir ağları (DNN’ler), genellikle birkaç ani artışla taklit edilmesi zor olan uzun kısa süreli bellek (LSTM) birimlerini kullanır. Birkaç biyolojik nöronun bir bileşeni olan, her bir artışı takip eden gecikmiş hiperpolarizasyon sonrası (AHP) akımlar etkili bir çözüm sağlar. AHP akımları, Intel’in Loihi işlemcisi gibi çok bölmeli nöron modellerini destekleyen nöromorfik donanımlara uygulanabilir. Filtre yaklaşımı ilkesi, AHP nöronlarının neden LSTM birimlerinin işlevselliğini taklit edebildiğini açıklamaktadır. Bu, zaman serilerini sınıflandırmak için enerji açısından oldukça verimli bir yöntem ile sonuçlanır. Ayrıca, metinle ilgili soruları yanıtlamak için bir metindeki kelimeler ve cümleler arasındaki ilişkileri ortaya çıkaran büyük DNN’lerin önemli bir sınıfının çok seyrek çekimlerle uygulanması için temel sağlar.
Daha özel bir açık zorluk, sıralı işleme görevleri için DNN LSTM birimlerinin, spike tabanlı nöromorfik donanım üzerinde enerji açısından verimli bir şekilde nasıl uygulanabileceğidir. Spike nöron ağları (SNN’ler), biyolojik nöronların bir özelliği, nöromorfik donanım modellerinde temsil edilmeyen yavaş yavaş değişen iç akımların varlığı nedeniyle DNN’lerdeki LSTM birimleriyle aynı çalışma belleği yetenekleriyle donatılmıştır.
Biyolojik nöronlar ile geleneksel yükselen nöron modelleri arasındaki önemli bir ayrım, biyolojik nöronların nispeten kısıtlı bir membran potansiyeli rejimini sürdürmesidir. Bunun aksine, ağ, düşük ateşleme hızları oluşturmak için düzenleme terimleri kullanılarak eğitildiğinde, modellerin zar potansiyeli sıklıkla çok negatif değerler alır. Bu, birçoğunu mevcut ağ hesaplamasından etkili bir şekilde kaldırır. Bu sorunu azaltan ve son derece seyrek ani ateşlemeli DNN’lerin yapımını kolaylaştıran yeni bir membran voltajı düzenleme tekniği sunulmaktadır.
Çalışmalar, nöromorfik çiplerin, devasa derin öğrenme ağlarını, nöromorfik olmayan donanımlardan çok daha verimli bir şekilde işlettiklerini gösterdiğini doğruladı.
Yapay zeka kullanımı arttıkça bu durum önemli hale gelebilir. Araştırma, Intel Laboratuvarları tarafından geçen yıl duyurulan ve yaklaşık bir milyon yapay nöron içeren deneysel bir ikinci nesil nöromorfik çip olan Intel’in Loihi 2 silikonu kullanılarak gerçekleştirildi.
Nature Machine Intelligence dergisinde yayınlanan “A Long Short-Term Memory for AI Applications on Spike-Based Neuromorphic Hardware” adlı çalışma makalesi, Intel çiplerinin öğrenme uygulamalarında 16 kata kadar daha fazla enerji verimli olduğunu iddia ediyor. nöromorfik çipler. donanım. Test edilen donanım 32 Loihi çipinden oluşuyordu.
Kaynak: https://arxiv.org/pdf/2107.03992.pdfÖzel donanımın derin öğrenme görevleri için daha etkili olacağı açık görünse de TU Graz, bunun deneysel olarak ilk kez doğrulandığını iddia ediyor.
TU Graz’a göre bu önemli çünkü bu derin öğrenme modelleri, küresel olarak yapay zeka araştırmalarının konusu ve pratik uygulamalarda kullanılması amaçlanıyor. Ancak modelleri çalıştırmak için gereken donanımın güç tüketimi, bu tür sistemlerin yaygın olarak uygulanmasının önünde büyük bir engeldir.
“Beyinden Esinlenen Bilgi İşlemin Bir Ana Plana İhtiyacı Var” başlıklı başka bir makalede yazarlar şunu belirtiyor: “DeepMind’in AlphaGo ve AlphaZero gibi üst düzey yapay zeka sistemlerinin şaşırtıcı başarıları, her biri yaklaşık 200 watt tüketebilen binlerce paralel işlem birimi gerektiriyor. ”
TU Graz raporunda araştırmacılar zamansal süreçleri içeren algoritmaları analiz ettiler. Bunun bir örneği, sistemin daha önce iletilen bir hikaye hakkındaki soruları yanıtlama veya nesneler ve insanlar arasındaki bağlama dayalı ilişkileri anlama yeteneğidir.
Bu anlamda model, insanın kısa süreli hafızasını veya en azından insan beyni tarafından kullanıldığına inanılan bir hafıza sistemini simüle etti. Araştırmacılar, keşfedilen hangi korelasyonların verilen çalışmayı tamamlamak için çok önemli olduğunu belirlemek için iki tür derin öğrenme ağını (kısa süreli hafızadan sorumlu geri bildirim sinir ağları ve ileri beslemeli ağ) birbirine bağladı.
Loihi çipleri gibi nöromorfik donanımlar, beyinde bulunan hızlı, dağınık ve öngörülemeyen ağ etkinliği modelleri için çok uygundur ve enerji açısından en verimli yapay zeka uygulamaları için gereklidir.
Nöromorfik teknoloji, uygulamalarını biyolojik bir perspektiften yeniden düşünerek derin öğrenme görevlerinin enerji verimliliğini artırabilir:
- Intel’in nöroçipleri bir gün PC’lere veya bulut hizmetlerine entegre edilebilir.
- MIT, Amazon, TSMC, ASML ve diğerleri gezegen için güvenli yapay zeka donanımı üzerinde işbirliği yapacak.
- DARPA, yalnızca pikseller değiştiğinde görüntü aktaran akıllı bir kamera olan FENCE projesi için finansman sağlıyor.
- Selamlar çip tasarımcıları; Bu CPU çekirdeklerini kullanmak artık pahalı değil (en azından ilk başta değil).
Nöromorfik çipler düşük güç tüketimi nedeniyle yaygın kullanım potansiyeline sahiptir. Intel’e göre nöromorfik çip teknolojisi, sistemlere düşük güçlü yapay zeka işlemeyi getirmek için bir CPU’ya entegre edilebilir veya nöromorfik işlemciler bir bulut hizmeti olarak erişilebilir hale getirilebilir.
Yüzlerce Harika Yapay Zeka Aracını bulmak için https://aitoolsclub.com adresini ziyaret edin
