Şu yazıyı okuyorsunuz: Carnegie Mellon araştırmacıları dil modellerini herhangi bir cihazda çalıştırmak için MLC LLM’yi sunuyor
Carnegie Mellon Üniversitesi’ndeki araştırmacılar sundu MLC Yüksek Lisans, dil modellerinin herhangi bir cihazda çalışma biçiminde devrim yaratabilecek bir dizi araç. Bu tür modeller, kullanıcıların sanal asistanlar ve akıllı sohbet robotları gibi çeşitli doğal dil uygulamaları oluşturmasına olanak tanır. Ayrı performans optimizasyonları sayesinde MLC LLM artık farklı platformlarda ve senaryolarda kullanılabilir.
@Midjourney / Peerapon#6116Olarak bilinen yeni araç Web Hukukunda Ustada bu girişimin bir parçası. Dil modellerinin doğrudan tarayıcıda başlatılmasına olanak tanır; bu, kullanıcıların, boyutu birkaç gigabayt olabilen sistemi manuel olarak indirmelerine gerek olmadığı anlamına gelir. 7 milyar parametreye sahip Vicuña 7B modeli bu şekilde yaratıldı. Çok sayıda parametre gerektirdiğinden, daha uygun sanal asistanlar ve sohbet robotları tasarlarken bu son derece yararlı olabilir.
MLC LLM ve Web LLM’yi kullanarak artık seçtiğiniz herhangi bir dil modelini herhangi bir cihaza dağıtmak mümkün. Carnegie Mellon araştırmacıları bunun daha önce mümkün olmayan bir dizi uygulamanın önünü açacağını bildirdi. Artık herhangi bir dil modeli, dizüstü bilgisayarlar ve telefonlar gibi çeşitli bilgi işlem cihazlarına, hatta video işlemcileri ve hızlandırıcılara uygulanabiliyor. Bu, doğal dil işleme ve makine öğrenimi için bir olasılıklar dünyasının kapılarını açar.
Carnegie Mellon’un yeni girişimi, doğal dilin anlaşılmasına yönelik bir dizi yeni uygulama ve kullanımın önünü açıyor. Bu dil modellerini herhangi bir cihazda kullanabildiğiniz için bu teknolojiyi birçok farklı senaryoda uygulamak çok daha kolaydır. İster sanal asistanlar ister otomatik müşteri hizmetleri olsun, bu yeni araç, bu görevlerin gerçekleştirilme şekli üzerinde büyük bir etkiye sahip olabilir.
Carnegie Mellon araştırma ekibi, MLC LLM’yi, iPhone’lar ve diğer akıllı ev cihazları da dahil olmak üzere, modern bir işlemciye ve 6 GB veya daha fazla RAM’e sahip herhangi bir cihazda çalışacak şekilde geliştirdi. Bu basitleştirilmiş yaklaşım, cihazların artık dil modellerini, Apple mühendisleri yerine üçüncü taraf geliştiriciler tarafından optimize edilse bile neredeyse gerçek zamanlı oluşturma hızında çalıştırabileceği anlamına geliyor.
MLC LLM, ürünlerle doğal etkileşimi mümkün kılmanın yanı sıra cihaz yönetimi görevlerini kolaylaştırmak için de kullanılabilir. Çalıştırılması için yalnızca 4 GB ila 6 GB RAM gerektiren bu devrim niteliğindeki dil modeli, gelecekteki iPhone modellerine harika bir katkı olacak ve uzun geliştirme süreci olmadan üretime aktarılabilecek.
Carnegie Mellon araştırmacıları, MLC LLM dil modelini tanıtarak, dil modellerini herhangi bir cihazda çalıştırmanın etkili ve sağlam bir yolunu yarattılar. MLC LLM sistemi, doğal dil işlemede bir devrimdir ve kullanıcıların cihazlarıyla daha etkili bir şekilde doğal olarak etkileşime girmesine olanak tanıyacaktır. Ayrıca gelecekteki cihaz yönetimi görevleri için geliştirme sürecini önemli ölçüde hızlandırma potansiyeline de sahiptir. MLC LLM ile olasılıklar sonsuzdur ve Carnegie Mellon’un çalışmasının dil modelleri hakkındaki düşüncelerimizi daha iyiye doğru değiştireceği kesindir.
Yapay zeka hakkında daha fazlasını okuyun:
