Şu yayını okuyorsunuz: MLOps: daha güvenli bir geleceğe yatırım
MLOps yakın zamanda ML yaşam döngüsündeki eksik halka olarak ortaya çıktı. MLOps mühendisleri boru hattının bir arada olduğundan ve sorunsuz çalıştığından emin olur. 2018’den beri MLOps özellikleri ilgi odağı haline geldi ve zamanla hayati bir mekanizma haline geldi.
MLOps ekipleri için geleceğin neler getireceğini, mevcut hızlı tempolu yapay zeka ortamının MLOps’u nasıl etkileyeceğini ve bir MLOps mühendisi olmanın neler gerektirdiğini öğrenmek için Tredence Müdürü Praveen Nair ile bir araya geldik.
HEDEF: MLOps ekiplerinin gizlilik ve veri güvenliği gibi etik kaygılarla ilgili sorunları nasıl çözebileceğini düşünüyorsunuz?
Praveen: Bu aslında gerektiği kadar konuşulmayan bir konu. MLOps, ülkeler ve hükümetler güvenlik kaygılarıyla ilgili yeni veri yasaları önerdiğinde etik çerçevelerin uygulanmasına gerçekten yardımcı olabilir.
Diyelim ki bir banka, belirli bir kişinin geçmişine, mali özelliklerine ve davranışlarına göre kredileri reddetmek veya onaylamak zorunda. Bu süreçlere yönelik modelleri eğitirken sisteminizin herhangi bir demografik veya cinsiyet grubuna karşı önyargılı olmadığından emin olmanız gerekir. Modelin adil olması ve bankaların herkese eşit fırsatlar sunması bekleniyor. Bunun en büyük çözümlerinden biri modellerin daha fazla açıklanabilirliğe sahip olmasıdır. MLOps, modeli daha şeffaf hale getirecek süreçlerin ayarlanmasına yardımcı olabilir. Veri bilimcileri bunu önyargı izleme sistemleriyle de değerlendirebilir.
Bu konuda zaten açık kaynak katkıları oldu. Birçok bulut platformu bu önleyici tedbirlerin bazılarını halihazırda uygulamaya koymuştur. Ancak evlat edinme kısmı daha yavaş kalıyor. Artık yasaların devreye girmesiyle birlikte şirketler er ya da geç harekete geçmek zorunda kalacak.
Veri gizliliği bağlamında, kullanıcıların kişisel verilerinin veritabanlarında açığa çıkmasını ve insanların görmesini istemezsiniz. Tekrarlamak gerekirse, modelinizin veya ilgili işlem hatlarınızın bu tür kişisel bilgileri veya PII’yi kullanıp kullanmadığını tespit etmek için bir dizi açık kaynak araç mevcuttur. Bu nedenle, sağlam MLOps süreçlerine sahip olmak bu riskleri giderebilir.
MLOps ekibine sahip olmak aynı zamanda dış güvenlik ve düşman saldırılarıyla ilgili endişelerin giderilmesine de yardımcı olacaktır. Örneğin bir şirketin küçük bir veri bilimi ekibi varsa, yalnızca inovasyon kısmına odaklanabilir ve MLOps ekipleri veri güvenliği katmanını koruyabilir ve yapabileceklerinin ve yapamayacaklarının sınırlarına dikkat edebilir.
AMAÇ: Birleşik öğrenmenin birçok avantajı vardır, ancak onu MLOps’ta kullanmanın zorlukları nelerdir?
Praveen: Birleşik öğrenme, ortaya çıkan uygulamaların sayısı açısından nispeten yeni bir şeydir. Mevcut MLOps süreçlerinin büyük bir kısmı, gelecekte olacaklarla baş edebilecek kadar hazırlıklı değil. Örneğin Sam Altman, GPT-4’te modelin kendi kendini denetleyen öğrenmeyle çalıştığını, yani kullanıcı girdisine dayalı bir beyin oluşturduğunu söyledi. Bunun gibi bir araç ortaya çıktığında gizlilikle ilgili yeni sorunların da ortaya çıkması muhtemeldir. Bir kullanıcının, diğer kullanıcıların modeli ne için kullandığını bilmesini istemezsiniz. Milyonlarca kullanıcı olduğu için bu en büyük zorluklardan biri.
Birleşik öğrenmede herkesin verileri merkezi değildir ve verilerini kendilerinde tutabilirler. Amaç istihbaratı birlikte eğitmektir ancak verileriniz merkezi bir sunucuya yönlendirilmeyecektir.. Bunun yerine, cihazınızda eğitim vereceğiz ve ardından bu anlayışı alıp başka bir yere ekleyeceğiz. Diğer zorluk ise farklı bölgelerdeki tüm verilerin tek bir merkezi yerde toplanmasına karşı katı yasaların da ortaya çıkmasıdır.
AMAÇ: MLOps ile AutoML arasındaki farklar ve benzerlikler nelerdir?
Praveen: İzleme açısından yeni şeylerden biri, COVID-19 salgını sonrasında gördüğümüz gibi hangi davranışların değiştiğini anlamaktır. E-ticaret faaliyeti gibi belirli segmentler, öncelikle müşteri davranışındaki değişiklik nedeniyle, salgın öncesine kıyasla pandemi sonrası önemli bir artışa tanık oldu. O zamanlar eğitilen modeller, salgın sırasında/pandemi sonrasında gerçekten işe yaramadı. Dolayısıyla bu değişiklik, bu modellerin yeniden eğitilmesi gerektiği anlamına gelecektir.
Bunu sürekli yapmak işin zor kısmı çünkü müşteri davranışları çok sık değişiyor. Bu senaryoda AutoML, iş akışının bu bölümünü otomatikleştirmek için iyi bir süreçtir.
AutoML, eğitim çabalarını ortadan kaldırdığı için modelleri çok daha hızlı eğitebilir. Veri bilimcinin yapması gereken tek şey, modeli şeffaf hale getirmek ve modelin önyargısız olmasını sağlamaktır. AutoML ve MLOps’un karşılaştırılabilir olduğunu düşünmüyorum, aksine AutoML’in, MLOps’un kuruluşlar genelinde benimsenmesini sağlamak için iyi bir araç olduğunu söyleyebilirim.. Buradaki zorluk, AutoML ile en son teknolojiye sahip modelleri elde etmektir, ancak yine de çok daha hızlı bir şekilde referans modele sahip olursunuz.
HEDEF: Üretken yapay zekanın ortaya çıkışı MLOps’un uygulanmasını nasıl daha da ileri taşıyacak?
Praveen: Bir GPT modeli oluşturmak kolay değildir çünkü son derece karmaşıktırlar, çok fazla bilgi işlem gücü kullanırlar ve çok zaman alırlar. Artık insanlar ticari değer bulmaya başladığı için GPT-4 kesinlikle tüm sektörlerde kullanılacak.
Ancak, özellikle tıp gibi bilgiye duyarlı alanlarda küçük bir yanlış bilginin büyük olumsuz etkileri olabilir. MLOps bu konuda güvenlik için standart süreçler oluşturabilir. Bu kadar büyük LLM’ler eğitilirken bile veri mühendisliği ve MLOps disiplinlerinin garanti edebileceği büyük miktarda kaliteli veriye ihtiyacımız var. Üretken yapay zeka modelinizin politik veya uygunsuz olmasını istemezsiniz. Dolayısıyla burada bir takım geçerli endişeler var çünkü üretken modeller genellikle büyük miktarda veri kullanıyor ve yanıtların iyileştirmeler veya doğruluk açısından sürekli olarak doğrulanması gerekiyor.
Üretken yapay zeka, MLOps’un uygulanmasını kesinlikle artıracak ve gelecekte farklı türde MLOps süreçlerini tanıtacaktır. zaten var Büyük Dil MLOps’ubu bir olay haline geliyor ve bu harika çünkü etik kaygılar ve gerekli korkuluklar daha hızlı çözülebiliyor.
HEDEF: MLOps mühendisi olmak için gerekli olan temel beceriler nelerdir?
Praveen: MLOps ile ilgili en büyük yanılgı, bunun yalnızca ML modellerinin uygulanması olduğudur. Bu kısmen doğru olsa da, bir MLOps mühendisinin yaptıklarının kapsamı model kurulumundan daha fazlasını içerir. İhtiyaç duyulan ilk şey hassas Yetenek MLOps mühendisleri, modellerini her zaman savunacak veri bilimcileriyle veya daha iyi yatırım getirisi isteyen iş ekipleriyle konuşmak zorunda olduğundan. MLOps yöneticileri genellikle her iki tarafı da mutlu etmeye çalışırken arada kalırlar. Bu nedenle, bir duyguya sahip olmak da önemlidir. işbirliği.
İkinci beceri ise ML ve derin öğrenmede yeterlilik. Ortak fikir DevOps’u bilmemiz gerektiğidir ama bu doğru değildir. Ayrıca bu modelleri algoritmanın ne yaptığını, doğru şekilde eğitilip eğitilmediğini anlamaya çalışmak gibi farklı yollarla da optimize etmemiz gerekiyor. Bu, bu algoritmaların daha derinlemesine anlaşılmasını gerektirir.
Üçüncü olarak yapmamız gereken verileri anlamak Ve doğru türdeki verileri saklayın. Elinizdeki verileri yorumlayabilmeniz, kalite ve doğruluk konusunda daha fazla ölçüm üreterek kullanışlı hale getirebilmeniz gerekiyor.
Birlikte, sahip olmalısınız mimari bir anlayış bu da her müşterinin farklı bir şeye ihtiyaç duyduğunu anlamanız gerektiği anlamına gelir. Herkese uyan tek bir çözüm gibi değil.. Müşterinin ortamına bağlı olarak en uygun maliyetli ve en uygun yaklaşımı belirlemelisiniz. Bunun için MLOps’un neyi başarmaya çalıştığına dair mimari bir anlayışa sahip olmanız gerekir. Dolayısıyla bir MLOps mühendisi olarak aynı mimarinin farklı varyasyonlarını cebinizde hazır bulundurmanız gerekir ve sonuçta en büyük farkı yaratan da budur. Son beceri en bariz olanı olacaktır; Programlama becerileri.
