Şu yazıyı okuyorsunuz: SafetyOps: MLOps’un Ötesinde Otomasyon Çerçevesi: Yapay Zekaya Doğru
İlk olarak dünyanın önde gelen yapay zeka ve teknoloji haber ve medya şirketi Towards AI’da yayınlandı. Yapay zeka ile ilgili bir ürün veya hizmet yaratıyorsanız sizi yapay zeka destekçisi olmayı düşünmeye davet ediyoruz. Towards AI’da yapay zeka ve teknoloji girişimlerinin ölçeklenmesine yardımcı oluyoruz. Teknolojinizi kitlelere ulaştırmanıza yardımcı olalım.
SafetyOps: MLOps’un Ötesinde Otomasyon Çerçevesi
Çoğu veri bilimci ve makine öğrenimi mühendisi, MLOps’a oldukça aşinadır ve makine öğrenimi (ML) yazılımı üretmek ve dağıtmak için bu çerçeveyi kullanır.
Ancak SafetyOps terimi tanıdık geliyor mu?
Bu sihirli kelimeyi geliştireyim.
SafetyOps yalnızca MLOps’u değil aynı zamanda DevOps, TestOps, DataOps ve güvenlik mühendisliğini de kapsayarak sıkı sıkıya bağlı bir grup oluşturur ve sistem mimarisi içindeki güvenlik güvencesini ele alır.
Sistem mimarisi, makine öğrenimi (ML) ve yapay zeka (AI) yazılımı dahil olmak üzere ürün mimarisini, yazılımı ve donanım mimarisini kapsar.
Çoğu zaman makine öğrenimi modelleri ve tahmin algoritmalarıyla çalışırken, bu modellerin yalnızca bir parçası olduğu daha büyük bir sistem üzerinde çalışıyoruz.
Bu büyük ölçekli sistemler, güvenlik açısından kritik sistemler veya kritik görev sistemleri kategorisine girer.
SafetyOps’un ayrıntılarına başlamadan önce güvenlik açısından kritik sistemleri ve görev açısından kritik sistemleri anlayalım.
Görev kritik sistemler nelerdir?
Bir şirketin veya kuruluşun hayatta kalması için önemli olan sistemler, görev açısından kritik sistemlerdir. Görev açısından kritik bir sistem çöktüğünde veya kesintiye uğradığında teslimat ve iş operasyonları önemli ölçüde etkilenir.
Bazı yaygın örnekler arasında çevrimiçi bankacılık sistemleri, elektrik şebekesi sistemleri, acil çağrı merkezleri, hastane hasta kayıtları, veri depolama merkezleri, borsalar, ticaret yazılımları vb. yer alır.
Gerçek hayatta gördüğümüz birçok sistem, iş, organizasyon, endüstriler ve insanlar üzerindeki önemine ve etkisine bağlı olarak kritik görev olarak adlandırılabilir.
Güvenlik açısından kritik sistemler nelerdir?
Arızası veya arızası insanlarda ölüme/ciddi yaralanmaya, doğal kaynaklarda kayıp/ciddi hasara veya çevresel bozulmaya neden olan sistemler.
Sistem, bir veya daha fazla güvenlik işlevini gerçekleştirmek için gerekli donanım, yazılım ve insan etkileşimini içerir.
Yaygın örneklerden bazıları arasında tıbbi cihazlar, sağlık sistemleri, uçak uçuş kontrolü, silahlar, nükleer sistemler, savunma sistemleri, otonom araçlar, aviyonik sistemler vb. yer almaktadır.
Burada dikkate alınması gereken bir diğer önemli nokta ise, görev açısından kritik sistemlerin, insan hayatının kaybı veya tehlikesi olması, doğal kaynakların tehlikeye girmesi veya çevrenin risk altında olması durumunda güvenlik açısından kritik hale gelmesidir.
Ana konuya dönüyoruz.
Yukarıda bahsedilen AI ve ML yazılımlarını içeren tüm kritik sistemlerde güvenlik güvencesi son derece önemlidir ve güvenlik mühendisliği uygulamalarının ve süreçlerinin desteklenmesini zorunlu kılmaktadır.
Makine öğrenimi ve yapay zeka tarafından desteklenen büyük ölçekli kritik sistemlerde güvenlik süreçlerini uygulamanın zorlukları
Güvenlik güvencesi yinelenen bir süreçtir ve temel ürün veya sistemin güvenlik gereksinimlerini karşıladığına dair güven sağlayan sürekli artan bir etkinliktir.
Bununla birlikte, bu modern sistemlerin, özellikle de yapay zekayı (AI), makine öğrenimini (ML), veriye dayalı teknikleri (DDT) içeren ve dijital bilgi işlem platformlarıyla karmaşık gerçek dünya etkileşimlerini içeren sistemlerin artan karmaşıklığı, farklı bir set oluşturur. Güvenlik gereksinimlerinin uygulanmasındaki zorluklar.
Ek olarak, güvenlik süreçlerinin manuel olarak yürütülmesi, ürün yaşam döngüsü/sistem yaşam döngüsü boyunca güvenlik güvencesinin sürekliliğini korumayı daha da zorlaştırır.
Şu anda, çeşitli emniyet analizi yöntemleri (örneğin, tehlike ve risk analizi (HARA) ve hata ağacı analizi (FTA)) ve süreçler, büyük ölçüde tasarım aşamasından izole edilmiştir ve yalnızca Excel elektronik tabloları ve insan etkileşimi kullanan süreç kılavuzları aracılığıyla birbirine bağlanmıştır. Tarafsız uygulamalara ve kararlara sahip olmak için güvenlik faaliyetlerinin tasarım ve geliştirme ekiplerinden bağımsız olarak gerçekleştirilmesi gerektiğidir. Bu çelişkili gereksinimler, bu makine öğrenimi ve yapay zeka algoritmalarının otonom “güvenlik amaçlı işlevsellik” (SOTIF) analizini” geliştiren sistemler için muazzam bir zorluğu teşvik eder ve esasen hem yazılım geliştiricilerin hem de güvenlik mühendislerinin katılımını ve kararlılığını gerektirir.
Tipik olarak FTA (Hata Ağacı Analizi) ve FMEA (Arıza Modları ve Etkileri Analizi), sistem hakkında daha fazla bilgi elde etmek için tasarım aşamasında manuel olarak gerçekleştirilir. Ancak mevcut yapay zeka ve makine öğrenimi destekli otonom sistemler, test aşamasında önemli miktarda veri topluyor ve büyük miktarda veriden sistem arızaları hakkında süreçte çok daha erken (test aşaması sırasında) bilgi edinme fırsatı sunuyor.
Bir emniyet durumunun tasarımı genellikle sistem tasarımına, harici ve dahili varsayımlara, sistem konfigürasyonuna, tanımlanan potansiyel tehlikelere, risk endişelerine, ilgili emniyet önlemlerine vb. bağlıdır. Ancak öncelikle kaotik ve sürekli değişen ortamlarda konuşlandırılan yapay zeka ve makine öğrenimi destekli otonom sistemler söz konusu olduğunda, bu nitelikler diğer bazı eski sistemlerden daha sık değişebilir.
Aslında bu, sistem tasarımı, yazılım tasarımı, veri madenciliği, güvenlik, test etme ve değerlendirme için iyi bağlantılı bir çerçeve gerektirir.
Bu kritik büyük ölçekli sistemlerin ihtiyaçları
Büyük ölçekli kritik sistemler düzenleyici gereklilikleri karşılamalı ve belirli güvenlik değerlendirme süreçleri ile bir güvenlik mühendisliği yaşam döngüsünün takip edilmesini gerektirmelidir. Bu nedenle, büyük ölçekli kritik sistemlerde ML ve AI içeren yazılımların sürekli tesliminin sağlanması, teslimat hattında sürekli güvenlik değerlendirme sürecinin otomasyonunu gerektirir.
Güvenlik, yazılım düzeyinden ziyade sistem düzeyinde bir özelliktir; bu nedenle farklı mühendislik disiplinlerinden paydaşlar, güvenlik uzmanları, dış danışmanlar vb. yazılım geliştiricilerle birlikte sürekli teslimat hattına dahil edilmelidir. Beton dağıtım hattında temel olarak gerekli güvenlik adımları Tehlike Analizi ve Risk Değerlendirmesi (HARA), mimari güvenlik analizi, güvenliğin artırılması vb.’dir. Şu anda bunlar genellikle elektronik tablolarda belgelenen manuel süreçlerdir ve otomasyon açısından bir paradigma değişikliğinin yanı sıra tehlikelerle ilişkili tehlike tanımlama ve risk değerlendirmesi ile yeni tehlikelerin tanımlanması ve sonuçta ilgili riskin bilinen sistem tehlikelerine uyarlanması olasılığı gerekmektedir.
Bu, bağımsız güvenlik değerlendirmesi için gerekli yapı ve belgelerle birlikte doğru ürünün oluşturulmasını sağlayacak ve bu da mevzuat uyumluluğunu ve nihai sertifikasyonun teslimini destekleyecektir.
Otomasyona aday Manuel Güvenlik Süreçleri
Güvenlik Analizi: Dahil edilen teknikler, manuel olarak gerçekleştirilen ve sürekli bir teslimat hattını mümkün kılmak için otomatikleştirilmesi gereken Hata Ağacı Analizi (FTA) ve Arıza Modu ve Etki Analizidir (FMEA).
Sistemin yazılım/donanım mimarisinde yapılacak değişikliklerin geliştirilen güvenlik analiz modelleriyle senkronize edilebilmesi için bu analizlerin sistemle veya yazılım/donanım tasarımıyla ilişkilendirilmesi gerekir.
Güvenlik Testi: Sürekli teslimat için güvenlik mekanizmalarının test edilmesinin otomatikleştirilmesi gerekir; bu, şu anda belirli hata mekanizmalarını azaltan testleri dahil etme olasılığıyla birlikte manuel olarak gerçekleştirilir.
Güvenlik Durumu: Teslimat hattına sorunsuz bir şekilde dahil edilmek için tüm iş ürünleri, konfigürasyonlar, ayrıntılı izlenebilirlik ve kanıtlar, incelemeler vb. dahil olmak üzere güvenlik durumlarının otomasyonu sağlanmalıdır.
Burada SafetyOps, yapay zeka, makine öğrenimi ve veri merkezli çeşitli alanlarda güvenlik mühendisliği uygulamalarının başarıyla otomatikleştirilmesinde önemli bir rol oynuyor.
SafetyOps Hedefi
SafetyOps, bu sistemlerin işlevsel güvenliğini (FuSa) ve amaçlanan işlevselliğin (SOTIF) güvenliğini sağlayabilir; bu da arızalı yazılım/donanım bileşenlerinin, algoritmik kıtlığın ve olası yanlış kullanımın neden olduğu tehlikelerden kaynaklanan risklerin azaltılmasına yardımcı olabilir. altta yatan teknolojiden.
SafetyOps ayrıca güvenlik mühendisleri, yazılım uzmanları, donanım mühendisleri ve test uzmanları arasındaki boşluğu da kapatabilir.
SafetyOps’un nihai hedefi, manuel güvenlik süreçlerini otomatikleştirmek ve güvenlik eserleri ile sistem geliştirme hattı faaliyetleri (veri mühendisliği, makine öğrenimi ve sistem entegrasyonu ve testi) arasında neredeyse %100 izlenebilirlik sağlamaktır.
SafetyOps’un resmi tanımı
SafetyOps, MLOps, DataOps, TestOps, DevOps ve güvenlik mühendisliğini tek bir çatı altında içeren ve verimli, sürekli, güvenilir, hızlı ve izlenebilir kritik sistem ve yazılımlar sağlayan bir otomasyon çerçevesidir.
SafetyOps Mimarisi
SafetyOps çerçevesi önemlidir
Ana fikir, güvenlik mühendisliği faaliyetlerini otonom sistemlerin (ör. DevOps, TestOps, DataOps ve MLOps) geliştirilmesi için anlamlı bileşenlerle zahmetsizce bağlayan bir çerçeve oluşturmaktır. SafetyOps ortamına ulaşmak, süreçlerde, araçlarda ve kültürde değişiklik yapılmasını gerektirir ve doğru araç ve süreç kümesinin seçilmesi, ölçülebilir iyileştirmeler sağlayan açık bir kazanan olarak ortaya çıkabilir.
Aslında SafetyOps’un temel fikri, güvenlik süreçlerinin ve faaliyetlerinin mevzuata uygunluk ve standartlara uygun olarak otomasyonunu (DevOps, TestOps, DataOps ve MLOps’ta olduğu gibi) teşvik etmektir.
Çözüm
AI ve ML entegre güvenlikle ilgili sistemler bağlamında SafetyOps’un avantajlarından tam olarak yararlanmak için öncelikle ve en önemlisi, çeşitli sistem yapıları, yazılım, donanım ve güvenlik mühendisliğinin yaşam döngüsü arasında sıkı bir izlenebilirlik sağlamaktır, böylece bu süreç kolaylaşır. Değişikliklerden etkilenen kısımları belirlemek ve bunları iş faydaları açısından izlemek ve ayarlamak. Bu, bir sistemin geliştirme yaşam döngüsü sırasında oluşturulan tüm yapıtları ve bunların ilişkilerini/bağlantılarını yakalamak için eksiksiz bir yedek model (model modeli) gerektirir.
SafetyOps: MLOps’un Ötesinde Otomasyon Çerçevesi ilk olarak Medium’da Towards AI’da yayınlandı; burada insanlar bu hikayeyi vurgulayarak ve yanıtlayarak sohbeti sürdürüyorlar.
Towards AI aracılığıyla yayınlandı
