Şu yazıyı okuyorsunuz: Endüstriyel siber güvenlik için yapay zeka yarışı: yapay zekaya doğru
İlk olarak Yapay Zekaya Doğru’da yayınlandı.
Geleceğe yönelik son teknoloji, fikirler ve tavsiyeler
Endüstriyel siber güvenlikte yapay zeka bir sorun değil. Giderek daha bağlantılı hale gelen bir dünyada kritik altyapılarımızı koruyacaktır. Şirketler ve hükümetler, gerçek dünyadaki örneklerden öğrenerek, zorlukların üstesinden gelerek ve yapay zekanın yeteneklerinden yararlanarak kendi sistemlerini ve gizliliğimizi koruyabilmelidir. Bu araçların kullanılmaması kullanıcılarına veya vatandaşlarına zarar verecektir.
Birbirine bağlı dünyamız hızlandıkça ve teknoloji, geliştiricilere daha az kaynakla daha fazlasını başarma gücü verdikçe, enerji, ulaşım ve iletişim sektörleri gibi altyapıyı korumaya yönelik güçlü operasyonel teknoloji (OT) siber güvenliğinin önemi daha önce hiç görülmemiş bir hale geldi. Suçlular ve düşman aktörler giderek daha karmaşık ve yüksek hacimli saldırılar gerçekleştiriyor. Yapay zeka (AI), kuruluşların endüstriyel siber saldırıları önleme yeteneğini ve kötü aktörlerin bu sistemlere zarar verme potansiyelini geliştiren yenilikçi bir çözüm haline geldi.
Gelişen Yapay Zeka Tehdit Ortamı
Teknoloji ilerledikçe siber güvenlik sektörünün mücadele etmesi gereken tehditler de artıyor. İlk büyük saldırı gerçekleşene kadar bazı tehditler önemli görülmeyebilir. Yine de yapay zeka nedeniyle halihazırda büyüyen bir zorluk haline gelen geleneksel tehditlere karşı hazırlıklı olabiliriz:
- Özel sosyal mühendislik saldırıları: GPT-4 ve Midjourney v5 gibi üretken dil ve görüntü modellerinin geliştirilmesi, hâlâ otomatikleştirilmiş olan karmaşık ve özel sosyal mühendislik saldırılarına olanak tanıyor. Siber suçlular, son derece ikna edici kimlik avı e-postaları oluşturmak, güvenilir kişilerin kimliğine bürünmek veya bağlamsal dolandırıcılıklar oluşturmak için bu yapay zeka modellerini kullanabilir; bu da kullanıcıların ve güvenlik çözümlerinin, botlarınkine benzer davranışları tanımlamak amacıyla kötü amaçlı içerik veya kalıpları tespit etmesini giderek zorlaştırır. [1]
- Zihin değiştiriciler ve biyometrik tehlikeler: Dolandırıcılar artık kamuoyunu manipüle etmek, insanlara şantaj yapmak ve hatta yüz tanıma güvenlik sistemlerini atlatmak için tasarlanmış videolar veya resimler oluşturmak için derin sahte teknolojiyi kolayca kullanabilirler. [2]
- Yapay zeka destekli siber silahlar: Bu modeller verimlilik ve doğruluk açısından geliştikçe, gelişmiş kötü amaçlı yazılım veya saldırı vektörleri oluşturmaya yönelik silahlar haline gelebilirler. Siber güvenlik şirketlerinin sonsuz bir çekişme içinde tehditleri tespit etmek için aynı şeyi yapması gibi, saldırganlar da saldırılarını optimize etmek için ML algoritmalarını kullanabilir, bu da onları tespitten kaçma konusunda daha etkili hale getirir ve başarı oranlarını artırır. [3]
- Yapay zeka sistemlerine yönelik düşmanca saldırılar: Güvenlik önlemleri için yapay zekaya artan güven, düşmanca saldırılara yol açıyor. Yapay zeka sistemlerinin kendisini hedeflemek. Bu saldırılar genellikle yapay zeka modellerinin verileri yanlış sınıflandırmasına, beklenmedik şekilde davranmasına veya hassas bilgileri açığa çıkarmasına neden olmak için yanıltıcı girdiler veya hızlı enjeksiyonlar sağlamayı içerir. Bizi çok heyecanlandıran yeni modeller aynı zamanda kötü aktörler tarafından aldatılma veya manipüle edilme potansiyeline de sahip; bu da korudukları veya etkileşimde bulundukları sistemlerin bütünlüğünü baltalıyor. [4]
- Otomatik güvenlik açığı keşfi ve kullanımı: Yapay zeka destekli araçlar, yazılım ve altyapıdaki güvenlik açıklarını insan analistlerden daha hızlı tespit etmek için kullanılabilir. Güvenlik açıkları keşfedildikten sonra yapay zeka modelleri, özel istismarlar oluşturmak veya koordineli saldırılar başlatmak için kullanılabilir ve böylece güvenlik açığının keşfedilmesi ile istismar edilmesi arasındaki süre önemli ölçüde azaltılır. [5]
Yapay zeka endüstriyel siber güvenlikte nasıl devrim yaratıyor?
Yine de her şey kasvetli değil. Tehditler ortaya çıktıkça, bu yeni sorunları çözmeye yönelik ve daha geleneksel saldırılara karşı korumayı geliştiren araçlar da ortaya çıkıyor. Yapay zeka destekli teknolojiler, geleneksel yöntemlere kıyasla güvenlik tehditlerini tespit etme ve bunlara yanıt verme konusunda üstünlük göstermiştir. Bugünden öğrenebileceğiniz gerçek dünya örnekleriyle birlikte yapay zekanın bu sistemleri dönüştürmesinin çeşitli yollarını birlikte inceleyelim:
Anormallik tespiti ve davranış analizi
Yapay zeka, büyük hacimli verileri (milyonlarca güvenlik olayı) analiz etmek ve kalıpları belirlemek (davranış analizi) için makine öğreniminden yararlanarak siber saldırıların önlenmesini sağlar ve yanıt sürelerini iyileştirir.
Gerçek dünya örneği: Bir siber güvenlik şirketi olan Darktrace, kontrol sistemlerindeki anormal davranış kalıplarını tespit etmek için yapay zekayı kullanıyor [6]. Yapay zeka destekli aracı, potansiyel siber saldırıları ortalığı kasıp kavurmadan önce ve insanlardan oluşan bir ekibin bir sorunu tespit etmesinden çok önce tespit edip önleyebilir.
Kestirimci Bakım ve Optimizasyon
Yapay zeka çözümleri halihazırda endüstriyel ihtiyaçları izliyor ve tahmin ediyor, bakımı programlıyor ve planlanmamış üretim kesintilerine ve önemli mali kayıplara veya daha kötü durumlara yol açabilecek gelecekteki ekipman sorunlarını önlüyor. Altyapıya yönelik uzun vadeli siber saldırılar, sistem arızalarına neden olacak şekilde kaynakların rutin olarak aşırı kullanılmasıyla sınırlı olabilir.
Gerçek dünya örneği: Siemens, enerji üretimi, petrol, gaz ve imalat gibi çeşitli sektörlerde ekipman arızalarını öngörmek ve bakım programlarını optimize etmek için yapay zeka tabanlı çözümler kullanıyor. [7]. Bu yaklaşım, kesinti süresini ve maliyetleri azaltır ve yanlış kullanımı izlemenize yardımcı olabilir.
Güvenlik Görevi Otomasyonu
Ağ izleme, düzeltme eki uygulama ve güvenlik duvarı kurallarını oluşturma ve güncelleme gibi güvenlik görevlerini otomatikleştirmek, güvenlik analistlerine daha karmaşık görevlerin üstesinden gelme konusunda zaman kazandırır.
Gerçek dünya örneği: Siber güvenlik için IBM’in Watson’ı [8] Tehdit tespitini ve yanıtını otomatikleştirerek analistlerin yüksek öncelikli tehditleri daha verimli bir şekilde ele almasına olanak tanır.
Yapay zeka uygulamasında gezinme
Hızla değişen tehdit ortamı, CISO’ların () özellikle yapay zeka söz konusu olduğunda proaktif olmalarını ve önde olmalarını gerektiriyor. Şirketler, yapay zekanın endüstriyel siber güvenliğe entegre edilmesinden kaynaklanan zorlukların üstesinden gelmek için yapay zeka konusunda bilgili CISO’lara duyulan ihtiyacın farkına varmalıdır. Gelin bu engellerden en bariz olanına bakalım:
- Veri kalitesi: Yapay zeka yalnızca eğitim verileri kadar iyidir; öğrenmek için günlüklerini veya hassas verilerini kullanan herhangi bir uygulama, dahili bilgilerinin miktarını, kalitesini, gizliliğini ve güvenliğini dengelemede zorlukla karşılaşacaktır.
- İstatistiksel Sınırlamalar – Yanlışlıkla Başa Çıkmak: Yanlış uygulanan yapay zekanın oluşturduğu yanlış pozitifler veya negatifler nedeniyle olası aşırı uyarı yüklemelerini veya kaçırılan tehditleri yönetin.
- Otomatik ayarlama: Endüstriyel süreçlerde insan müdahalesi (operatörler) olmadan süreçlerin kendileri tarafından yapılan değişiklikleri tanımlayın. Modeller, tarihsel geçmişe çok fazla uyum sağlayacak şekilde büyüyebilir ve alışılmadık hale gelebilecek eski saldırı yöntemlerine karşı korumayı sürdürmek için yeniden başlatma ve insan gözetimi gerektirebilir.
- Bekçiyi kim izliyor? Modelleri veya algoritmaları aldatan veya manipüle eden saldırganlara karşı koruma. Daha basit bir modelin daha gelişmiş başka bir modelin G/Ç’sini kontrol edebildiği, potansiyel olarak zincirlenmiş koruma katmanları.
- Ne pahasına? Bu araçların maliyeti genellikle göz ardı edilemez. Büyük modeller çok fazla bilgi işlem gücü gerektirir ve tedarikçiler tüm maliyeti ve daha fazlasını müşteriye yansıtacaktır. Şirketinizin, pazarın yüksek maliyetlerinde boğulmadan bu yeni tehditlere karşı dikkatli bir şekilde karar vermesi gerekecektir.
Yapay zeka alanında CISO uzmanları: üretken yapay zeka çağında bir zorunluluk
Yapay zeka konusunda bilgili bir CISO yalnızca teknik bir uzman değil, aynı zamanda bir şirketin siber güvenlik duruşunu güçlendirmede yapay zekanın değerini anlayan stratejik bir liderdir. CISO’ların soruna nasıl yaklaşması gerektiği ve şirketlerin işe alma ve geliştirme stratejilerinde neden yapay zeka uzmanlığına öncelik vermesi gerektiği aşağıda açıklanmıştır:
- Yapay zeka destekli güvenlik çözümlerini benimseyin: CISO’ların en son yapay zeka teknolojileri konusunda bilgili olması ve kuruluşlarının güvenlik önlemlerini iyileştirmek için bunlardan nasıl etkili bir şekilde yararlanabileceklerini anlamaları gerekir. Buna anormallik tespiti, tahmine dayalı bakım ve güvenlik görevlerinin otomasyonu dahildir. Mevcut güvenlik altyapılarıyla kusursuz entegrasyon sağlayarak yapay zeka destekli araç ve platformları aktif olarak takip etmeliler.
- Haberdar olun: Ortaya çıkan tehditler ve yapay zeka destekli saldırı vektörleri konusunda güncel kalmak çok önemlidir. Yapay zeka konusunda bilgili CISO’lar, en son araştırmaları sürekli olarak izlemeli, potansiyel riskler ve güvenlik açıkları yaygın hale gelmeden önce kendi anlayışlarını geliştirmelidir.
- İşbirliğini teşvik edin: Şirketin teknik ekipleri içinde ve arasında işbirliği ve bilgi alışverişi kültürünü teşvik etmek. Güvenlik ve mühendislik profesyonellerinin yapay zekadaki gelişmeler hakkında bilgi sahibi olmaya ve eğitim almaya teşvik edilmesi, yaklaşmakta olan tehditlere karşı güçlü bir savunma oluşturulmasına yardımcı olacaktır. CISO’lar, ekiplerini güncel ve katılımcı tutmak için eğitim programlarını ve çalıştayları kolaylaştırmalıdır.
- Etik yapay zeka gelişiminin savunucusu: Şirketiniz kendi yapay zeka araçlarını veya modellerini oluşturuyorsa (muhtemelen yapmalısınız), CISO’nuz etik kurallara ve düzenlemelere uyumu sağlayarak sorumlu yapay zeka gelişimini teşvik etmelidir. Şeffaflığı, mahremiyeti ve güvenliği savunmalıdırlar.
- Uzun vadeli yapay zeka uygulaması için stratejiler geliştirin: CISO’lar, kuruluşun amaçlarını, hedeflerini ve potansiyel zorluklarını özetleyen uzun vadeli bir yapay zeka uygulama stratejisi geliştirerek başlamalıdır. Bu, yapay zeka araçlarının edinilmesi ve uygulanması, bütçe tahsisi, yetenek yönetimi ve potansiyel düzenleme sorunlarının ele alınması planlarını içermelidir.
CISO’nun rolü gelişiyor ve şirketlerin yapay zeka uzmanlığını siber güvenlik liderliklerine entegre etmeye öncelik vermesi gerekiyor. Yapay zeka, endüstriyel siber güvenliği yeniden şekillendirmeye devam ederken, yapay zeka konusunda bilgili CISO’lar, önümüzdeki zorlukların ve fırsatların yönetilmesinde etkili olacak.
Günümüz: Büyük teknoloji şirketlerinin katılımı
RSA 2023 Konferansında Google, Bulut Güvenliği Yapay Zeka Çalışma Tezgahı [10]Sec-PaLM adı verilen özel bir yapay zeka dil modeliyle desteklenen kapsamlı bir siber güvenlik paketidir. Güvenlik uygulamaları için özel olarak tasarlanan Sec-PaLM, yazılım güvenlik açığı araştırması, kötü amaçlı yazılım analizi, tehdit göstergeleri ve davranışsal tehdit aktörü profilleri dahil olmak üzere zengin bir güvenlik istihbaratına dayanmaktadır.
Cloud Security AI Workbench, yapay zeka tarafından desteklenen bir dizi son teknoloji araç içerir. Örneğin, Mandiant’ın tehdit yapay zekası [11]2022’de Google tarafından satın alınan , güvenlik tehditlerini belirlemek, özetlemek ve ele almak için Sec-PaLM’den yararlanacak. Google’ın sahip olduğu başka bir hizmet olan VirusTotal, abonelerin kötü amaçlı komut dosyalarının davranışlarını analiz etmelerine ve anlamalarına yardımcı olmak için Sec-PaLM’den yararlanacak.
Ayrıca Sec-PaLM, Google’ın bulut siber güvenlik hizmeti Chronicle’ın güvenlik olaylarını aramasına ve sonuçlarla etkileşimli etkileşimleri kolaylaştırmasına yardımcı olacak. Google Security Command Center AI kullanıcıları, etkilenen varlıklarla ilgili bilgiler, önerilen hafifletme önlemleri ve güvenlik, uyumluluk ve gizlilik bulgularına ilişkin risk özetleri de dahil olmak üzere, Sec-PaLM saldırısına maruz kalma durumuyla ilgili kolayca sindirilebilir açıklamalar alacaktır.
Gelecek: Yapay zekanın temel rolü
Bilgi ve iletişim teknolojileri gelişmeye devam ettikçe ve kritik altyapılara daha derinlemesine entegre olmaya devam ettikçe siber saldırı riski daha da artacaktır. Sonuç olarak, OT alanında halihazırda kullanılan çözümlerin iyileştirilmesine ihtiyaç vardır.
Yapay zeka destekli çözümler, kuruluşların anormal davranış kalıplarını tespit etme ve operatörleri potansiyel tehditlere karşı uyarma yeteneğini önemli ölçüde artırabilir. Ek olarak yapay zeka, bir saldırı riskini tahmin etmek ve gerçekleşmeden önce hafifletme önerileri sunmak için kullanılabilir. Ayrıca, kritik sistemlere yönelik kimlik doğrulamayı ve erişim yetkilendirmesini güçlendirebilir ve OT sistemindeki güvenlik açıklarını, saldırganlar bunları kullanmadan önce tespit edebilir.
Sonuç olarak, bu araçlar yaygın olarak kullanılabilir hale geldikçe, tehditlerden korunmak veya teknolojik yetenekler açısından siber suçluların gerisinde kalma riskini ortadan kaldırmak için bunların kullanılması kritik önem taşıyor.
Endüstriyel siber güvenlikte yapay zeka ve makine öğreniminin olası kötüye kullanımını azaltmak için uygun düzenleme çok önemli olacaktır. [9]. Yönetmelik kanla yazılmıştır ve yakın zamanda kamu kaynaklarından konuyla ilgili bir çalışma görmeyecek olsak da, özel sektörün boşluğu doldurmak için acele ettiğini görüyoruz.
Kaynaklar
- Xorlab — Yapay zeka ‘hiperkişisel’ kimlik avı saldırılarına nasıl olanak sağlıyor?
- Brookings Enstitüsü — Deepfake ve Uluslararası Çatışma (pdf)
- Konuşma — Yapay zeka ve siber güvenlik silahlanma yarışı
- VentureBeat — Yapay zeka kendisinden nasıl korunur?
- Prosegur — Siber güvenlikte yapay zekanın iki uçlu rolü
- koyu vuruş — Kendi Kendine Öğrenen Varlıkların Tanımlanması, Endüstriyel Bağışıklık Sistemi
- Siemens Tahmin Hizmetleri — Değerlendirme, bağlantı, analiz
- Siber güvenlik için IBM Watson — Yapay zeka destekli siber güvenlik çözümleri
- Güvenilir yapay zeka için AB yönergeleri — Yapay zekanın etik gelişimini sağlamak
- Google AI Çalışma Tezgahı — Siber güvenlik için yapay zeka
- müdür — Tehdit istihbaratı
Towards AI aracılığıyla yayınlandı
