Yazıyı okuyorsunuz: Ittai Dayan, MD, Rhino Health Kurucu Ortağı ve CEO’su – Röportaj Serisi
Ittai Dayan, MD kurucu ortağı ve CEO’sudur. Gergedan sağlığı. Uzmanlığı yapay zeka ve teşhisin yanı sıra tıp ve klinik araştırmaların geliştirilmesindedir. BCG’nin sağlık uygulamalarının eski çekirdek üyesi ve hastane yöneticisidir. Şu anda sağlık ve yaşam bilimleri sektöründe güvenli, adil ve etkili yapay zekanın geliştirilmesine katkıda bulunmaya odaklanmıştır. Rhino Health’te, hasta mahremiyetini korumak ve parçalanmış sağlık hizmeti ortamında işbirliğini teşvik etmek için dağıtılmış bilgi işlem ve birleşik öğrenmeyi kullanıyorlar.
IDF: Özel Kuvvetler’de görev yaptı ve dünyanın en büyük akademik tıp merkezi tabanlı çevirisel yapay zeka merkezine liderlik etti. Yapay zeka geliştirme ve ticarileştirme konusunda uzman ve uzun mesafe koşucusudur.
Rhino Health’in arkasındaki oluşum hikayesini paylaşabilir misiniz?
Yapay zekaya olan yolculuğum, doktor ve araştırmacıyken, zihinsel bozukluklarda tedaviye yanıtı ölçmek için ‘dijital biyobelirteç’in eski bir formunu kullanarak başladı. Daha sonra Mass General Brigham’daki Klinik Veri Bilimi Merkezi’ni (CCDS) yönetmeye devam ettim. Orada düzinelerce klinik yapay zeka uygulamasının geliştirilmesini denetledim ve düzenleyici düzeydeki yapay zeka ürünlerini geliştirmek ve eğitmek için gereken verilere erişim ve “etkinleştirme” ile ilgili temel zorluklara ilk elden tanık oldum.
Sağlık hizmetlerinde yapay zeka alanındaki birçok ilerlemeye rağmen, bir ürünün geliştirilmesinden piyasaya sunulmasına kadar geçen yol uzun ve çoğu zaman inişli çıkışlı. Çözümler, klinik olarak uygulandıklarında başarısızlığa uğrar (ya da sadece hayal kırıklığı yaratır) ve büyük miktarda klinik veriye sürekli erişim olmaksızın tüm yapay zeka yaşam döngüsünü desteklemek neredeyse imkansızdır. Zorluk sona erdi yaratmak modeller, sürdürmek onlara. Bu zorluğa cevap vermek için Mass General Brigham sistemini, birden fazla ticari geliştiricinin algoritmalarını test etmek için kendi ‘Yapay Zeka konusunda uzmanlaşmış CRO’ya (CRO = Clinical Research Org) sahip olmanın değeri konusunda ikna ettim.
Ancak sorun devam etti: Sağlık verileri hâlâ büyük ölçüde silo halinde tutuluyor ve tek bir ağdan gelen büyük miktarda veri bile tıbbi yapay zekanın giderek daralan hedefleriyle mücadele etmek için yeterli değil. 2020 yazında, o zamanlar dünyanın en büyük sağlık hizmetleri federe öğrenim (FL) stüdyosu olan EXAM’i kurdum ve yönettim (NVIDIA’dan Dr. Mona Flores ile birlikte). FL’yi, herhangi bir veri paylaşmadan, dünyanın dört bir yanından gelen verilerden yararlanarak, tahmine dayalı bir COVID sonuçları modeli oluşturmak için kullanıyoruz. Daha sonra yayınlandı Doğal ilaçBu çalışma, çeşitli ve farklı veri kümelerinden yararlanmanın olumlu etkisini gösterdi ve sağlık hizmetlerinde birleşik öğrenmenin daha yaygın kullanım potansiyelini vurguladı.
Ancak bu deneyim bir takım zorlukları açıklığa kavuşturdu. Bunlar arasında verilerin işbirliği yapılan siteler arasında düzenlenmesi, veri izlenebilirliğinin ve uygun karakterizasyonun sağlanmasının yanı sıra, alışık olmadıkları en son teknolojileri öğrenmek zorunda olan her kurumun BT departmanlarına yüklenen yük de vardı. Bu, bu yeni ‘dağıtılmış veri’ işbirliklerini destekleyecek yeni bir platform gerektirdi. Gizliliği koruyan işbirliklerini destekleyecek kapsamlı bir platform oluşturmak için kurucu ortağım Yuval Baror ile ortak olmaya karar verdim. Bu platform, FL ve uç bilişimden yararlanan ‘Rhino Health Platform’dur.
Yapay zeka modellerinin sağlık hizmeti ortamında beklenen sonuçları elde etmekte neden sıklıkla başarısız olduğunu düşünüyorsunuz?
Tıbbi yapay zeka genellikle tek bir kurumdan veya coğrafi bölgeden alınan veri kümeleri gibi küçük, dar veri kümeleri üzerinde eğitilir ve sonuçta ortaya çıkan modelin yalnızca gördüğü veri türleri üzerinde iyi performans göstermesine yol açar. Algoritma, sınırlı eğitim veri setinden farklı olan hastalara veya senaryolara uygulandığında performans ciddi şekilde etkilenir.
Andrew Ng şu sözlerle bu fikri çok iyi yakalamış: “Görünen o ki Stanford Hastanesi’nden veri topladığımızda… şunu gösteren makaleler yayınlayabiliriz: [the algorithms] Belirli koşulları tespit etme konusunda insan radyologlarıyla karşılaştırılabilirler. … [When] Aynı modeli, aynı yapay zeka sistemini sokağın aşağısındaki eski bir makineye sahip daha eski bir hastaneye götürürsünüz ve teknisyen biraz farklı bir görüntüleme protokolü kullanır, veriler çarpıklaşır ve yapay zeka sisteminin performansının önemli ölçüde düşmesine neden olur.”3
Basitçe söylemek gerekirse çoğu yapay zeka modeli, yeterince çeşitli ve yüksek kaliteli veriler üzerinde eğitilmiyor ve bu da “gerçek dünyada” performansın düşmesine neden oluyor. Bu sorun hem bilimsel hem de ana akım çevrelerde iyi bir şekilde belgelenmiştir. Bilim Ve politik.
Çeşitli hasta gruplarında test yapmak ne kadar önemlidir?
Ortaya çıkan yapay zeka ürününün yalnızca etkili ve verimli değil, aynı zamanda güvenli olmasını sağlamak için çeşitli hasta grupları üzerinde test yapmak çok önemlidir. Yeterince çeşitli hasta grupları üzerinde eğitilmemiş veya test edilmemiş algoritmalar, sağlık hizmetleri ve sağlık teknolojisinde ciddi bir sorun olan algoritmik önyargıdan muzdarip olabilir. Bu tür algoritmalar yalnızca eğitim verilerinde mevcut olan önyargıyı yansıtmakla kalmayacak, aynı zamanda bu önyargıyı daha da artıracak ve ırksal, etnik, dini, cinsiyet vb. eşitsizlikleri ağırlaştıracaktır. tıbbi bakımda mevcut. Farklı hasta gruplarında test edilmediği takdirde tehlikeli ürünler ortaya çıkabilir.
Yakın zamanda yayınlanan ve Rhino Sağlık Platformu’ndan yararlanan bir çalışma5, çeşitli tarayıcı türleriyle dört farklı bölgede tek bir bölgede geliştirilen beyin anevrizmalarını tespit eden bir yapay zeka algoritmasının performansını araştırdı. Sonuçlar, birden fazla tarayıcı türüne sahip siteler arasında önemli performans değişkenliği gösterdi; bu da çeşitli veri kümeleri üzerinde eğitim ve testlerin önemini vurguladı.
Bir alt popülasyonun temsil edilmediğini nasıl belirlersiniz?
Yaygın bir yaklaşım, farklı veri setlerindeki değişkenlerin dağılımlarını tek tek ve birleştirilmiş olarak analiz etmektir. Bu, geliştiricilere hem “eğitim” veri kümelerini hem de doğrulama veri kümelerini hazırlarken bilgi verebilir. Rhino Health Platform bunu yapmanıza olanak tanır; ayrıca kullanıcılar, alt popülasyonlarda genelleştirilebilirlik ve sürdürülebilir performans sağlamak için modelin birden fazla grupta nasıl performans gösterdiğini görebilir.
Birleşik öğrenmenin ne olduğunu ve bu sorunlardan bazılarını nasıl çözdüğünü açıklayabilir misiniz?
Birleşik öğrenme (FL), genel olarak yapay zeka modellerinin eğitildiği ve daha sonra farklı verileri kullanarak, verileri paylaşmaya veya merkezileştirmeye gerek kalmadan zaman içinde gelişmeye devam ettiği süreç olarak tanımlanabilir. Bu, yapay zekanın geliştirilmesinde ileriye doğru atılmış büyük bir adımdır. Geçmişte, birden fazla siteyle işbirliği yapmak isteyen herhangi bir kullanıcının bu verileri toplaması gerekir; bu da bir dizi külfetli, maliyetli ve zaman alıcı yasal ve uyumluluk riski oluşturur.
Günümüzde Rhino Health Platform gibi yazılımlarla FL, sağlık ve yaşam bilimlerinde günlük bir gerçeklik haline geliyor. Birleşik öğrenme, veriler ortak çalışanların yerel sunucularında kalırken kullanıcıların verileri keşfetmesine, seçmesine ve doğrulamasına olanak tanır. Bir AI/ML algoritması veya analiz uygulaması gibi kapsayıcıya alınmış kod, bir AI/ML algoritmasının eğitimi veya doğrulanması gibi bu kodun yürütülmesinin ‘yerel olarak’ yapıldığı yerel sunucuya gönderilir. Bu nedenle veriler her zaman ‘veri sorumlusu’nda kalır.
Özellikle hastaneler, hassas hasta verilerinin toplanmasıyla ilişkili risklerden endişe duymaktadır. Bu durum zaten utanç verici durumlara yol açtı; sağlık kuruluşlarının, verilerinin kullanımını tam olarak anlamadan sektörle işbirliği yaptığı açıkça ortaya çıktı. Buna karşılık, hem sektör hem de akademik araştırmacıların yapabileceği iş birliği miktarını sınırlıyor, Ar-Ge’yi yavaşlatıyor ve sağlık sektörü genelinde ürün kalitesini etkiliyor. FL, bu işbirlikleriyle ilişkili riski kontrol ederken, bunu hafifletebilir ve daha önce hiç olmadığı gibi veri işbirliklerini etkinleştirebilir.
Rhino Health’in daha çeşitli veriler kullanarak hızlı modellemeyi mümkün kılma vizyonunu paylaşabilir misiniz?
Düzenlemelerin sınırlarına saygı göstererek, korkmadan veya kısıtlama olmadan işbirliği yapan yapay zeka geliştiricileri ve kullanıcılarından oluşan bir ekosistem hayal ediyoruz. Ortak çalışanlar, coğrafyalar genelinde gerekli eğitim ve test verilerini hızlı bir şekilde belirleyebilir, bu verilere erişebilir, bunlarla etkileşime geçebilir ve modeli yineleyebilir. Yeterli genellemeyi, performansı ve güvenliği sağlamak için geliştirme.
Tüm bunların merkezinde yapay zeka geliştiricilerine çok büyük ve çeşitli veri kümeleri oluşturma, yapay zeka algoritmalarını eğitme ve doğrulama ve konuşlandırılmış yapay zeka ürünlerini sürekli izleme ve bakımını yapma konusunda “tek durak noktası” sağlayan Rhino Sağlık Platformu yer alıyor.
Rhino Health platformu yapay zeka önyargısını nasıl önlüyor ve yapay zekanın açıklamasını nasıl sağlıyor?
Yapay zeka geliştiricileri, veri işbirliklerinin kilidini açarak ve optimize ederek, uygulamalarının eğitimi ve testinde daha büyük, daha çeşitli veri kümelerinden yararlanabilir. Daha sağlam veri setlerinin sonucu, tek bir kurumun veya sınırlı bir veri setinin önyargılarından etkilenmeyen, daha genellenebilir bir üründür. Yapay zekanın açıklanabilirliğini desteklemek amacıyla platformumuz, çeşitliliği ve yeterli veri kalitesini sağlamak için veri kökenlerini, değer dağılımlarını ve diğer önemli ölçümleri analiz etme yeteneği ile geliştirme süreci boyunca kullanılan verilerin net bir görünümünü sağlar. Buna ek olarak platformumuz, nedensel çıkarımı araştırmak ve kafa karıştırıcı faktörleri azaltmak için kullanıcıların veri kümelerini mevcut veri noktalarından hesaplananlar gibi ek değişkenlerle daha da geliştirmelerine olanak sağlamak da dahil olmak üzere, verilerin basitçe havuzda toplanması durumunda mümkün olmayan işlevsellik sağlar.
Yapay zekaya aşırı güvenmenin bağımsız olarak doğrulanmayan taraflı sonuçlara yol açabileceğinden endişe duyan klinisyenlere nasıl yanıt veriyorsunuz?
Bu kaygıyı paylaşıyoruz ve bugün piyasada bulunan birçok uygulamanın aslında taraflı olabileceğinin farkındayız. Yanıtımız, bu tür önyargıları önlemek ve güvenli ve etkili yapay zeka uygulamaları sağlamak için politika ve prosedürleri tanımlamak üzere her şeyden önce hasta güvenliğini önemseyen bir sektör ve sağlık topluluğu olarak bir araya gelmemiz gerektiği yönünde. Yapay zeka geliştiricileri, hem sağlık çalışanlarının hem de hastaların güvenini kazanmak için pazarlanan yapay zeka ürünlerinin bağımsız olarak doğrulanmasını sağlama sorumluluğuna sahiptir. Rhino Health, kendini güvenli ve güvenilir AI ürünlerini desteklemeye adamıştır ve gerekli doğrulama verilerinin önündeki engelleri kaldırarak, klinik ortamlarda devreye alınmadan önce AI uygulamalarının bağımsız olarak doğrulanmasını sağlamak ve optimize etmek için ortaklarla birlikte çalışmaktadır.
Sağlık hizmetlerinde yapay zekanın geleceğine ilişkin vizyonunuz nedir?
Rhino Health’in vizyonu, yapay zekanın sağlık hizmetlerinde tam potansiyeline ulaştığı bir dünyadır. Bu dünyayı mümkün kılmak için gizliliği onaylarken şeffaflık yaratmak ve işbirliğini geliştirmek için özenle çalışıyoruz. Güvenlik duvarları, coğrafyalar veya düzenleyici kısıtlamalarla sınırlı olmayan sağlık hizmetleri için yapay zekayı öngörüyoruz. Yapay zeka geliştiricileri, güçlü, genelleştirilebilir modeller oluşturmak ve bunları gerçek zamanlı veri akışıyla sürekli olarak izlemek ve geliştirmek için ihtiyaç duydukları tüm verilere kontrollü erişime sahip olacak. Sağlayıcılar ve hastalar, verileri üzerindeki kontrollerini kaybetmediklerini ve verilerin sonsuza kadar kullanılmasını sağlayabileceklerini bilmenin güvenini kazanacaklar. Düzenleyiciler, cihazların ve farmasötik ürünlerin geliştirilmesinde kullanılan modellerin etkinliğini gerçek zamanlı olarak izleyebilecek. Halk sağlığı kuruluşları yapay zekadaki bu ilerlemelerden yararlanacak, hastalar ve sağlayıcılar ise gizliliklerinin korunduğunu bilerek rahat edecek.
Harika röportaj için teşekkürler, daha fazla bilgi isteyen okuyucular ziyaret etmeli Gergedan sağlığı.
