Estás leyendo la publicación: Ittai Dayan, MD, cofundador y director ejecutivo de Rhino Health – Serie de entrevistas
Ittai Dayan, MD es cofundador y director ejecutivo de Salud del rinoceronte. Su experiencia es en el desarrollo de inteligencia artificial y diagnóstico, así como en medicina e investigación clínica. Es un ex miembro central de la práctica de atención médica y ejecutivo del hospital de BCG. Actualmente se centra en contribuir al desarrollo de una inteligencia artificial segura, equitativa e impactante en la industria de la salud y las ciencias de la vida. En Rhino Health, utilizan computación distribuida y aprendizaje federado como un medio para mantener la privacidad del paciente y fomentar la colaboración en el fragmentado panorama de la atención médica.
Sirvió en las FDI: fuerzas especiales, dirigió el centro de IA traslacional basado en un centro médico académico más grande del mundo. Es experto en desarrollo y comercialización de IA y corredor de fondo.
¿Podría compartir la historia de génesis detrás de Rhino Health?
Mi viaje hacia la IA comenzó cuando era médico e investigador, utilizando una forma temprana de un ‘biomarcador digital’ para medir la respuesta al tratamiento en los trastornos mentales. Más tarde, pasé a dirigir el Centro de Ciencia de Datos Clínicos (CCDS) en Mass General Brigham. Allí, supervisé el desarrollo de docenas de aplicaciones clínicas de IA y fui testigo de primera mano de los desafíos subyacentes asociados con el acceso y la “activación” de los datos necesarios para desarrollar y entrenar productos de IA de grado reglamentario.
A pesar de los muchos avances en la IA de la atención médica, el camino desde el desarrollo hasta el lanzamiento de un producto en el mercado es largo y, a menudo, lleno de baches. Las soluciones fallan (o simplemente decepcionan) una vez que se implementan clínicamente, y respaldar el ciclo de vida completo de la IA es casi imposible sin el acceso continuo a una gran cantidad de datos clínicos. El desafío ha pasado de creando modelos, a manteniendo a ellos. Para responder a este desafío, convencí al sistema Mass General Brigham del valor de tener su propia ‘CRO especializada en IA’ (CRO = Clinical Research Org), para probar algoritmos de múltiples desarrolladores comerciales.
Sin embargo, el problema persistía: los datos de salud todavía están muy aislados, e incluso una gran cantidad de datos de una red no son suficientes para combatir los objetivos cada vez más estrechos de la IA médica. En el verano de 2020, inicié y dirigí (junto con la Dra. Mona Flores de NVIDIA), el estudio de aprendizaje federado (FL) de atención médica más grande del mundo en ese momento, EXAM. Usamos FL para crear un modelo predictivo de resultados de COVID, aprovechando datos de todo el mundo, sin compartir ningún dato. Posteriormente publicado en Medicina naturaleste estudio demostró el impacto positivo de aprovechar conjuntos de datos diversos y dispares y subrayó el potencial para un uso más generalizado del aprendizaje federado en el cuidado de la salud.
Esta experiencia, sin embargo, aclaró una serie de desafíos. Estos incluyeron la orquestación de datos en sitios colaboradores, asegurando la trazabilidad de los datos y la caracterización adecuada, así como la carga impuesta a los departamentos de TI de cada institución, que tuvieron que aprender tecnologías de vanguardia a las que no estaban acostumbrados. Esto requería una nueva plataforma que soportara estas novedosas colaboraciones de ‘datos distribuidos’. Decidí asociarme con mi cofundador, Yuval Baror, para crear una plataforma integral para respaldar las colaboraciones que preservan la privacidad. Esa plataforma es la ‘Plataforma de salud Rhino’, que aprovecha FL y edge-computing.
¿Por qué cree que los modelos de IA a menudo no logran los resultados esperados en un entorno de atención médica?
La IA médica a menudo se entrena en conjuntos de datos pequeños y estrechos, como conjuntos de datos de una sola institución o región geográfica, lo que lleva a que el modelo resultante solo funcione bien en los tipos de datos que ha visto. Una vez que el algoritmo se aplica a pacientes o escenarios que difieren del conjunto de datos de entrenamiento limitado, el rendimiento se ve gravemente afectado.
Andrew Ng, captó bien la noción cuando dijo: “Resulta que cuando recolectamos datos del Hospital de Stanford… podemos publicar artículos que muestran [the algorithms] son comparables a los radiólogos humanos en la detección de ciertas condiciones. … [When] usted lleva ese mismo modelo, ese mismo sistema de IA, a un hospital más antiguo al final de la calle, con una máquina más antigua, y el técnico usa un protocolo de imágenes ligeramente diferente, los datos se desvían y hacen que el rendimiento del sistema de IA se degrade significativamente”.3
En pocas palabras, la mayoría de los modelos de IA no están entrenados en datos que sean lo suficientemente diversos y de alta calidad, lo que resulta en un desempeño deficiente en el “mundo real”. Este problema ha sido bien documentado tanto en los círculos científicos como en los principales, como en Ciencia y politico.
¿Qué importancia tienen las pruebas en diversos grupos de pacientes?
Las pruebas en diversos grupos de pacientes son cruciales para garantizar que el producto de IA resultante no solo sea eficaz y eficiente, sino también seguro. Los algoritmos que no han sido entrenados o probados en grupos de pacientes lo suficientemente diversos pueden sufrir un sesgo algorítmico, un problema grave en el cuidado de la salud y la tecnología del cuidado de la salud. Dichos algoritmos no solo reflejarán el sesgo que estaba presente en los datos de capacitación, sino que exacerbarán ese sesgo y agravarán las inequidades raciales, étnicas, religiosas, de género, etc. existentes en la atención médica. Si no se prueba en diversos grupos de pacientes, se pueden generar productos peligrosos.
Un estudio5 publicado recientemente, aprovechando Rhino Health Platform, investigó el rendimiento de un algoritmo de IA que detecta aneurismas cerebrales desarrollado en un sitio en cuatro sitios diferentes con una variedad de tipos de escáner. Los resultados demostraron una variabilidad de rendimiento sustancial en sitios con varios tipos de escáner, lo que destaca la importancia de la capacitación y las pruebas en diversos conjuntos de datos.
¿Cómo se identifica si una subpoblación no está representada?
Un enfoque común es analizar las distribuciones de variables en diferentes conjuntos de datos, individualmente y combinados. Eso puede informar a los desarrolladores tanto al preparar conjuntos de datos de “entrenamiento” como conjuntos de datos de validación. Rhino Health Platform le permite hacer eso y, además, los usuarios pueden ver cómo funciona el modelo en varias cohortes para garantizar la generalización y el rendimiento sostenible en todas las subpoblaciones.
¿Podría describir qué es el aprendizaje federado y cómo resuelve algunos de estos problemas?
El aprendizaje federado (FL) puede definirse ampliamente como el proceso en el que los modelos de IA se entrenan y luego continúan mejorando con el tiempo, utilizando datos dispares, sin necesidad de compartir o centralizar datos. Este es un gran paso adelante en el desarrollo de la IA. Históricamente, cualquier usuario que busque colaborar con múltiples sitios debe agrupar esos datos, lo que genera una gran cantidad de riesgos legales y de cumplimiento onerosos, costosos y lentos.
Hoy, con software como Rhino Health Platform, FL se está convirtiendo en una realidad cotidiana en el cuidado de la salud y las ciencias de la vida. El aprendizaje federado permite a los usuarios explorar, seleccionar y validar datos mientras esos datos permanecen en los servidores locales de los colaboradores. El código en contenedores, como un algoritmo AI/ML o una aplicación analítica, se envía al servidor local donde la ejecución de ese código, como el entrenamiento o la validación de un algoritmo AI/ML, se realiza ‘localmente’. Por lo tanto, los datos permanecen con el ‘custodio de datos’ en todo momento.
Los hospitales, en particular, están preocupados por los riesgos asociados con la agregación de datos confidenciales de pacientes. Esto ya ha dado lugar a situaciones embarazosas, en las que ha quedado claro que las organizaciones sanitarias colaboraron con la industria sin entender exactamente el uso de sus datos. A su vez, limitan la cantidad de colaboración que pueden hacer tanto la industria como los investigadores académicos, lo que ralentiza la I+D y afecta la calidad del producto en toda la industria de la salud. FL puede mitigar eso y permitir colaboraciones de datos como nunca antes, mientras controla el riesgo asociado con estas colaboraciones.
¿Podría compartir la visión de Rhino Health para permitir la creación rápida de modelos mediante el uso de datos más diversos?
Visualizamos un ecosistema de desarrolladores y usuarios de IA, colaborando sin miedo ni restricciones, respetando los límites de las regulaciones. Los colaboradores pueden identificar rápidamente los datos de capacitación y prueba necesarios de todas las geografías, acceder e interactuar con esos datos e iterar en el modelo. desarrollo con el fin de garantizar suficiente generalización, rendimiento y seguridad.
En el centro de todo esto se encuentra Rhino Health Platform, que proporciona una “ventanilla única” para que los desarrolladores de IA construyan conjuntos de datos masivos y diversos, entrenen y validen algoritmos de IA, y monitoreen y mantengan continuamente los productos de IA implementados.
¿Cómo evita la plataforma Rhino Health el sesgo de la IA y ofrece una explicación de la IA?
Al desbloquear y optimizar las colaboraciones de datos, los desarrolladores de IA pueden aprovechar conjuntos de datos más grandes y diversos en la capacitación y prueba de sus aplicaciones. El resultado de conjuntos de datos más robustos es un producto más generalizable que no se ve afectado por los sesgos de una sola institución o un conjunto de datos limitado. En apoyo de la explicabilidad de la IA, nuestra plataforma proporciona una visión clara de los datos aprovechados a lo largo del proceso de desarrollo, con la capacidad de analizar los orígenes de los datos, las distribuciones de valores y otras métricas clave para garantizar una diversidad y calidad de datos adecuadas. Además, nuestra plataforma permite una funcionalidad que no es posible si los datos simplemente se agrupan, lo que incluye permitir a los usuarios mejorar aún más sus conjuntos de datos con variables adicionales, como las calculadas a partir de puntos de datos existentes, para investigar la inferencia causal y mitigar los factores de confusión.
¿Cómo responde a los médicos que están preocupados de que una dependencia excesiva de la IA pueda conducir a resultados sesgados que no se validen de forma independiente?
Nos solidarizamos con esta preocupación y reconocemos que varias de las aplicaciones en el mercado actual pueden, de hecho, estar sesgadas. Nuestra respuesta es que debemos unirnos como industria, como una comunidad de atención médica que se preocupa ante todo por la seguridad del paciente, a fin de definir políticas y procedimientos para prevenir tales sesgos y garantizar aplicaciones de IA seguras y efectivas. Los desarrolladores de IA tienen la responsabilidad de garantizar que sus productos de IA comercializados se validen de forma independiente para lograr la confianza tanto de los profesionales de la salud como de los pacientes. Rhino Health se dedica a respaldar productos de IA seguros y confiables y está trabajando con socios para habilitar y optimizar la validación independiente de aplicaciones de IA antes de su implementación en entornos clínicos al desbloquear las barreras a los datos de validación necesarios.
¿Cuál es su visión para el futuro de la IA en el cuidado de la salud?
La visión de Rhino Health es la de un mundo donde la IA ha alcanzado todo su potencial en el cuidado de la salud. Estamos trabajando diligentemente para crear transparencia y fomentar la colaboración afirmando la privacidad para hacer posible este mundo. Visualizamos una IA para el cuidado de la salud que no esté limitada por firewalls, geografías o restricciones regulatorias. Los desarrolladores de IA tendrán acceso controlado a todos los datos que necesitan para construir modelos potentes y generalizables, y para monitorearlos y mejorarlos continuamente con un flujo de datos en tiempo real. Los proveedores y los pacientes tendrán la confianza de saber que no pierden el control sobre sus datos y pueden asegurarse de que se utilicen para siempre. Los reguladores podrán monitorear la eficacia de los modelos utilizados en el desarrollo de dispositivos y productos farmacéuticos en tiempo real. Las organizaciones de salud pública se beneficiarán de estos avances en IA, mientras que los pacientes y los proveedores descansan tranquilos sabiendo que la privacidad está protegida.
Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar Salud del rinoceronte.
