Estás leyendo la publicación: Fuentes abiertas de IA de Salesforce ‘OmniXAI’: una biblioteca de aprendizaje automático basada en Python que proporciona una solución de IA explicable (XAI) integral para analizar, depurar e interpretar modelos de IA
Los modelos con inteligencia artificial, en particular los basados en redes neuronales profundas, se han visto como modelos de caja negra desde el surgimiento del aprendizaje automático. Esto se debe principalmente a su complejidad y falta de comprensión humana. Como resultado, algunos médicos dudan en implementar modelos de IA en ciertas aplicaciones cruciales, aunque su uso podría ser ventajoso. Debido a estas limitaciones, el tema de la IA explicable, también conocida como XAI, ha visto un aumento en la atención. XAI tiene como objetivo investigar y revelar las razones detrás de las decisiones de un modelo de IA. Intenta ver qué hay dentro de la caja negra abriéndola. Estas explicaciones pueden ser el primer paso para aumentar la transparencia y la persuasión de los sistemas de IA, ayudando a los desarrolladores de IA a depurar y mejorar el rendimiento del modelo. Han surgido varias técnicas populares de XAI, cada una con su propio conjunto de talentos y características distintivos.
Por otro lado, la mayoría de las bibliotecas XAI existentes solo manejan un conjunto restringido de tipos y modelos de datos. Además, debido a que las diferentes bibliotecas tienen interfaces muy variadas, cambiar de una biblioteca XAI a otra mientras se busca un nuevo método de explicación se vuelve un inconveniente para los investigadores. También existe la necesidad de una herramienta de visualización para que los usuarios examinen y comparen las explicaciones, que falta en la mayoría de las soluciones existentes. Para abordar estas fallas, Salesforce ha creado un marco de aprendizaje automático de código abierto llamado OmniXAI, que significa Omni eXplainable AI. Esta biblioteca adopta un enfoque “omnidireccional” para XAI, con amplias funciones de ML interpretables que abordan muchos problemas para explicar las decisiones del modelo de ML en la realidad. OmniXAI es una biblioteca integral integral que hace que la IA explicable sea accesible para los académicos que requieren explicaciones para cada etapa del proceso de aprendizaje automático. Esto no se limita a la exploración de datos, la ingeniería de características, el desarrollo de modelos, la evaluación, la toma de decisiones, etc.
OmniXAI ofrece una amplia gama de métodos de explicación divididos en categorías “independientes del modelo” y “específicas del modelo”. “Independiente del modelo” se refiere a un método que puede explicar las decisiones de un modelo de caja negra sin comprender los detalles del modelo, mientras que “específico del modelo” se refiere a un método que requiere cierto conocimiento del modelo para generar explicaciones. OmniXAI también ofrece análisis y selección de funciones, incluida la observación de correlaciones de funciones, la comprobación de desequilibrios de datos y la elección de funciones en función de la información mutua. Funciona con los marcos y modelos de aprendizaje automático más populares, incluidos PyTorch, TensorFlow y otros. OmniXAI simplifica el trabajo de un investigador al permitirle usarlo para tareas tabulares, de visión, NLP y de series temporales. En la práctica, los usuarios seleccionan entre varios métodos de explicación para examinar varios elementos de los modelos de IA. OmniXAI facilita este proceso a los usuarios al ofrecer una interfaz consistente que les permite generar múltiples tipos de explicaciones con solo unas pocas líneas de código. La filosofía de diseño central de OmniXAI es permitir a los usuarios aplicar simultáneamente varios métodos de explicación y visualizar las explicaciones generadas resultantes. Se pueden agregar rápidamente nuevos métodos de explicación sin alterar la base de la biblioteca, lo que hace que la biblioteca sea muy fácil de usar y desarrollar.
Fuente: https://arxiv.org/pdf/2206.01612.pdfLos desarrolladores creen que poner una biblioteca XAI como OmniXAI en uso en el mundo real beneficiará a la IA y a la humanidad. La falta de explicabilidad en los modelos de IA obstaculizó la confianza y reprimió la adopción en campos como la atención médica y las finanzas. Los juicios realizados por los modelos de IA ahora pueden explicarse gracias a bibliotecas como OmniXAI. Esto mejorará la transparencia y la capacidad de persuasión de los sistemas de IA, lo que permitirá a los clientes comprender el razonamiento detrás de sus juicios. OmniXAI también puede ser útil en situaciones en las que falla un modelo de IA porque puede proporcionar respuestas sobre por qué falló el modelo. Esto ayudará a los desarrolladores a determinar rápidamente las causas de las fallas y mejorar sus modelos. OmniXAI está siendo desarrollado y mejorado continuamente por el equipo de Salesforce, con más algoritmos para el análisis de características y soporte para varios tipos de datos y tareas agregadas.
Este artículo está escrito como un artículo resumido por el personal de Marktechpost basado en el documento ‘OmniXAI: una biblioteca para la IA explicable‘. Todo el crédito de esta investigación es para los investigadores de este proyecto. Revisar la papel, artículo, github, panel.
Por favor, no olvides unirte a nuestro Subreddit de aprendizaje automático
Echa un vistazo a https://aitoolsclub.com para encontrar 100 de Cool AI Tools
