Estás leyendo la publicación: NVIDIA anuncia NeMo Guardrails: una herramienta de código abierto diseñada para mejorar el rendimiento y la seguridad de los chatbots impulsados por IA como ChatGPT
A medida que avanza la tecnología de inteligencia artificial (IA), el desarrollo de barandillas efectivas para aplicaciones de IA generativa se ha convertido en un problema apremiante. En respuesta a este desafío, NVIDIA lanzó un software de código abierto llamado NeMo Guardrails, cuyo objetivo es ayudar a los desarrolladores a garantizar la seguridad, la precisión y la idoneidad de las aplicaciones de IA que utilizan modelos de lenguaje extenso (LLM).
Barandillas NeMo proporciona a las empresas todo el código, los ejemplos y la documentación necesarios para agregar medidas de seguridad a sus aplicaciones de IA. Con la creciente adopción de LLM en varias industrias para tareas como responder consultas de clientes y acelerar el diseño de medicamentos, NeMo Guardrails ofrece una solución para mantener estas aplicaciones seguras.
El software permite a los desarrolladores crear tres tipos de límites: barandillas temáticas para mantener la aplicación dentro de las áreas deseadas, barandillas de seguridad para filtrar el lenguaje no deseado y garantizar respuestas precisas y barandillas de seguridad para restringir las conexiones a aplicaciones seguras de terceros. NeMo Guardrails está diseñado para funcionar con una variedad de herramientas, incluidas LangChain y Zapier, y es de código abierto, lo que lo hace accesible para desarrolladores de software con diferentes niveles de experiencia. El objetivo es hacer de la IA una parte confiable y confiable del futuro al priorizar la seguridad y la confianza en el desarrollo de la IA.
NVIDIA ha anunciado que integrará NeMo Guardrails en su marco NeMo, una herramienta integral para entrenar y ajustar modelos de lenguaje utilizando datos propietarios. El marco NeMo ya está parcialmente disponible como código fuente abierto en GitHub. Las empresas pueden obtenerlo como un paquete completo y compatible como parte de la plataforma de software AI Enterprise de NVIDIA. NVIDIA AI Foundations ofrece servicios en la nube para ayudar a las empresas a crear e implementar modelos de IA generativos personalizados utilizando sus datos y experiencia. Una de las herramientas disponibles en esta suite es el framework NeMo.
Varias organizaciones, incluido un operador móvil líder en Corea del Sur, ya han utilizado el marco NeMo para crear asistentes inteligentes. Un equipo de investigación en Suecia lo utilizó para crear LLM que automatizan las funciones de texto para los hospitales, el gobierno y las oficinas comerciales del país.
Desarrollar barandillas efectivas para la IA generativa es un desafío complejo que requiere una investigación continua a medida que avanza la tecnología de IA. NVIDIA ha reconocido este desafío y ha hecho que su software NeMo Guardrails sea de código abierto para contribuir a los esfuerzos continuos de la comunidad de desarrolladores para garantizar la seguridad de la IA. Al trabajar juntas en el desarrollo de barandas, las empresas pueden mantener sus servicios inteligentes alineados con los requisitos de seguridad, privacidad y seguridad, asegurando que estas herramientas innovadoras se mantengan en el buen camino y sean confiables.
La integración de NeMo Guardrails en el marco de NeMo ayudará a los desarrolladores a incorporar medidas de seguridad en sus aplicaciones de IA desde el inicio del proceso de desarrollo. Como resultado, las empresas pueden tener una mayor confianza en la precisión, seguridad e idoneidad de sus aplicaciones de IA, y el público puede confiar en que estas aplicaciones son seguras de usar. El uso de barandillas en el desarrollo de IA es esencial para garantizar que estas poderosas herramientas se usen de manera responsable y ética, y NeMo Guardrails de NVIDIA es un paso en la dirección correcta.
