Estás leyendo la publicación: Por qué NVIDIA adquirió OmniML
NVIDIA está ganando la carrera de la IA y no se detendrá pronto. El gigante de la fabricación de chips ha estado trabajando arduamente para invertir en el ecosistema de IA, financiando nuevas empresas como Inflection AI, RunwayML, Cohere y más. También parece que la empresa está construyendo su propia pila de tecnología de inteligencia artificial con adquisiciones, como se ve en su adquisición sigilosa de OmniML.
OmniML es una empresa que se especializa en reducir los modelos de ML para que puedan trasladarse al borde. El año pasado, lanzó una plataforma conocida como Omnimizer que adapta modelos de IA computacionalmente pesados a hardware de gama baja. Parece que el ingrediente secreto detrás de la reducción de modelos es algo que NVIDIA quiere, llegando incluso a adquirir la startup en febrero de este año.
Esta adquisición no ha sido anunciada por NVIDIA, lo que lleva a muchos a especular sobre el razonamiento detrás de este movimiento. Teniendo en cuenta la presencia de NVIDIA en la IA perimetral, especialmente en campos como los automóviles, la robótica y los drones, OmniML podría ser lo que Team Green necesita para dominar la periferia.
Qué hace OmniML
La empresa fue fundada en 2021 por el Dr. Di Wu, un ingeniero de software de la división PyTorch de Facebook, y el Dr. Huizi Mao, quien trabajó en el equipo de visión móvil de Google Research. Combinando su experiencia junto con el Dr. Song Han, el pionero de la técnica de compresión profunda para reducir las huellas informáticas, crearon OmniML.
La oferta principal de OmniML fue Omnimizer, una plataforma destinada a hacer que la optimización de IA sea rápida y fácil a escala. En lugar de depender de diferentes plataformas y productos para implementar y optimizar modelos para dispositivos perimetrales, Omnimizer proporcionó una plataforma única para implementación, capacitación y medición. Además de esto, la plataforma también optimizó los modelos para poder ejecutarse incluso en los dispositivos de menor potencia.
Lo hace al incluir el hardware de destino en los bucles de prueba, lo que da como resultado modelos que no solo son más pequeños y rápidos, sino que también se adaptan mejor al hardware en el que se ejecutan. El modelo se optimiza mediante el uso de la búsqueda de arquitectos neuronales, una técnica utilizada para detectar la mejor arquitectura para una red neuronal dada, limitada por ciertas variables como la latencia y la potencia disponible.
Antes del lanzamiento de esta plataforma, OmniML recaudó $10 millones en fondos iniciales, en una ronda encabezada por GSR Ventures y Foothill Ventures, junto con Qualcomm Ventures. La ronda de financiación muestra que los esfuerzos de OmniML no fueron en vano, ya que existía una necesidad muy sólida de una plataforma que pudiera optimizar automáticamente los modelos para el perímetro.
A través de OmniML, las empresas pueden adaptar fácilmente sus modelos para que se ejecuten en dispositivos como drones, cámaras inteligentes y automóviles. Esto permitiría efectivamente que los modelos se alejaran de la dependencia de la nube, democratizando la capacidad de ejecutar modelos ML de forma rápida y sencilla. Mirando el posible valor que esto puede traer en los próximos años, no es de extrañar que NVIDIA se hiciera con la compañía en sus inicios.
Los sueños de borde de NVIDIA
NVIDIA tiene principalmente 3 ofertas de borde: la plataforma NVIDIA EGX para computación de borde empresarial, la plataforma IGX para aplicaciones industriales y Jetson para máquinas autónomas y casos de uso de borde integrado. La empresa también ha optimizado el software de NVIDIA para que se ejecute en cualquiera de estos dispositivos, y sus clientes también pueden controlar sus flotas en el borde con la plataforma Fleet Command.
Este completo conjunto de ofertas se verá reforzado por la plataforma Omnimizer, ya que se adapta bien a la estrategia de borde de NVIDIA. Al agregar las técnicas de optimización de modelos automatizadas incluidas en Omnimiser, NVIDIA puede hacer que los modelos en el perímetro sean aún más eficientes. Esto no solo le permitirá adaptarse a modelos más grandes en dispositivos más pequeños, sino que también creará modelos más capaces para correr al límite.
Como se mencionó anteriormente, OmniML también mantiene el hardware informado cuando se trata de optimización. Esto significa que NVIDIA puede crear perfiles personalizados para su paquete de hardware utilizando la pila tecnológica de OmniML, lo que garantizará que los modelos implementados usen hardware de borde de la manera más eficiente y eficaz posible.
El quid de la estrategia radica en el Catálogo NGC (NVIDIA GPU Cloud) para empresas. Este catálogo ofrece contenedores de software optimizados para GPU para empresas que buscan una forma rápida y fácil de implementar modelos a escala. Los modelos de borde disponibles en el catálogo se beneficiarán enormemente de la optimización de OmniML.
Si estos modelos se optimizan con esta técnica, NVIDIA puede obtener una gran cantidad de ganancias de rendimiento y eficiencia para los modelos que se ofrecen en el perímetro. Además, el hardware de los clientes también se puede incluir en el software de optimización a través de la plataforma administrada, lo que crea un buen ajuste entre la arquitectura y la solución sin importar la configuración.
Al igual que con sus otras adquisiciones e inversiones, OmniML sirve para consolidar la posición de liderazgo de NVIDIA en el mercado de IA. Si OmniML hubiera continuado como un jugador independiente, aún habría aportado valor a la pila tecnológica de NVIDIA, aunque a través de efectos de segundo orden. Sin embargo, como parte del gigante verde, OmniML brinda un valor agregado único para consolidar la posición de NVIDIA en la IA de borde.
La búsqueda incesante de NVIDIA en la carrera de la IA continúa a medida que el gigante de la fabricación de chips invierte en el ecosistema de la IA y adquiere nuevas empresas como OmniML. La experiencia de OmniML en la reducción de modelos de ML para la implementación perimetral se alinea perfectamente con la presencia de NVIDIA en campos como máquinas autónomas y aplicaciones industriales. Al integrar la tecnología de OmniML en sus ofertas de borde, NVIDIA puede optimizar los modelos para una implementación eficiente en hardware de gama baja. Además, la capacidad de OmniML para mantener el hardware informado permite a NVIDIA crear perfiles personalizados, lo que maximiza la utilización de su conjunto de hardware de borde. Este movimiento estratégico fortalece la posición de NVIDIA en el mercado de IA y mejora su estrategia integral de IA de vanguardia.
