Estás leyendo la publicación: Krishna Rangasayee, fundador y director ejecutivo de SiMa.ai – Serie de entrevistas
Krishna Rangasayee es Fundador y CEO de SiMa.ai. Anteriormente, Krishna fue director de operaciones de Groq y en Xilinx durante 18 años, donde ocupó varios puestos de liderazgo sénior, incluido el de vicepresidente sénior y director general del negocio general, y vicepresidente ejecutivo de ventas globales. Mientras estuvo en Xilinx, Krishna hizo crecer el negocio a $2500 millones en ingresos con un margen bruto del 70 % mientras creaba las bases para más de 10 trimestres de crecimiento secuencial sostenido y expansión de participación de mercado. Antes de Xilinx, ocupó varios puestos comerciales y de ingeniería en Altera Corporation y Cypress Semiconductor. Posee más de 25 patentes internacionales y ha sido miembro de la junta directiva de empresas públicas y privadas.
¿Qué le atrajo inicialmente del aprendizaje automático?
He sido un estudiante de los mercados de borde y nube integrados durante los últimos 20 años. He visto toneladas de innovación en la nube, pero muy poca para habilitar el aprendizaje automático en el perímetro. Es un mercado masivamente desatendido de $ 40B + que ha sobrevivido con tecnología antigua durante décadas.
Entonces, nos embarcamos en algo que nadie había hecho antes: habilitar ML sin esfuerzo para el borde integrado.
¿Podría compartir la historia de génesis detrás de SiMa?
En mi carrera de más de 20 años, aún no había sido testigo de la innovación arquitectónica que sucedía en el mercado de borde integrado. Sin embargo, la necesidad de ML en el borde integrado aumentó en la nube y los elementos de IoT. Esto demuestra que si bien las empresas exigen ML en el borde, la tecnología para hacer esto realidad es demasiado pesada para funcionar.
Por lo tanto, antes de que SiMa.ai comenzara con nuestro diseño, era importante comprender los mayores desafíos de nuestros clientes. Sin embargo, lograr que pasaran tiempo con una startup en etapa inicial para obtener comentarios sinceros y significativos fue su propio desafío. Afortunadamente, el equipo y yo pudimos aprovechar nuestra red de relaciones anteriores en las que pudimos solidificar la visión de SiMa.ai con las empresas objetivo adecuadas.
Nos reunimos con más de 30 clientes y les hicimos dos preguntas básicas: “¿Cuáles son los mayores desafíos al escalar ML al borde integrado?” y “¿Cómo podemos ayudar?” Después de muchas discusiones sobre cómo querían remodelar la industria y escuchar sus desafíos para lograrlo, obtuvimos una comprensión profunda de sus puntos débiles y desarrollamos ideas sobre cómo resolverlos. Éstas incluyen:
- Obtener los beneficios de ML sin una curva de aprendizaje pronunciada.
- Preservar aplicaciones heredadas junto con implementaciones de ML preparadas para el futuro.
- Trabajar con una solución de bajo consumo y alto rendimiento en un entorno fácil de usar.
Rápidamente, nos dimos cuenta de que necesitábamos ofrecer un enfoque por etapas de mitigación de riesgos para ayudar a nuestros clientes. Como startup, teníamos que traer algo tan convincente y diferenciado de todos los demás. Ninguna otra empresa estaba abordando esta clara necesidad, por lo que este fue el camino que elegimos tomar.
SiMa.ai logró esta rara hazaña al diseñar desde cero la primera plataforma de Machine Learning System-on-Chip (MLSoC) centrada en software y especialmente diseñada. Con su combinación de silicio y software, el aprendizaje automático ahora se puede agregar a las aplicaciones de borde integradas con solo presionar un botón.
¿Podría compartir su visión de cómo el aprendizaje automático remodelará todo para estar al límite?
La mayoría de las empresas de ML se centran en mercados de alto crecimiento, como la nube y la conducción autónoma. Sin embargo, son la robótica, los drones, el comercio minorista sin fricciones, las ciudades inteligentes y la automatización industrial las que exigen la última tecnología de aprendizaje automático para mejorar la eficiencia y reducir los costos.
Estos sectores en crecimiento, junto con las frustraciones actuales que implementan ML en el borde integrado, es la razón por la cual creemos que el momento está lleno de oportunidades. SiMa.ai está abordando este problema de una manera completamente diferente; queremos hacer realidad la adopción generalizada.
¿Qué ha impedido hasta ahora escalar el aprendizaje automático en el perímetro?
El aprendizaje automático debe integrarse fácilmente con los sistemas heredados. Tanto las empresas Fortune 500 como las nuevas empresas han invertido mucho en sus plataformas tecnológicas actuales, pero la mayoría de ellas no reescribirá todo su código ni revisará por completo su infraestructura subyacente para integrar ML. Para mitigar el riesgo y aprovechar los beneficios de ML, debe haber una tecnología que permita una integración perfecta del código heredado junto con ML en sus sistemas. Esto crea un camino fácil para desarrollar e implementar estos sistemas para abordar las necesidades de la aplicación al tiempo que brinda los beneficios de la inteligencia que brinda el aprendizaje automático.
No hay grandes enchufes, no hay un gran cliente que vaya a mover la aguja, por lo que no tuvimos más remedio que poder apoyar a más de mil clientes para escalar realmente el aprendizaje automático y realmente brindarles la experiencia. Descubrimos que estos clientes tienen el deseo de ML pero no tienen la capacidad de obtener la experiencia de aprendizaje porque carecen de la capacidad interna para construir y no tienen la base de conocimiento fundamental interna. Por lo tanto, quieren implementar la experiencia de ML, pero hacerlo sin la curva de aprendizaje perimetral integrada y lo que realmente sucedió rápidamente es que tenemos que hacer que esta experiencia de ML sea muy sencilla para los clientes.
¿Cómo puede SiMA reducir tan drásticamente el consumo de energía en comparación con la competencia?
Nuestro MLSoC es el motor subyacente que realmente permite todo, es importante diferenciar que no estamos construyendo un acelerador de ML. Para los 2 mil millones de dólares invertidos en nuevas empresas de SoC de ML de borde, la respuesta de la industria para la innovación ha sido un bloque acelerador de ML como un núcleo o un chip. Lo que la gente no está reconociendo es que para migrar personas de un SoC clásico a un entorno de ML, necesita un entorno de MLSoC para que las personas puedan ejecutar código heredado desde el primer día y, gradualmente, de manera gradual y con riesgos mitigados, implementar su capacidad en un componente de ML o algún día estamos haciendo segmentación semántica utilizando un enfoque de visión por computadora clásico y al día siguiente podrían hacerlo usando un enfoque de ML, pero de una forma u otra les damos a nuestros clientes la oportunidad de implementar y particionar su problema como lo consideren adecuado usando la visión por computadora clásica, procesamiento ARM clásico de sistemas, o un cómputo ML heterogéneo. Para nosotros, ML no es un producto final y, por lo tanto, un acelerador de ML no tendrá éxito por sí solo, ML es una capacidad y es un conjunto de herramientas además de las otras herramientas que habilitamos a nuestros clientes para que, al usar una metodología de botón pulsador, ellos puede iterar su diseño de preprocesamiento, posprocesamiento, análisis y aceleración de ML, todo en una sola plataforma, al tiempo que ofrece el mayor rendimiento de aplicaciones en todo el sistema con la menor potencia.
¿Cuáles son algunas de las principales prioridades del mercado para SiMa?
Hemos identificado varios mercados clave, algunos de los cuales generan ingresos más rápidamente que otros. El tiempo más rápido para generar ingresos es la visión inteligente, la robótica, la industria 4.0 y los drones. Los mercados que toman un poco más de tiempo debido a las calificaciones y los requisitos estándar son las aplicaciones automotrices y de atención médica. Hemos abierto camino en todo lo anterior trabajando con los mejores jugadores de cada categoría.
La captura de imágenes generalmente ha estado al límite, con análisis en la nube. ¿Cuáles son los beneficios de cambiar esta estrategia de implementación?
Las aplicaciones perimetrales necesitan que el procesamiento se realice localmente, para muchas aplicaciones no hay suficiente tiempo para que los datos vayan a la nube y regresen. Las capacidades de ML son fundamentales en las aplicaciones perimetrales porque las decisiones deben tomarse en tiempo real, por ejemplo, en aplicaciones automotrices y robótica donde las decisiones deben procesarse de manera rápida y eficiente.
¿Por qué las empresas deberían considerar las soluciones SiMa frente a sus competidores?
Nuestra metodología única de un enfoque centrado en software empaquetado con una solución de hardware completa. Nos hemos centrado en una solución completa que aborda lo que nos gusta llamar Any, 10x y Pushbutton como el núcleo de los problemas de los clientes. La tesis original de la empresa es que presionas un botón y obtienes ¡GUAU! La experiencia realmente debe abstraerse hasta el punto en que desee que miles de desarrolladores la usen, pero no desea exigirles que todos sean genios de ML, no desea que todos ajusten capa por capa codificación manual para obtener el rendimiento deseado, desea que se mantengan en el nivel más alto de abstracción e implementen ML sin esfuerzo de manera significativa y rápida. Entonces, la tesis detrás de por qué nos aferramos a esto fue una correlación muy fuerte con la escala, en el sentido de que realmente debe ser una experiencia de ML sin esfuerzo y no requiere mucha mano y compromiso de servicios que interfieran con la escala.
Pasamos el primer año visitando a más de 50 clientes en todo el mundo tratando de entender si todos ustedes quieren ML pero no lo están implementando. ¿Por qué? Lo que se interpone en el camino para implementar ML de manera significativa o lo que se requiere para impulsar realmente ML a una implementación a escala y realmente se reduce a tres pilares clave de comprensión, el primero es CUALQUIERA. Como empresa, tenemos que resolver problemas dada la amplitud de los clientes y la amplitud de los modelos de uso junto con la disparidad entre las redes ML, los sensores, la velocidad de fotogramas, la resolución. Es un mundo muy dispar en el que cada mercado tiene diseños frontales completamente diferentes y si realmente solo tomamos una pequeña parte de él, no podemos construir económicamente una empresa, realmente tenemos que crear un embudo que sea capaz de abarcar una gama muy amplia. de espacios de aplicación, casi piense en el embudo como la Isla Ellis de todo lo relacionado con la visión artificial. Las personas podrían estar en tensorflow, podrían estar usando Python, podrían estar usando un sensor de cámara con una resolución de 1080 o podría ser un sensor de resolución de 4K, realmente no importa si podemos homogeneizarlos y traerlos a todos y si no. tiene el front-end como este, entonces no tiene una empresa escalable.
El segundo pilar es 10x, lo que significa que también existe el problema de por qué los clientes no pueden implementar y crear plataformas derivadas porque todo es volver a cero para construir un nuevo modelo o tubería. El segundo desafío es, sin duda, que como startup necesitamos traer algo muy emocionante, muy convincente donde cualquiera y todos estén dispuestos a correr el riesgo, incluso si es una startup basada en una métrica de rendimiento de 10x. El único mérito técnico clave que nos enfocamos en resolver en problemas de visión por computadora es la métrica de fotogramas por segundo por vatio. Necesitamos ser ilógicamente mejores que los demás para poder estar una o dos generaciones por delante, así que tomamos esto como parte de nuestro enfoque centrado en el software. Ese enfoque creó una plataforma de cómputo heterogénea para que las personas puedan resolver toda la canalización de visión por computadora en un solo chip y entregar 10 veces en comparación con cualquier otra solución. El tercer pilar de Pushbutton está impulsado por la necesidad de escalar ML en el borde incrustado de manera significativa. Las cadenas de herramientas de ML son muy incipientes, se rompen con frecuencia, ninguna empresa ha creado realmente una experiencia de software de ML de clase mundial. Además, reconocimos que para el mercado integrado es importante enmascarar la complejidad del código integrado y, al mismo tiempo, brindarles un proceso iterativo para regresar rápidamente, actualizar y optimizar sus plataformas. Los clientes realmente necesitan una experiencia de botón que les brinde una respuesta o una solución en minutos en lugar de meses para lograr un aprendizaje automático sin esfuerzo. Any, 10x y pushbutton son las propuestas de valor clave que quedaron muy claros para nosotros: si hacemos un gran trabajo en estas tres cosas, moveremos absolutamente la aguja en ML sin esfuerzo y escalando ML en el borde incrustado.
¿Hay algo más que le gustaría compartir sobre SiMa?
En el desarrollo inicial de la plataforma MLSoC, estábamos superando los límites de la tecnología y la arquitectura. Íbamos a apostar todo en una plataforma centrada en el software, que era un enfoque completamente nuevo, que iba en contra de la sabiduría convencional. El viaje para descubrirlo y luego implementarlo fue difícil.
Una victoria monumental reciente valida la fuerza y la singularidad de la tecnología que hemos construido. SiMa.ai logró un hito importante en abril de 2023 al superar al líder actual en nuestro desempeño debut de MLPerf Benchmark en la categoría Closed Edge Power. Estamos orgullosos de ser la primera empresa nueva en participar y lograr resultados ganadores en la evaluación comparativa MLPerf más popular y reconocida de la industria de Resnet-50 por nuestro rendimiento y potencia.
Comenzamos con grandes aspiraciones y, hasta el día de hoy, me enorgullece decir que esa visión no ha cambiado. Nuestro MLSoC fue diseñado específicamente para ir en contra de las normas de la industria para ofrecer una solución de ML revolucionaria al mercado de borde integrado.
Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar SiMa.ai.
