Estás leyendo la publicación: 9 lecciones del equipo de IA de Tesla: hacia la IA
Publicado originalmente en Hacia la IA, la empresa líder mundial en noticias y medios de IA y tecnología. Si está creando un producto o servicio relacionado con la IA, lo invitamos a considerar convertirse en patrocinador de la IA. En Hacia la IA, ayudamos a escalar las empresas emergentes de IA y tecnología. Permítanos ayudarlo a dar rienda suelta a su tecnología a las masas.
9 lecciones del equipo de IA de Tesla
Qué contribuye al éxito de Tesla y qué puede hacer usted
Si bien OpenAI es famoso por su éxito en NLP y DeepMind es bien conocido por RL y toma de decisiones, Tesla es definitivamente una de las empresas más impactantes en visión artificial. Incluso si no es un profesional de la visión por computadora, hay muchas cosas que puede aprender de Tesla sobre su IA de grado de producción.
El equipo de inteligencia artificial de Tesla no publica publicaciones en blogs como Uber o Airbnb, por lo que es bastante difícil para los extraños entender lo que hicieron y cómo lograron lo que tenían hoy. sin embargo, el Día de la IA de Tesla 2021 ha revelado el tecnicas y lecciones de las que pueden aprender todos los particionadores y empresas de IA.
Aquí están las lecciones.
I. Negocios
1. (Re)utilización creativa de la tecnología de punta
Tesla anunció su nuevo producto: un robot humanoide llamado Tesla Bot. Si bien los vehículos y los robots pueden parecer muy diferentes, los automóviles autónomos y los robots impulsados por IA en realidad comparten muchos componentes básicos comunes. Por ejemplo, tanto los automóviles Tesla como los Bots Tesla requieren sensores, baterías, computación y análisis en tiempo real de los datos recibidos, así como capacidades de toma de decisiones instantáneas. Por lo tanto, los chips y el hardware de IA construidos por Tesla se pueden usar en ambos productos.
En términos de software y algoritmos, los dos productos de Tesla necesitan un sistema de visión y un sistema de planificación. Por lo tanto, el equipo de autos de Tesla puede compartir el código base del software con el equipo de Tesla Bot. Las economías de escala reducen aún más los costos promedio de desarrollo y, potencialmente, hacen que Tesla sea más competitivo en el mercado.
Otro beneficio para el equipo de IA de Tesla es que los datos recibidos de Tesla Bot también se pueden usar para el entrenamiento de los autos autónomos de Tesla.
De hecho, también hay otros ejemplos de reutilización de tecnología avanzada interna. Uno de ellos es reCAPTCHA. Luis von Ahn primero co-inventó CAPTCHA para que las personas se identifiquen pidiéndoles a los usuarios que escriban las letras que se muestran en la pantalla. Más tarde, se desafió a sí mismo a hacer CAPTCHA más útil y finalmente se asoció con NY Times y inventó reCAPTCHA, un sistema que divide oraciones largas en el libro y pide a los usuarios que ingresen lo que ven. Solo un ligero ajuste es suficiente para ayudar digitaliza millones de libros en días que podría haber tomado años para hacerlo.
Si su empresa tiene una tecnología única, tenga en cuenta la naturaleza de la tecnología y piense qué tipo de personas podrían beneficiarse de su tecnología. Dedica algunos recursos mentales a pensarlo y encontrarás tu próxima línea de negocio.
II. Mejora y Progresión
2. Progreso iterativo
En la sesión de preguntas y respuestas, Elon Musk dijo:
Para los ingenieros de ML y los científicos de datos, apuesto a que estarían de acuerdo conmigo en que no podría tener más razón. La gente de ML pasó su tiempo, principalmente no en el modelado de aprendizaje automático, sino en cosas como visualizar cosas, analizar errores, limpiar datos, estudiar datos, obtener más datos, etc. Sin las herramientas adecuadas, se necesita mucho mas largo para que los desarrolladores progresen. Otro escenario común es que varios desarrolladores en el mismo equipo o varios equipos en la misma empresa están creando herramientas similares. independientemente para hacer su propia vida más fácil.
Esto ha explicado por qué Tesla tiene un equipo de herramientas y construye muchas cosas internamente. Y es la próxima lección.
3. Un sistema diseñado específicamente es mejor que uno general
Tesla entiende que la GPU es un hardware generalmente construido y que los cálculos masivos se pueden hacer mucho más rápido con chips construidos específicamente. Es por eso que Tesla ha construido sus propios chips de IA: Dojo.
Aparte de los chips, Tesla también construyó su propia infraestructura informática de IA que se ejecuta 1 millón de experimentos a la semana. También crearon sus propias herramientas de depuración para visualizar los resultados. Durante la presentación, Andrej Karpathy mencionó que encontró que la herramienta de administración de etiquetas de datos era crítico y están orgullosos de la herramienta.
Si su equipo tiene recursos limitados para crear su propia herramienta, únase a la comunidad de código abierto. Puede construir algo que se adapte a sus necesidades además del proyecto de código abierto. Si su problema es nuevo o tiene una mejor idea de cómo hacer las cosas, haga la parte difícil de desarrollar el prototipo inicial y escribir una buena documentación para ayudar a las personas que comparten problemas similares con usted.
4. Los errores son INEVITABLES. Aprende de ellos.
Si investiga un poco sobre los antecedentes de las personas que se encuentran en el escenario, pronto descubrirá que todas son personas extremadamente inteligentes que tienen un doctorado, se graduaron de universidades de primer nivel o hicieron algo impresionante en el pasado.
Estas personas también cometen errores. Andrej Karpathy compartió que al principio se asociaron con un proveedor de datos externo. Creo que hacen esto porque quieren tener los datos más rápido y reducir los costos. Sin embargo, pronto descubrieron que trabajar con terceros para cosas tan críticas y las comunicaciones de ida y vuelta simplemente “no van a ser suficientes”. Luego trajeron las etiquetadoras internamente y ahora tienen más de 1,000 etiquetadoras.
La lección aquí es que la innovación y los avances tecnológicos son, como siempre, un proceso de prueba y error. Los errores son parte de ello.. Si evita los errores y culpa a los demás por el fracaso, no está aprendiendo y no progresará.
tercero Práctica de IA
5. La red neuronal es un bloque de Lego
Durante el intercambio de preguntas y respuestas, Ashok Elluswamy vio las redes neuronales solo como un bloque en el sistema que podría combinarse con cualquier cosa. Explicó que, en realidad, se puede incluir la búsqueda y la optimización en la planificación de la arquitectura de la red, o se pueden combinar bloques (modelos) basados en la física y bloques de redes neuronales para crear un sistema híbrido.
creo que la idea de combinar modelos de redes no neuronales con redes neuronales para el entrenamiento es bastante interesante, y definitivamente es algo que vale la pena probar.
6. HidraNets
La idea de HydraNet puede remontarse a 2018, que es mucho tiempo en la comunidad de IA. Aún así, creo que la idea es genial y sería útil en muchos escenarios. Andrej explicó que HydraNet permite que la red neuronal compartir una arquitectura común, desvincular las tareas y tu puedes almacenar en caché las características intermedias para guardar los cálculos.
7. La simulación como solución a la insuficiencia de datos
El desequilibrio de etiquetas es común y está en todas partes. Los datos de las minorías son muy difíciles, si no imposibles, de obtener. Sin embargo, para implementar IA en el mundo real, siempre son los casos extremos los que importan porque podrían implicar consecuencias graves e indeseadas.
La simulación es una de las técnicas de argumentación de datos para generar nuevos datos, pero es más fácil decirlo que hacerlo. En Tesla, el equipo de simulación usó técnicas como el trazado de rayos para generar datos de video realistas que personalmente no podría decir si son ciertos o no a primera vista.
Creo que esta técnica es realmente el arma secreta de Tesla ya que esto dificulta la tarea de obtener muchos datos inusuales. Extremadamente facil. Ahora pueden generar datos de video como una pareja corriendo con un perro en una carretera, lo cual no es probable pero definitivamente posible.
Por cierto, ¿qué te parece la idea de simulación como servicio?
8. El 99,9 % de las veces no necesita el aprendizaje automático
Una audiencia preguntó si Tesla está utilizando el aprendizaje automático en su diseño de fabricación u otros procesos de ingeniería, y esto es lo que dijo Elon.
No comentaría sobre la cifra del 99,9% porque depende de lo que estés hablando. Por ejemplo, ciertamente no necesita ML para descubrir a sus clientes que más gastan. Todo lo que necesita es solo un algoritmo de clasificación.
Sin embargo, veo que este es un error común de muchas personas. Debe tener un conjunto de condiciones satisfechas para que ML funcione. Si no, hay un montón de otras herramientas que lo ayudan a resolver sus problemas de ciencia de datos. Por ejemplo, algoritmos genéticos, modelos matemáticos, algoritmos de programación, etc.
9. Datos y computación
Ian Glow, director del equipo de simulación de piloto automático, mencionó que había un artículo reciente sobre papel de mejora del fotorrealismo que mostraba los últimos logros, pero su equipo podía hacer mucho más que el equipo que publica el artículo. Fue porque Tesla tiene muchos más datos, poder de cómputo y recursos humanos.
Es solo otro ejemplo que muestra que los datos y la computación son esenciales para el aprendizaje profundo. Creo que la lección aquí es que si necesita usar el aprendizaje profundo en la producción, dedique tiempo a pensar en cómo obtener datos y usar la potencia de cómputo de manera efectiva y eficiente. Continúe haciendo esto hasta que el costo promedio de adquisición y uso de datos sea insignificante.
Conclusión
Si bien muchas personas se centraron en los detalles de implementación de los modelos de aprendizaje profundo, creo que las grandes ideas, las lecciones y el proceso de pensamiento detrás de ellas son igualmente valiosas. Espero que este artículo pueda brindarle algo nuevo y ayudarlo a desarrollar una mejor práctica de ML.
Salud.
9 Lecciones del equipo de IA de Tesla se publicó originalmente en Hacia la IA en Medium, donde las personas continúan la conversación resaltando y respondiendo a esta historia.
Publicado a través de Hacia la IA
