Estás leyendo la publicación: ¿Cuánto cuesta ejecutar ChatGPT por día?
¿Alguna vez se preguntó cuál es el precio detrás del éxito de ChatGPT? Ha ganado millones de usuarios y se abrió camino en numerosas aplicaciones y plataformas. Pero ejecutar un chatbot tan avanzado no es barato.
En este artículo, profundizaremos en los costos diarios de operar ChatGPT y descubriremos los factores que contribuyen a sus elevados gastos. ¡Echemos un vistazo a lo que sucede detrás de escena de ChatGPT y descubramos qué es lo que realmente lo hace funcionar!
¿Cuánto cuesta ChatGPT por consulta?
La estimación del costo de ChatGPT por consulta puede diferir según las circunstancias específicas y los niveles de precios.
Según un informe de Dylan Patel, analista jefe de SemiAnalysis, mantener ChatGPT en funcionamiento cuesta aproximadamente $ 700,000 por día, lo que se traduce en 36 centavos por consulta.
Sin embargo, esta estimación está sujeta a incertidumbre debido a varias variables desconocidas. OpenAI, la organización detrás de ChatGPT, proporciona su propia información de precios en su sitio web.
OpenAI ofrece modelos ChatGPT optimizados para el diálogo a diferentes precios.
por ejemplo, el El modelo GPT-3.5-turbo tiene un precio de $ 0.002 por 1,000 tokensdonde cada token representa unas pocas letras de una palabra y 1000 tokens equivalen aproximadamente a 750 palabras.
Según esta estructura de precios, podemos decir que una consulta en ChatGPT cuesta alrededor de 0,2 centavos.
Sin embargo, el precio de 0,2 centavos por consulta refleja el costo para los usuarios que se suscriben al nivel ChatGPT Plus, que cuesta $20 por mes y ofrece beneficios adicionales. Pero para los usuarios gratuitos, es probable que el costo por consulta sea mucho más alto.
OpenAI subsidia parcialmente el costo de los usuarios gratuitos a través de asociaciones con empresas como Microsoft.
¿Cuánto cuesta ChatGPT por día?
El costo de operar ChatGPT por día es un tema que varía según diferentes estimaciones. Como se mencionó anteriormente, el costo aproximado para ejecutar ChatGPT por día es de alrededor $700,000 por día.
Esta estimación se basa en un modelo de costos que sugiere que el cálculo los gastos de hardware para ejecutar ChatGPT ascienden a $ 694,444 por día.
Sin embargo, varias variables desconocidas podrían afectar el costo real, como la cantidad de consultas recibidas, el rendimiento y la utilización de la GPU, los precios y la disponibilidad de la GPU, el consumo de energía y los requisitos de enfriamiento, y los costos de mantenimiento y depreciación.
Otra fuente afirma que el costo diario de ejecutar ChatGPT es de $ 100,000. Esta estimación tiene en cuenta los gastos asociados con el alojamiento de ChatGPT en la plataforma en la nube Azure de Microsoft.
Se estima que una sola GPU A100 en Azure cuesta $3 por hora, y cada palabra generada en ChatGPT asciende a $0,0003.
Teniendo en cuenta estos factores, con al menos ocho GPU en uso y una respuesta promedio de 30 palabras, el costo por respuesta es de aproximadamente 1 centavo. Según este cálculo, OpenAI podría gastar $100 000 por día o $3 millones mensuales en costos de funcionamiento.
Si bien el costo específico está sujeto a variaciones y depende de factores como la cantidad de usuarios, el rendimiento de la GPU y otras consideraciones operativas, es evidente que la operación de ChatGPT involucra recursos financieros significativos. OpenAI invierte fondos sustanciales para mantener ChatGPT en funcionamiento debido a la complejidad de la infraestructura requerida para respaldar sus capacidades de IA.
¿Cuánto cuesta ChatGPT a Microsoft?
Según se informa, Microsoft invirtió $ 10 mil millones en OpenAI en 2019. Como uno de los principales colaboradores e inversores de OpenAI, Microsoft admite ChatGPT y otros proyectos de IA al proporcionar servicios en la nube de Azure y, potencialmente, sus propios chips de IA patentados llamados Athena. Si bien no se revela el acuerdo financiero exacto de Microsoft con OpenAI, es razonable suponer que Microsoft corre con algunos de los costos asociados con el funcionamiento de ChatGPT.
Además, Microsoft tiene acceso exclusivo al código fuente y los datos de GPT-4 para sus propios productos y servicios. Esto implica un nivel más profundo de colaboración entre Microsoft y OpenAI, lo que destaca aún más la participación de Microsoft en el desarrollo y operación de ChatGPT.
En cuanto a la estructura de costos, ChatGPT está alojado en la plataforma Azure de Microsoft, que cobra a los clientes en función de los recursos que utilizan. Sin embargo, esto la estructura de costos solo representa un pequeño porcentaje (alrededor del 3%) de los costos de hardware para ejecutar ChatGPTlo que indica que Microsoft podría estar financiando una parte importante de los gastos asociados con la operación de ChatGPT.
¿Cuánto cuesta la búsqueda de ChatGPT en comparación con la búsqueda de Google?
Comparar el costo de la búsqueda de ChatGPT con la búsqueda de Google revela algunas ideas interesantes. Google, al ser uno de los motores de búsqueda más populares y rentables del mundo, genera importantes ingresos de buscar publicidad.
Aunque el costo exacto de ejecutar el motor de búsqueda de Google por sí solo no se divulga públicamente, se pueden hacer estimaciones utilizando métricas como el ingreso promedio por consulta (ARPU). Los informes sugieren que el ARPU de Google de la publicidad de búsqueda fue de aproximadamente $ 0,05 en 2020, lo que indica un costo aproximado por consulta de alrededor de 2,5 centavos.
Por el contrario, el costo por consulta para ChatGPT es mayor, con un valor estimado de 36 centavos. Con base en estas estimaciones aproximadas, El costo por consulta de ChatGPT de 36 centavos es aproximadamente 14 veces mayor que el costo por consulta de Google.
¿Cuál es el costo de los recursos informáticos de ChatGPT?
El costo de los recursos informáticos de ChatGPT es una consideración importante debido a los requisitos sustanciales para ejecutar el modelo. ChatGPT se basa en una combinación de clústeres de CPU y GPUcon un costo que varía según la escala de la operación.
Los informes sugieren que el costo de los recursos informáticos para ChatGPT puede oscilar entre unos pocos cientos de dólares y miles de dólares por hora. Esta amplia gama refleja la complejidad de las tareas realizadas, el tamaño del modelo que se utiliza y la duración del uso.
Para ejecutar ChatGPT, OpenAI aprovecha hardware avanzado como las GPU A100 de Nvidia.
De acuerdo a Semianálisisestima que OpenAI utiliza alrededor de 3617 servidores HGX A100, con un total de 28 936 GPU, que tienen un precio considerable de alrededor de $ 200 000 por servidor. Esto implica una inversión masiva en hardware de aproximadamente $ 723 millones.
Además, ejecutar ChatGPT requiere un consumo de energía significativo.
Con costos de energía estimados de alrededor de $ 52,000 por día y gastos de depreciación sustanciales, se estima que los costos totales de hardware de cómputo para ChatGPT son de alrededor de $ 694,444 por día.
Estas cifras destacan la importante inversión financiera requerida para respaldar la infraestructura, el consumo de energía y el mantenimiento de los recursos informáticos de ChatGPT.
¿Cuál es el costo de los investigadores y desarrolladores de ChatGPT?
El costo de los investigadores y desarrolladores es un componente crítico al considerar los gastos asociados con ChatGPT. Estas personas altamente capacitadas desempeñan un papel fundamental en el desarrollo, la mejora y el mantenimiento del chatbot.
Los salarios de los investigadores y desarrolladores en el campo de la inteligencia artificial son sustanciales, a menudo van desde cientos de miles a millones de dólares por año.
Los datos de Glassdoor sugieren que el salario promedio de los investigadores de IA en OpenAI es de alrededor de $ 150,000 por año, mientras que los desarrolladores de IA en Microsoft ganan un promedio de $ 127,000 por año.
Suponiendo una estimación conservadora de alrededor de 100 a 200 investigadores y desarrolladores trabajando en ChatGPT a tiempo completo, el costo salarial total puede alcanzar cifras significativas, que pueden ascender a millones de dólares anuales.
Sin embargo, es importante tener en cuenta que los costos salariales por sí solos no capturan la totalidad de los gastos relacionados con los investigadores y desarrolladores.
Se deben considerar factores adicionales como beneficios, impuestos, equipos, capacitación y otros costos operativos. Según las estimaciones, los costos del empleador, incluidos estos factores, pueden agregar alrededor del 30% al gasto salarial.
Si se tienen en cuenta los salarios y los costes asociados, junto con otros gastos como los recursos informáticos, el gasto total en investigación y desarrollo de ChatGPT puede ser considerable.
Dependiendo de la escala y complejidad del proyecto, el los costos diarios por sí solos pueden alcanzar cientos de miles de dólares o incluso superar la marca de un millón de dólares.
¿Cuánto cuesta el almacenamiento y mantenimiento de datos de ChatGPT?
El almacenamiento y el mantenimiento de datos son componentes cruciales para ejecutar ChatGPT. El modelo requiere una capacidad de almacenamiento sustancial para acomodar los grandes conjuntos de datos utilizados para el entrenamiento y el ajuste. El almacenamiento de datos tan extensos conlleva gastos significativos, incluidos los costos de infraestructura, según factores como el volumen y la frecuencia del acceso a los datos.
El costo exacto del almacenamiento de datos depende de varios factores, como el tipo de almacenamiento (caliente, frío o archivo), la cantidad de datos almacenados y la estructura de precios del proveedor de servicios en la nube elegido.
El servicio Blob Storage de Azure, por ejemplo, ofrece almacenamiento de blobs calientes a alrededor de $0,0184 por GB al mes, mientras que el almacenamiento de blobs fríos cuesta alrededor de $0,01 por GB al mes..
Estos costos pueden acumularse significativamente para un modelo como ChatGPT, que se basa en grandes cantidades de datos.
Además, el mantenimiento de datos es un aspecto crítico para garantizar el rendimiento y la seguridad de ChatGPT. Si bien los costos específicos para el mantenimiento de datos son difíciles de estimar sin información detallada, es evidente que mantener un modelo de lenguaje a gran escala como ChatGPT incurre en gastos sustanciales.
El mantenimiento de datos incluye medidas de seguridad, soluciones de copia de seguridad, cifrado, compresión, indexación y procesamiento, que en conjunto contribuyen al costo total.
¿Por qué ChatGPT es tan caro?
ChatGPT utiliza un modelo de aprendizaje profundo de última generación que necesita mucha potencia informática y memoria. Esto ayuda al programa a comprender y procesar muy bien el lenguaje humano. Para asegurarse de que el chatbot funcione sin problemas, OpenAI tiene que usar servidores potentes y computadoras de alto rendimiento, lo que puede ser costoso.
Otra razón por la que ChatGPT es caro es que recibe muchas consultas de los usuarios todos los días. Con tantas consultas por responder, se necesita mucho trabajo y recursos para procesarlas todas y generar las respuestas correctas..
Satisfacer esta alta demanda también requiere una cantidad significativa de potencia informática y recursos para garantizar que el chatbot responda de manera rápida y precisa.
El desarrollo y mantenimiento de ChatGPT también contribuye a su costo, como ya habrás entendido. OpenAI cuenta con un equipo de expertos que siempre está trabajando para mejorar el chatbot y solucionar cualquier problema. Sus habilidades y esfuerzos se suman al gasto general de ejecutar el servicio ChatGPT.
Además, almacenar y administrar la gran cantidad de datos utilizados por ChatGPT se suma a sus gastos. OpenAI invierte en sólidos sistemas de almacenamiento de datos y toma estrictas medidas de seguridad para proteger las interacciones de los usuarios y mantener los datos seguros. La gestión de todos estos datos requiere recursos y aumenta el costo total.
Conclusión
Operar ChatGPT cuesta mucho dinero porque requiere una infraestructura compleja, mucha potencia informática, trabajo de desarrollo continuo y una gran inversión financiera de OpenAI y sus socios. Aunque no se ha revelado el costo exacto, está claro que ejecutar ChatGPT requiere una inversión significativa. Sin embargo, los beneficios de ChatGPT son considerables porque puede cambiar la forma en que las personas interactúan con las computadoras y hacer avances en inteligencia artificial.
