Compara autoalojar un LLM de pesos abiertos frente a una API comercial. Tarifas de GPU publicadas, arquitecturas reales y tu punto de equilibrio.
Parte de un despliegue
Las tarifas por hora de GPU son precios bajo demanda publicados por Lambda y RunPod, consultados el 23 de agosto de 2026. La memoria y el ancho de banda de las tarjetas proceden de NVIDIA. Los precios de alquiler cambian; verifica con el proveedor antes de comprometerte.
Los costos cubren solo el alquiler de GPU y los tokens de la API, no el tiempo de ingeniería, el almacenamiento ni la salida de datos. Para comprobar si un modelo cabe en una tarjeta antes de costearlo, usa la calculadora de memoria GPU.
También podrías encontrar útiles estas calculadoras
Elige tu GPU y descubre qué LLM caben de verdad
Factura mensual de API LLM con caché y descuentos por lotes
Parámetros, VRAM y encaje en GPU según la arquitectura real
Calcula un ajuste fino con tarifas publicadas
Alquilar una GPU por horas y llamar a una API comercial se cobran en unidades distintas, así que compararlas a ojo es difícil: una factura el tiempo que retienes la tarjeta y la otra los tokens que envías. Esta calculadora pone ambas en el mismo terreno. Elige un modelo de pesos abiertos, una GPU alquilable y el volumen que esperas, y obtendrás el costo mensual de cada opción, el costo de una sola solicitud por cada vía y el volumen diario a partir del cual autoalojar supera a la API.
Un despliegue autoalojado cuesta lo mismo cada hora lleguen solicitudes o no, de modo que su costo por solicitud lo determina cuánta capacidad de la tarjeta aprovechas realmente. Esa capacidad procede del ancho de banda de memoria: generar un token exige leer todos los parámetros activos más la caché de atención, así que una tarjeta puede emitir como máximo su ancho de banda dividido entre esos bytes. Una API invierte el planteamiento por completo, cobrando por token sin costo de inactividad ni capacidad que planificar. El cruce cae allí donde el precio por solicitud de la API supera lo que cuesta una GPU adicional dividido entre las solicitudes que esa GPU puede atender.
Costo por solicitud, autoalojado
Un equipo que ya paga por token comprueba si su volumen actual justifica pasar a GPU alquiladas, y qué volumen lo justificaría.
Una ingeniera calcula cuántas tarjetas necesita un modelo con su concurrencia y longitud de contexto, y cuánto cuesta eso al mes.
Quien lleva el producto asigna un costo por solicitud a una función de IA en ambas opciones mientras el diseño aún se puede cambiar.
Un desarrollador compara el mismo modelo en bf16 y en int4 para ver cuánto cambian el número de tarjetas, el rendimiento y el costo mensual.
Cada tarifa por hora es una cifra publicada por Lambda o RunPod, mostrada con el proveedor, la variante de placa y el nivel para el que se cotizó, de modo que puedes abrir su página y confirmarla. Cuando nadie publica una tarifa para una tarjeta, la tarjeta no se ofrece en lugar de asignarle una estimada.
Autoalojar no gana a una API en todos los volúmenes, porque sumar solicitudes acaba sumando GPU. Cuando el costo marginal de otra tarjeta supera lo que la API cobra por esas mismas solicitudes, la calculadora dice que nunca se alcanza el equilibrio en vez de citar un umbral al que jamás llegarías.
Los tokens por segundo salen del ancho de banda de memoria publicado de la tarjeta y de los parámetros activos del modelo, no de una tabla. Se presenta como límite máximo, porque una pila de servicio real queda por debajo del techo teórico y nada queda por encima.
La VRAM procede del mismo motor que las calculadoras de Tamaño de Modelo y Memoria GPU, así que una configuración que no cabe se informa como que necesita más tarjetas, en lugar de costearse en silencio como si funcionara.
De las páginas de precios bajo demanda publicadas por Lambda y RunPod, que cotizan por GPU y por hora, la unidad que este cálculo necesita. Cada tarifa lleva su proveedor, la variante de placa (SXM y PCIe son productos distintos a precios distintos) y el nivel. No se incluyen tarifas de AWS, Google Cloud ni Azure: AWS cobra instancias completas de ocho GPU, y las tablas de GPU de Google y Azure se generan en el navegador en lugar de servirse, así que ninguna puede verificarse igual que las demás.
Porque la lista se limita a tarjetas para las que algún proveedor publica realmente una tarifa de alquiler por hora. La mayoría de las tarjetas de consumo no se alquilan por horas, así que poner un precio a una de ellas significaría inventarlo. Si tienes el hardware o un contrato negociado, cambia la tarifa a propia e introduce lo que pagas.
No: es una cota superior. Cada paso de decodificación debe leer de memoria los pesos activos y la caché de atención, así que el rendimiento no puede superar el ancho de banda dividido entre esos bytes. Las pilas de servicio reales se quedan por debajo por el prellenado, la planificación, el muestreo y la sobrecarga de los núcleos de cálculo. Tómalo como el techo contra el que se mide tu montaje, y usa una tarifa propia junto con tu rendimiento medido si has hecho pruebas.
Que crecer en volumen no cambiará la respuesta. Pasada la capacidad de una tarjeta, más solicitudes significan más tarjetas, así que el costo autoalojado sube casi al mismo ritmo que el volumen en vez de repartirse entre él. Si la API ya cobra menos por solicitud que lo que cuesta una tarjeta más dividido entre las solicitudes que atiende, ningún volumen cierra la brecha. Hardware más barato, más solicitudes simultáneas o una cuantización más agresiva sí pueden, porque las tres reducen ese costo marginal.
Un paso de decodificación lee los pesos del modelo una sola vez y produce un token por cada secuencia del lote. Más secuencias significan por tanto más tokens con casi el mismo tráfico de memoria, lo que eleva el rendimiento total y recorta el costo por solicitud. Cada secuencia individual sigue recibiendo solo su parte de ese rendimiento, así que cualquier respuesta concreta tarda más en terminar. Agrupar en lotes cambia latencia por costo.
No. Compara la tarifa de alquiler de las GPU frente a los cargos por token de la API. Las instancias alquiladas ya incluyen energía, refrigeración y la máquina anfitriona en la tarifa por hora, pero no se cuentan el tiempo de ingeniería, el almacenamiento del modelo, la salida de datos ni el costo de operar una pila de servicio. Todo eso recae en el lado autoalojado, así que una victoria ajustada de autoalojar es más ajustada de lo que parece.
El modelo sin servidor factura los segundos que tu código realmente se ejecuta, o por token, en lugar de por retener una tarjeta. Eso lo convierte en un modelo de precios distinto, no en un descuento o recargo sobre una tarifa por hora, y por eso esta calculadora no lo ofrece como opción. La cifra que hay que mirar si te lo planteas es la utilización: cuanto más baja sea, más estás pagando por una tarjeta ociosa y más atractiva resulta la facturación por segundo.