La mayoría de las facturas de IA empresariales que crecen silenciosamente hasta cinco y seis cifras comparten la misma causa raíz — y no es a la que los equipos de ingeniería recurren primero. Un informe de campo sobre lo que realmente dispara el gasto en inferencia, y la disciplina que lo devuelve a un número que el CFO deja de reenviar con un signo de interrogación.
Las facturas de IA que se duplican cada trimestre no son problemas de precio — son problemas arquitectónicos que se acumulan. Un modelo más pequeño y más caché normalmente capturan menos de un tercio del ahorro disponible. Los otros dos tercios viven en orquestación, disciplina de prompt y contexto, decisiones de UX y gobernanza.
El cacheo aborda un modo de fallo específico — llamadas idénticas o casi idénticas repetidas. La mayoría de las facturas de IA empresariales que crecen trimestre tras trimestre no están fallando en el cacheo; están fallando en orquestación, disciplina de contexto y ausencia de gobernanza de coste. El cacheo suele capturar alrededor de una décima parte del ahorro disponible; el resto está en otro sitio.
Rara vez. Las sustituciones por modelos más baratos parecen atractivas en aislamiento pero a menudo provocan más reintentos, más contexto y más correcciones aguas abajo que borran el ahorro por llamada. La primera jugada casi siempre es visibilidad — un tracing apropiado de tokens por petición — seguida de limpieza de orquestación, antes de evaluar cualquier cambio de modelo.
Las mejoras de observabilidad (tracing, etiquetado, alertas) suelen implantarse en la primera semana. Las mejoras rápidas de prompt y orquestación se implantan en las semanas dos y tres y suelen suponer un 20–40% de reducción. Las mejoras estructurales — las que producen reducciones de un orden de magnitud — se implantan a lo largo de los dos meses siguientes a medida que los cambios de diseño se despliegan.