La caché de prompts significa que el proveedor de IA guarda el inicio fijo de tu petición, para que las peticiones repetidas sean más rápidas y baratas.
Ejemplo
Un chatbot envía el mismo manual largo con cada pregunta. Con caché, solo se procesa por completo una vez.
Para profesionales
Varios proveedores cobran mucho menos por los tokens de entrada en caché; las condiciones y la duración varían. Para que funcione, la parte fija debe ir al principio y no cambiar. Para comparar costes, consulta la lista de precios del proveedor.