Tag
5 artículos con este tag.
Los modelos locales son más capaces que nunca y la brecha con los modelos cloud se reduce. ¿Cuándo tiene sentido ejecutar modelos en tu hardware y cuándo pagar por API?
Los modelos de razonamiento como o3 y Claude Extended Thinking cuestan mucho más que los modelos estándar. Análisis de cuándo el coste adicional se justifica con mejoras reales de calidad.
El caching estándar no funciona con LLMs porque las queries son siempre ligeramente diferentes. El caching semántico detecta queries similares y reutiliza respuestas. Cómo implementarlo.
El caching de Anthropic permite reutilizar contexto largo entre llamadas. Guía de implementación con TypeScript para system prompts, documentos de referencia y herramientas definidas.
Los precios por millón de tokens son fáciles de encontrar. Lo que no es tan obvio: el coste del contexto largo, el caching, los tokens de razonamiento ocultos y cómo los patrones de uso real difieren de los ejemplos del playground.
