Plateforme d'observabilité LLM : logging, coûts, latence, prompt/completion analysis, evaluations, caching. Gateway proxy ou intégration native. Open-source et cloud gérée. Depuis mars 2026 : maintenance-mode (racheté par Mintlify).
Fonctions clés : Gateway proxy pass-through (300+ modèles) ; Cost tracking et analytics ; Prompt/completion logging ; Caching et rate-limiting ; Evaluations et A/B testing.
Helicone était standard pour observabilité LLM ; depuis acquisition par Mintlify (mars 2026), préférez alternatives actives.
Usages concrets
- Tracer coûts API LLM en prod.
- Monitorer latence et erreurs.
- A/B test modèles et prompts.
Fonctionnalités et usages