overview
Qu'est-ce que le cache de réponse Vellum ?
Vellum Response Cache est un outil de mise en cache avancé qui stocke des paires de requêtes/réponses et utilise des recherches vectorielles. Cela vous permet d'éviter des appels au modèle inutiles et de fournir des réponses plus rapidement et de manière plus efficace.
- Intégration fluide avec les workflows d'IA existants.
- Conçu pour les applications à fort volume.
- Interface conviviale pour une gestion facile.