Choix du modèle : votre LLM pour chaque étape
NN Agent permet d'attribuer à chaque étape du scénario son propre modèle linguistique. Vous ajoutez vos fournisseurs LLM et décidez où la qualité maximale est nécessaire et où un modèle rapide et bon marché suffit.
Pourquoi est-ce nécessaire#
Un modèle pour toutes les tâches — c'est un surcoût en volume. Un lead chaud dans les négociations, un long document à analyser et une question type du FAQ coûtent différemment, mais avec un paramétrage unique, ils sont facturés de la même manière — au tarif le plus élevé.
NN Agent évalue l'économie de cette séparation à 3 à 5 fois par rapport à un seul modèle pour tout.
Comment les modèles sont attribués#
Le modèle est choisi au niveau du nœud de scénario. Division typique :
| Étape du scénario | Quel modèle est nécessaire |
|---|---|
| Négociations avec un lead chaud | Le plus puissant disponible |
| Analyse d'un long document | Modèle avec un grand contexte |
| Classification d'un message, question type | Rapide et peu coûteuse |
Vous connectez vous-même les modèles spécifiques : NN Agent accepte vos fournisseurs LLM, sans en imposer un seul.
Lien avec le chat-flow#
Chaque nœud dans le chat-flow affiche le modèle sélectionné à côté du nom du bloc, donc le prix du scénario est visible à l'œil, et n'est pas calculé séparément.
Suite#
- Flux de chat — où le modèle est spécifiquement assigné.
- Base de connaissances — ce que le modèle utilise comme source de faits.