Pourquoi le nombre de jetons est-il important pour une interaction robotique ?

Gérer une mémoire de taille finie

Un contexte trop long augmente coût et latence, tandis qu’un contexte trop court peut oublier une contrainte importante.

Dialoguer pendant une mission longue

Le robot conserve résumé, objectif courant et règles critiques plutôt que chaque phrase prononcée depuis le départ.

Compter seulement les mots sous-estime la taille réelle

Langue, outils appelés, sorties et marge de sécurité doivent être mesurés.

Sources et références

1. [1] Human-robot interaction — NIST

Questions liées

• Qu’est-ce qu’un jeton et un contexte pour un modèle de langage ?
• Comment réduire un contexte trop long pour un robot ?
• Comment éviter qu’une instruction importante soit tronquée du contexte d’un robot ?
• Comment tester la gestion du contexte d’un modèle de langage embarqué dans un robot ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif