Inférence IA
L'utilisation d'un modèle entraîné pour produire une réponse ou une prédiction.
En détail
L'inférence peut être réalisée dans de grands datacenters ou en edge selon les besoins de latence, de coût et de confidentialité. Elle privilégie souvent l'efficacité par requête.
Exemple concret
Un assistant conversationnel exécute une inférence à chaque question posée par un utilisateur.