Page de Rochane Kherbouche qui explique un grand modèle de langage avec un outil familier des cours de maths : la fonction.
- Entrée (x) : tout ce qui est fourni au modèle, prompt, fichier ou outil.
- Fonction (f) : le modèle, un ensemble de paramètres figés après l’entraînement.
- Sortie (y) : une distribution de probabilités sur les mots suivants.
- Biais : complaisance, tendance vers la réponse la plus attendue, biais hérités des données.
- Parades : laisser des options ouvertes, proposer des choix, tester le modèle avec des questions dont la réponse est connue.