LLM, grand modèle de langage

Un LLM reçoit une instruction découpée en unités de texte appelées tokens. À chaque étape, il estime quel token est le plus adapté compte tenu de ce qui précède. Cette mécanique explique sa fluidité : le modèle a appris des régularités de langue, des formes de documents et des associations entre notions pendant son entraînement.

Avant une réponse, l’application peut lui fournir un rôle, des règles de style, la question de l’utilisateur et des informations de contexte. Le contexte a une limite : si l’on y verse un manuel entier, une partie sera écartée ou diluée. Une réponse utile dépend donc autant du choix des passages transmis que du modèle lui-même.

• Une instruction précise indique la tâche, le format attendu et les interdits.
• Des exemples montrent la structure d’une sortie exploitable, comme un tableau ou un brouillon d’email.
• Un outil peut compléter le modèle par une recherche, un calcul ou une consultation de dossier.

Le modèle ne raisonne pas comme un moteur de règles : il produit une suite probable. Il peut reconnaître une ambiguïté, mais il peut aussi choisir une information erronée avec assurance. Pour une extraction de facture, on contrôle donc les champs attendus et les valeurs impossibles ; pour une réponse client, on demande une source et une validation humaine. Le prompt engineering sert à formuler ces consignes et ces contrôles sans leur attribuer un pouvoir magique.

Un LLM est particulièrement à l’aise lorsque la matière d’entrée et le résultat sont principalement textuels. Il peut préparer une synthèse de réunion, classer des messages, proposer des réponses de support ou extraire des éléments d’un contrat pour une relecture. Dans chaque cas, l’équipe conserve la décision qui engage l’entreprise.

Un bon cas d’usage possède un corpus identifiable et une sortie que l’on sait évaluer. Une boîte support peut demander au modèle de classer une demande selon une liste fermée, puis comparer sa proposition à la décision d’un conseiller. Le modèle n’a pas à inventer la politique commerciale : il met en forme ou oriente un travail déjà défini.

• Pour rechercher dans les procédures, une recherche augmentée par génération apporte les extraits pertinents au modèle.
• Pour enchaîner une recherche et une mise à jour de dossier, un agent IA ajoute des outils et des règles d’action.
• Pour tester plusieurs tâches et leurs risques, un audit IA sépare les gains plausibles des démonstrations séduisantes.

Nous déconseillons de confier à un LLM seul un arbitrage de crédit, une validation réglementaire ou une décision disciplinaire. Ces situations exigent des critères traçables, des données vérifiées et une responsabilité humaine identifiable. Le modèle peut préparer un dossier ; il ne doit pas devenir l’auteur invisible d’une décision sensible.

Choisir un LLM ne revient pas à retenir celui qui produit la réponse la plus impressionnante sur une question isolée. Il faut confronter plusieurs modèles à un jeu de cas représentatifs : demandes incomplètes, vocabulaire métier, documents longs, données contradictoires et refus attendus. Les personnes qui exécutent la tâche doivent relire ce jeu de tests.

La hallucination IA est une limite centrale : une formulation cohérente n’est pas une preuve. Les réponses qui portent sur une règle interne doivent renvoyer vers le document applicable. Les opérations irréversibles, telles qu’un paiement ou une suppression, nécessitent une confirmation distincte du texte généré.

• Vérifiez où transitent les prompts, les fichiers joints et les journaux d’usage.
• Définissez les données interdites, les rôles autorisés et la durée de conservation des traces.
• Mesurez la qualité, les refus, les corrections humaines et le coût par tâche après la mise en service.

Le modèle peut changer de comportement lorsqu’un fournisseur le met à jour. Un système robuste conserve donc ses exemples de test et rejoue les scénarios avant un changement important. Une intégration IA bien conçue isole cette dépendance, journalise les versions utilisées et permet de remplacer un composant sans refaire les écrans métier.