RAG ou fine-tuning ? La mauvaise question, sept fois sur dix

« Faut-il entraîner notre propre modèle ? » est une question légitime, posée pour de mauvaises raisons dans la majorité des cas que nous voyons : l’idée qu’un modèle « à soi » serait plus performant, plus sûr, ou plus impressionnant à présenter.

Dans sept dossiers sur dix, le besoin réel est que le modèle connaisse des informations spécifiques à l’entreprise — un catalogue produit, une base de procédures, un historique client. C’est exactement ce que résout une base documentaire indexée et interrogée à la volée (RAG), sans toucher aux poids du modèle, pour une fraction du coût et du délai d’un fine-tuning.

Le fine-tuning se justifie quand le besoin porte sur un style ou un comportement récurrent difficile à décrire par des instructions — pas sur de la connaissance factuelle. Avant de lancer un chantier de fine-tuning, notre check-list tient en une question : si on donnait ce document à un stagiaire compétent, en aurait-il besoin pour bien répondre, ou saurait-il déjà comment répondre ? Dans le premier cas, c’est du RAG. C’est le cas la majorité du temps.