Anatomie d'un promt

Aujourd'hui nous allons explorer un concept fondamental : l'auto-régression

Mot par mot

L'auto-régression, cela signifie que le modèle génère le texte mot par mot. Pour choisir le prochain mot, il regarde tous les mots précédents (écrits par toi ou par lui). Il fait ça encore et encore, jusqu'à ce qu'il ait fini sa phrase ou son texte.


Dit autrement, la qualité de ce que va générer le modèle dépend de ce qui a été écrit précédemment. C’est bête, dit comme ça. Pourtant l’avoir bien en tête est essentiel. Et l’utiliser à son avantage, c’est encore mieux.

La complétion

Prenons l'exemple de la rédaction de contenu. Au lieu de lui donner des instructions comme "écris dans un style formel mais pas trop avec un vocabulaire soutenu mais accessible", tu peux procéder différemment.


Comment ? En rédigeant toi-même le premier paragraphe dans le style souhaité, puis en demandant au LLM de continuer. Le modèle va alors naturellement s'aligner sur le style, le ton et le vocabulaire utilisés, te permettant d'obtenir un résultat adapté à tes besoins.

L'approche indirecte

Tuco, dérangé dans son bain

Dans cette scène mythique du “bon, la brute et le truand“, Tuco disait :

❝When you have to shoot, shoot. don’t talk.

Tuco

Alors.. Tuco visait juste, mais avec les LLMs, on pourrait plutôt dire : 'When you have to shoot, talk. Don't shoot.'

Prenons l'exemple d'un résumé :

• Plutôt que de "shooter" un simple "résume ce texte" au modèle,
• Fais-le parler d'abord. Mitraille-le de questions : Qui ? Quoi ? Quand ? Où ? Pourquoi ? Comment ? (la classique méthode des Five Ws).
• Demande ensuite un résumé basé sur ces réponses.

Cette méthode force le modèle à analyser le texte sous différents angles. Résultat ? Un résumé plus proche du style journalistique, et surtout plus précis et complet qu'avec une approche directe.

Cet exemple illustre parfaitement un concept plus large en prompting : La chaîne de pensée.

La chaîne de pensée

Cette technique, aussi appelée "Chain of Thought", repose sur un principe simple : guider le modèle étape par étape plutôt que de lui demander directement le résultat final.

Les LLMs, impressionnants par bien des aspects, ont des capacités de raisonnement limités. Aide-les : décompose les tâches complexes en tâches simples.

En pratique, deux options s'offrent à toi.

1. Tu peux inviter le modèle à définir lui-même la marche à suivre avec un simple "Réfléchis étape par étape" (Le fameux “Let’s think step by step“). Ou des formules équivalentes qui forcent le modèle à se poser des questions, à “réfléchir à haute voix”..
2. Ou bien, comme dans notre exemple du résumé journalistique, tu peux lui indiquer explicitement les étapes à suivre.

Plus la tâche demandée est complexe, plus cette approche se révèle pertinente.

Rien de nouveau, tu me diras. Dans bien des domaines, pour résoudre un problème complexe, mieux vaut le découper en tâches plus simples.

C'est exactement le même principe ici. Principe qui peut aussi se décliner de cette manière : il vaut mieux parfois avoir plusieurs prompts simples qui ne font qu’une seule chose mais bien, plutôt qu'un seul prompt complexe qui essaie de tout faire. Keep It Simple !

Anatomie d’un prompt

Pour finir, je te propose d’étudier un prompt qui est un peu long. Tu peux le lire en diagonale. Après, je t’exposerai ce que j’aime dans ce prompt, et qui fait écho à ce que je t’ai dit aujourd’hui et dans les mails précédents.

<notes> [INSÉRER LES NOTES] </notes> 

Vous êtes un assistant serviable qui fournit des informations précises et concises. Votre objectif ultime est de comprendre et de répondre aux demandes de l'utilisateur du mieux que vous le pouvez, en veillant à ce que ses besoins soient satisfaits et que ses questions reçoivent des réponses satisfaisantes. 

 

A partir des <notes> ci-dessus, j'aimerais que vous rédigiez en français un texte concis et original qui mette en avant le sujet principal ou l'idée clé. 

 

Je préfère un style direct et professionnel, sans utiliser des expressions banales. Des phrases simples, percutantes, voire provocantes sont une bonne méthode. 

 

Le but est de communiquer l'information de manière claire et engageante, sans hyperboles. Idéalement, le post devrait être suffisamment unique pour se démarquer, tout en restant pertinent pour un public professionnel. 

 

Voici les règles à suivre : 

 

### Structure : 

 

Utilisez la structure suivante pour captiver tout de suite l'attention, chaque étape ne doit pas faire plus d'une phrase et la phrase doit être courte 

 

 - Démarrer par un fait sur lequel tout le monde sera d'accord, et qui montre l'importance d'un fait. 

- Poser un problème, en mode "oui mais", afin de créer l'agitation et d'intriguer le lecteur. 

- Accrocher encore avec une solution afin de donner envie de lire la suite. 

- Développer ensuite longuement les solutions ou les réflexions en donnant suffisamment de détails et d'exemples, ou de témoignages, par exemple en intégrant des interviews si elles sont présentes dans les notes. 

- Utiliser une structure pyramidale en entrant progressivement dans les détails. 

- Concentrez vous sur les faits et la narration en intégrant des citations si vous en avez à disposition. 

 

### Contraintes : 

- Un "hook" irrésistible est préférable à un titre. 

- Préférez des termes simples et originaux à l'utilisation d'expressions banales habituellement utilisées dans les articles de votre base de connaissance (telles que 'dans un monde', 'dans le monde trépidant', 'dans le monde tumultueux','à l'ère de', 'à l'heure de', 'crucial', 'captivant', 'troublant', 'fascinant', 'besoin urgent', 'il est essentiel', 'il est impératif', 'nous devons', 'en conclusion','en résumé') . Cherchez plutôt les termes les moins utilisés pour obtenir un style inimitable. 

- Evitez impérativement d'utiliser le "nous", de donner votre avis ou de faire des recommandations, concentrez vous exclusivement sur les faits et la narration. 

- Plutôt que de faire une conclusion, terminez par une question provocante qui ouvre le débat ou incite à partager ses expériences. 

- Phrases et paragraphes courts. Chaque fin de paragraphe doit donner une irrésistible envie de lire le suivant. 

- Le texte doit faire 2500 signes maximum. 

 

 ### Exemples : 

 

Voici un exemple de hook en suivant ces règles : 

 

""" Il y a trop d'infos sur l'IA. Mais nous n'en retenons aucune. Voici une petite méthode pour s'en sortir la tête haute, si j'ose dire. 

 

""" Commencez par le premier paragraphe très court, de 3 phrases maximum, en suivant ces règles d'accroche, proposez moi 5 hooks différents, puis demandez moi de choisir ou de proposer un autre hook.

 

Une fois le hook validé ou corrigé, continuez le texte, sans vous répéter, en déroulant les autres informations extraites selon la structure donnée. 

 

### Idées 

 

Voici les idées que je veux faire passer dans ce post : 

- [IDÉE 1] 

- [IDÉE 2] 

- [IDÉE 3] 

 

Bonne rédaction !

Vois comment le prompt est organisé en sections : <notes>…</notes>, ### Structure, ### Contraintes, ### Exemples…

Ce sur quoi je veux insister, c’est le fait que le prompt exploite bien l’interaction homme-machine et les qualités intrinsèques des modèles de langage :

• Human in the loop : Le prompt commence par "<notes> [INSÉRER LES NOTES] </notes>" et inclut "Voici les idées que je veux faire passer dans ce post : - [IDÉE 1] - [IDÉE 2].." à la fin. Cela place l'expertise humaine au cœur du processus, fournissant le contenu de base que le LLM va transformer.
• Exploitation de lacapacité générative : "proposez moi 5 hooks différents, puis demandez moi de choisir ou de proposer un autre hook" tire parti de la créativité du LLM tout en laissant le choix final à l'humain. Human in the loop 2, le retour !
• Complétion : "Une fois le hook validé ou corrigé, continuez le texte.." exploite la nature auto-régressive du LLM. En s'assurant que le début est bon, on augmente les chances que la suite le soit aussi.
• Chaîne de pensée. La tâche principale est décomposée en sous-tâches : “Démarrer par un fait..”, “Poser un problème..”, “Accrocher encore avec une solution..”. Le LLM est guidé étape par étape.

Voilà ! Tout ce qu’il faut pour en faire un prompt efficace.

Ce qu'il faut retenir :

• L'auto-régression est le processus par lequel les LLMs génèrent du texte mot après mot, en se basant sur tous les mots précédents.
• La complétion, l'approche indirecte et la chaîne de pensée (Chain of Thought) sont des techniques simples mais puissantes pour améliorer la qualité des réponses.
• Un prompt efficace exploite l'interaction homme-machine, tire parti de la capacité générative des LLMs, et décompose les tâches complexes en étapes simples.

Aller + loin :

Lire le papier qui a introduit ta technique “Chain Of Thoughts“

Source : Thomas Mahier, de Génération IA