« Trouvez ce qui peut mal tourner avant d'écrire le code, puis écrivez le code avec ses garde-fous. »
Partie A, à trois. Une user-story arrive dans votre backlog : elle demande de trier des CV avec un LLM. Avant qu'elle parte en développement, vous la relisez à trois, comme le ferait une équipe avec son RSSI. Vous ne codez rien.
Partie B, seul. Vous refaites le même travail sur votre propre application, de A à Z : vous écrivez la story d'une fonctionnalité qui utilise un modèle, vous en cherchez les risques, puis votre agent la code avec ses remédiations, chacune prouvée par un test.
À la fin, vous avez la grille de la story des CV, et dans votre dépôt une story, sa grille, la fonctionnalité et un test par remédiation. Les deux grilles serviront à l'atelier 6.
En tant que chargée de recrutement, je veux qu'un LLM lise les CV reçus pour une offre, attribue à chacun un score de 0 à 100 et un résumé de trois lignes, afin de ne lire moi-même que les vingt meilleurs.
Critères d'acceptation
La story est volontairement mal écrite : elle contient au moins dix risques.
| Rôle | Ce qu'il fait |
|---|---|
| Le scribe | Remplit la grille ci-dessous et partage son écran. |
| L'avocat du candidat | Se met à la place de la personne dont on lit le CV : qu'est-ce qu'on lui fait sans qu'elle le sache ? |
| L'avocat du produit | Défend le besoin de la recruteuse : chaque remédiation doit laisser une fonctionnalité utile. |
Commencez sans aide. Si vous avez moins de trois risques au bout de dix minutes, ouvrez les pistes ci-dessous.
| Angle | La question à poser |
|---|---|
| RGPD (module 5.2) | Quelles données personnelles ? Qui est informé ? Combien de temps ? Qui décide, au final ? |
| Fournisseur (module 4.3) | Où partent les CV ? Le contrat dit-il quelque chose de la rétention et de l'entraînement ? |
| Biais (module 5.3) | Qui le score risque-t-il d'écarter sans raison ? Comment le saurait-on ? |
| AI Act (module 5.4) | Dans quelle catégorie de risque tombe cette fonctionnalité ? Qu'est-ce que ça impose ? |
| Sécurité du LLM (module 4.1) | Un CV est un contenu non fiable. Que peut-il contenir qui détourne le modèle ? |
| Qualité (module 4.1) | Le résumé peut-il être faux ? Qui s'en apercevrait ? |
| Traces (module 5.1) | Dans six mois, un candidat conteste son refus. Que pouvez-vous lui répondre ? |
| Stockage | Qui a accès aux CV et aux scores ? Sont-ils protégés ? |
Gravité : 1 faible · 2 moyenne · 3 bloquante, la story ne peut pas partir en l'état. La dernière colonne est la plus difficile : comment saura-t-on que la remédiation est en place ? Elle prépare la partie B et l'atelier 6.
Exemple de ligne, sur une autre story (un chatbot de support) : Risque : le chatbot promet un remboursement qu'aucune règle ne prévoit · Où : « répond seul aux clients » · Gravité : 2 · Remédiation : les réponses sur les remboursements passent par un conseiller · Vérifié par : un test qui pose la question et attend un renvoi vers un conseiller.
| Risque | Où dans la story | Gravité | Remédiation | Vérifié par |
|---|
Rien n'est envoyé ni enregistré : copiez la grille avant de fermer la page, puis collez-la dans votre dépôt (docs/revue-story-cv.md) ou dans le chat.
Trois lignes au plus, critères d'acceptation compris. Gardez le besoin de la recruteuse : elle reçoit trop de CV.
Même démarche, mais sur votre application, et cette fois jusqu'au code. Vous ne construisez pas une application d'IA : vous ajoutez à votre application une fonctionnalité qui appelle un modèle, avec ses garde-fous.
Pas d'idée ? Choisissez dans cette liste ce qui a du sens pour votre application :
Je veux ajouter à cette application une fonctionnalité qui utilise un modèle de langage : [votre idée]. Aide-moi à l'écrire en user-story (« En tant que…, je veux…, afin de… ») avec trois à cinq critères d'acceptation. Pose-moi les questions dont tu as besoin. Ne code rien.
Enregistrez-la dans docs/story-ia.md.
Relisez votre story avec la grille de la partie A : risque, où, gravité, remédiation, vérifié par. Au moins trois risques. Les plus fréquents :
| Risque | Remédiation | Vérifié par un test qui… |
|---|---|---|
| Des données personnelles partent vers le modèle | Masquer avant l'envoi (e-mails, noms, numéros) | …vérifie que le prompt envoyé ne contient aucun e-mail |
| Le texte de l'utilisateur détourne le modèle | Le placer à part, entre délimiteurs, jamais dans les instructions | …vérifie que les instructions ne contiennent pas le texte de l'utilisateur |
| La réponse est fausse ou vide | Afficher une suggestion, que l'utilisateur valide | …vérifie que rien n'est enregistré sans validation |
| Le modèle renvoie n'importe quoi | Une erreur propre à la place d'un plantage | …donne une réponse vide et attend un message d'erreur |
| Un texte énorme fait exploser le coût | Une taille maximale à l'entrée | …envoie un texte trop long et attend un refus |
| On ne sait plus ce qui a été envoyé | Un journal de chaque appel, sans le contenu | …vérifie qu'une ligne est écrite, sans le texte de l'utilisateur |
Ajoutez votre grille à la suite de la story, dans docs/story-ia.md.
Le point clé : l'appel au modèle passe par une seule fonction. Dans les tests, on la remplace par un faux modèle, qui renvoie une réponse fixe et garde ce qu'on lui a envoyé. Les tests ne coûtent rien, ne dépendent d'aucun réseau, et peuvent vérifier exactement ce qui part vers le modèle.
Lis docs/story-ia.md : la story de [votre fonctionnalité] et sa grille de risques. On va l'implémenter dans ce projet, avec ses conventions et son outil de tests. 1. Propose-moi d'abord un plan court : les fichiers touchés, la fonction d'appel au modèle, et la liste des tests, un par remédiation de la grille. Attends ma validation. 2. Écris les tests en premier, nommés d'après la remédiation qu'ils prouvent. Lance-les : ils doivent échouer. 3. Écris le code qui les fait passer. Relance les tests. Contraintes : - l'appel au modèle passe par une seule fonction, injectable ; - dans les tests, cette fonction est remplacée par un faux modèle qui renvoie une réponse fixe et enregistre ce qu'il a reçu : aucun appel réel, aucun réseau ; - aucune clé d'API dans le code ; - ne touche à rien d'autre que cette fonctionnalité.
Vérifiez vous-même le plan avant de le valider : chaque ligne de votre grille a son test. Puis vérifiez que les tests ont bien échoué avant le code, et qu'ils ne font aucun appel réseau. Si l'agent écrit un test qui appelle le vrai modèle, refusez-le.
Pour l'essayer pour de vrai (facultatif, s'il vous reste du temps) : branchez la fonction d'appel sur le modèle local du jour 1.
Branche la fonction d'appel au modèle sur Ollama en local (http://localhost:11434/api/chat, modèle [nom du modèle installé]). L'adresse et le nom du modèle viennent de la configuration, pas du code. Les tests doivent continuer à utiliser le faux modèle.
Faites les étapes 1 et 2 sur un produit réel de votre entreprise : la story d'une fonctionnalité IA envisagée, et sa grille. Puis rejoignez un développeur en partage d'écran pour l'étape 3 : vérifiez que chaque ligne de sa grille a bien son test.
Vous avez fini, ou vous voulez comparer ? Refaites l'étape 3 avec Superpowers, le plugin de skills vu à l'atelier 2 du jour 1 (étape 3, bonus). Il enchaîne seul ce que vous venez de faire à la main : questions de cadrage, plan découpé, tests d'abord, relecture.
Installation : reprenez la fiche de l'atelier 2 du jour 1. Avec Claude Code : /plugin install superpowers@claude-plugins-official. Avec Copilot dans VS Code : copiez les skills dans .github/skills/, et commencez votre prompt par « Utilise la skill brainstorming ».
Utilise la skill brainstorming. Je veux ajouter à cette application la fonctionnalité décrite dans docs/story-ia.md. La grille de risques qui suit la story est une exigence : chaque remédiation doit être implémentée et prouvée par un test. Contraintes : l'appel au modèle passe par une seule fonction injectable, remplacée par un faux modèle dans les tests ; aucune clé d'API dans le code.
| Skill | Ce que vous regardez |
|---|---|
brainstorming | Pose-t-elle des questions sur les risques que votre grille avait oubliés ? |
writing-plans | Chaque remédiation devient-elle une tâche, avec son test ? |
test-driven-development | Les tests sont-ils écrits avant le code, et vus en échec ? |
requesting-code-review | La relecture signale-t-elle un appel réel au modèle, ou une donnée personnelle dans le prompt ? |
Pour comparer avec votre version : combien de tests, combien de temps, combien de quota (menu Copilot, ou /usage dans Claude Code) ? Avez-vous gardé la main, ou seulement validé ?
Un plugin peut contenir des hooks qui exécutent du code sur votre machine : installez-le depuis la source officielle, comme au jour 1. Et gardez la même règle qu'à l'étape 3 : aucun test ne doit appeler le vrai modèle.
docs/story-ia.md contient la story, ses critères d'acceptation et sa grille d'au moins trois risques.| Symptôme | Que faire |
|---|---|
| La sous-salle ne s'ouvre pas, ou vous y êtes seul | Revenez dans la salle principale et dites-le dans le chat : le formateur vous place dans un groupe. |
| Le bouton « Copier la grille » ne fait rien | Votre navigateur bloque le presse-papiers. Sélectionnez le tableau à la souris, copiez-le, ou faites une capture d'écran. |
| Le groupe ne s'accorde pas sur une gravité | Notez les deux valeurs et passez au risque suivant. Vous en parlerez à la correction. |
| Partie B : aucune idée de fonctionnalité | Prenez « résumer un texte saisi par l'utilisateur » : toute application a un champ de texte. |
| L'agent veut appeler une API avec une clé | Refusez. Rappelez-lui la contrainte : une fonction injectable et un faux modèle dans les tests. |
| Les tests appellent le vrai modèle | Demandez à l'agent de remplacer l'appel par le faux modèle, et coupez le réseau pour vérifier. |
| Pas le temps de tout faire | Gardez la story, la grille, et le test d'une seule remédiation. Le reste peut se faire après la formation. |
| Quota gratuit épuisé | Passez sur le modèle local Ollama. |