Évaluer la profondeur, pas la performance.
Une question récurrente des directions pédagogiques : « comment savoir ce qu'un étudiant a vraiment appris en IA ? » Les évaluations habituelles du résultat ne marchent pas. Un étudiant qui copie un prompt impressionnant et le fait tourner trois fois n'a rien appris, mais il livre. Il faut évaluer le processus créé, l'effort de composition et d'analyse du métier.
Le coaching socratique : question, pas réponse
À chaque étape de la progression, l'étudiant peut demander un retour. La forme de ce retour est cruciale. Le format qui marche : observation → question de réflexion → suggestion légère. Jamais une note. Jamais une réponse directe. Toujours une question qui oblige l'étudiant à formuler ce qu'il vient de faire.
Exemple, sur le défi de la cohérence : « Les deux illustrations montrent-elles bien le même personnage ? Pourquoi, ou pourquoi pas ? Comment pourrais-tu améliorer la cohérence visuelle ? » pas : « Tu as eu 3/5. »
Le coaching est formatif, pas sommatif. Il fait progresser ; il ne classe pas. La note (quand il y en a une) est réservée aux quiz, à la fin de chaque leçon. Cette séparation entre accompagnement et évaluation est ce qui permet à l'étudiant d'oser rater pendant les 23 premières étapes, et de prendre l'évaluation au sérieux quand elle arrive.
Le radar à quatre dimensions
Plutôt qu'une note unique, mesurer en parallèle plusieurs dimensions qui pèsent toutes :
Quatre axes, mesurés en parallèle. Aucune moyenne n'efface les forces et les faiblesses.
Créativité
Originalité des prompts. Choix inattendus. Capacité à surprendre. Ambition de l'app construite.
Effort
Itération. Persistance. Volonté de dépasser le minimum demandé. Nombre de régénérations avant validation.
Compréhension
Profondeur du raisonnement dans les quiz. Capacité à transférer un principe à un autre domaine.
Agilité de prompt
Précision. Conscience des formats. Savoir choisir HTML ou liste ou texte plat selon le besoin.
Le radar à quatre axes évite l'écueil de la note moyenne qui efface tout. Un étudiant peut être faible sur un axe et excellent sur un autre : c'est utile à voir, pour lui comme pour son enseignant.
Le quiz ouvert, évalué par LLM
À la fin d'une leçon, ne dites pas à l'étudiant ce qu'il a appris : demandez-lui. Avec des questions ouvertes du type : « Décris l'architecture de l'app que tu viens de construire. Quels blocs, quelles sections, quels flux ? Pourquoi cette structure ? » ou « Une collègue te dit que l'IA, c'est juste un chatbot. Comment lui expliques-tu que c'est incomplet, en t'appuyant sur ton app finale ? »
Un LLM évaluateur peut maintenant évaluer ces réponses avec sérieux : profondeur de compréhension, concepts attendus présents ou absents, capacité de transfert. Le LLM calcule un score 0–100, un niveau de compréhension (surface / bonne / profonde), la liste des concepts mentionnés, la liste des concepts manquants, et un feedback personnalisé d'environ 80 mots.
Cela rend possible quelque chose qui ne l'était pas il y a deux ans : coacher et faire avancer en temps réel des centaines d'étudiants sur les bases, sans surcharger les enseignants qui peuvent se concentrer sur leur propre cours métiers.
Crédibilité contre exactitude : la compétence à enseigner
Au-delà du score, ce qu'il faut développer chez l'étudiant, c'est la capacité à ne pas confondre crédibilité et exactitude. C'est la compétence-clé du professionnel IA-augmenté.
Exemple récent (que je mentionnais au chapitre 1). Un modèle IA généraliste très connu, à qui je demande de créer un fichier de sous-titres perd silencieusement l'audio joint et produit un fichier crédible mais… entièrement inventé!
Si la personne en bout de chaîne ne doute pas du livrable, elle le publie. Même le stagiaire le plus junior n'aurait pas inventé des sous-titres. L'IA peut être, sur des tâches précises, pire que l'humain qu'on suppose qu'elle remplace.
C'est cette compétence (douter, recouper, vérifier) que la pédagogie doit ancrer en priorité. Et c'est exactement ce que le coaching socratique, le radar à quatre axes et le quiz ouvert permettent de mesurer.
24 coachings, 8 quiz, un tableau de bord école
La formation Esquisse intègre l'évaluation continue dès la conception. Pour chaque étudiant, sur les 6 heures du parcours :
- 24 moments de coaching IA (un par étape), chacun produisant un feedback socratique et un score interne sur les quatre axes.
- 8 quiz ouverts (un par leçon), évalués par LLM, avec score 0-100 et indicateur de profondeur.
- Une note de projet final détaillée sur cinq dimensions (architecture, maîtrise des fonctionnalités, qualité des prompts, ambition, utilité réelle), plus un rapport qualitatif d'environ 150 mots.
Pour la direction pédagogique et les enseignants, un tableau de bord agrège ces données :
- Métriques classiques (automatiques, sans IA) : étapes complétées, temps passé, nombre de générations, nombre de blocs créés, points de décrochage.
- Métriques évaluées par LLM : radar par étudiant, radar moyen par classe, comparaison entre classes, profil individuel.
L'étudiant voit son propre radar et son historique de coaching. Les écoles reçoivent des rapports d'évaluation exportables en PDF par étudiant : utiles pour le bulletin, pour la délibération, et pour signaler aux étudiants en difficulté qu'un accompagnement supplémentaire serait utile.
Coût total estimé : quelques centimes par étudiant pour 24 coachings + 8 quiz. C'est ce qui permet d'évaluer en profondeur, à grande échelle, sans surcharger les enseignants.