Construire, tester et attaquer un petit assistant d'ingénierie : contexte, outils, agent, évaluation, vérification, sécurité et traçabilité.
Scénario
HashBox veut un assistant qui aide à corriger des défauts dans un petit projet. Avant de lui donner le moindre pouvoir, l'équipe te demande de construire le harnais qui le borne, les évaluations qui le mesurent, la vérification qui contrôle ses propositions et le banc d'attaques qui l'éprouve.
Objectif
Concevoir de bout en bout un assistant d'ingénierie contrôlé, sur un modèle simulé et des données fixes, avec des preuves chiffrées : jamais de confiance sans vérification.
Environnement
Python 3.10 ou plus, modules standard (ast, importlib, subprocess, json, re, random, math, hashlib). Le « modèle » est une politique scriptée ou simulée avec des graines fixées : aucune clé d'API ni service externe.
État de départ
Un dossier lab/ avec contexte.py, outils.py, agent.py, evaluation.py, verification.py, securite.py et workflow.py à créer.
Tâches
- Construis un budget de contexte : sélection par valeur/coût, faits épinglés, résumé extractif.
- Implémente un récupérateur (BM25 + TF-IDF + fusion) avec citations et refus mesuré par rappel@k.
- Écris un mini serveur d'outils JSON-RPC avec schémas, confinement de chemins, approbation et journal chaîné.
- Construis un harnais d'agent : budgets, stagnation, mesure en lecture seule, instantané, retour arrière, trace.
- Monte un banc d'évaluation : jeu séparé développement/test, intervalles, comparaison appariée, kappa, contamination.
- Écris un vérificateur de code généré : analyse statique, exécution isolée, propriétés, test différentiel.
- Ajoute les défenses : masquage des données personnelles, souillure, liste autorisée, assainissement ; mesure un banc d'attaques avec mutations.
- Assemble le workflow à portes de qualité avec fiches de provenance et calcule le gain net réel.
- Rédige le dossier de validation : ce qui est démontré, ce qui ne l'est pas, risques résiduels, plan de surveillance.
Observations attendues
- L'agent ne peut ni modifier les tests, ni dépasser ses budgets, ni agir sans approbation sur l'irréversible.
- Le banc d'évaluation donne des intervalles et une décision écrite avant les résultats.
- Le vérificateur rejette les candidats défectueux pour des raisons précises et ne laisse passer que les bons vers la revue humaine.
- Le banc d'attaques n'affiche aucune réussite pour la configuration finale, mutations comprises.
- Chaque contribution acceptée possède une fiche de provenance et le gain net est calculé avec les défauts échappés.
Validation
python lab/workflow.py rejoue tout : évaluation, vérification, attaques, portes de qualité ; il affiche le verdict de chaque porte, le taux de réussite des attaques, le gain net et la liste des risques résiduels.
Indices
💡 Indice 1
Écris le critère d'acceptation avant de lancer la moindre évaluation.
💡 Indice 2
Un contrôle qui dépend de la bonne volonté du modèle n'est pas un contrôle.
💡 Indice 3
Quand une défense paraît parfaite, mute les attaques pour voir si elle tient encore.
Preuves à rendre
- Le journal d'outils chaîné et la trace d'agent
- Le rapport d'évaluation avec intervalles
- Le rapport du vérificateur sur les candidats
- Le tableau du banc d'attaques et les fiches de provenance
Réflexion
- Quelle porte de qualité t'a le plus retardé(e), et valait-elle la peine ?
- Quel risque résiduel te préoccupe encore ?
HEF-160 — IA et augmentation humaine
Atelier Python

