Laisser une IA mener seule une longue tâche dans des limites fixées et s'arrêter sans risque

## Écrire le but et ce qui compte comme fini avant de commencer Avant de démarrer une longue boucle autonome, rédigez un contrat de mission concis qu’un autre agent pourrait exécuter sans dépendre de la mémoire de la conversation. - Indiquez l’objectif, le périmètre approuvé, les livrables attendus et les exclusions explicites. - Définissez l’achèvement au moyen de critères d’acceptation observables, tels que les éléments requis, les contrôles réussis ou les résultats vérifiés. - Consignez les limites d’autorisation : les actions réversibles pouvant être exécutées automatiquement et les actions destructives, en production, financières, liées aux identifiants ou externes qui exigent une approbation. - Énumérez les dépendances, les hypothèses et les sources faisant autorité qui régissent les décisions. - Fixez les limites d’itérations, de temps, d’appels, de jetons ou de coût avant le début du travail. Considérez le contrat comme stable pendant l’exécution. Continuez de façon autonome dans ses limites, mais arrêtez-vous et faites un rapport si un nouveau travail élargit l’objectif, dépasse l’autorisation ou exige une décision sensiblement différente. ## Enregistrer l'avancement à chaque tour pour reprendre après un redémarrage Conservez un relevé d’état durable après chaque itération significative afin que la boucle puisse reprendre à partir de preuves plutôt que d’une mémoire reconstituée. Gardez une seule source de vérité à jour et actualisez-la de façon atomique lorsque cela est possible. Le relevé doit comprendre : - la mission et les critères d’acceptation ; - le travail achevé avec ses preuves de vérification ; - la tâche actuelle, l’action suivante et le travail restant ; - les décisions, les hypothèses et les approches rejetées ; - les blocages, les risques non résolus et les approbations requises ; - le nombre d’itérations, le temps écoulé, les appels, les jetons et le coût estimé ; - le dernier point de contrôle validé et les instructions de retour arrière. Après un redémarrage, lisez le relevé d’état, confirmez que les éléments référencés lui correspondent encore et reprenez à la première étape vérifiée inachevée. Ne déclarez jamais un travail hérité comme achevé sans contrôler le résultat sous-jacent. Si le relevé et l’état réel divergent, conservez les deux, arrêtez les travaux qui en dépendent et signalez l’écart. ## Faire un petit pas par tour et vérifier le résultat Utilisez le même cycle produisant des preuves pour chaque itération d’une tâche autonome : 1. Lisez la mission, l’état actuel, le budget restant et les preuves les plus récentes. 2. Sélectionnez la plus petite action à forte valeur qui fait progresser un critère d’acceptation. 3. Vérifiez que l’action respecte le périmètre approuvé et les limites d’autorisation. 4. Exécutez-la sans demander plusieurs confirmations lorsqu’elle est réversible et déjà autorisée. 5. Vérifiez le résultat au moyen du test, de l’inspection ou de la comparaison fiable la plus ciblée. 6. Actualisez l’état durable, les mesures, le point de contrôle et l’action suivante. 7. Continuez immédiatement, sauf si une condition d’arrêt est atteinte. Ne considérez pas qu’une progression a eu lieu simplement parce qu’une action a été exécutée. Ne comptez une progression que si l’état s’est rapproché de l’achèvement et que des preuves étayent cette évolution. Conservez les expériences ayant échoué dans le relevé afin que les itérations ultérieures ne les répètent pas aveuglément. ## Repérer quand le travail stagne et essayer une autre approche Évaluez la progression après chaque itération. Considérez la boucle comme stagnante lorsque deux itérations consécutives ne produisent aucune avancée vérifiée, que la même erreur non résolue se répète deux fois, que la qualité du résultat baisse sensiblement ou que l’agent répète des questions ou des actions sans obtenir de nouvelles preuves. Au premier signe confirmé de stagnation : - suspendez l’approche en cours ; - comparez l’état le plus récent au dernier point de contrôle validé ; - déterminez si la cause est un manque d’informations, une autorisation absente, une défaillance de l’environnement, une hypothèse invalide ou une stratégie inefficace ; - choisissez un diagnostic sensiblement différent ou un test plus restreint ; - consignez la raison de l’échec de l’approche précédente avant de réessayer. Ne dupliquez pas une tâche tant qu’une tentative antérieure peut encore être en cours. Après trois échecs confirmés pour la même condition bloquante, arrêtez la boucle au lieu de consommer davantage de ressources. Préservez les éléments de travail et rapportez les preuves, les stratégies tentées, l’état actuel ainsi que la plus petite décision ou modification externe nécessaire à la reprise. ## Surveiller les limites de temps et de coût et s'arrêter quand elles sont atteintes Considérez les limites de ressources comme des contraintes d’exploitation strictes, et non comme des objectifs informels. Suivez l’utilisation réelle ou sa meilleure estimation après chaque itération, notamment le nombre de boucles, le temps écoulé, les appels au modèle ou au service, les jetons et le coût financier lorsqu’ils sont disponibles. - Lorsque l’utilisation atteint 70 % d’une limite, ajoutez un avertissement au relevé d’état et concentrez le travail sur les critères restants à plus forte valeur. - À 90 %, évitez le travail exploratoire et n’exécutez que les actions nécessaires pour vérifier, préserver ou arrêter l’exécution en sécurité. - À 100 %, ne démarrez aucune autre itération consommant des ressources. Enregistrez l’état et produisez un rapport d’arrêt. - Ne contournez, ne réinitialisez et ne réinterprétez jamais silencieusement une limite pour maintenir la boucle en vie. - Si l’utilisation ne peut pas être mesurée de façon fiable, employez une estimation prudente et indiquez l’incertitude. L’épuisement du budget ne signifie pas que le travail est achevé. Rapportez séparément les critères achevés et inachevés, avec les ressources nécessaires à une poursuite justifiée. Ne reprenez qu’avec un nouveau budget ou une prolongation explicite du budget existant. ## Créer un point de restauration avant les changements risqués et signaler chaque arrêt Créez un point de contrôle récupérable avant toute écriture risquée, modification étendue, migration, opération destructive ou action ayant des effets externes importants. Confirmez ce que contient le point de contrôle, comment le restaurer et si la restauration a été testée. Ne qualifiez jamais une copie de sauvegarde si elle ne peut pas raisonnablement restaurer l’état concerné. Revenez au dernier point de contrôle validé lorsqu’une modification provoque une régression, altère l’état, enfreint les critères d’acceptation ou rend le système moins sûr. N’effacez pas les preuves de diagnostic nécessaires pour expliquer l’échec. Un retour arrière destructif, une modification en production, un changement d’identifiants, un achat ou une action externe irréversible exige une autorisation explicite, sauf si le contrat de mission accorde déjà précisément cette autorité. Arrêtez-vous immédiatement lorsque la mission est achevée, que l’utilisateur demande l’arrêt, qu’un budget strict est atteint, que l’autorisation manque, que la sécurité ne peut pas être établie, que l’état est incohérent ou que le même blocage a échoué trois fois. Chaque rapport d’arrêt doit indiquer : - pourquoi la boucle s’est arrêtée et si l’objectif est atteint ; - ce qui a changé, ce qui reste à faire et ce qui est actuellement en cours ; - les preuves de vérification et les risques non résolus ; - l’état du point de contrôle et du retour arrière ; - l’utilisation des ressources par rapport aux limites ; - l’action ou l’approbation exacte nécessaire à la reprise.