Paliers d'autonomie
Jusqu'où un agent va de sa propre initiative n'est pas une propriété fixe de l'agent. C'est le palier d'autonomie, choisi pour une exécution. Le même agent peut marquer une pause sur son plan et vous attendre, ou dérouler ce plan sans interruption, selon le palier dans lequel vous le placez. Cette page explique les quatre paliers, ce que le palier change réellement, et comment en choisir un. Pour les garde-fous et le budget de pas qui bornent toute exécution quel que soit le palier, voir le modèle de responsabilité ; cette page est le complément qui explique le palier, pas les garde-fous.
Le palier, pas l'agent
Séparer « ce que l'agent peut faire » de « jusqu'où il peut aller sans surveillance » est l'idée centrale, et le palier ne répond jamais qu'à la seconde moitié. La fiche d'un agent accorde ses outils ; le palier décide si son plan attend une approbation et si son résultat est vérifié ensuite. Il ne décide rien des permissions : aucun palier n'accorde un outil, n'en refuse un, ni n'ajoute un point de contrôle humain sur un appel d'outil. Cette séparation est ce qui permet de déployer le même agent avec prudence dans un contexte sensible et avec souplesse sur une machine de test isolée, sans le réécrire.
Les quatre paliers
Apollia définit quatre paliers, du plus supervisé au plus autonome :
- Assisté. Le palier par défaut. La porte est active : un plan proposé attend une décision humaine avant de s'exécuter. C'est le palier pour les agents que l'on connaît mal, les données sensibles, ou toute exécution où l'on veut voir le plan avant qu'il ne s'exécute. La porte est une porte de plan et rien d'autre ; elle n'ajoute aucun point de contrôle sur un appel d'outil pris isolément.
- Supervisé. La porte reste active, et c'est le palier à partir duquel la passe de vérification propre au runtime s'active (voir plus bas). À utiliser quand on veut la porte de plan en plus de l'auto-vérification du moteur.
- Autonome borné. La porte est contournée : l'agent agit sans marquer de pause pour l'approbation du plan, dans les limites du budget non contournable imposé par le runtime. À utiliser pour un travail de confiance, bien délimité, où l'interruption coûterait plus qu'elle ne protège.
- Autonome long. La porte y est également contournée ; ce palier est destiné aux exécutions non surveillées plus longues. C'est le palier le plus large, adapté uniquement quand la tâche est bien comprise et que le budget et les permissions bornent déjà le rayon d'impact possible.
Les deux effets s'appliquent à l'exécution d'un agent, et un agent est une
donnée : une entrée [[agents]] du apollia.toml de son paquet, ou un agent
créé dans l'application, exécuté par le moteur intégré au runtime. Aucun Python
d'un paquet ne choisit un chemin d'exécution. Le palier auquel un agent
s'exécute est celui que son paquet recommande (autonomy, sous
[agents.defaults]), puis le remplacement posé par la personne, puis la valeur
globale par défaut, et la passe de vérification est attachée à l'exécution à
partir de Supervisé. Qu'un agent écrive un plan avant d'agir relève d'un autre
réglage, son mode de planification (planning : never, auto ou always),
et un plan écrit ainsi n'a pas d'approbation propre : approuver un plan avant
son exécution appartient au mode plan d'une conversation.
La porte est active en Assisté et Supervisé, et contournée en Autonome borné et
Autonome long, mais seulement pour une exécution qui ne porte aucune décision
propre. apollia-os run en porte toujours une : --plan arme la porte pour
cette exécution et son absence la désarme, quel que soit le palier. Monter dans
les paliers échange de l'interruption contre de l'élan.
Ce que le palier change réellement
Quatre choses varient avec le palier, et aucune autre. La porte du plan : dans les deux paliers les plus bas, un plan à conséquence marque une pause pour attendre une approbation humaine ; dans les deux paliers les plus hauts, non ; et dans les deux cas une exécution qui porte sa propre décision l'emporte sur le palier. L'auto-vérification : la passe de vérification et de critique du runtime est inactive en Assisté et entre en jeu à partir de Supervisé, si bien qu'une exécution terminée peut être vérifiée avant que son résultat ne soit accepté. Le profil de prompt système : Assisté prend un prompt intégré, les trois autres paliers en prennent un plus persévérant. Et le budget de pas suggéré, qui mérite une seconde lecture.
Les quatre paliers déclarent 100, 200, 300 et 500 pas de raisonnement, et cette table est réelle. Ce qui la lit, c'est le chemin du chat, et le chat libre s'exécute au palier par défaut sans jamais en changer.
Une exécution d'agent lit cette table elle aussi. Elle prend le budget du palier auquel l'agent s'exécute et le plafonne contre un plafond runtime fixe de 100 pas de raisonnement, 200 appels d'outils et 1200 secondes de temps réel. Élargir le palier élargit donc ce qu'un agent peut tenter bien avant de changer ce que l'agent obtient réellement, et cela ne supprime jamais la limite dure. La mécanique de la boucle de vérification relève du modèle de plan et d'exécution orchestrée, et les garde-fous sous lesquels elle s'exécute relèvent du modèle de responsabilité.
Choisir un palier
Choisissez en fonction du coût d'une action erronée et de la confiance que la tâche a gagnée. Commencez un travail nouveau ou sensible en Assisté, où vous voyez le plan en premier. Passez en Supervisé quand vous voulez la vérification du moteur sans renoncer à la porte. Ne recourez aux paliers autonomes que lorsque le travail est bien délimité, les permissions sont strictes, et les interruptions d'un palier inférieur coûteraient plus qu'elles ne protègent. Le palier se change facilement, traitez-le donc comme un jugement propre à chaque exécution, pas comme un réglage permanent.
Le palier d'un agent se pose sur l'agent :
apollia-os agent set <AGENT_ID> autonomy <tier> remplace ce que son paquet
recommande, et apollia-os run accepte --autonomy pour une exécution. Il
n'existe aucune section [autonomy] dans apollia.toml que le runtime lise, et
le bureau n'offre aucun réglage qui change le palier.