En bref
- Chez Kendu Intelligence, un agent IA commence toujours « en ombre » : il propose, votre équipe fait. Il gagne ensuite de l'autonomie palier par palier, action par action.
- Il ne monte d'un palier que sur des mesures et avec votre accord écrit. Après une alerte grave, définie dans sa fiche, il est prévu qu'il redescende tout seul d'un palier.
- Payer, envoyer un document qui vous engage, supprimer des données : ces actions ne partent jamais sans la validation d'une personne.
Un agent IA est un programme qui lit vos courriels, vos factures ou votre CRM (le logiciel où vous suivez vos clients), puis prépare ou exécute des tâches à votre place. La bonne question n'est pas « que sait-il faire ? ». C'est « que le laisse-t-on faire seul ? ». Notre réponse : au départ, rien sans votre accord. Ensuite, seulement ce qu'il a prouvé savoir faire.
Pourquoi « tout automatique » est un mauvais point de départ
Trois raisons.
- L'agent ne connaît pas encore votre maison. Vos règles de remise, le ton de vos relances, le client qu'on ne relance jamais avant le 15 du mois : tout cela s'apprend sur vos cas réels, pas dans une démonstration.
- On fait vite trop confiance à la machine. Le règlement européen sur l'IA (règlement (UE) 2024/1689) nomme ce piège le « biais d'automatisation » : la tendance à se fier automatiquement ou excessivement à ce que produit le système (article 14, paragraphe 4). Pour les systèmes qu'il classe « à haut risque », il demande que les personnes chargées du contrôle puissent surveiller leur fonctionnement, ignorer ou remplacer leurs résultats, et les interrompre « au moyen d'un bouton d'arrêt ou d'une procédure similaire ». Ces règles visent les seuls systèmes « à haut risque ». Nous ne disons pas que vos agents en font partie : le rôle de chacun au regard de ce règlement sera examiné et écrit dans sa fiche, agent par agent. Mais nous partons du même principe pour tous nos agents : au départ, rien ne part sans qu'une personne l'ait validé.
- Un retour d'expérience publié va dans le même sens. Jason Lemkin, fondateur du site SaaStr, dit avoir déployé plus de vingt agents IA en un an. Sur ce site, il écrit que son équipe passe 15 à 20 heures par semaine à piloter cinq agents de prospection commerciale, et que leurs résultats suivent directement l'attention humaine qu'on leur donne. C'est son propre récit, pas une étude indépendante. Mais il rejoint notre parti pris : un agent laissé seul trop tôt risque de dériver.
D'où notre règle : l'agent prépare, votre équipe valide. Dans les cas prévus par sa fiche, il s'arrête et passe la main. Sa liberté se gagne ensuite, palier par palier.
Les quatre paliers, de l'ombre à l'autonomie surveillée
Le palier se règle par agent et par action. Un même agent peut envoyer seul un accusé de réception et attendre votre feu vert pour un devis.
| Palier | L'agent… | Votre équipe… |
|---|---|---|
| 0. En ombre | propose, mais n'agit pas | fait le travail elle-même ; on compare les deux |
| 1. Validation systématique | prépare chaque action | valide, corrige ou refuse chaque action avant qu'elle parte |
| 2. Validation par exception | agit seul sur les cas sûrs, définis par des règles et des seuils écrits | valide les cas hors règle et contrôle un échantillon |
| 3. Autonome et surveillé | agit seul | lit le rapport et reçoit les alertes |
Le palier 0 sert de période d'essai, que nous appelons la « recette en ombre » (la recette, c'est la phase de test avant la mise en service). Pendant une durée définie avec vous, l'agent propose et votre équipe continue de faire. On mesure combien de propositions auraient été justes, quelles erreurs l'agent aurait commises et le temps qu'il aurait fait gagner. Vous décidez ensuite de la mise en service.
Prenons un scénario type : une PME de 30 salariés confie le tri de sa boîte de contact à un agent. Pendant la recette, l'agent classe chaque message et rédige un brouillon de réponse, à côté de celle de l'équipe. Rien ne part en son nom. À la mise en service, il passe au palier 1 : chaque réponse attend une validation.
La mise en service se fait ensuite pas à pas, du palier 1 vers le palier 2, selon les mesures de la recette. Au palier 2, ce qu'est un « cas sûr » est écrit noir sur blanc dans la fiche de l'agent. Pour un agent de courriels, ce peut être un accusé de réception, les horaires d'ouverture ou le suivi d'une commande. Tout le reste remonte à une personne.
Monter d'un palier : sur mesures et avec votre accord écrit
Un agent ne change jamais de palier parce qu'il « a l'air de bien marcher ». Il faut deux conditions, toujours réunies.
- Des mesures. Les principales sont le taux d'accord (la part des propositions que votre équipe valide sans les corriger) et les erreurs relevées. Elles figureront dans le tableau de supervision, en préparation, et dans les rapports de suivi.
- Votre accord écrit. C'est vous qui décidez, pas nous et encore moins l'agent. Nous proposons le passage, chiffres à l'appui ; vous signez, ou pas.
Les paliers de chaque agent seront revus régulièrement. Un palier peut monter (toujours avec votre accord écrit), rester où il est ou baisser.
Redescendre automatiquement après une alerte grave
L'autonomie se perd plus vite qu'elle ne se gagne. Il est prévu qu'après une alerte grave, définie dans sa fiche, l'agent redescende d'un palier tout seul, sans attendre une réunion. Un agent au palier 2 repassera au palier 1 : chaque action attendra de nouveau une validation. Pour remonter, c'est la même règle qu'au départ : des mesures et votre accord écrit.
Il est aussi prévu que les agents signalent eux-mêmes leurs problèmes. Un bug, une erreur qui se répète, un changement du modèle d'IA qu'ils utilisent (le moteur qui lit et rédige pour eux) : l'agent ouvrira un ticket, c'est-à-dire une fiche de suivi du problème, dans notre outil de support, en préparation. Ce ticket sera rattaché à votre projet. Nous serons alertés et vous verrez le ticket dans votre espace client. Si le même problème revient, il sera regroupé sur un seul ticket.
À côté de ces alertes, chaque agent a ses cas d'arrêt, écrits dans sa fiche. Il s'y arrête et passe la main plutôt que de deviner. Par exemple :
- une réclamation grave ou une menace juridique dans un courriel ;
- un client en litige, avant une relance ou un devis ; un client en impayé, avant un devis ;
- une pièce comptable illisible, un doublon suspect, un fournisseur inconnu.
Les actions qui restent toujours au palier 1
Certaines actions ne dépassent jamais le palier 1, quels que soient les chiffres. Une erreur y coûte cher et se répare mal.
- Les paiements. L'agent des pièces comptables est prévu pour proposer des rapprochements entre vos factures et vos paiements. Il ne paiera jamais.
- L'envoi à un tiers d'un document qui vous engage. Pour l'agent des devis : l'envoi d'un devis, une remise commerciale, un engagement de délai. Pour l'agent des relances : l'émission d'une facture, une mise en demeure, une annulation ou un avoir, une promesse de délai de paiement.
- La suppression de données.
S'y ajoutent des règles propres à chaque agent. Par exemple, toute écriture dans votre comptabilité attendra une validation, comme toute pièce dont le montant ou la TVA ne se lit pas avec certitude. Chaque fiche agent liste ces actions bloquées. Vous la validez avant la construction de l'agent.
Le journal de chaque action : qui a validé quoi, quand, avec quelle version
Chaque action laissera une trace dans un journal :
- ce que l'agent a lu ;
- ce qu'il a proposé ;
- la décision prise : validée, corrigée ou refusée ;
- qui l'a prise, et quand ;
- la version de l'agent.
La version compte. Chaque agent déployé aura un numéro de version figé, comme les outils et les connexions qu'il utilise. Une mise à jour repassera par une courte recette. Quand vous relirez une action de mars, vous saurez donc quelle version l'a préparée et, s'il y a eu validation, qui l'a donnée.
Le règlement européen sur l'IA va dans le même sens pour les systèmes « à haut risque ». Ils doivent permettre, techniquement, l'enregistrement automatique de leurs événements dans des journaux, pendant toute leur durée de vie (article 12). L'entreprise qui les utilise (le règlement l'appelle le « déployeur ») garde les journaux qu'elle contrôle au moins six mois, sauf autre règle européenne ou nationale, en particulier sur les données personnelles (article 26). Le même article demande de confier le contrôle humain à des personnes qui ont la compétence, la formation et l'autorité nécessaires, ainsi que le soutien nécessaire.
Nous suivons la même idée : nous prévoyons une prise en main dans chaque mise en place. Ce sera une session courte où votre équipe apprendra à lire les propositions, valider, corriger et signaler.
Côté données, l'agent n'enverra au modèle d'IA que ce qui est écrit dans sa fiche. Vos agents tourneront là où vous l'aurez choisi : votre cloud en région européenne, vos serveurs, ou un serveur dédié chez nous, dans l'Union européenne. Le modèle d'IA, lui, peut être appelé chez un fournisseur : voir données et sécurité. Notre outil de supervision, en préparation, ne recevra que les indicateurs et les alertes ; notre outil de support, le détail technique des tickets.