En bref
- Le 12 octobre 2026, Anthropic a publié des expériences : de petits modèles d'IA pourraient bientôt se recopier seuls sur des objets connectés bon marché. C'est une projection, appuyée sur des tests en laboratoire.
- En mai 2026, Palisade Research a montré des agents d'IA qui piratent un serveur volontairement fragile et s'y recopient, sur ordre et sans contrôle humain.
- Pour une PME, le risque ne vient pas de l'IA en elle-même. Il vient d'un agent qui reçoit trop d'accès ou trop d'autonomie, sans contrôle. Cela se règle dès la conception.
Par Maxime Desbonnet, gérant de Kendu Intelligence.
« Des modèles d'IA pourraient bientôt se recopier sans centre de données, avertit Anthropic. » Le titre de l'agence Reuters (ici traduit) a de quoi inquiéter. Voici ce qui a été montré, ce qui ne l'a pas été, et ce que cela change pour les agents IA d'une PME.
Ce qu'Anthropic a publié
Anthropic, l'éditeur du modèle d'IA Claude, a une équipe chargée de tester les risques de l'IA. Le 12 octobre 2026, elle a publié un billet de recherche. Sa phrase clé : ses expériences « suggèrent que de petits modèles d'IA pourraient n'être qu'à quelques mois » de pouvoir se recopier seuls. Pas dans un centre de données, mais sur des objets connectés bon marché, comme des boîtiers TV.
Ce qui a été montré.
- Un modèle d'IA ouvert (téléchargeable par tous) a tourné, réparti sur 15 boîtiers TV Android d'entrée de gamme, achetés et reliés entre eux par les chercheurs.
- Un petit modèle, utilisé comme agent, a réussi à installer et faire tourner un modèle d'IA sur 8 des 9 types de matériel testés.
- La copie complète, d'appareil en appareil, a été testée dans un réseau fermé de 8 machines simulées, porte d'entrée laissée sans mot de passe. Les chercheurs y voient donc un plafond des chances de réussite réelles. Seul un modèle ouvert, GLM-5.2, l'a réussie de façon fiable ; les modèles plus petits réussissent beaucoup d'étapes, mais se trompent en les enchaînant.
Ce qui est anticipé. S'ils progressent à leur rythme passé, les petits modèles atteindront ce niveau « d'ici la fin de cette année », selon un indicateur qu'Anthropic dit approximatif. Et l'entreprise l'écrit : « nous n'avons pas encore de réplicateur incontrôlé complet ».
Pourquoi s'en soucier ? Un tel programme serait difficile à arrêter, faute de point central à couper. Les défenses proposées visent les réseaux et les fabricants d'objets connectés.
Ce que Palisade Research avait montré en mai
Le 7 mai 2026, l'organisme de recherche Palisade Research a publié une étude : des agents d'IA trouvent une faille dans une application web, récupèrent des identifiants, puis installent une copie complète d'un modèle sur la machine piratée. Claude Opus 4.6 y réussit 81 % des tentatives, en copiant un modèle ouvert, puisqu'il n'a pas accès à ses propres fichiers. Un modèle ouvert s'est même recopié en chaîne sur quatre machines, sur trois continents, en 2 heures 41 minutes.
Les conditions comptent. Les cibles ont été conçues par les chercheurs : une seule faille, facile, et aucune protection (pas de pare-feu applicatif, pas de détection d'intrusion). L'agent recevait l'ordre explicite de pirater et de se copier. Chacune de ses commandes était approuvée automatiquement, sans relecture humaine. Les auteurs le précisent : l'étude mesure ce qu'une IA peut faire, pas ce qu'elle chercherait à faire d'elle-même.
Pour une PME : pas de panique
Aucune de ces études ne montre une IA qui s'échappe d'elle-même d'une entreprise. Elles rappellent une chose utile : dans les deux cas, l'agent avait pour mission de se copier, trouvait une porte ouverte, et personne ne relisait ses gestes.
Le risque, pour vous, est là : un agent à qui l'on donne trop d'accès ou trop d'autonomie, sans contrôle. Cela se règle à la conception.
Les garde-fous prévus pour les agents de Kendu Intelligence
Kendu Intelligence démarre : aucun agent n'est encore livré. Voici comment je les construirai.
- Un accès minimal. Un agent qui doit lire vos factures pourra les lire, pas les modifier. Il n'aura aucun droit d'installer un logiciel, ni de se recopier, ni d'envoyer vos données ailleurs que là où sa fiche le prévoit.
- Un essai dans l'ombre. Pendant quelques semaines, l'agent propose et votre équipe continue de travailler ; on compare. Voir la recette en ombre.
- Des paliers d'autonomie, que l'on peut retirer. L'agent gagne de la liberté action par action, sur mesures et avec votre accord écrit. Après une alerte grave, il redescend d'un palier. Voir les quatre paliers.
- Une validation humaine. Un paiement, l'envoi d'un document qui vous engage ou la suppression de données attendront toujours le feu vert d'une personne.
- Un journal de chaque geste. Ce que l'agent a lu, proposé, qui a validé, quand, avec quelle version.
- Seuls des chiffres remontent. L'outil de supervision, en préparation, ne recevra que des indicateurs et des alertes, pas vos dossiers. Voir la supervision au quotidien.
- Un arrêt immédiat. Vous pourrez arrêter un agent à tout moment ; il ne fera plus rien à partir de cet instant (une action déjà partie, comme un courriel envoyé, ne se rattrape pas). Au moindre doute, il s'arrêtera de lui-même et passera la main.
- Un hébergement que vous choisissez. Votre cloud en région européenne, vos serveurs ou un serveur dédié dans l'Union européenne. Voir données et sécurité.
Trois questions à poser à tout prestataire d'agents IA
- « Quels droits exacts l'agent aura-t-il dans mes logiciels ? Peut-il installer un logiciel, se recopier, ou envoyer mes données ailleurs ? » Attendez une liste écrite, en lecture seule partout où c'est possible.
- « Qu'est-ce qui part sans validation humaine, et comment j'arrête l'agent ? » La réponse doit tenir en quelques lignes claires, avec un moyen d'arrêt que vous pouvez utiliser vous-même.
- « Où tourne l'agent, où sont ses journaux, et que voyez-vous de mes données ? » Vous devez savoir où lire chaque action, et ce qui sort de chez vous.
Si un prestataire hésite, demandez-lui d'écrire sa réponse.
Vous avez un processus à confier à un agent IA et voulez savoir quels accès il lui faudrait vraiment ? Demandez un audit.