En resumen
- El 12 de octubre de 2026, Anthropic publicó unos experimentos: pequeños modelos de IA podrían pronto copiarse solos en dispositivos conectados baratos. Es una proyección, basada en pruebas de laboratorio.
- En mayo de 2026, Palisade Research mostró agentes de IA que atacan un servidor deliberadamente frágil y se copian en él, por orden y sin control humano.
- Para una pyme, el riesgo no viene de la IA en sí. Viene de un agente al que se dan demasiados accesos o demasiada autonomía, sin control. Eso se resuelve desde el diseño.
Por Maxime Desbonnet, gerente de Kendu Intelligence.
«Los modelos de IA podrían pronto copiarse sin centros de datos, advierte Anthropic.» El titular de la agencia Reuters (aquí traducido) puede inquietar. Esto es lo que se ha demostrado, lo que no, y lo que cambia para los agentes de IA de una pyme.
Lo que ha publicado Anthropic
Anthropic, la empresa que desarrolla el modelo de IA Claude, cuenta con un equipo encargado de probar los riesgos de la IA. El 12 de octubre de 2026 publicó una entrada de investigación. Su frase clave: sus experimentos «sugieren que los pequeños modelos de IA podrían estar a solo unos meses» de poder copiarse por sí solos. No en un centro de datos, sino en dispositivos conectados baratos, como los decodificadores de TV.
Lo que se ha demostrado.
- Un modelo de IA abierto (descargable por cualquiera) funcionó repartido entre 15 decodificadores de TV Android de gama básica, comprados y conectados entre sí por los investigadores.
- Un modelo pequeño, utilizado como agente, logró instalar y hacer funcionar un modelo de IA en 8 de los 9 tipos de equipos probados.
- La copia completa, de un dispositivo a otro, se probó en una red cerrada de 8 máquinas simuladas, con la puerta de entrada sin contraseña. Los investigadores ven en ello, por tanto, un techo de las probabilidades reales de éxito. Solo un modelo abierto, GLM-5.2, lo consiguió de forma fiable; los modelos más pequeños superan muchas etapas, pero se equivocan al encadenarlas.
Lo que se anticipa. Si siguen progresando al ritmo pasado, los modelos pequeños alcanzarán ese nivel «de aquí a finales de este año», según un indicador que Anthropic califica de aproximado. Y la empresa lo escribe: «todavía no tenemos un replicador incontrolado completo».
¿Por qué preocuparse? Un programa así sería difícil de detener, al no haber un punto central que cortar. Las defensas propuestas se dirigen a las redes y a los fabricantes de dispositivos conectados.
Lo que Palisade Research había demostrado en mayo
El 7 de mayo de 2026, el organismo de investigación Palisade Research publicó un estudio: agentes de IA encuentran un fallo en una aplicación web, recuperan credenciales y luego instalan una copia completa de un modelo en la máquina atacada. Claude Opus 4.6 lo consigue en el 81 % de los intentos, copiando un modelo abierto, ya que no tiene acceso a sus propios archivos. Un modelo abierto llegó incluso a copiarse en cadena en cuatro máquinas, en tres continentes, en 2 horas y 41 minutos.
Las condiciones importan. Los objetivos fueron diseñados por los investigadores: un solo fallo, fácil, y ninguna protección (sin cortafuegos de aplicaciones, sin detección de intrusiones). El agente recibía la orden explícita de atacar y de copiarse. Cada uno de sus comandos se aprobaba automáticamente, sin revisión humana. Los autores lo precisan: el estudio mide lo que una IA puede hacer, no lo que intentaría hacer por sí misma.
Para una pyme: sin pánico
Ninguno de estos estudios muestra una IA que se escape sola de una empresa. Recuerdan algo útil: en ambos casos, el agente tenía como misión copiarse, encontraba una puerta abierta y nadie revisaba sus gestos.
El riesgo, para usted, está ahí: un agente al que se dan demasiados accesos o demasiada autonomía, sin control. Eso se resuelve en el diseño.
Las salvaguardas previstas para los agentes de Kendu Intelligence
Kendu Intelligence está empezando: todavía no se ha entregado ningún agente. Así es como los construiré.
- Un acceso mínimo. Un agente que deba leer sus facturas podrá leerlas, no modificarlas. No tendrá ningún derecho a instalar un software, ni a copiarse, ni a enviar sus datos a un lugar distinto del que prevea su ficha de funciones.
- Una prueba en la sombra. Durante unas semanas, el agente propone y su equipo sigue trabajando; se comparan los resultados. Véase la prueba en sombra.
- Niveles de autonomía que pueden retirarse. El agente gana libertad acción por acción, según las mediciones y con su acuerdo por escrito. Tras una alerta grave, baja un nivel. Véanse los cuatro niveles de autonomía.
- Una validación humana. Un pago, el envío de un documento que le compromete o la eliminación de datos esperarán siempre el visto bueno de una persona.
- Un registro de cada gesto. Lo que el agente ha leído, propuesto, quién ha validado, cuándo y con qué versión.
- Solo suben cifras. La herramienta de supervisión, en preparación, recibirá únicamente indicadores y alertas, no sus expedientes. Véase la supervisión en el día a día.
- Una parada inmediata. Podrá detener un agente en cualquier momento; a partir de ese instante no hará nada más (una acción ya enviada, como un correo electrónico, no se puede recuperar). Ante la menor duda, se detendrá por sí mismo y le cederá el control.
- Un alojamiento que usted elige. Su nube en una región europea, sus servidores o un servidor dedicado en la Unión Europea. Véase datos y seguridad.
Tres preguntas que hacer a cualquier proveedor de agentes de IA
- «¿Qué derechos exactos tendrá el agente en mis programas? ¿Puede instalar un software, copiarse o enviar mis datos a otro lugar?» Espere una lista por escrito, de solo lectura siempre que sea posible.
- «¿Qué sale sin validación humana y cómo detengo al agente?» La respuesta debe caber en unas pocas líneas claras, con un medio de parada que usted mismo pueda utilizar.
- «¿Dónde funciona el agente, dónde están sus registros y qué ven ustedes de mis datos?» Usted debe saber dónde leer cada acción y qué sale de su empresa.
Si un proveedor duda, pídale que escriba su respuesta.
¿Tiene un proceso que confiar a un agente de IA y quiere saber qué accesos necesitaría realmente? Solicite una auditoría.