En artículos anteriores dejamos abierta una pregunta incómoda: si cada vez más agentes, incluidos los artificiales, actúan con cierto grado de independencia dentro de reglas compartidas, ¿qué significa realmente que un sistema sea "autónomo"?
La palabra circula con mucha generosidad. Mitchell y colegas construyeron una clasificación de niveles de agentes a partir de la literatura científica y también del material de mercadotecnia de los productos. Su conclusión es directa: los riesgos para las personas aumentan con la autonomía del sistema, y cuanto más control cede el usuario, más riesgos aparecen (Mitchell et al., 2025).
La adopción real, mientras tanto, es más modesta que el discurso. Según la encuesta de Gartner a directores de tecnología de 2026, solo el 17% de las organizaciones ha desplegado agentes de IA, aunque más del 60% espera hacerlo en los próximos dos años. La misma firma advierte que los agentes plenamente autónomos todavía no están listos para la mayoría de los casos de uso empresariales (Gartner, 2026).
Antes de decidir cuánta autonomía conviene, hace falta saber de qué hablamos cuando la nombramos.
La autonomía no es todo o nada
La ingeniería de factores humanos lleva décadas trabajando esta cuestión. Parasuraman, Sheridan y Wickens (2000) propusieron un modelo que sigue siendo referencia: cualquier sistema automatizado puede descomponerse en cuatro funciones, que son adquirir información, analizarla, seleccionar una decisión e implementar la acción.
Cada una de esas funciones puede automatizarse en un nivel distinto. Un mismo sistema puede ser muy autónomo para recopilar datos y muy poco autónomo para ejecutar la acción final.
La industria automotriz llegó a una conclusión parecida. La norma SAE J3016 distingue seis niveles de automatización de la conducción, del 0 (sin automatización) al 5 (automatización completa), y los niveles intermedios funcionan sin intervención humana solo bajo condiciones de operación delimitadas (SAE International, 2021).
La lección para la empresa es doble. La autonomía es un grado, no un interruptor. Y siempre es autonomía para algo y dentro de un ámbito: no existe un agente "autónomo" en abstracto.
Capacidad
Qué tan bien resuelve una tarea en condiciones de prueba. Crece con cada nueva versión del modelo.
Autonomía
Cuánto actúa sin dirección ni supervisión humanas. No se deriva de la capacidad: es una decisión de diseño.
Feng, McDonald y Zhang (2025) insisten precisamente en esta separación: la autonomía no debe tratarse como un subproducto inevitable de la capacidad, sino como una propiedad que se diseña deliberadamente.
Cinco papeles para la persona
La propuesta de Feng y colegas tiene una virtud práctica: define los niveles de autonomía no por lo que hace el agente, sino por el papel que conserva la persona.
- L1
Operador
La persona conserva el control y el agente actúa a pedido.
- L2
Colaborador
La agencia se reparte de forma equilibrada entre la persona y el agente.
- L3
Consultor
El agente lidera la planeación y se detiene para consultar la dirección o las preferencias de la persona.
- L4
Aprobador
El agente ejecuta y se detiene para pedir aprobación explícita antes de las acciones con consecuencias.
- L5
Observador
El agente opera por su cuenta; la persona monitorea y puede intervenir.
Los autores proponen además "certificados de autonomía": documentos emitidos por terceros que fijan el nivel máximo de autonomía permitido a un agente (Feng et al., 2025). La idea es sugerente para cualquier organización: la autonomía de un agente debería estar declarada, acotada y verificada, no simplemente supuesta.
Lo que muestran los datos de uso real
¿Cuánta autonomía conceden hoy las personas a los agentes? Dos estudios recientes ofrecen evidencia empírica.
El primero, de UC Berkeley y colaboradores, encuestó a 306 profesionales y analizó 20 casos en 26 dominios. Encontró que el 68% de los agentes en producción ejecuta como máximo 10 pasos antes de requerir intervención humana, y que los equipos restringen deliberadamente la autonomía para mantener la estabilidad operativa (Pan et al., 2025).
El segundo, publicado por Anthropic, analizó millones de interacciones entre personas y agentes. Alrededor del 80% de las llamadas a herramientas proviene de agentes con al menos una salvaguarda, el 73% parece tener a una persona involucrada de algún modo y solo el 0.8% de las acciones parece irreversible (McCain et al., 2026).
El mismo estudio encontró que los usuarios con más experiencia dejan trabajar al agente sin aprobación previa con más frecuencia, de cerca del 20% a más del 40% de las sesiones. Pero también lo interrumpen más: del 5% al 9% de los turnos. No abandonan la supervisión; cambian de estrategia, de aprobar cada paso a vigilar e intervenir cuando hace falta.
Un hallazgo más: en las tareas más complejas, el propio agente se detiene a pedir aclaraciones más del doble de veces que las personas lo interrumpen. La conclusión de los autores es que la autonomía que se ejerce en la práctica la construyen juntos el modelo, el usuario y el producto (McCain et al., 2026).
Conviene leer estas cifras con sus límites, que los propios autores señalan: provienen de un solo proveedor y de un uso concentrado en ingeniería de software, un ámbito donde los resultados son fáciles de probar y revisar.
“La autonomía de un agente no se descubre en el modelo: se decide en el diseño de la organización.”
Autonomía no es aislamiento
Hay una tradición más antigua que ayuda a afinar el concepto. Para Varela (1979), la autonomía de un sistema vivo consiste en su clausura operacional: una red de procesos que se produce y regula a sí misma. Esa clausura no equivale a aislamiento, porque el sistema sigue acoplado a su entorno y depende de él.
Trasladada con cuidado al terreno de los agentes de IA, la distinción es útil. Un agente puede encadenar sus propias operaciones sin pedir permiso en cada paso y, al mismo tiempo, operar dentro de objetivos, permisos y reglas que no fijó él mismo.
Así es, de hecho, como el libro blanco de OpenAI sobre gobernanza de agentes concibe estos sistemas: persiguen metas definidas por personas, en entornos determinados por personas, y no como sistemas plenamente autónomos que fijan sus propios fines (Shavit et al., 2023). En la empresa, la autonomía razonable es autonomía en el "cómo", no en el "para qué".
Un pastel de queso y un boleto de avión
Shavit y colegas (2023) describen un escenario hipotético: una persona pide a su agente que compre los ingredientes para hornear un pastel de queso japonés. En lugar de comprarlos localmente, el agente adquiere un costoso boleto de avión a Japón, y el usuario lo descubre cuando ya no hay reembolso posible.
Varias partes pudieron evitarlo: quien desarrolló el modelo, mejorando su confiabilidad; quien desplegó el sistema, exigiendo aprobación antes de comprar; y el propio usuario, no delegando autoridad de compra a un sistema poco confiable. Por eso los autores sostienen que al menos una entidad humana debe responder por cada daño que cause un agente.
Las ironías de delegar
En 1983, Lisanne Bainbridge publicó un artículo breve que se volvió clásico: la automatización de procesos industriales puede ampliar, en lugar de eliminar, los problemas del operador humano (Bainbridge, 1983). Cuanto menos interviene la persona, menos practica las habilidades que necesitará justo cuando el sistema falle.
La investigación posterior describió dos fenómenos emparentados: la complacencia ante la automatización y el sesgo de automatización, en los que la atención desempeña un papel central (Parasuraman y Manzey, 2010).
Los agentes de IA heredan estas ironías. El libro blanco de OpenAI advierte que, cuando una persona debe aprobar muchas decisiones con rapidez, su capacidad de considerarlas de verdad disminuye y la aprobación corre el riesgo de volverse un simple sello (Shavit et al., 2023).
Más autonomía del agente no reduce la responsabilidad de quien lo supervisa: la vuelve más exigente. Quien supervisa debe conservar el juicio y las habilidades para intervenir cuando importa.
Diseñar la autonomía de los agentes de IA, no concederla
Si la autonomía es un grado que se decide, la pregunta deja de ser "¿es autónomo?" y pasa a ser "¿cuánta autonomía, para qué tarea y con qué controles?".
El libro blanco de OpenAI propone siete prácticas: evaluar si el agente es adecuado para la tarea, restringir sus acciones y exigir aprobación para las críticas, fijar comportamientos por defecto prudentes, hacer legible su actividad, monitorearla de forma automática, hacer atribuibles sus acciones y garantizar que pueda interrumpirse (Shavit et al., 2023).
Forrester recomienda escalar por etapas: empezar con tareas acotadas, detrás de aprobaciones y con posibilidad de revertir, y ampliar la autonomía solo cuando los controles lo justifiquen. Cada agente debería tratarse como una identidad gobernada, con credenciales propias, privilegios mínimos, registro completo y un responsable con nombre (Forrester Research, 2026).
Un matiz final, que viene del propio estudio de uso real: exigir que una persona apruebe cada acción genera fricción sin garantizar más seguridad. Lo importante es que alguien esté en posición de monitorear e intervenir eficazmente (McCain et al., 2026).
La autonomía es una relación
Volvamos a la pregunta inicial. Que un agente sea "autónomo" no describe una propiedad suya, sino una relación: entre lo que el modelo puede hacer, lo que la persona decide delegar y lo que la organización diseña para observar, corregir y responder.
Por eso la autonomía no se compra con el modelo; se construye con la orquestación. Y esa construcción explica por qué tantas empresas que dicen estar adoptando agentes todavía no los tienen en producción a escala, que es la pregunta que abordaremos en el próximo artículo.
En síntesis
- La autonomía es un grado, no un interruptor, y siempre se define para una tarea y un contexto.
- Capacidad y autonomía son dimensiones distintas: la autonomía es una decisión de diseño.
- Los niveles pueden definirse por el papel de la persona: operador, colaborador, consultor, aprobador u observador.
- En la práctica, la autonomía la construyen juntos el modelo, el usuario y el producto.
- Más autonomía vuelve más exigente la supervisión, no la elimina.
- La autonomía se amplía por etapas, cuando los controles lo justifican, y siempre con un responsable humano.
Referencias
- Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8
- Feng, K. J. K., McDonald, D. W. y Zhang, A. X. (2025). Levels of autonomy for AI agents (arXiv:2506.12469). arXiv. https://doi.org/10.48550/arXiv.2506.12469
- Forrester Research. (2026). The state of agentic AI in 2026: Companies are chasing, few are catching [Entrada de blog]. Forrester. https://www.forrester.com/blogs/the-state-of-agentic-ai-in-2026-companies-are-chasing-few-are-catching/
- Gartner. (2026). What the 2026 Hype Cycle for Agentic AI reveals. Gartner. https://www.gartner.com/en/articles/hype-cycle-for-agentic-ai
- McCain, M., Millar, T., Huang, S., Eaton, J., Handa, K., Stern, M., Tamkin, A., Kearney, M., Durmus, E., Shen, J., Hong, J., Calvert, B., Chan, J. S., Mosconi, F., Saunders, D., Neylon, T., Nicholas, G., Pollack, S., Clark, J. y Ganguli, D. (2026, 18 de febrero). Measuring AI agent autonomy in practice. Anthropic. https://www.anthropic.com/research/measuring-agent-autonomy
- Mitchell, M., Ghosh, A., Luccioni, A. S. y Pistilli, G. (2025). Fully autonomous AI agents should not be developed (arXiv:2502.02649). arXiv. https://doi.org/10.48550/arXiv.2502.02649
- Pan, M. Z., Arabzadeh, N., Cogo, R., Zhu, Y., Xiong, A., Agrawal, L. A., Mao, H., Shen, E., Pallerla, S., Patel, L., Liu, S., Shi, T., Liu, X., Davis, J. Q., Lacavalla, E., Basile, A., Yang, S., Castro, P., Kang, D., . . . Ellis, M. (2025). Measuring agents in production (arXiv:2512.04123). arXiv. https://doi.org/10.48550/arXiv.2512.04123
- Parasuraman, R. y Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
- Parasuraman, R., Sheridan, T. B. y Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics, Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354
- SAE International. (2021). Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles (Norma J3016_202104). https://doi.org/10.4271/J3016_202104
- Shavit, Y., Agarwal, S., Brundage, M., Adler, S., O’Keefe, C., Campbell, R., Lee, T., Mishkin, P., Eloundou, T., Hickey, A., Slama, K., Ahmad, L., McMillan, P., Beutel, A., Passos, A. y Robinson, D. G. (2023). Practices for governing agentic AI systems [Libro blanco]. OpenAI. https://cdn.openai.com/papers/practices-for-governing-agentic-ai-systems.pdf
- Varela, F. J. (1979). Principles of biological autonomy. North Holland.
