En el lenguaje cotidiano de las organizaciones, la autonomía siempre ha sido una forma de delegación.
Un director concede a un gerente la facultad de aprobar gastos hasta cierto monto; un gerente da a su equipo libertad para elegir cómo cumplir un objetivo.
En todos estos casos, la autonomía tiene un rasgo que casi nunca se menciona porque se da por sentado: quien la recibe comparte con quien la concede un trasfondo de valores, de sentido común y de consecuencias personales. Si el gerente decide mal, hay alguien que responde, alguien que aprende y alguien que, en última instancia, tiene algo que perder.
Delegar en una persona, delegar en un sistema
Cuando quien actúa es un sistema de inteligencia artificial, ese trasfondo desaparece o, al menos, deja de estar garantizado.
El sistema puede ser extraordinariamente competente en una tarea concreta y, al mismo tiempo, carecer de cualquier noción de lo que esa tarea significa para el negocio, para un cliente o para la reputación de la empresa.
Tampoco puede ser el último responsable. Por eso el libro blanco de OpenAI sobre gobernanza de agentes sostiene que, por cada daño causado por un sistema agéntico, debe haber al menos una entidad humana que responda: una persona, una empresa u otra entidad legal, pero no solo el sistema (Shavit et al., 2023).
Autonomía humana
Se apoya en un trasfondo compartido de valores, sentido común y consecuencias personales. Quien decide responde, aprende y tiene algo que perder.
Autonomía artificial
Puede ofrecer gran competencia en una tarea, pero el trasfondo no está garantizado. La responsabilidad debe asignarse de forma explícita a personas u organizaciones.
Capacidad no es criterio
Hablar de autonomía artificial exige distinguir con cuidado entre capacidad y criterio. Que un sistema pueda ejecutar una acción no implica que comprenda cuándo conviene hacerlo y cuándo no.
La investigación reciente apunta en la misma dirección. Feng, McDonald y Zhang (2025) proponen tratar la autonomía como una propiedad que se diseña deliberadamente, y no como un subproducto inevitable de las capacidades del sistema. El libro blanco de OpenAI también separa el grado de agencia de un sistema de su nivel de desempeño en una tarea (Shavit et al., 2023).
Tres niveles de autonomía artificial
Conviene separar, además, al menos tres niveles que suelen mezclarse en la conversación.
- 01
Autonomía operativa
El sistema ejecuta pasos de un proceso definido sin intervención humana, como clasificar solicitudes, reordenar inventarios o responder consultas frecuentes. Aquí el camino está trazado y la máquina lo recorre.
- 02
Autonomía táctica
El sistema elige entre varias rutas posibles para alcanzar un objetivo dado: decide qué proveedor contactar primero o cómo priorizar una cola de trabajo.
- 03
Autonomía estratégica
La más delicada: el sistema contribuye a definir qué objetivos perseguir o cómo ponderar metas que entran en conflicto.
Esta distinción dialoga con una idea clásica de la ingeniería de factores humanos: la automatización no es todo o nada, y un mismo sistema puede operar con niveles distintos según la función que desempeña (Parasuraman et al., 2000).
La mayoría de las organizaciones se mueve hoy entre el primer y el segundo nivel, y es sano que así sea. Pero la velocidad a la que se normaliza lo que ayer parecía excepcional debería invitarnos a la cautela. Los datos de uso real lo ilustran: entre los usuarios de un agente de programación, la proporción de sesiones en las que se deja actuar al sistema sin aprobación previa pasa de cerca del 20% entre los nuevos a más del 40% entre los experimentados (McCain et al., 2026).
No es casual que el tercer nivel sea el más discutido. Mitchell y colegas (2025) concluyen que los riesgos para las personas aumentan con la autonomía del sistema: cuanto más control se cede, más riesgos aparecen.
La escala convierte el error en sistema
Otro rasgo distingue la autonomía artificial de la humana: su escala. Una persona autónoma comete errores a ritmo humano, en un lugar y un momento determinados, y esos errores suelen ser visibles y acotados.
Un sistema autónomo puede replicar la misma decisión miles de veces en cuestión de minutos. Una regla ligeramente equivocada, aplicada con total consistencia, produce un daño distinto al de una equivocación puntual: se vuelve sistemática.
La autonomía, entonces, amplifica tanto los aciertos como los fallos. Esa asimetría de escala es una de las razones por las que no puede tratarse como una simple extensión de la delegación tradicional. El libro blanco de OpenAI la nombra como riesgo de fallas correlacionadas: muchos sistemas que fallan al mismo tiempo o de la misma manera, con más daño potencial cuanto más poder se les delega (Shavit et al., 2023).
Dos empresas, un mismo algoritmo
Kleinberg y Raghavan (2021) estudiaron qué ocurre cuando varias empresas usan el mismo algoritmo para seleccionar candidatos. Su modelo muestra que, aunque para cada empresa por separado sea racional adoptarlo, el uso compartido puede producir decisiones peores en promedio, incluso si el algoritmo es más preciso que la evaluación humana.
Los autores llaman a este fenómeno monocultura algorítmica: la homogeneidad de las decisiones deja escapar opciones valiosas y reduce el bienestar total. Es la versión colectiva del mismo problema de escala.
Una autonomía que pueda rendir cuentas
Hay también una cuestión de legibilidad. Cuando un colaborador toma una decisión, podemos preguntarle por qué, y su respuesta, aunque imperfecta, nos permite reconstruir su razonamiento.
Con muchos sistemas, la explicación es más difícil de obtener o, peor aún, es una narración plausible construida después del hecho. Turpin y colegas (2023) mostraron que las explicaciones paso a paso de los modelos de lenguaje pueden ser plausibles y, aun así, tergiversar sistemáticamente la verdadera razón de una respuesta. Y el libro blanco de OpenAI advierte que pedir a un agente que justifique su conducta a posteriori probablemente produzca un razonamiento fabulado (Shavit et al., 2023).
Una autonomía que no puede rendir cuentas de sí misma se parece menos a la confianza depositada en un profesional y más a un acto de fe, y las organizaciones no deberían operar sobre actos de fe cuando lo que está en juego son clientes, empleados y patrimonio.
La autonomía artificial se diseña
Esto no significa que la respuesta sea frenar la autonomía. Significa entenderla como una propiedad que se diseña, no que simplemente ocurre.
Definir qué puede hacer un sistema, bajo qué condiciones, con qué información, con qué margen de error aceptable y con qué mecanismos de reversión es parte del trabajo de construir una empresa cognitiva. La literatura de gobernanza propone instrumentos concretos en esa línea: restringir las acciones disponibles, exigir aprobación para las críticas, llevar un registro legible de lo que el sistema hace y procurar que las acciones que solo se revisan después sean fácilmente reversibles (Shavit et al., 2023).
“La autonomía bien concebida no es ausencia de límites sino presencia de límites explícitos, comprendidos y revisables.”
Una organización madura no pregunta únicamente "¿qué puede hacer este sistema por sí solo?", sino "¿qué estamos dispuestos a que haga sin nosotros, y qué necesitamos ver para seguir estándolo?".
Un espejo para la organización
Quizá lo más revelador de esta conversación es que nos obliga a explicitar lo que antes era implícito. Cuando delegábamos en personas, buena parte del criterio viajaba de manera tácita; ahora debemos escribirlo, formalizarlo y verificarlo.
En ese sentido, la autonomía artificial funciona como un espejo: nos fuerza a decir con claridad qué valoramos, qué toleramos y qué jamás permitiríamos. Y esa claridad, incómoda al principio, termina siendo una ventaja para toda la organización.
De la definición a la supervisión
Queda, sin embargo, la pregunta práctica que sigue de inmediato: si la autonomía se diseña, ¿dónde se coloca el límite y quién lo vigila? Definir el concepto es apenas el primer paso; el segundo consiste en decidir cómo se supervisa a una organización que, en parte, ya decide sola.
Las organizaciones han convivido siempre con la supervisión: auditorías, revisiones, firmas de autorización, comités. Todos esos mecanismos se pensaron para un mundo en el que las decisiones llegaban a un ritmo que los humanos podían seguir.
Cuando una parte creciente de las decisiones se toma a velocidad de máquina, esos instrumentos clásicos empiezan a quedarse cortos, y la pregunta deja de ser si hay que supervisar para convertirse en cómo hacerlo sin anular el valor de la autonomía. Los primeros datos de uso real sugieren una pista: exigir aprobación para cada acción genera fricción sin garantizar más seguridad; lo decisivo es que alguien esté en posición de monitorear e intervenir (McCain et al., 2026).
En síntesis
- Delegar en personas descansa en un trasfondo compartido que, con sistemas de IA, deja de estar garantizado.
- Capacidad no es criterio: ejecutar una acción no implica saber cuándo conviene hacerlo.
- Conviene distinguir autonomía operativa, táctica y estratégica, y ser especialmente cauto con la tercera.
- La escala convierte un error puntual en un daño sistemático.
- Una autonomía que no puede rendir cuentas de sí misma es un acto de fe, no confianza.
- La autonomía se diseña con límites explícitos, comprendidos y revisables, y obliga a hacer explícito el criterio tácito.
Referencias
- Feng, K. J. K., McDonald, D. W. y Zhang, A. X. (2025). Levels of autonomy for AI agents (arXiv:2506.12469). arXiv. https://doi.org/10.48550/arXiv.2506.12469
- Kleinberg, J. y Raghavan, M. (2021). Algorithmic monoculture and social welfare. Proceedings of the National Academy of Sciences, 118(22), Artículo e2018340118. https://doi.org/10.1073/pnas.2018340118
- McCain, M., Millar, T., Huang, S., Eaton, J., Handa, K., Stern, M., Tamkin, A., Kearney, M., Durmus, E., Shen, J., Hong, J., Calvert, B., Chan, J. S., Mosconi, F., Saunders, D., Neylon, T., Nicholas, G., Pollack, S., Clark, J. y Ganguli, D. (2026, 18 de febrero). Measuring AI agent autonomy in practice. Anthropic. https://www.anthropic.com/research/measuring-agent-autonomy
- Mitchell, M., Ghosh, A., Luccioni, A. S. y Pistilli, G. (2025). Fully autonomous AI agents should not be developed (arXiv:2502.02649). arXiv. https://doi.org/10.48550/arXiv.2502.02649
- Parasuraman, R., Sheridan, T. B. y Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics, Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354
- Shavit, Y., Agarwal, S., Brundage, M., Adler, S., O’Keefe, C., Campbell, R., Lee, T., Mishkin, P., Eloundou, T., Hickey, A., Slama, K., Ahmad, L., McMillan, P., Beutel, A., Passos, A. y Robinson, D. G. (2023). Practices for governing agentic AI systems [Libro blanco]. OpenAI. https://cdn.openai.com/papers/practices-for-governing-agentic-ai-systems.pdf
- Turpin, M., Michael, J., Perez, E. y Bowman, S. R. (2023). Language models don’t always say what they think: Unfaithful explanations in chain-of-thought prompting. Advances in Neural Information Processing Systems, 36, 74952–74965. https://proceedings.neurips.cc/paper_files/paper/2023/hash/ed3fea9033a80fea1376299fa7863f4a-Abstract-Conference.html
