Artículo de información
José Carlos Botto Cayo y Abel Marcial Oruna Rodríguez
17 de agosto del 2026
La inteligencia artificial ya no se limita a responder preguntas o producir textos. En los últimos años ha comenzado a avanzar hacia sistemas capaces de recibir un objetivo, organizar tareas, buscar información, utilizar herramientas digitales y ejecutar acciones sin esperar una orden humana en cada paso. A estos sistemas se les conoce como agentes de inteligencia artificial. Su desarrollo abre posibilidades importantes en productividad, gestión y automatización, pero también introduce un problema que merece más atención: cuanto más puede hacer una máquina por su cuenta, más importante se vuelve saber hasta dónde puede actuar y quién mantiene realmente el control. Una respuesta equivocada puede corregirse; una acción equivocada puede alterar archivos, mover información, afectar procesos internos o generar consecuencias difíciles de revertir. El problema, por tanto, no está en imaginar máquinas conscientes o rebeldes, sino en reconocer que un sistema con capacidad de acción puede comportarse de una manera distinta a la prevista por quienes lo diseñaron o implementaron (Roque Obregón, 2025).
En el Perú, esta discusión empieza a dejar de ser lejana. La inteligencia artificial ya viene siendo utilizada en instituciones públicas y privadas, y algunas propuestas académicas plantean directamente el empleo de agentes para mejorar procesos de gestión. Una investigación publicada por la Universidad de Lima identificó 22 aplicaciones de IA en 17 entidades públicas y encontró una brecha importante entre el avance regulatorio y la documentación técnica disponible en temas como transparencia algorítmica, auditoría de sesgos y evaluación del impacto sobre derechos fundamentales. El dato es relevante porque, si todavía existen dificultades para supervisar sistemas que producen recomendaciones o análisis, el desafío será mayor cuando esos sistemas también puedan ejecutar acciones. En ese momento, la discusión deja de centrarse únicamente en lo que la IA “dice” y pasa a concentrarse en lo que puede “hacer” dentro de una organización (Huancapaza Hilasaca, 2025).
Cuando la inteligencia artificial deja de responder y comienza a actuar
La diferencia entre un chatbot y un agente puede parecer técnica, pero en la práctica es bastante sencilla. Un asistente convencional puede sugerir cómo redactar un informe; un agente, dependiendo de los permisos que tenga, podría buscar los datos, organizarlos, redactar el documento, guardarlo en un sistema y enviarlo a otro usuario. Esa capacidad puede resultar muy útil en organizaciones con tareas repetitivas o grandes volúmenes de información. En la Revista Saber Servir, de la Escuela Nacional de Administración Pública, se ha planteado precisamente el uso de un agente de inteligencia artificial para fortalecer una gestión pública basada en datos, especialmente frente a problemas como procesos poco documentados, información dispersa y sistemas tecnológicos fragmentados. Esto demuestra que los agentes ya forman parte de la conversación sobre modernización del Estado peruano y no son únicamente una tendencia importada desde las grandes empresas tecnológicas (Roque Obregón, 2025).
Pero automatizar más no significa necesariamente gestionar mejor. Un agente puede recibir información incompleta, interpretar mal una instrucción o continuar una secuencia de acciones que, en un inicio, parece razonable, pero termina produciendo un resultado inconveniente. En una institución pública, ese tipo de error puede afectar expedientes, bases de datos, comunicaciones internas o procedimientos dirigidos a ciudadanos. La diferencia principal con otros sistemas de IA es que aquí el error no queda únicamente en una recomendación. Puede convertirse en una acción concreta. Por eso, la pregunta central no debería ser solamente qué tan inteligente es el sistema, sino cuánto poder se le entrega y qué tan fácil resulta detenerlo cuando comienza a actuar de una forma que no estaba prevista (Huancapaza Hilasaca, 2025).
La ciberseguridad permite entender todavía mejor este riesgo. La inteligencia artificial puede servir para detectar amenazas, reconocer patrones sospechosos y responder con rapidez frente a incidentes. Sin embargo, una herramienta con demasiados permisos también puede equivocarse con mucha rapidez. Freddy Linares-Torres, en la revista Seguridad y Poder Terrestre, señala que la aplicación de IA en ciberdefensa puede fortalecer capacidades institucionales, pero requiere preparación humana, seguridad y una adecuada evaluación de sus efectos. En el caso de los agentes, ese equilibrio es fundamental. Una herramienta capaz de reaccionar en segundos frente a un ataque puede ser útil, pero también puede bloquear recursos legítimos o ejecutar acciones innecesarias si interpreta mal la situación. La velocidad, por sí sola, no garantiza una buena decisión (Linares-Torres, 2024).
Por esa razón, hablar de agentes “fuera de control” exige cierta precisión. No significa que la máquina tenga voluntad propia ni que haya desarrollado conciencia. Significa que puede realizar operaciones que sus responsables no esperaban, sobre todo cuando combina autonomía, múltiples herramientas y permisos amplios. El problema es menos espectacular que el de la ciencia ficción, pero bastante más concreto. Si una organización no puede reconstruir lo que hizo el sistema, por qué lo hizo y qué accesos utilizó, entonces existe una falla de gobernanza. La tecnología puede ejecutar tareas complejas, pero la responsabilidad por sus consecuencias sigue siendo humana (Estrada Merino, 2025).
El Perú frente al problema de mantener el control
El Perú ya cuenta con una base normativa para enfrentar parte de estos riesgos. El Reglamento de la Ley N.° 31814 incorpora principios de seguridad, transparencia, responsabilidad y supervisión humana, además de considerar distintos niveles de riesgo según el uso de la inteligencia artificial. Ese enfoque es especialmente útil para los agentes porque no todas las tareas deberían recibir el mismo grado de libertad. Un sistema que organiza documentos públicos no representa el mismo nivel de riesgo que otro conectado con datos personales, sistemas financieros o infraestructura crítica. La autonomía debería aumentar únicamente cuando existan controles suficientes para vigilar su comportamiento y limitar las consecuencias de una falla (Presidencia del Consejo de Ministros [PCM], 2025).
Sin embargo, la supervisión humana no puede quedarse únicamente en una frase normativa. Para controlar realmente un agente es necesario saber qué hizo, qué información utilizó, qué aplicaciones consultó y qué permisos tenía disponibles. También debe existir una forma rápida de detenerlo si aparece una conducta anómala. Esto exige registros de actividad, trazabilidad y mecanismos de auditoría que permitan reconstruir una secuencia completa de operaciones. Las observaciones realizadas sobre el uso de IA en entidades públicas peruanas muestran que la transparencia y la documentación todavía necesitan fortalecerse. Con agentes autónomos, esa necesidad se vuelve más urgente porque ya no se trata solo de explicar una respuesta, sino de reconstruir una cadena de acciones (Huancapaza Hilasaca, 2025).
También aparece un problema de responsabilidad. Decir que “la inteligencia artificial tomó la decisión” puede ser una forma rápida de explicar un proceso, pero no debería servir para ocultar quién responde por las consecuencias. Detrás de cada agente existen desarrolladores, proveedores, responsables de tecnología e instituciones que determinan sus objetivos y autorizan sus accesos. Estrada Merino advierte que América Latina todavía presenta brechas en capacidades institucionales, infraestructura y supervisión algorítmica. En el caso peruano, esto obliga a avanzar con prudencia. La capacidad técnica de la máquina puede aumentar, pero eso no debería significar que la responsabilidad humana se vuelva más difusa (Estrada Merino, 2025).
El desafío peruano no consiste en frenar el desarrollo de estos sistemas, sino en evitar que su capacidad de acción avance más rápido que los mecanismos destinados a vigilarlos. El país ya tiene experiencias de inteligencia artificial en el sector público, propuestas académicas sobre agentes y una regulación que reconoce la importancia del control humano. Ese escenario puede convertirse en una ventaja si se aprovecha para establecer límites antes de que la tecnología llegue a funciones realmente sensibles. Un agente puede ahorrar tiempo, ordenar información y ejecutar procesos complejos, pero ninguna eficiencia justifica darle más poder del que una institución puede observar, explicar y detener. La IA autónoma puede ser una herramienta valiosa, siempre que la autonomía técnica no termine convirtiéndose en ausencia de responsabilidad (PCM, 2025; Linares-Torres, 2024).
Bibliografía
Estrada Merino, A. (2025). Inteligencia artificial: hacia una gobernanza ética. Acta Herediana, 68(2), 33-40. Universidad Peruana Cayetano Heredia. https://doi.org/10.20453/ah.v68i2.7505
Huancapaza Hilasaca, J. E. (2025). Implementación de inteligencia artificial en el Estado peruano: catálogo analítico de aplicaciones (2025). Interfases, (22), 143-158. Universidad de Lima. https://doi.org/10.26439/interfases2025.n022.8263
Linares-Torres, F. (2024). Inteligencia artificial y ciberdefensa. Seguridad y Poder Terrestre, 3(4). Centro de Estudios Estratégicos del Ejército del Perú. https://doi.org/10.56221/spt.v3i4.72
Presidencia del Consejo de Ministros. (2025). Reglamento de la Ley N.° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Decreto Supremo N.° 115-2025-PCM. Gobierno del Perú.
Roque Obregón, J. R. (2025). Gestión pública basada en datos en el Perú: un agente de inteligencia artificial para mejorar procesos, datos y tecnología. Saber Servir: Revista de la Escuela Nacional de Administración Pública, (13), 272-280. https://doi.org/10.54774/ss.2025.13.14
