Agentes de IA y ciberseguridad: el desafío de gobernar sistemas autónomos

Durante años, el riesgo interno de seguridad en una empresa se asoció principalmente a errores o descuidos de las personas, alguien que hace clic en un enlace equivocado o comparte una contraseña sin querer. Hoy a esa dimensión se suma una nueva, que es la de un agente de IA con acceso a sistemas críticos, bases de datos y plataformas financieras que, sin la supervisión adecuada, puede ampliar la superficie de exposición de una empresa entera sin que nadie lo note hasta que ya es tarde.

El fenómeno ya es masivo, no marginal

Según una encuesta global de la Cloud Security Alliance publicada en abril de 2026, que consultó a más de 400 profesionales de tecnología y ciberseguridad, el 82 por ciento de las organizaciones tiene agentes de IA desconocidos operando dentro de su infraestructura, y el 65 por ciento ya sufrió al menos un incidente de seguridad relacionado con esos agentes en los últimos doce meses. De ese grupo de empresas afectadas, un 61 por ciento reportó exposición de datos, un 43 por ciento interrupciones operativas y un 35 por ciento pérdidas financieras directas, según la misma encuesta, citada también por el medio chileno El Desconcierto en un reportaje sobre agentes de IA en sectores como minería, energía e industria.

El problema tiene nombre propio, y se llama Shadow AI, que es el uso de herramientas de inteligencia artificial dentro de una empresa sin autorización ni supervisión de los equipos de tecnología. No es un fenómeno exclusivo de empresas pequeñas o poco maduras digitalmente, ocurre en organizaciones grandes que adoptan agentes de IA a gran velocidad, especialmente en sectores intensivos en datos, pero sin la gobernanza necesaria para controlar qué agente tiene acceso a qué información y con qué permisos opera.

Lo que pasa cuando nadie audita lo que hace un agente

El Cost of a Data Breach Report 2025, elaborado de forma independiente por el Ponemon Institute para IBM, encontró que el 97 por ciento de las organizaciones que sufrieron un incidente de seguridad relacionado con IA carecía de controles de acceso adecuados para esos sistemas, y que el 63 por ciento no contaba con ninguna política de gobernanza para gestionar el uso de IA o prevenir el Shadow AI dentro de la organización. El mismo informe encontró que los incidentes de Shadow AI ya representan el 20 por ciento de todas las brechas de seguridad reportadas, y que agregan en promedio 670.000 dólares adicionales al costo de un incidente, comparado con un incidente sin ese factor.

Estos números importan especialmente cuando se piensa en qué tipo de acceso tienen hoy los agentes de IA dentro de una empresa. Un agente que responde correos no tiene el mismo nivel de riesgo que uno que lee comprobantes de gasto, valida pagos contra una política financiera y clasifica transacciones de forma autónoma. Cuanto más cerca opera un agente de los sistemas financieros, de los datos de clientes o de las plataformas operacionales de una empresa, más crítico se vuelve que ese agente tenga visibilidad, trazabilidad y límites de acción claros desde el diseño, y no como un parche que se agrega después de un incidente.

Un desafío que ya llegó a sectores intensivos en datos en Chile

El desafío es especialmente sensible en sectores como minería, energía e industria, donde los agentes de IA están pasando de automatizar tareas administrativas simples a ejecutar flujos de trabajo completos, según advierte el mismo reportaje de El Desconcierto, que cita a Pablo García, BDM Cyber de la multinacional TIVIT. En esos entornos, un agente con acceso a sistemas operacionales requiere una gestión especialmente cuidadosa, porque un incidente puede escalar desde lo digital hacia lo físico, algo que no ocurre de la misma forma en un agente que solo procesa texto o responde consultas de atención al cliente.

García plantea una idea que resume bien el cambio de enfoque que necesita cualquier empresa que ya adoptó o está por adoptar agentes de IA, que es que la pregunta ya no es si conviene adoptar IA agéntica, porque eso ya está ocurriendo, sino cómo gobernarla. Las empresas que despliegan agentes autónomos sin visibilidad, sin control de permisos ni auditoría, están abriendo una puerta que muchas veces ni siquiera saben que existe hasta que algo sale mal.

Gobernanza no es un freno a la adopción, es la condición para sostenerla

Es tentador leer estas cifras como un argumento para frenar la adopción de agentes de IA, pero esa no es la conclusión que respaldan los datos. La adopción ya está ocurriendo a gran escala, y va a seguir creciendo porque las ganancias de productividad son reales. El problema no es adoptar agentes, es adoptarlos sin la capa de gobernanza que permite saber en todo momento qué hizo un agente, por qué lo hizo y qué información utilizó para tomar esa decisión.

Una estrategia razonable, y que coincide con lo que recomienda TIVIT en el mismo reportaje, combina cuatro elementos, que son un inventario completo de qué agentes y automatizaciones operan dentro de la empresa, el principio de menor privilegio aplicado a cada agente para que solo tenga acceso a lo estrictamente necesario, monitoreo y auditoría sobre las acciones que ejecuta cada agente, y un protocolo de respuesta definido para cuando ocurre un incidente. Ninguno de estos cuatro elementos depende de frenar la adopción de IA, dependen de estructurarla desde el principio en vez de improvisarla sobre la marcha.

Cómo se traduce esto en un agente que ya opera con datos financieros

El Agente Auditor de Gastos Reembolsables de AgentLayer es un buen ejemplo del tipo de agente que necesita exactamente ese nivel de gobernanza, porque su trabajo consiste en leer comprobantes, PDFs y fotos de recibos, y validar cada gasto contra la política financiera de la empresa antes de clasificarlo de forma autónoma. Un agente que toca información financiera de este tipo tiene que operar dentro de límites claros y con trazabilidad sobre cada decisión que toma, no como una caja negra que aprueba o rechaza gastos sin dejar rastro de por qué lo hizo.

Ese mismo estándar es el que AgentLayer aplica en su proceso de evaluación y certificación de agentes antes de que lleguen a producción, un proceso de cuatro fases que incluye diagnóstico y validación del flujo de trabajo real, implementación integrada a los sistemas que la empresa ya usa, un periodo de prueba real con ajustes directos del equipo del cliente, y entrega con manual de uso y soporte continuo. Ese ciclo existe justamente para que un agente no llegue a operar sobre datos críticos sin que antes se haya validado qué acceso necesita y qué límites debe respetar, en vez de descubrirlo después de un incidente.

Ofensiva también, no solo defensiva

La amenaza no es solo interna. En mayo de 2026, investigadores de Google detectaron el primer ataque real documentado que usó inteligencia artificial para explotar una vulnerabilidad de día cero, es decir, una falla desconocida para la que todavía no existía una defensa disponible. Ese hallazgo confirma que la inteligencia artificial ofensiva ya dejó de ser una hipótesis de laboratorio y empezó a formar parte del panorama real de amenazas que enfrenta cualquier empresa con sistemas expuestos a internet, lo que hace todavía más urgente que la gobernanza de los propios agentes de IA no se trate como un tema secundario dentro de la estrategia de seguridad.

Esta doble cara del problema, agentes internos sin supervisión adecuada por un lado y ataques externos que usan IA para encontrar y explotar debilidades por el otro, es la razón por la que varias consultoras coinciden en que la gobernanza de IA agéntica necesita tratarse como una disciplina propia, con presupuesto y responsables definidos, y no como una extensión menor de las políticas de ciberseguridad que ya existían antes de que los agentes autónomos entraran a operar dentro de las empresas.

La pregunta que debería estar en la agenda del directorio

Con el 82 por ciento de las organizaciones operando agentes de IA que no tienen del todo mapeados, y con el 97 por ciento de los incidentes de seguridad relacionados con IA vinculados a controles de acceso insuficientes, la pregunta de gobernanza sobre agentes de IA ya no debería quedar solo en el equipo de tecnología. Es una pregunta que empieza a tener el mismo peso que cualquier otro riesgo operacional relevante para una empresa, y que amerita estar en la conversación del directorio, no solo en la mesa de trabajo de tecnología.

Para una empresa que ya tiene agentes de IA operando, o que está evaluando incorporar el primero, la pregunta central ya no es solo qué tan bien resuelve un agente el problema que promete resolver. Es también qué tan claro está el mapa de qué agentes existen, a qué tienen acceso y quién puede responder, con datos concretos y no con supuestos, cuando algo sale mal. Esa claridad no se improvisa el día del incidente, se construye antes, con el mismo nivel de rigor que una empresa aplicaría a cualquier otro sistema que toca dinero, datos de clientes o infraestructura crítica.