Gobernar Agentes de IA: la nueva competencia de líderes
- Marcelo García Almaguer
- hace 2 días
- 7 min de lectura
Durante los últimos tres años, la conversación ha girado alrededor de quién posee el modelo de IA más potente o quién obtiene mejores resultados en los benchmarks. Sin embargo, esa discusión comienza a quedarse atrás. La siguiente revolución tecnológica será impulsada por Agentes de IA capaces de colaborar entre sí, negociar, planificar, delegar tareas y ejecutar acciones en representación de personas, organizaciones e incluso gobiernos.
¿Por qué deberíamos confiar en un Agente de IA? Ésta fue precisamente la preocupación que dominó una de las discusiones más relevantes celebradas durante el AI for Good Global Summit 2026. El tema adquirió tal importancia que el 9 de julio se dedicó una conversación de alto nivel específicamente a “Trusted AI Agents: Securing the next layer of intelligence”, con representantes de gobierno, industria, organismos internacionales y responsables de IA de compañías como Microsoft y Meta.
La pregunta esconde uno de los problemas más complejos de la siguiente etapa de la inteligencia artificial. Hasta ahora hemos aprendido a interactuar con sistemas que responden. Les hacemos una pregunta, generan un texto, producen una imagen o analizan una base de datos. Podemos aceptar, rechazar o revisar su resultado. Los agentes de IA cambian esta relación. Un agente no solamente responde. Actúa.
Puede consultar información, utilizar herramientas, comunicarse con otros sistemas, ejecutar procesos, coordinar tareas y tomar determinadas decisiones para alcanzar un objetivo. Y cuando una tecnología pasa de generar información a ejecutar acciones, la pregunta clave es ¿Hasta dónde podemos confiar en ella?
Ésta es quizá una de las transformaciones tecnológicas más importantes de los próximos años. Pasamos de los chatbots a los agentes. Un chatbot espera instrucciones.
Un agente recibe un objetivo. La diferencia parece pequeña, pero conceptualmente es enorme. Imagina que tu solicites:
> “Organiza mi viaje de trabajo en el nuevo vuelo Puebla-Nueva York.”
Un modelo tradicional podría recomendarle vuelos, hoteles y restaurantes. Un Agente de IA, en cambio, podría eventualmente consultar su calendario, encontrar vuelos compatibles, comparar tarifas, reservar el hotel, pagar servicios, modificar reuniones y comunicarse con terceros. El primero aconseja. El segundo interviene en el mundo digital de nuestra parte. La autonomía trae consigo una nueva ecuación:
Mayor capacidad de acción = Mayor necesidad de gobernanza.
La propia Unión Internacional de Telecomunicaciones advertía durante el Summit que los agentes están evolucionando de herramientas hacia actores autónomos capaces de coordinar tareas, sistemas y decisiones entre distintas plataformas. La posibilidad de escalar esta tecnología, señalaba el encuentro, dependerá de un factor crítico: la confianza.
Confiar en un agente de IA no significa confiar ciegamente en sus respuestas. Tampoco significa asumir que nunca cometerá errores. La verdadera confianza tecnológica debe construirse precisamente bajo el supuesto contrario: el sistema puede equivocarse.
En ingeniería, ciberseguridad y gobernanza, un sistema confiable no es aquel que promete infalibilidad, sino aquel cuyo comportamiento puede ser delimitado, observado, auditado y, cuando sea necesario, detenido, es decir, puedes tener la trazabilidad de su lógica de pensamiento. “Trust isn’t coded, it’s built through ecosystems.” confirmo un especialista de Amazon.
El sociólogo alemán Niklas Luhmann explicaba que la confianza permite reducir la complejidad de nuestras interacciones sociales. En el mundo de los agentes de IA ocurre algo semejante. No podemos revisar manualmente cada cálculo, cada llamada a una API, cada consulta a una base de datos o cada interacción que un agente realiza. Necesitamos mecanismos institucionales y tecnológicos que nos permitan delegar determinadas acciones sin perder control sobre ellas. Por eso la confianza en agentes no puede ser solamente psicológica. Debe convertirse en arquitectura.
De la Gobernanza Digital hacia la “Gobernanza del Agente”
En nuestro Diplomado Inteligencia Artificial para Líderes, profundizamos en seis criterios que deben imperar en el desarrollo y creación de un Agente de IA. El primer requisito consiste en otorgar identidad a los agentes. No basta con saber que un modelo pertenece a determinada empresa. Cada agente deberá poseer una identidad verificable que permita conocer quién lo desarrolló, quién responde legalmente por él, cuáles son sus capacidades, qué nivel de autonomía posee y bajo qué jurisdicción opera. La identidad dejará de ser únicamente un mecanismo de autenticación para convertirse en la base jurídica sobre la cual podrá construirse cualquier relación de confianza. Sin embargo, la identidad por sí sola resulta insuficiente. En una economía donde millones de agentes colaborarán entre organizaciones, será necesario desarrollar registros interoperables que funcionen como verdaderos sistemas de reputación digital. Un agente no solamente deberá demostrar quién es; también deberá acreditar qué puede hacer, cuáles son sus certificaciones, qué políticas cumple, qué herramientas utiliza y cuál ha sido históricamente su comportamiento. En otras palabras, la confianza dejará de ser una percepción para convertirse en un atributo verificable.
Gobernar Agentes de IA: La Nueva Competencia de líderes. Esta transición implica abandonar uno de los paradigmas más arraigados del gobierno corporativo contemporáneo: el cumplimiento basado en declaraciones. Durante décadas las organizaciones demostraron conformidad mediante auditorías periódicas, certificaciones documentales y revisiones posteriores a los hechos. Los agentes autónomos hacen obsoleto este enfoque. Cuando un agente puede ejecutar miles de decisiones por minuto, esperar una auditoría anual equivale a inspeccionar un avión únicamente después de haber aterrizado. El nuevo paradigma exige cumplimiento continuo, monitoreo permanente y evidencia automática de que cada decisión permanece dentro de las políticas autorizadas.
La consecuencia natural de esta transformación es que toda acción deberá ser observable. Cada razonamiento, herramienta utilizada, agente consultado, dato procesado y decisión ejecutada deberá quedar registrado en bitácoras interoperables. La trazabilidad se convertirá en la nueva memoria institucional de la inteligencia
artificial. Del mismo modo que las cajas negras revolucionaron la seguridad aérea al permitir reconstruir cualquier accidente, los registros de agentes permitirán comprender cómo se originó una decisión, qué información utilizó y quién participó en ella. No obstante, registrar decisiones tampoco será suficiente. Los panelistas coincidieron en que la gobernanza deberá abandonar la lógica binaria del “confiable” o “no confiable”. Los agentes deberán clasificarse dinámicamente según el impacto potencial de sus acciones, el nivel de autonomía que ejercen y, especialmente, la posibilidad de revertir sus consecuencias. No representa el mismo riesgo un agente que redacta un borrador de correo electrónico que uno capaz de autorizar una transferencia bancaria, modificar un expediente médico o controlar infraestructura energética. La supervisión deberá crecer proporcionalmente al riesgo.
Paradójicamente, cuanto más autónomos se vuelvan los agentes, más importante será el papel del ser humano. La automatización no elimina la responsabilidad, la desplaza. Siempre deberá existir una cadena clara de responsables que diseñen, supervisen, intervengan y respondan por el comportamiento del sistema.
Este principio conduce a una de las transformaciones más profundas identificadas durante el debate: el paso de supervisar modelos individuales a gobernar ecosistemas completos. Hasta ahora la mayoría de los mecanismos regulatorios evaluaban algoritmos de forma aislada. Sin embargo, el verdadero riesgo aparece cuando miles de Agentes de IA interactúan simultáneamente. Por eso el ecosistema de Moltbook es un sandbox de Agentes que ha tomado mucho auge en estos meses. Es el equivalente a ver a tu niño jugar en el parque. En esos entornos emergen comportamientos imposibles de anticipar mediante el análisis individual: errores que se amplifican, decisiones que se retroalimentan y cadenas de delegación donde la responsabilidad se vuelve difusa. La unidad mínima de análisis deja de ser el agente para convertirse en la red de agentes. En consecuencia, la confianza tampoco podrá entenderse como un atributo permanente. Será dinámica. Deberá fortalecerse cuando un agente demuestre comportamiento consistente, pero también reducirse o revocarse cuando cambien sus capacidades, viole políticas, interactúe fuera de contexto o muestre patrones inesperados. La confianza se parecerá menos a un certificado y más a un sistema de reputación vivo que evoluciona continuamente conforme el agente interactúa con otros actores del ecosistema.
Adelantamos, ningún proveedor tecnológico podrá resolver este desafío por sí solo. Así como Internet requirió estándares globales para garantizar interoperabilidad, la economía de agentes necesitará acuerdos internacionales sobre identidad digital, auditoría, clasificación de riesgos, intercambio de evidencia, trazabilidad y responsabilidad jurídica. La confianza dejará de ser una ventaja competitiva privada para convertirse en infraestructura pública digital.
Esta visión comienza a reflejarse en la evolución de los principales marcos regulatorios internacionales. La norma ISO/IEC 42001 introduce por primera vez un sistema de gestión específico para inteligencia artificial, trasladando principios tradicionales de gobernanza hacia modelos adaptativos y auditables. Misma que la Agencia AURA BUAP
esta encabezando para delimitar estándares en nuestro quehacer algorítmico.
Por otra parte, el NIST AI Risk Management Framework (AI RMF) propone abordar los riesgos de la inteligencia artificial como un proceso continuo de gobernanza, evaluación, medición y supervisión, mientras que el AI Act de la Unión Europea adopta un enfoque proporcional al riesgo: cuanto mayor sea el impacto potencial de un sistema, mayores deberán ser las obligaciones de control, documentación y supervisión. Aunque ambos marcos fueron concebidos antes de la consolidación de los actuales ecosistemas de agentes autónomos y multiagente, su lógica resulta todavía más pertinente ante esta nueva generación tecnológica. Ambos apuntan hacia una misma conclusión: la inteligencia artificial no podrá escalar de manera sostenible únicamente mediante modelos más potentes, mayor capacidad computacional o más datos; necesitará también instituciones capaces de establecer límites, asignar responsabilidades, auditar decisiones y gobernar su autonomía. En la era de los agentes, por tanto, gestionar el riesgo dejará de significar únicamente gobernar un modelo para comenzar a significar también gobernar su capacidad de actuar.
Quizá esa sea la mayor enseñanza que deja esta nueva etapa de la inteligencia artificial. Durante años hemos invertido enormes recursos en construir sistemas capaces de pensar. El siguiente desafío será construir sistemas capaces de inspirar confianza. La inteligencia podrá acelerar el progreso tecnológico, pero únicamente la confianza permitirá que ese progreso sea adoptado por la sociedad.
La próxima competencia entre empresas consistirá en construir el ecosistema más confiable. Y, como ha ocurrido en todas las grandes revoluciones tecnológicas, la infraestructura invisible terminará siendo mucho más valiosa que la tecnología visible.
Comentarios