IA con Ética: la apuesta institucional de la BUAP

Les comparto con profunda gratitud y sentido de responsabilidad que he sido distinguido por la Dra. Lilia Cedillo Ramírez, Rectora de la Benemérita Universidad Autónoma de Puebla, al designarme como responsable de la nueva Agencia Especializada en Inteligencia Artificial. Se trata de una iniciativa única en su tipo en toda la República Mexicana y la primera, dentro de una universidad pública, concebida desde una visión institucional que coloca a la Inteligencia Artificial, Machine Learning y tecnologías emergentes no solo como un desarrollo tecnológico, sino como un proyecto con fundamento ético, social y humano.

Esta distinción representa un honor personal, pero sobre todo un compromiso colectivo: el de contribuir a la construcción de capacidades institucionales para gobernar la inteligencia artificial con criterio, responsabilidad y visión de largo plazo. La creación de esta agencia es reflejo de una rectoría que entiende que el futuro de la educación superior no se limita a adoptar tecnología, sino a formar generaciones capaces de comprender su impacto social y orientar su uso en beneficio de la sociedad.

Gobernanza de la Inteligencia Artificial: retos institucionales

Mtro. Marcelo García Almaguer

Descarga Discurso Completo

Apreciable Rectora, amigas y amigos de los medios de comunicación, invitados especiales,

Hoy vengo a hablarles de decisiones humanas.

Permítanme comenzar con una idea simple pero fundamental: toda tecnología emergente es una decisión humana congelada en el tiempo. Detrás de cada algoritmo hay una elección y un equipo de trabajo; detrás de cada modelo hay una visión del mundo; y detrás de cada sistema automatizado hay una institución, o la ausencia de ella, que decidió permitirlo.

Cuando hablamos de gobernanza, no hablamos de control burocrático. Hablamos de algo mucho más profundo: de cómo una sociedad se protege a sí misma mientras innova.

Si miramos hacia atrás, las grandes revoluciones industriales nos dejan una lección clave. Cada una transformó nuestra relación con el trabajo y con el poder. En la primera revolución, las máquinas de vapor amplificaron la fuerza física durante décadas. En la segunda, la electricidad amplificó la productividad. Posteriormente, la automatización amplificó la eficiencia.

La revolución que estamos viviendo hoy es diametralmente distinta. La inteligencia artificial no tardó décadas en adoptarse: lo hizo en semanas. Y eso marca una diferencia histórica.

La inteligencia artificial no amplifica fuerza ni productividad: amplifica criterios. Y cuando una sociedad delega criterios, delega responsabilidad.

Por eso conviene recordar que la inteligencia artificial nació como una pregunta filosófica. En 1950, Alan Turing formuló la pregunta que destapó al genio de la botella:

¿pueden pensar las máquinas?

Años después, en 1955, John McCarthy acuñó el término “inteligencia artificial” en la conferencia de Dartmouth, New Hampshire, y planteó una tesis más técnica y optimista: cómo hacer que una máquina piense. Su afirmación central fue clara:

“Cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tanta precisión que una máquina pueda ser hecha para simularlo”.

McCarthy no buscaba dominar mercados; buscaba entender si una máquina podía simular el pensamiento humano.

Décadas después, la historia avanzó de manera contundente. En 1997, Deep Blue derrotó al campeón mundial de ajedrez, Garry Kasparov. En 2016, AlphaGo venció a un campeón profesional de Go, un juego de estrategia profunda, donde no se ataca de frente, sino que se rodea, se espera y, cuando llega el momento, se ocupa todo el valle. Más tarde, científicos como Geoffrey Hinton y otros pioneros lograron que la inteligencia artificial saliera del laboratorio y entrara en la vida cotidiana.

La historia, sin embargo, nos recuerda algo incómodo: la tecnología madura más rápido que las instituciones que deberían gobernarla. Cada nueva tecnología crea una nueva clase de responsabilidades.

Hoy la inteligencia artificial está presente en los vehículos autónomos, en el reconocimiento facial, en la mercadotecnia, en las encuestas predictivas, en la industria militar, en los asistentes personales y en las campañas electorales. Nos dice qué comprar, con quién relacionarnos amorosamente, e incluso influye en por quién votar.

Los algoritmos no solo recomiendan contenidos: moldean percepciones, crean cámaras de eco y configuran realidades. No solo automatizan tareas repetitivas; también automatizan sesgos. No solo optimizan procesos; optimizan emociones, miedos y preferencias.

Cuando una tecnología entra en el terreno de la seguridad, la política y la opinión pública, deja de ser neutral. Es una aproximación matemática, sí, pero aplicada sobre sociedades humanas.

Aquí aparece uno de los grandes dilemas de nuestro tiempo: ¿queremos sociedades más eficientes o sociedades más justas? Porque la eficiencia sin gobernanza puede ser profundamente injusta.

Basta recordar lo ocurrido hace apenas quince años con la llegada de las redes sociales. Prometieron conectar amigos, dar voz a todos, crear comunidades y reducir los costos de organización. Sin reglas claras, también trajeron efectos no previstos: adicción, desinformación, ansiedad, noticias falsas, discursos de odio y polarización.

Este es el punto crucial para las nuevas generaciones: la inteligencia artificial no nació para reemplazar personas; nació para entender la inteligencia.

Cuando observamos su línea de tiempo, no solo vemos progreso tecnológico. Vemos ciclos de entusiasmo, decepción y renacimiento. Vemos promesas exageradas y límites ignorados. El verdadero problema es que el desarrollo tecnológico avanzó más rápido que nuestra reflexión ética.

La maduración de la inteligencia artificial no debería medirse solo por su precisión o su velocidad, sino por nuestra capacidad institucional para ponerle reglas, explicarla, auditarla y, cuando sea necesario, decirle que no.

Gobernar la inteligencia artificial no es frenar la innovación; es darle dirección con propósito. Es decidir que no todo lo técnicamente posible es socialmente deseable.

Los algoritmos pueden optimizar procesos, pero solo las personas pueden asumir responsabilidades.

IA con Ética: la apuesta institucional de la BUAP. En este punto, vale la pena recordar las palabras de Noam Chomsky, cuando advertía que la humanidad enfrenta desafíos inéditos en este breve momento de su historia. Nos llamaba a enfrentar el futuro con entendimiento, mente abierta, aprecio por lo logrado y, sobre todo, con humildad frente a lo que aún no comprendemos.

La inteligencia artificial nos exige esa humildad. Nos recuerda que el verdadero riesgo no es que las máquinas piensen, sino que los humanos dejemos de pensar. Que desaparezca una de las habilidades más cruciales de nuestro siglo: el pensamiento crítico, acompañado de una ética profesional sólida.

Ustedes no heredaron solo tecnología. Heredaron una responsabilidad histórica: decidir cómo se usa. Y el desafío será aún mayor cuando las nuevas generaciones no solo hereden herramientas, sino agentes de inteligencia artificial capaces de realizar transacciones y generar valor por sí mismos.

El verdadero legado no se mide en infraestructuras ni en indicadores de corto plazo. Se mide en decisiones, en preguntas que incomodan y en la valentía de pensar el mañana cuando el presente exige respuestas inmediatas.

El futuro se imagina, se discute y, sobre todo, se perfila con ética. Se construye con valores que orientan, con instituciones que sostienen y con una profunda conciencia humana que recuerda que todo avance debe tener un propósito.

La tecnología puede acelerar el camino, pero solo la ética define el rumbo.

Por ello, celebro que la Dra. Lilia Cedillo haya tomado una determinación audaz, cumpliendo con lo expresado durante su reelección: volcar el talento y los esfuerzos institucionales en formar una generación de jóvenes capaces no solo de dominar la tecnología, sino de comprender su impacto social, ético y humano.

Esta visión reconoce que formar profesionales hoy implica formar criterio, responsabilidad y conciencia histórica. Reconoce que educar es sembrar carácter.

Y usted, apreciable Rectora, ya decidió el futuro que debe emprender la BUAP. Será reconocida por el entusiasmo y la visión con la que se atrevió a perfilar el futuro de toda una comunidad científica en Puebla y en la República Mexicana.

Porque, al final, el gran desafío de nuestra época no es tecnológico. Es profundamente humano.

Y ese desafío, el de cuidar el destino común mientras avanzamos, les pertenece a ustedes.

Muchas gracias.

-000-