¿Quién vigila a la inteligencia artificial? Investigadores IBERO proponen modelo para auditar algoritmos
• Académicos de la Universidad Iberoamericana encabezan un estudio que articula minería de procesos, aprendizaje automático, asignación de recursos y gobernanza para supervisar las decisiones tomadas por sistemas automatizados
11 AGOSTO, 2026 | 08:27 hrs.lectura 5 minutos
AUTOR
Jorge Luis Cortés
Reportero de la Dirección de Comunicación Institucional · Contacto de prensa: jorge.cortes@ibero.mx
La inteligencia artificial ya participa en procesos relacionados con operaciones bancarias, detección de fraudes, ciberseguridad, moderación de contenidos y toma de decisiones dentro de distintas organizaciones. Pero si un algoritmo se equivoca, discrimina o pasa por alto una irregularidad, ¿quién lo detecta? Y si otro sistema automatizado decide qué casos deben investigarse, ¿quién vigila a ese segundo algoritmo?
Investigadores de la Universidad Iberoamericana Ciudad de México proponen un modelo integral para responder estas preguntas y avanzar hacia auditorías algorítmicas transparentes, reproducibles y sujetas a supervisión humana.
Se trata de Héctor R. Becerril Villamil, Vladimir Rodríguez Pérez y Julio Antonio Caballero-Mora, académicos adscritos al
, quienes, junto con Daniel Sanin-Villa, de la Universidad EAFIT de Colombia, y Juan C. Tejada, de Bancolombia, realizaron una amplia revisión sobre los métodos disponibles para supervisar sistemas automatizados.
El artículo, publicado en la revista científica Machine Learning and Knowledge Extraction, revisa 89 familias de publicaciones y propone entender la auditoría algorítmica como un proceso continuo. Esto significa que la supervisión no debe limitarse a evaluar un modelo antes de utilizarlo, sino acompañarlo durante su operación para identificar desviaciones, cambios, riesgos y decisiones que requieran intervención.
Auditar sin revisar absolutamente todo
En sistemas que procesan miles o millones de operaciones, revisar manualmente cada decisión resulta inviable. La capacidad humana, el tiempo, los recursos informáticos y la posibilidad de documentar cada caso son limitados.
Ante este problema, el equipo encabezado por investigadores de la IBERO estudia el llamado monitoreo selectivo: mecanismos que permiten concentrar la atención en los casos con mayor riesgo, incertidumbre, novedad o posible impacto.
Un sistema de este tipo podría ayudar a decidir qué transacciones bancarias deben investigarse, qué alertas de seguridad necesitan atención inmediata o cuáles decisiones automatizadas requieren una revisión humana. Sin embargo, los autores advierten que seleccionar correctamente los casos no depende solamente de que una inteligencia artificial tenga un alto nivel de precisión.
Un modelo puede predecir adecuadamente y, aun así, ser poco útil para una auditoría si produce demasiadas falsas alarmas, consume recursos excesivos o deja sin revisar casos relevantes. Por ello, también deben considerarse el costo de cada inspección, la demora en responder, la carga de trabajo para las personas auditoras y el riesgo que permanece oculto entre los casos descartados.
Las cuatro capas de una auditoría algorítmica
Una de las principales aportaciones del estudio es un marco que reúne cuatro dimensiones que suelen analizarse por separado.
La primera es la representación: qué información conserva el sistema sobre eventos, tiempos, recursos, personas u objetos involucrados en cada proceso. La manera de organizar los datos determina qué irregularidades pueden ser observadas y cuáles podrían permanecer invisibles.
La segunda es el aprendizaje, que comprende los modelos utilizados para estimar riesgos, detectar anomalías y expresar incertidumbre. La tercera corresponde a la decisión: cómo distribuir una capacidad limitada de inspección y determinar qué casos serán revisados, pospuestos, escalados o descartados.
La cuarta es la gobernanza, indispensable para conocer por qué se tomó una decisión, con qué datos, bajo qué versión del modelo y con qué grado de certeza. También contempla la intervención humana, la posibilidad de impugnar resultados y la conservación de registros que permitan reconstruir el proceso.
Con este enfoque, los académicos de la IBERO no sólo reúnen herramientas de minería de procesos e inteligencia artificial, sino que las vinculan con principios de trazabilidad, responsabilidad y rendición de cuentas.
El algoritmo auditor también puede equivocarse
El trabajo advierte una paradoja: un sistema creado para vigilar algoritmos puede desarrollar sus propios sesgos y puntos ciegos.
Si la herramienta selecciona únicamente los casos que ya reconoce como riesgosos, las revisiones humanas se concentrarán en ellos. El sistema aprenderá entonces de una muestra incompleta y podría dejar fuera anomalías nuevas, poco frecuentes o relacionadas con grupos históricamente ignorados.
Por esta razón, la política que determina qué casos merecen atención debe convertirse también en objeto de auditoría. Tendría que transparentar sus datos de entrenamiento, criterios de selección, niveles de incertidumbre, historial de acciones, cambios de versión y resultados de las revisiones humanas.
En otras palabras, no basta con preguntarse si la inteligencia artificial funciona: también es necesario saber qué observa, qué decide ignorar y cómo puede corregirse.
Una agenda para construir sistemas más responsables
La revisión identifica avances importantes en representación de procesos, aprendizaje automático, detección de anomalías y gobernanza. No obstante, encuentra que estas herramientas todavía suelen evaluarse por separado, con bases de datos, métricas y presupuestos diferentes. Esto dificulta saber qué estrategia funciona mejor en condiciones equivalentes.
Frente a ello, los investigadores plantean cinco prioridades: crear bancos de datos preparados para auditorías; establecer protocolos explícitos sobre los recursos disponibles para inspeccionar casos; incorporar mediciones confiables de incertidumbre; facilitar la transferencia de modelos entre organizaciones sin perder validez, y desarrollar mecanismos de gobernanza que hagan reproducible cada decisión.
La propuesta encabezada por académicos de la IBERO coloca la responsabilidad en el centro del desarrollo tecnológico. Su planteamiento parte de una idea esencial: conforme los algoritmos intervienen en más decisiones, no sólo necesitan ser eficientes. También deben poder explicar qué hicieron, reconocer cuándo no cuentan con información suficiente y permitir que las personas cuestionen y corrijan sus resultados.
Las opiniones y puntos de vista vertidos en este comunicado son de exclusiva responsabilidad de quienes los emiten y no representan necesariamente el pensamiento ni la línea editorial de la Universidad Iberoamericana.
Para mayor información sobre este comunicado llamar a los teléfonos: (55) 59 50 40 00, Ext. 7594, 7759 Comunicación Institucional de la Universidad Iberoamericana Ciudad de México Prol. Paseo de la Reforma 880, edificio F, 1er piso, Col. Lomas de Santa Fe, C.P. 01219
