PRENSA IBERO
AUTOR
Jorge Luis Cortés
Reportero de la Dirección de Comunicación Institucional
- La Inteligencia Artificial también tiene un enorme potencial para beneficiar a la sociedad, desde la detección de enfermedades hasta el análisis del cambio climático; el Coordinador de la Ingeniería en Inteligencia Artificial de la IBERO lamenta que no se use así la tecnología
Casos recientes de violencia digital, deepfakes y contenidos manipulados con Inteligencia Artificial han encendido alertas en todo el mundo. Para el Dr. Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana, muchos de estos problemas no surgen únicamente por fallas técnicas, sino por la forma en la que se construyen y entrenan los sistemas de inteligencia artificial.
López González explicó que uno de los factores clave detrás de estos riesgos es la falta de revisión rigurosa de las bases de datos con las que se programan los algoritmos, los cuales aprenden a partir de datos: “Si los datos están sesgados —si son racistas, sexistas o discriminatorios— la inteligencia artificial simplemente reproduce esos mismos sesgos”, señaló.
Este fenómeno puede traducirse en distintas formas de violencia digital, desde imágenes falsas de personas sin su consentimiento hasta decisiones automatizadas que discriminan a ciertos grupos sociales.
El problema: bases de datos poco revisadas
De acuerdo con el especialista, muchas empresas tecnológicas han acelerado el desarrollo de sistemas de Inteligencia Artificial sin realizar una revisión profunda de los datos con los que entrenan sus modelos. En algunos casos, explicó López González, esta revisión se omite porque implicaría regresar varias etapas del desarrollo tecnológico y destinar más recursos económicos: “Muchas veces esto implicaría tener que regresarse algunos pasos y rehacerlos. Pero regresarse puede ser muy costoso para una empresa, entonces tratan de no hacerlo”.
Esto ha provocado que sistemas de Inteligencia Artificial se entrenen con grandes volúmenes de información tomada de internet sin una evaluación exhaustiva de su origen, calidad o sesgos. Incluso existen demandas contra algunas compañías tecnológicas por haber utilizado bases de datos que incluían obras protegidas por derechos de autor o información recopilada sin consentimiento de sus creadores.
Cuando la lógica económica pesa más que la ética
López González señaló que la expansión reciente de la Inteligencia Artificial también está relacionada con el ingreso masivo de inversiones privadas al desarrollo tecnológico. Empresas tecnológicas han apostado grandes cantidades de capital para desarrollar herramientas de Inteligencia Artificial capaces de generar textos, imágenes o videos.
Sin embargo, esta aceleración tecnológica puede generar presiones para lanzar productos al mercado antes de completar procesos de evaluación ética o técnica: “Dentro de esa búsqueda de aceleración y beneficio inmediato se empiezan a saltar mecanismos de análisis y revisión”.
Este fenómeno puede explicar por qué algunos sistemas permiten prácticas problemáticas, como la generación de deepfakes o contenidos falsos de personas reales.
Una tecnología con décadas de historia
Aunque la Inteligencia Artificial parece un fenómeno reciente, su origen se remonta a varias décadas atrás.
De acuerdo con López González, muchos de los principios que hoy se utilizan en inteligencia artificial, como las redes neuronales, comenzaron a desarrollarse desde la década de 1950. Durante muchos años, estas ideas avanzaron lentamente porque no existía suficiente capacidad de cómputo para ejecutar los algoritmos de manera eficiente.
Fue hasta finales del siglo XX y principios del XXI, con el desarrollo de computadoras más potentes y el crecimiento de internet, cuando la Inteligencia Artificial comenzó a expandirse rápidamente.
El auge de los datos digitales —generados por teléfonos, sensores, redes sociales y plataformas en línea— permitió entrenar modelos cada vez más sofisticados.
Una herramienta con enorme potencial
A pesar de los riesgos, el especialista subrayó que la Inteligencia Artificial también tiene un enorme potencial para generar beneficios sociales.
El reconocimiento de patrones, por ejemplo, puede utilizarse para detectar enfermedades, analizar la propagación de virus o estudiar los efectos del cambio climático: “La cantidad de cosas buenas que se puede hacer con inteligencia artificial es enorme”. Por ello, López González consideró fundamental formar especialistas capaces de desarrollar tecnología con criterios éticos y responsabilidad social.
Formar ingenieros e ingenieras para el bien común
Con ese objetivo, la Universidad Iberoamericana lanzó su Ingeniería en Inteligencia Artificial, un programa académico que busca formar profesionistas capaces de diseñar tecnología con conciencia social.
El plan de estudios incorpora materias como filosofía de la Inteligencia Artificial, ética de la Inteligencia Artificial, estudios sociales de la tecnología y gobernanza de la Inteligencia Artificial, impartidas por especialistas de distintas disciplinas.
Además, las y los estudiantes analizan de forma crítica los sesgos en los datos y los riesgos sociales de los algoritmos, con el objetivo de desarrollar soluciones tecnológicas que beneficien a la sociedad.
Las personas interesadas en estudiar esta licenciatura pueden iniciar su proceso de admisión a través del área de Preuniversitarios de la Universidad Iberoamericana, donde recibirán orientación sobre requisitos de ingreso, becas y el proceso de inscripción.
También pueden solicitar información directamente al coordinador del programa, Dr. Alexandro López González, al correo alexandro.lopez@ibero.mx.