PRENSA IBERO
• El riesgo actual de la IA está más relacionado con su mal uso, la privacidad y la vigilancia que con máquinas autónomas que puedan tomar decisiones por sí mismas, señala el Dr. Alexandro López González, coordinador de la Ingeniería en IA • La tecnología actual no tiene sentimientos, pensamientos ni autodeterminación; funciona dentro de los parámetros establecidos por las personas que la diseñan y utilizan, apunta • Considera que los marcos regulatorios deben proteger a las personas, sus datos y privacidad, además de exigir que las empresas consideren el impacto social de la IA
AUTOR
Reportero de la Dirección de Comunicación Institucional · Contacto de prensa: luis.reyes@ibero.mx
La inteligencia artificial (IA) es una herramienta que facilita el análisis de grandes cantidades de datos, genera de forma inmediata contenidos y automatiza tareas; sin embargo, el riesgo que actualmente se le atribuye no corresponde con las capacidades demostradas hasta ahora, afirmó el Dr. Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana (IBERO)
Sobre la actual discusión entre líderes políticos y empresas como OpenAI y Anthropic para frenar el desarrollo de la IA, consideró que hay una importante burbuja económica alrededor de esta tecnología y que los intereses económicos y geopolíticos pueden influir en la manera en que se presenta la presunta peligrosidad de la IA.
Indicó que técnicamente hablando no observa evidencias que prueben que las inteligencias artificiales actuales puedan representar para los seres humanos una pérdida de control sobre estas tecnologías.
En entrevista con Prensa IBERO, explicó que las herramientas disponibles no actúan de forma autónoma o independiente en el sentido de tener voluntad propia. Sus comportamientos dependen de los parámetros establecidos por quienes las desarrollan y utilizan.
Por ello, consideró necesario distinguir entre “los riesgos inherentes a la tecnología y los que derivan de su utilización inadecuada”.
Para el académico de nuestra casa de estudios, la discusión sobre la IA debe concentrarse en los usos que pueden poner en riesgo a las personas.
Explicó que uno los principales desafíos es la privacidad, pues la IA permite procesar y relacionar enormes cantidades de información, lo que facilita capacidades de vigilancia y localización que anteriormente requerían una mayor cantidad mayor de recursos humanos.
“Con inteligencia artificial esto ya es una realidad”, advirtió al referirse a las posibilidades de espionaje y vigilancia a gran escala.
En este escenario, dijo, los gobiernos y las empresas deben establecer mecanismos para proteger los datos personales y limitar aquellos usos de la tecnología que puedan vulnerar la privacidad.
Frente al desarrollo acelerado de estas tecnologías, el Dr. López González planteó que cualquier sistema de IA debería estar “centrado en el ser humano”, lo que implica que su propósito debe beneficiar a las personas, facilitar sus actividades y mejorar el trabajo, pero sin desplazar su participación en los procesos.
El académico destacó la necesidad de mantener al ser humano “en el loop”, es decir, informado sobre lo que hace la IA y sobre la forma en que llega a determinadas conclusiones.
En este sentido, consideró que es fundamental avanzar hacia sistemas de IA explicable, capaces de ofrecer información sobre qué hicieron, por qué lo hicieron y cómo llegaron a una decisión.
Consideró que delegar una tarea a una herramienta tecnológica no debería significar que las personas abandonen la supervisión. “No tenemos que dejarle simplemente: va, resuelve las cosas y ya”, planteó.
El especialista consideró positivo que existan marcos regulatorios para la IA, aunque advirtió que la regulación debe determinar con claridad qué se pretende proteger y qué prácticas deben limitarse.
Las empresas, dijo, tienen entre sus objetivos generar ingresos y empleos, pero sus decisiones relacionadas con IA deben considerar el impacto que producen sobre la sociedad.
Agregó que además de las reglas internas de las compañías, los gobiernos deben establecer mecanismos de protección para los consumidores y límites sobre aquello que las empresas pueden hacer con estas tecnologías.
El Dr. López González apuntó que el desafío no corresponde solo a quienes desarrollan la tecnología, ya que la IA tiene efectos sobre prácticamente todas las áreas de la sociedad, por lo que su desarrollo requiere colaboración entre distintas disciplinas.
En la formación de las y los estudiantes de Ingeniería en Inteligencia Artificial de la IBERO, explicó, estos aspectos están incorporados en el plan de estudios desde distintas perspectivas, como el impacto social, la ética y la normativa.
“La tecnología si bien las y los ingenieros la trabajamos, la gran realidad es que todas y todos estamos inmersos en esto”, señaló.
El objetivo, concluyó, debe ser que la IA avance de manera normalizada, regulada y con una perspectiva humana, de manera que sus beneficios tecnológicos no se separen de la responsabilidad de proteger a las personas.
Las opiniones y puntos de vista vertidos en este comunicado son de exclusiva responsabilidad de quienes los emiten y no representan necesariamente el pensamiento ni la línea editorial de la Universidad Iberoamericana.
Para mayor información sobre este comunicado llamar a los teléfonos: (55) 59 50 40 00, Ext. 7594, 7759 Comunicación Institucional de la Universidad Iberoamericana Ciudad de México Prol. Paseo de la Reforma 880, edificio F, 1er piso, Col. Lomas de Santa Fe, C.P. 01219