De izq. a der.: De izq. a der.: Lic. Ernesto Velázquez Briseño, Mtro. Kiyoshi Tsuru Alberu, Dra. Hilda Nucci, Dr. Jorge Hidalgo Toledo y Lic. Nuhad Ponce Kuri
Plataformas y sistemas de inteligencia artificial concentran un poder creciente sobre la información, los datos y las decisiones de las personas, señalaron especialistas reunidos en la Universidad Iberoamericana, quienes advirtieron que su desarrollo debe acompañarse de transparencia, rendición de cuentas y protección de derechos fundamentales.
El poder en el entorno digital ya no está únicamente en manos del Estado. Plataformas tecnológicas, desarrolladores de inteligencia artificial (IA) y algoritmos participan cada vez más en las decisiones que toman las personas
, desde la información que reciben hasta los contenidos que consumen, por lo que resulta indispensable establecer mecanismos de transparencia, responsabilidad y supervisión humana.
Así lo advirtieron especialistas durante la mesa “Poder de las plataformas, algoritmos e inteligencia artificial”, que formó parte del seminario Derecho y comunicación en la era digital: plataformas, libertades y democracia, realizado los días 21 y 22 de septiembre en la Universidad Iberoamericana Ciudad de México.
Durante la discusión, la Dra. Hilda Nucci, investigadora de la Facultad de Derecho de la UNAM, planteó que la pregunta central ya no debería ser solamente cómo regular las plataformas, sino quién ejerce realmente el poder dentro del entorno digital.
A su juicio, aunque las personas pueden elegir qué plataformas utilizar y qué información proporcionarles, finalmente es el algoritmo el que selecciona qué mostrarles con base en sus perfiles, preferencias y datos acumulados. Por ello, advirtió que uno de los principales riesgos es perder capacidad de decisión y pensamiento crítico frente a sistemas cuyo funcionamiento permanece opaco.
“Tenemos que ser capaces de conocer cómo funcionan estos algoritmos y qué es lo que se nos está presentando”, sostuvo al proponer una gobernanza digital basada en principios éticos y transparencia.
La máquina no debe tener la última palabra
Nucci propuso avanzar hacia un “constitucionalismo digital” que traslade al espacio tecnológico la protección de derechos ya reconocidos, bajo principios como responsabilidad, transparencia, protección de datos e intervención humana.
La especialista fue particularmente enfática en que las decisiones automatizadas no deberían quedar fuera del escrutinio de las personas, especialmente cuando pueden afectar la libertad, el patrimonio, la reputación o el debido proceso.
“La máquina no puede decidir. Tenemos que tener una supervisión humana”, señaló. Cuanto mayor sea el posible impacto de una decisión automatizada sobre los derechos de una persona, agregó, mayor debe ser también la intervención humana.
En esa discusión coincidió el Dr. Jorge Hidalgo Toledo, académico e investigador en comunicación, quien señaló que el debate sobre IA no debería comenzar cuando ya ocurrió un daño, sino desde el diseño mismo de los sistemas.
Propuso incorporar lo que denominó “trazabilidad ética”: mecanismos que permitan auditar las distintas etapas de desarrollo y utilización de una tecnología, así como identificar responsabilidades y exigir transparencia y rendición de cuentas a todos los actores involucrados.
El reto, explicó, es que la inteligencia artificial ha dejado de funcionar únicamente como una herramienta que responde preguntas. Los sistemas actuales pueden buscar información, jerarquizar contenidos, generar materiales e incluso ejecutar tareas de manera cada vez más autónoma, lo que vuelve fundamental preguntarse quién responde por las decisiones que toman o por los daños que puedan provocar.
IA debe ser herramienta, no sustituto del pensamiento crítico
La Lic. Nuhad Ponce Kuri, especialista en Derecho Corporativo, Inteligencia Artificial y Protección de Datos Personales, pidió evitar tanto el rechazo absoluto de estas tecnologías como la idea de que pueden sustituir el razonamiento humano.
Consideró que profesionales de distintas disciplinas deberán aprender a incorporar la inteligencia artificial como herramienta, pero sin renunciar a corroborar información, confrontar resultados y ejercer pensamiento crítico.
Advirtió además sobre los riesgos relacionados con datos personales, información biométrica, confidencialidad y propiedad intelectual, pues las personas entregan a las plataformas grandes cantidades de información sin conocer necesariamente cómo será almacenada, procesada o utilizada posteriormente.
Por su parte, el Mtro. Kiyoshi Tsuru Alberu llamó a evitar una visión que presente a la inteligencia artificial únicamente como una amenaza. Consideró que se trata de una nueva etapa del desarrollo tecnológico y que el desafío consiste en construir marcos éticos, mecanismos de cooperación y sistemas de gobernanza capaces de orientar su utilización en beneficio de las personas.
Para Tsuru, más que “estigmatizar” a los algoritmos, es necesario discutir qué valores se incorporan a los sistemas y garantizar que exista supervisión humana, transparencia y rendición de cuentas.
Poner a las personas en el centro
Pese a las diferencias sobre cuánto y cómo debería regularse la inteligencia artificial, las intervenciones convergieron en un principio: la innovación tecnológica no debería avanzar separada de los derechos humanos ni de la responsabilidad de quienes diseñan, desarrollan y utilizan estas herramientas.
La discusión fue moderada por el Lic. Ernesto Velázquez Briseño y formó parte del seminario organizado por la Universidad Iberoamericana Ciudad de México, la Academia Mexicana de la Comunicación, el Consejo General de la Abogacía Mexicana y El Universal.
El encuentro puso sobre la mesa una pregunta que acompañará el crecimiento acelerado de la IA: cómo aprovechar su capacidad de innovación sin entregar a sistemas que no comprendemos por completo decisiones que afectan la libertad, la privacidad y la vida cotidiana de las personas.
Las opiniones y puntos de vista vertidos en este comunicado son de exclusiva responsabilidad de quienes los emiten y no representan necesariamente el pensamiento ni la línea editorial de la Universidad Iberoamericana.
Para mayor información sobre este comunicado llamar a los teléfonos: (55) 59 50 40 00, Ext. 7594, 7759 Comunicación Institucional de la Universidad Iberoamericana Ciudad de México Prol. Paseo de la Reforma 880, edificio F, 1er piso, Col. Lomas de Santa Fe, C.P. 01219
