PRENSA IBERO
• Las probabilidades de una catástrofe provocada por la IA no son mediciones estadísticas, sino estimaciones y creencias que pueden generar miedo social, señala el Dr. Francisco Castro Merrifield, Director del Departamento de Filosofía • La ciudadanía debe participar en las decisiones sobre el desarrollo y regulación de estas tecnologías, cuyos costos económicos, ambientales y sociales no pueden quedar solo en manos de empresas y gobiernos, advierte
AUTOR
Reportero de la Dirección de Comunicación Institucional · Contacto de prensa: luis.reyes@ibero.mx
Las advertencias sobre una posible catástrofe existencial causada por la inteligencia artificial (IA) deben analizarse con cautela, pues las cifras difundidas sobre supuestos riesgos no corresponden a probabilidades estadísticas sustentadas en evidencia empírica, afirmó el Dr. Francisco Castro Merrifield, Director del Departamento de Filosofía de la Universidad Iberoamericana (IBERO).
En entrevista con Prensa IBERO
“En realidad no es una medición, es una estimación, es una creencia”, sostuvo.
A su juicio, algunas de estas narrativas parten de concepciones arraigadas en ciertos sectores de la industria tecnológica, vinculadas con el transhumanismo y la idea de que las máquinas podrían convertirse en inteligencias superiores, capaces incluso de reemplazar al ser humano.
El problema, añadió, es que presentar escenarios apocalípticos como si fueran certezas pueden producir miedo, y las sociedades atemorizadas pueden terminar cediendo su capacidad de decisión a quienes prometen protegerlas.
“Las narrativas de miedo siempre terminan favoreciendo las derivas autoritarias”, advirtió.
El Dr. Castro Merrifield consideró necesario observar el discurso de las compañías de inteligencia artificial junto con el contexto económico en el que se desarrolla la tecnología.
Por un lado, las empresas requieren cantidades extraordinarias de capital para construir centros de datos, adquirir microprocesadores y garantizar el suministro de energía. Por otro, algunas de ellas han planteado la necesidad de desacelerar determinadas capacidades de la IA debido a sus posibles riesgos.
Esta tensión, explicó, genera preguntas sobre los intereses que acompañan los mensajes de alarma: ¿se busca realmente reducir el desarrollo tecnológico, controlar el financiamiento, fortalecer la posición de las compañías dominantes o promover regulaciones que terminen beneficiando a las empresas ya consolidadas?
Señaló que existe una disputa geopolítica por el control de estas tecnologías, principalmente entre Estados Unidos y China, así como una creciente resistencia social en comunidades donde se instalan centros de datos debido a su consumo de agua, suelo y energía.
En ese escenario, alertó sobre el riesgo de que las mismas empresas que reconocen no tener control absoluto sobre sus sistemas terminen concentrando todavía más poder mediante regulaciones diseñadas, directa o indirectamente, a su medida.
“Si estas compañías dicen que no pueden controlar lo que están produciendo, parecería sensato abrir la competencia para que existan otros actores capaces de equilibrar los riesgos”, planteó.
Otro de los riesgos identificados por el académico de nuestra casa de estudios es el determinismo tecnológico: la idea de que, una vez que una herramienta puede realizar determinada actividad, la sociedad necesariamente tendrá que organizarse en función de ella.
Por ejemplo, que una inteligencia artificial pueda sustituir ciertos empleos no significa que millones de personas deban quedar excluidas del mercado laboral. Entre la capacidad técnica y sus consecuencias sociales intervienen gobiernos, empresas, sindicatos, universidades, consumidores y ciudadanía.
“No hay un paso lineal entre una capacidad tecnológica y sus consecuencias”, explicó.
Desde su perspectiva, las narrativas que presentan el futuro como inevitable eliminan del escenario a los agentes sociales y transmiten la impresión de que no existe posibilidad de intervenir.
Esa visión puede desmovilizar a la población y debilitar el pensamiento crítico, pues las personas dejan de asumirse como sujetos libres capaces de transformar su entorno.
Para que la crítica tenga efectos reales, indicó, deben reconocerse como un sujeto libre y considerar que la reflexión puede convertirse en una acción capaz de modificar la sociedad.
En el caso de México y otros países que son principalmente consumidores de inteligencia artificial, el Dr. Castro Merrifield propuso analizar el fenómeno como una nueva forma de colonialismo.
La tecnología no llega únicamente como un conjunto de programas o aplicaciones, sino como una estructura que incorpora formas de pensar, organizar la información y comprender el mundo.
“Nosotros la recibimos y la reproducimos bajo la estructura en la que viene diseñada de antemano”, señaló.
Además, la infraestructura de la IA requiere suelo, agua, energía y recursos naturales. Por ello, los centros de datos pueden convertirse en mecanismos de extracción que se instalan en territorios donde dichos recursos pueden obtenerse a menor costo, sin que necesariamente existan beneficios proporcionales para las comunidades.
El retorno para esos lugares, advirtió, podría limitarse a recibir una forma de pensamiento importada, mientras los principales beneficios económicos y estratégicos permanecen en manos de las compañías que controlan la tecnología.
Frente a ello, consideró indispensable que la alfabetización digital no se limite a enseñar a utilizar herramientas de inteligencia artificial, sino que permita comprenderlas, cuestionarlas y reconocer sus implicaciones.
El debate sobre la posibilidad de que las máquinas desarrollen conciencia o una identidad propia podría estar desplazando la atención de riesgos más concretos, consideró el académico.
Desde su perspectiva, el peligro no depende de que los sistemas se vuelvan semejantes a los seres humanos, sino de que puedan operar sin las limitaciones físicas y emocionales que condicionan a las personas.
Las máquinas no necesitan dormir, comer o descansar; tampoco experimentan emociones como las que influyen en las decisiones humanas. Indicó que esa capacidad de procesar información de forma continua y pragmática puede representar un desafío mayor que la eventual adquisición de conciencia.
En este contexto, cuestionó la tendencia a explicar el futuro de la IA mediante referencias conocidas de la ciencia ficción, como Terminator o Matrix.
Aunque esas películas pueden servir como puntos de partida, recurrir únicamente a ellas implica interpretar una novedad histórica mediante fórmulas narrativas ya conocidas.
“Tenemos que pensar creativa y críticamente la novedad, lo original, el acontecimiento nuevo que está emergiendo”, sostuvo.
El especialista también puso en duda la manera en que se describen los resultados obtenidos por los sistemas de IA.
Cuando se afirma que una máquina “resolvió” un problema matemático es necesario preguntar de dónde provino la información utilizada, qué investigaciones previas fueron incorporadas y qué papel desempeñaron las personas que desarrollaron ese conocimiento.
La máquina puede procesar información existente, reorganizarla y producir una respuesta novedosa, pero eso no significa necesariamente que haya generado conocimiento de manera autónoma, afirmó.
La distinción también aplica a la producción de poemas, películas, imágenes o textos. Aunque el resultado parezca original, detrás existen estructuras culturales, lenguajes, datos y creaciones humanas que fueron utilizados para producirlo.
Por ello, el académico subrayó la importancia de discutir la propiedad intelectual, el reconocimiento de autorías y la responsabilidad de las plataformas que emplean materiales producidos previamente por investigadores, artistas y comunidades.
“Las personas son las que aportan la información”, enfatizó.
El Dr. Castro Merrifield consideró que uno de los desafíos más profundos consiste en determinar si la humanidad podrá seguir generando interpretaciones nuevas cuando cada vez más procesos de pensamiento dependan de sistemas que recuperan, reorganizan y traducen información existente.
La historia, explicó, está constituida por acontecimientos cuyas interpretaciones cambian con el tiempo. Sin embargo, si las personas recurren de manera automática a modelos que ofrecen respuestas elaboradas a partir de conocimientos previos, podría dificultarse la comprensión de lo verdaderamente novedoso.
El riesgo no es solamente que la IA responda incorrectamente, sino que los seres humanos dejen de leer, contrastar fuentes, comprender argumentos y verificar la información por cuenta propia.
Por ello, llamó a recuperar una relación más crítica y consciente con estas herramientas.
La pregunta, dijo, no debería ser únicamente qué tan poderosa llegará a ser la inteligencia artificial, sino qué sociedad desean construir las personas con ella y quién tendrá la capacidad de decidir sobre su desarrollo, sus límites y sus consecuencias.
“El futuro no está determinado exclusivamente por la tecnología. Somos agentes sociales con voluntad y capacidad de participar e incidir”, concluyó.
Las opiniones y puntos de vista vertidos en este comunicado son de exclusiva responsabilidad de quienes los emiten y no representan necesariamente el pensamiento ni la línea editorial de la Universidad Iberoamericana.
Para mayor información sobre este comunicado llamar a los teléfonos: (55) 59 50 40 00, Ext. 7594, 7759 Comunicación Institucional de la Universidad Iberoamericana Ciudad de México Prol. Paseo de la Reforma 880, edificio F, 1er piso, Col. Lomas de Santa Fe, C.P. 01219