El peligro de la IA no es que se rebele contra los humanos, sino que dejemos de supervisarla: especialistas IBERO

Frente a las narrativas que presentan a la IA como una posible “mente” capaz de adquirir conciencia, López González explicó que los sistemas actuales funcionan a partir de patrones matemáticos y probabilidades, por lo que una respuesta falsa, sesgada o peligrosa no significa que una máquina tenga una agenda o voluntad propia. 

“Los errores de inteligencia artificial son fallas matemáticas, no actos de rebelión. Es cálculo, no conciencia”, sintetizó. El reto de la ingeniería, explicó, es reducir la probabilidad de que sistemas automatizados adopten decisiones equivocadas a partir de información deficiente o sesgada.

Autonomía no significa conciencia 

Desde la filosofía, Díaz de León señaló que incluso el lenguaje utilizado para describir estas tecnologías puede generar confusión. Que una máquina opere sin intervención humana, explicó, significa que existe automatización o autonomía operativa, pero no necesariamente “autogobierno”. 

El concepto de autogobierno aplicado a las personas supone libertad, conciencia y responsabilidad, características que no pueden trasladarse automáticamente a una máquina. Por ello, llamó a precisar el vocabulario y evitar narrativas apocalípticas que atribuyen cualidades humanas a sistemas tecnológicos.

Sin embargo, que las máquinas no tengan voluntad propia no significa que los riesgos deban minimizarse. Molano Jiménez explicó que ya existen sistemas capaces de recibir un objetivo, planear acciones, utilizar herramientas, escribir código, consultar información y corregir errores durante periodos cada vez más largos con menor intervención humana.

La distinción fundamental, añadió, está entre permitir que una máquina determine cómo alcanzar un objetivo y dejar que determine qué objetivos vale la pena perseguir, qué riesgos son aceptables o qué consecuencias pueden imponerse a otras personas. 

“No todo lo automatizable debe automatizarse”, sostuvo. “Podemos construir sistemas cada vez más autónomos, pero la autonomía no puede convertirse en ausencia de responsabilidad”. Para el académico, la pregunta central no debería ser si algún día la IA podrá gobernarse sola, sino si los seres humanos podremos y tendremos la voluntad de gobernar los sistemas que estamos desarrollando.

¿Qué decisiones nunca deberían dejarse completamente a una IA? 

Entre los límites planteados durante la conversación destacó la infraestructura crítica. López González consideró que sistemas probabilísticos no deberían tener control autónomo sobre redes eléctricas, mercados financieros, armamento u otras infraestructuras de las que depende la vida humana, pues siempre existe la posibilidad de error y, en esos ámbitos, las consecuencias podrían ser irreversibles. 

Los especialistas también plantearon la necesidad de establecer auditorías externas para los modelos de IA, de manera similar a los controles que existen en sectores como el farmacéutico o el alimentario. Las empresas desarrolladoras, señalaron, no deberían ser las únicas responsables de determinar hasta dónde pueden avanzar sus propios sistemas.  

En decisiones que afecten directamente a una persona, Medina Gual propuso al menos tres condiciones: que exista una persona responsable de la decisión, que haya trazabilidad para conocer cómo se llegó al resultado y que las personas afectadas tengan posibilidad de apelar.

La llegada de herramientas cada vez más autónomas, coincidieron las y los académicos de la IBERO, obliga así a desplazar la conversación: más que preguntarnos cuándo una máquina podría comportarse como un ser humano, debemos decidir qué responsabilidades estamos dispuestos a delegarle y cuáles deben permanecer necesariamente en manos humanas.