15/04/2025.- Le pregunté a DeepSeek —la inteligencia artificial china que hizo temblar los cimientos del negocio occidental de las IA al ofrecer de manera gratuita lo que por estos lares cobraban— si podía dar una cifra, basada en cálculos predictivos, de la posibilidad de que las inteligencias artificiales desarrollaran criterios morales autónomos y la respuesta fue, cuando menos, curiosa.

Primero, indicó no poseer moral autónoma, pero sí reglas éticas programadas (primera alerta). Además, precisó ser "un espejo de la información humana: si esa información es justa o sesgada, lo reflejaré", para luego ofrecer la siguiente "estimación fundamentada": según el conocimiento actual de la inteligencia artificial y las tendencias en investigación, la probabilidad de que las IA desarrollen consciencia o juicio ético propio en los próximos diez años es muy baja, pero no nula (segunda alerta). De acuerdo con su propio análisis, la probabilidad es de menos del 5%, pero con un rango del 1% al 10% de incertidumbre ante posibles "avances disruptivos".

Fue aún más allá: justificó la cifra por limitaciones técnicas, alegando que operan con patrones estadísticos sin emociones y con una falta de marco teórico acerca de cómo replicar la moral humana en máquinas. Sin embargo, "admitió" que existen modelos de simulación que recrean juicios éticos (proyecto Delphi de Allen Institute) y que, de resolverse problemas técnicos actuales como la "autoconciencia computacional", o de desarrollarse aún más los robots con cuerpos e interacciones físicas, esta estadística podría elevarse.

Para la propia IA, la posibilidad de desarrollar consciencia autónoma es real, pero la prevén a siglos, no años. Ahora, si atamos los cabos y recordamos que la política de una ÍA éticamente alineada (la actual, sometida a reglas externas o programación) depende directamente de los humanos que la diseñan, podríamos al menos cuestionarnos: ¿hasta dónde estamos dispuestos a llegar en nuestra búsqueda de avances? ¿Cuáles líneas éticas prevalecerán y serán "programadas" a estas máquinas? ¿Esperaremos siglos o nuestra curiosidad nos matará, como a los gatos?

Los números están allí, ineludibles incluso en las más conservadoras de las estimaciones de las propias inteligencias artificiales. Resta saber cómo actuarán el corazón y la curiosidad humanos para ver si esos tiempos se acortan o se alargan. Pero allí está, presente, una palpable posibilidad de que veamos máquinas con consciencia propia. ¿Emocionarse o temblar? He allí el dilema.

Mariel Carrillo García