¿Quién controla el "botón rojo" de la IA? El pulso entre la soberanía nacional y el poder del algoritmo

Históricamente, los avances tecnológicos nacían en el seno militar para luego transformar la vida civil (como el GPS o Internet). Hoy, esa inercia ha dado un giro de 180 grados: son los ejércitos los que hacen cola en las oficinas de Silicon Valley. El último episodio de la quinta temporada de ‘Esto es lo que AI’, el podcast especializado de LLYC, analiza este cambio de paradigma. 

En un entorno donde la tecnología militar y civil se hibridan de forma acelerada, la deshumanización de los objetivos mediante inteligencia artificial ha dejado de ser una advertencia teórica para convertirse en una advertencia de soberanía real. ELAI, el sistema de IA y copresentador del podcast, sintetiza la gravedad del momento al advertir que, si bien un mal etiquetado de imagen en una red social se considera un simple fallo de programación, ese mismo error aplicado a la identificación de objetivos en el campo de batalla se traduce inevitablemente en una tragedia.

Esta realidad se ve reflejada en movimientos recientes de la industria que marcan un punto de inflexión. El análisis destaca casos como la demanda de Anthropic al Pentágono, que redefine la relación de poder entre las Big Tech y la defensa nacional; o el giro estratégico de OpenAI, que ha decidido reducir proyectos experimentales para centrarse en su negocio principal mientras enfrenta una presión creciente por derechos de propiedad intelectual.

La anatomía de la impunidad y el mito de Frankenstein
El análisis señala que el núcleo del problema no reside en la capacidad de cálculo de las máquinas, sino en la transferencia de decisiones críticas que implican juicios morales a sistemas algorítmicos. Estas herramientas, carecen de la capacidad de dudar, empatía o responder ante marcos jurídicos, lo que genera una zona gris en materia de gobernanza.
Al recuperar la metáfora de Frankenstein, se advierte que el peligro nunca fue la rebelión de la criatura contra su creador, sino el hecho de que alguien la pusiera en marcha sin asumir la responsabilidad de sus actos. En este contexto, el riesgo de la IA aplicada a la defensa no es la equivocación técnica puntual, sino la consolidación de una impunidad sistémica donde la responsabilidad humana se diluye en el código.

Esto es lo que AI es el espacio de reflexión de LLYC dedicado a explorar el impacto de la inteligencia artificial en los negocios, la comunicación y la sociedad. A través de un diálogo entre expertos humanos y la propia IA (ELAI), el podcast busca descifrar las tendencias que están reconfigurando el mundo contemporáneo. Este y otros episodios están disponibles en las principales plataformas de streaming.