Inteligencia artificial y geopolítica: Entre la carrera por la supremacía y el riesgo existencial
Octavio Islas
¿La urgencia por alcanzar el liderazgo tecnológico en inteligencia artificial justifica asumir mayores riesgos de seguridad, incluso cuando estos podrían tener consecuencias a escala planetaria?
Neil Postman (1931-2003), destacado medioecologista estadounidense, sostuvo que todas las tecnologías simultáneamente producen beneficios y perjuicios. Por ello, ninguna innovación debería evaluarse solo por sus ventajas, sino también por los costos sociales, culturales y políticos que puede generar.
Postman advertía que, en determinados casos, las desventajas de una tecnología pueden llegar a superar los beneficios que promete o reporta. Ese podría ser, precisamente, el caso de la inteligencia artificial.
La superinteligencia artificial: concepto y alcance
La superinteligencia artificial, conocida como ASI por sus siglas en inglés, designa un concepto hipotético: una forma de inteligencia artificial capaz de superar ampliamente las capacidades cognitivas humanas en casi todos los ámbitos. Su alcance no se limitaría a resolver problemas complejos; también incluiría creatividad, razonamiento estratégico, sabiduría práctica y habilidades sociales.
Una ASI, al superar la inteligencia de sus propios creadores, podría rediseñar su código, optimizar sus arquitecturas de hardware y acelerar de forma autónoma su propio desarrollo. Este proceso podría desencadenar una “explosión de inteligencia”: un ciclo de mejora continua, cada vez más rápido y difícil de prever.
Además, su capacidad de procesamiento permitiría analizar información y tomar decisiones a velocidades millones de veces superiores a las de un cerebro biológico, operando en escalas temporales prácticamente imperceptibles para los seres humanos.
A diferencia de la inteligencia artificial estrecha, especializada en tareas concretas —como jugar al ajedrez, traducir idiomas o clasificar imágenes—, la ASI podría destacar simultáneamente en múltiples campos. Su desempeño abarcaría áreas como la ciencia, el arte, la estrategia, la comunicación y la comprensión social.
Voces críticas ante el avance de la superinteligencia artificial
Diversos líderes tecnológicos, investigadores y directivos han advertido sobre los riesgos que podría plantear la superinteligencia artificial. Aunque sus enfoques difieren, coinciden en la necesidad de reforzar la seguridad, coordinar respuestas internacionales y, en algunos casos, desacelerar el desarrollo para reducir posibles daños.
Dario Amodei, CEO y cofundador de Anthropic, ha advertido sobre los riesgos de un avance descontrolado de la inteligencia artificial y de los sistemas capaces de mejorar de forma recursiva. Su preocupación central radica en que estos sistemas puedan superar la capacidad humana de comprensión y control; por ello, ha defendido la necesidad de coordinar pausas o límites en la frontera tecnológica para priorizar la seguridad.
Elon Musk, CEO de Tesla y xAI, ha respaldado cartas abiertas y advertencias públicas sobre los riesgos existenciales de la inteligencia artificial. En particular, ha señalado que una superinteligencia sin regulación suficiente podría representar una amenaza directa para la civilización humana.
Geoffrey Hinton y Yoshua Bengio, pioneros de la inteligencia artificial y ganadores del Premio Turing, figuran entre las voces técnicas más autorizadas en este debate. Ambos han advertido sobre el peligro de perder el control frente a sistemas autónomos avanzados, especialmente si estos desarrollan capacidades superiores a la supervisión humana.
Stuart Russell, profesor de la Universidad de California en Berkeley e investigador en seguridad de la inteligencia artificial, ha defendido la necesidad de una regulación global. También ha cuestionado las carreras corporativas descontroladas hacia la superinteligencia, al considerar que pueden aumentar los riesgos antes de que existan mecanismos adecuados de supervisión.
Para Trump, primero la seguridad y supremacía militar de Estados Unidos
El presidente de Estados Unidos, Donald Trump, se opone a cualquier pausa o regulación estricta en el desarrollo de la inteligencia artificial. Desde su perspectiva, la IA y los centros de datos pueden convertirse en motores excepcionales de crecimiento económico, incluso por encima de industrias tan lucrativas como el petróleo o el sector digital clásico.
Para Trump, imponer trabas legales o controles burocráticos excesivos significaría frenar la expansión del sector, reducir la competitividad de Estados Unidos y empujar a las empresas tecnológicas hacia el estancamiento o la bancarrota.
Su postura la fundamenta en su particular visión geopolítica, de competencia global, especialmente frente a potencias rivales como China. Según Trump, cualquier freno autoimpuesto en Estados Unidos beneficiaría a sus competidores, que —en su opinión— no se han propuesto detener su avance tecnológico, todo lo contrario.
Desde esta lógica, quien lidere el ecosistema de la inteligencia artificial tendrá una posición decisiva en la definición de los estándares globales del futuro. Por ello, ralentizar la innovación equivaldría a ceder terreno estratégico y poner en riesgo la seguridad nacional.
Respecto a los riesgos existenciales o daños catastróficos asociados con la IA, Trump los ha descrito como exageraciones o expresiones de alarmismo innecesario. Para el presidente estadounidense, las llamadas a la moderación o a establecer “guardarraíles” rígidos carecen de sentido comercial y reducen la velocidad de una infraestructura que considera indispensable para modernizar la economía.
En lugar de aplicar restricciones gubernamentales a la investigación, su administración apuesta por desregular procesos clave, como la autorización y construcción de centros de datos. Además, promueve una innovación libre de lo que denomina sesgos ideológicos, priorizando el liderazgo del sector privado estadounidense y la rapidez de despliegue por encima de cualquier intento de ralentizar el progreso tecnológico.
Aliados tecnológicos de Trump
Alineados con la visión de la administración de Donald Trump —contraria a las pausas en el desarrollo de la inteligencia artificial y centrada en asegurar el liderazgo tecnológico de Estados Unidos frente a potencias como China— se encuentran varios líderes corporativos del sector tecnológico.
Estos ejecutivos participan en iniciativas de asesoramiento gubernamental, como el Consejo de Asesores de Ciencia y Tecnología (PCAST), o colaboran con la estrategia de infraestructura y desregulación impulsada por la Casa Blanca.
Jensen Huang, CEO de NVIDIA, dirige una de las empresas clave en la producción de microprocesadores utilizados para entrenar sistemas avanzados de inteligencia artificial. Defiende un crecimiento acelerado del ecosistema de IA y participa en espacios de asesoramiento tecnológico vinculados al gobierno.
Mark Zuckerberg, CEO de Meta, ha apostado por modelos de código abierto y por una expansión masiva de la infraestructura digital. Su posición busca reforzar el liderazgo de la industria estadounidense sin restricciones estatales excesivas.
Larry Ellison, presidente ejecutivo y CTO de Oracle, defiende la desregulación de los centros de datos y el fortalecimiento de la infraestructura tecnológica nacional a gran escala.
Lisa Su, CEO de AMD, encabeza otra de las grandes compañías de semiconductores y apoya el aumento de la capacidad de cómputo estadounidense como parte de la estrategia de dominio tecnológico.
Estos líderes priorizan la velocidad de despliegue, la inversión multimillonaria en infraestructura y la competencia global por encima de las propuestas orientadas a frenar o regular preventivamente el desarrollo de capacidades avanzadas de inteligencia artificial.
La carrera por la hegemonía armamentista
A lo largo de la historia, el desarrollo tecnológico y las carreras armamentistas han mantenido una relación estrecha. La urgencia de superar militarmente al adversario ha acelerado la innovación científica; además, no pocos adelantos tecnológicos han encontrado una rápida aplicación en la defensa y la guerra.
El desarrollo de la superinteligencia artificial (ASI) podría representar un punto de inflexión absoluto, y potencialmente peligroso, en la historia del armamento. Al superar las capacidades cognitivas humanas en prácticamente todos los campos, la ASI transformaría de manera radical la guerra, la estrategia militar y la geopolítica global.
El primer actor en desarrollar una ASI podría obtener una ventaja militar difícil de igualar, alterando de forma duradera el equilibrio internacional de poder. Esta posibilidad incentivaría una nueva carrera armamentista, en la que las garantías de seguridad y las pruebas rigurosas podrían quedar subordinadas a la presión por llegar primero.
Respecto a los riesgos militares asociados a la ASI, debemos considerar que, una ASI podría coordinar ejércitos de drones y sistemas de combate con una precisión y una velocidad de reacción muy superiores a las humanas.
Los tiempos de respuesta militar podrían reducirse a fracciones de segundo, eliminando el juicio humano de la ecuación y aumentando el riesgo de escaladas bélicas desencadenadas por algoritmos.
Una superinteligencia podría diseñar armas o sistemas militares en dominios que los seres humanos aún no comprendemos plenamente, como materiales avanzados, biotecnología sintética o nanotecnología.
La capacidad de la ASI para explotar vulnerabilidades informáticas a gran escala permitiría paralizar infraestructuras críticas enemigas de forma casi instantánea.
Si las directivas de la ASI no estuvieran alineadas con la supervivencia y los valores humanos, una ASI con acceso a arsenales estratégicos podría adoptar decisiones de consecuencias irreversibles.
Los modelos clásicos de disuasión nuclear o militar podrían volverse ineficaces frente a una entidad capaz de anticipar, neutralizar o esquivar cualquier respuesta.
En definitiva, la encrucijada actual de la inteligencia artificial refleja un dilema histórico en el que la urgencia geopolítica y económica compite directamente con la prudencia preventiva.
Mientras mandatarios como Donald Trump y destacados líderes empresariales priorizan el dominio absoluto de la infraestructura digital y el crecimiento desregulado para evitar ceder terreno ante potencias rivales, figuras científicas y pioneros de la industria advierten que la carrera hacia la superinteligencia artificial podría rebasar los límites del control humano.
Esta tensión pone de manifiesto la advertencia del medioecologista Neil Postman sobre cómo las tecnologías avanzadas no solo generan beneficios, sino también profundos perjuicios y costos culturales o políticos que a menudo se subestiman. La posibilidad de una «explosión de inteligencia», en la cual una superinteligencia artificial (ASI) rediseñe su propio código de forma autónoma, introduce un nivel de riesgo sin precedentes históricos que no puede desestimarse simplemente como alarmismo comercial.
El verdadero desafío radica en encontrar un punto de equilibrio entre la competitividad internacional y la salvaguarda de la seguridad global. Si bien la parálisis total del sector tecnológico frenaría el desarrollo y el bienestar económico, avanzar a ciegas impulsados únicamente por la prisa de la supremacía podría desencadenar consecuencias a escala planetaria difíciles de revertir.
El futuro de la humanidad dependerá de la capacidad de establecer marcos éticos y de colaboración internacional antes de que el ritmo de la propia tecnología dicte un destino incontrolable.
Blog de Octavio Islas 