Google vs el Papa
Octavio Islas
Nos encontramos en los umbrales de la singularidad. No se trata de una imagen de la ciencia ficción, sino del razonado diagnóstico formulado por quienes hoy encabezan el desarrollo de la inteligencia artificial (IA). En ese contexto, la advertencia ya no apunta a un futuro remoto, sino a un cambio que podría irrumpir en un plazo sorprendentemente corto.
1. Las advertencias desde Google
Durante la reciente conferencia de desarrolladores de Google, Demis Hassabis, director de DeepMind y Premio Nobel de Química 2024, formuló una afirmación que debería interpelar a instituciones, gobiernos y sociedades: la Inteligencia Artificial General (AGI) ya no pertenece a un futuro lejano, sino que aparece como un horizonte cercano, posiblemente alcanzable hacia 2029.
En el acto insignia de Google, celebrado los días 19 y 20 de mayo en Mountain View, California, Hassabis sostuvo que la humanidad se encuentra en los albores de la singularidad y que dispone de apenas unos pocos años para prepararse para la llegada de la AGI. Su mensaje parece sentenciar al futuro: el cambio tecnológico no solo será profundo, sino también extraordinariamente veloz.
2. El contrapunto ético desde el Vaticano
Frente al desbordado entusiasmo que suscita una tecnología capaz de avanzar a una velocidad “diez veces superior” a la de la Revolución Industrial, emerge una objeción de fondo. En su encíclica Magnifica Humanitas. Sobre la custodia de la persona en tiempos de la inteligencia artificial (2026), el Papa León XIV formula una pregunta que los algoritmos no pueden responder: ¿estamos construyendo una herramienta para ampliar la plenitud humana o un sistema que terminará acelerando nuestra obsolescencia moral?
3. ¿Qué es la AGI?
Según la definición difundida por Google, la AGI es una inteligencia hipotética capaz de comprender, aprender y ejecutar cualquier tarea intelectual que hoy puede realizar un ser humano. En términos más simples, aspira a reproducir con amplitud y flexibilidad las capacidades cognitivas humanas, y no solo a resolver tareas específicas.
Entre los rasgos que distinguen a la AGI de otras formas de inteligencia artificial destacan los siguientes:
- Capacidad de generalización: permite transferir conocimientos y habilidades de un ámbito a otro, de modo que el sistema pueda adaptarse con eficacia a situaciones nuevas o no previstas.
- Conocimiento del sentido común: incorpora nociones básicas sobre el mundo —hechos, relaciones y normas sociales— que le permiten razonar y tomar decisiones con mayor contexto.
El desarrollo de la AGI exige, además, una colaboración interdisciplinaria entre campos como la informática, la neurociencia y la psicología cognitiva. Los avances en estas áreas no solo impulsan su diseño, sino que también amplían nuestra comprensión de lo que significa replicar la inteligencia humana.
4. La visión de Hassabis: conocimiento, velocidad y disrupción
En el gran evento de Google, Hassabis fue categórico: la AGI no debe entenderse como un chatbot más sofisticado, sino como un sistema capaz de realizar cualquier tarea cognitiva humana y, sobre todo, de generar nuevo conocimiento científico de manera autónoma.
Para ilustrar esa posibilidad, propuso una especie de “test de Einstein”: si a una IA se le entregara el conocimiento físico disponible en 1911, ¿sería capaz de deducir por sí sola la Teoría de la Relatividad formulada en 1915?
Esa capacidad de descubrimiento autónomo sustenta algunas de las promesas más ambiciosas asociadas a la AGI: curar enfermedades hoy incurables, afrontar la crisis climática mediante nuevos materiales y optimizar de manera radical el uso de la energía.
Sin embargo, Hassabis también destacó una variable inquietante: la velocidad. “La sociedad tiene solo unos pocos años para prepararse”, advirtió. El desafío no reside únicamente en la potencia de estos sistemas, sino en la posibilidad de que entren en un ciclo de mejora acelerada en el que sus propios creadores dejen de comprender plenamente sus procesos.
En ese marco, Hassabis señaló que la AGI podría materializarse en un plazo de cuatro años, o incluso antes, lo que convierte a 2029 en una fecha plausible para su irrupción y refuerza la urgencia de prepararse desde ahora.
5. La advertencia del Papa: el desarme del algoritmo
Frente al entusiasmo tecnológico sin reservas, la encíclica del Papa introduce una llamada de atención. El pontífice no rechaza la tecnología per se ni desconoce su potencial para el bien, pero advierte sobre los riesgos del “paradigma tecnocrático”, es decir, de una lógica que subordina la vida humana a los criterios de eficiencia, control y optimización.
En Magnifica Humanitas, León XIV sostiene que la inteligencia artificial corre el riesgo de convertirse en una herramienta para concentrar poder en manos de unos pocos, transformando a la persona en objeto de manipulación o en simple recurso que debe ser gestionado y optimizado.
Uno de los conceptos centrales que introduce el pontífice es el de la “algorética”. Con esta idea, subraya que una IA sin límites éticos no representa un verdadero progreso, sino una forma de deshumanización sistémica. Desde esa perspectiva, advierte además sobre dos costos que suelen quedar ocultos: el “trabajo invisible” de millones de personas en condiciones precarias —como etiquetadores de datos y moderadores de contenido— y el impacto ecológico de los centros de datos sobre la casa común.
De ahí su afirmación tajante: “No todo lo que es tecnológicamente posible es éticamente aceptable”. Su propuesta no consiste en prohibir la IA, sino en desarmarla: despojarla de toda capacidad para discriminar, vigilar o erosionar la dignidad humana.
6. La nueva guerra de los mundos
Las diferencias que podemos advertir en las posiciones de Hassabis y León XIV sintetizan uno de los grandes dilemas del siglo XXI. Por un lado, aparece la visión utilitaria, que concibe la AGI como el máximo multiplicador de la productividad, la eficiencia y el bienestar material. Por otro, se alza la visión humanista, que advierte en esa misma tecnología una posible amenaza para la soberanía del espíritu, la justicia social y la dignidad humana.
Hassabis imagina una era de abundancia. Sin embargo, el Papa recuerda que, hasta ahora, la inteligencia artificial no ha redistribuido la riqueza, sino que la ha concentrado. Si la AGI llega en 2029, la pregunta decisiva será quién controlará ese “Einstein digital”: una corporación, un Estado o la humanidad entera.
Desde esta perspectiva, el riesgo no es solo técnico, sino moral y político: que la AGI termine convirtiéndose en una “estructura de pecado”, es decir, en un sistema capaz de tomar decisiones de vida o muerte —en medicina, en la guerra o en la economía— guiado por cálculos de rentabilidad e indiferente al grito de los pobres.
¿Hacia dónde caminamos?
La AGI es, en esencia, un espejo. Refleja nuestras ambiciones más brillantes y nuestros prejuicios más oscuros. Hassabis tiene razón al decir que el impacto será masivo y veloz; Francisco tiene razón al decir que esa velocidad nos está dejando ciegos ante la pérdida de la condición humana que, suponíamos definida e inmutable.
Si vamos a convivir con inteligencias que superen nuestra capacidad de razonamiento, nuestra única defensa será fortalecer aquello que nos hace irreemplazables: la compasión, el sentido de la justicia y la capacidad de amar.
La AGI puede que aprenda a pensar como Einstein, pero nunca podrá sentir el dolor del prójimo como un ser humano. La verdadera carrera no es ver quién llega primero a la singularidad, sino quién llega con su humanidad intacta.
Lo que estamos observando: si la sociedad aprovecha bien los pocos años que quedan hasta la llegada de la IA general para prepararse o si, por el contrario, se trata simplemente de un nuevo ciclo de exageraciones y reacciones negativas.
Blog de Octavio Islas 