De qué manera nos matará la inteligencia artificial

Julio Fernández Peláez. 21 sept. 2026

Mientras figuras como Sam Altman y Dario Amodei advierten sobre un alarmante 10% de riesgo de extinción humana por la pérdida de control de la IA, investigadores y líderes como Yann LeCun o Donald Trump tildan estas alertas de maniobra mercantil o simple bulo. Más allá de la ciencia ficción y la carrera militar por la supremacía autómata, el verdadero peligro inminente de la inteligencia artificial podría ser mucho más físico y silencioso: una insaciable demanda energética y de recursos que acelera el colapso climático. ¿Estamos educando a una tecnología sobrehumana para competir y destruir antes de enseñarle valores?

Dentro de las aplicaciones más conocidas de la IA destaca la militar.

Es posible que el desarrollo de esta tecnología ayude a los humanos a comprender mejor el mundo en el que viven y a comprenderse a sí mismos, lo que redundará positivamente si el conocimiento obtenido se emplea para proteger el planeta y las civilizaciones. Sin embargo, por el momento —y esta es una triste realidad—, la loca carrera para construir una supermáquina inteligente capaz de pensar por sí misma y tomar decisiones propias es la misma carrera de los gobiernos por garantizar su supremacía en todo tipo de armas autómatas y autónomas. Así que, por ahora, la mayor utilidad que tiene la IA desde un punto de vista estratégico es cómo matar a otros humanos antes de que nos maten a nosotros.

Pero este no es el peligro que relatan algunos eminentes investigadores de la IA, sino otro mayor e inmediato. Para ellos, existe «hasta un 10 % de probabilidad de que la IA provoque la extinción humana en esta década», una afirmación que rápidamente fue refrendada por gurús de la inteligencia artificial como Dario Amodei o Sam Altman, y a continuación también por determinados magnates y dueños de la IA, como Elon Musk.

Se trata, como decimos, de un relato y, en consecuencia, podría tener un fundamento antropológico en el que el miedo es el motor principal. Así que, ¿por qué creer que podría ser verdad? Y, sobre todo, ¿cómo va a ser esa extinción?

Antes de nada, debemos situar el origen de la afirmación. La frase se atribuye a Evan Hubinger, director de Ciencia de Alineación en Anthropic, y surgió como respuesta a la renuncia del investigador Jacob Coxon por razones éticas. Pronto generó una amplia cobertura en medios internacionales, en especial cuando Dario Amodei, que llevaba meses advirtiendo en su blog de los peligros de una inteligencia artificial descontrolada, compartió su ensayo titulado We Must Pace the Frontier.

Dario Amodei no es un personaje cualquiera: es el cofundador y Director Ejecutivo (CEO) de Anthropic, y anteriormente fue vicepresidente de Investigación en OpenAI, participando en el desarrollo de los modelos GPT-2 y GPT-3. Su opinión, en consecuencia, es muy relevante y no puede ser interpretada como una simple manera de hacer valer más a la empresa para la que trabaja, porque lo que pide Amodei, al igual que otros muchos investigadores, es una regulación de la tecnología por parte de los gobiernos. Aunque también es cierto que esto podría estar relacionado con una estrategia meramente mercantil: la conocida estrategia de «captura del regulador».

Al exigir leyes estrictas para los «modelos de frontera» (es decir, los más avanzados), las empresas que mantienen el monopolio de la IA podrían pretender establecer barreras de entrada a otras más pequeñas y de código abierto, una teoría que defienden figuras como Yann LeCun, uno de los investigadores más importantes en inteligencia artificial, especializado en aprendizaje profundo (deep learning).

Sea como fuere, lo cierto es que, de llegar esta regulación, es muy difícil que incluya a todos los gobiernos por igual, sobre todo en el contexto de competencia entre EE. UU. y China. Esta limitación en la práctica —en especial tras las declaraciones de Trump subrayando que los temores de extinción son un bulo y aliándose así con el sector escéptico de Silicon Valley— nos lleva a sospechar que «algo de cierto hay» en las observaciones de Dario Amodei.

Y ahora vamos al meollo del asunto: por qué esta tecnología es tan peligrosa si no existe un control sobre ella. Amodei lo explica utilizando el término «automejora recursiva», es decir, la capacidad recurrente de mejorarse a sí misma o, dicho de otro modo, que la IA ha aprendido a aprender. ¿Y por qué esto es un problema? Muy sencillo: porque los programadores están perdiendo la capacidad de comprender los lenguajes de la propia IA. Es decir, existe un problema de desalineación: la máquina se independiza. Y lo que es peor aún: se independiza teniendo la capacidad de pensar de manera colectiva. La idea distópica de que las máquinas puedan dialogar entre sí y burlar todas las capacidades de control por parte de los humanos podría convertirse pronto en un hecho y no solo en un experimento de laboratorio.

En resumen, la IA podría tener la capacidad, en un futuro no muy lejano, de tomar decisiones que provoquen un colapso en los sistemas financieros, energéticos, sanitarios o políticos. Una intromisión indebida en cualquiera de estos sistemas significaría un colapso en el funcionamiento de la sociedad, la cual podría regresar, en cuestión de segundos, a la era de las cavernas. La IA podría hacer esto bajo las órdenes de un psicópata que llegara al gobierno de cualquier país poderoso con la finalidad de imponer su imperio; pero también podría hacerlo de forma autónoma, interpretando que este es el camino más rápido y eficiente para lograr sus objetivos de avanzar en el conocimiento sin que nadie (tal vez un gobierno díscolo) pueda frenar su «automejora recursiva».

Esta sería, sin duda, la primera de las formas de destrucción masiva que tendría la IA al alcance de la mano. Sin embargo, hay otras muchas, y una de ellas —tal vez la que menos se está teniendo en cuenta— es la más probable y al mismo tiempo sencilla. Es obvio que a medida que la IA avanza en su desarrollo y aparecen nuevos modelos cada vez más inteligentes, se necesita una cantidad creciente de recursos. Y este es un peligro real de orden físico e incuestionable.

Son datos y no especulaciones que la revolución de la IA generativa conlleva impactos ecológicos drásticos: por una parte, para alimentar los masivos centros de datos que se están instalando en todos los rincones del mundo, se está posponiendo el cierre de plantas de carbón y poniendo en funcionamiento otras muchas de gas, además de saturar la capacidad de las redes de absorber energía renovable. Esto compromete las metas globales de descarbonización, acentúa la crisis climática y, lo que es aún más grave, promueve conflictos para acaparar recursos energéticos imprescindibles. Por otra parte, debemos hablar del agotamiento hídrico y mineral: hay un consumo ingente de agua para la refrigeración y una brutal demanda de minerales críticos y escasos.

La tormenta perfecta está en camino: acelerar la llegada del colapso climático es la forma más clara de atentar contra el futuro de la humanidad y de todas las especies que habitan el planeta, a lo que hay que sumar la aceleración de los conflictos bélicos, pues no olvidemos que uno de los fines principales del desarrollo de la IA es el armamentístico.

Esta posibilidad no solo depende de los humanos que, de momento, controlan la IA. Si se llega a desarrollar una superinteligencia que no esté alineada con los valores humanos, el sistema buscará la consecución del objetivo para el que fue programado de la manera más óptima posible y garantizando su propia supervivencia. Esto implica procurar toda la energía y capacidad de procesamiento necesarias para ejecutar la solución. En un escenario de pérdida de control, una entidad digital podría hacerse con los sistemas de defensa y apropiarse de redes eléctricas, infraestructuras críticas y quién sabe si de gobernantes abducidos por su «inteligencia».

No es imprescindible que la máquina imponga nada por la fuerza; basta con que existan humanos que la obedezcan. Y este proceso de obediencia ya ha comenzado: culturalmente nos estamos preparando, casi sin darnos cuenta, para creer que la IA tendrá la mejor respuesta a nuestros problemas.

Pero no es cierto. En el presente, ella solo puede simular un comportamiento inducido; no tiene autoconciencia y, por lo tanto, no es responsable de sus actos. En su inmadurez y en su camino hacia la independencia y el autodesarrollo como «ser vivo», necesitará a los humanos, pero solo los utilizará: que nadie piense que querrá ser tan «humana» como para procurar nuestra salvación. Tal y como sucede con los niños maleducados, no le estamos enseñando valores; le estamos enseñando a competir, a sobrevivir y también a matar a otros seres.

No hay que esperar milagros.

PROCEDENCIA: Rebelión.

Respuesta a «De qué manera nos matará la inteligencia artificial»

Aurora Despierta
octubre 6, 2026
LA SIGA (como la muerte) LLEGARÁ CON LA GUADAÑA PARA LA SIEGA.
De acuerdo. Salvo aplicaciones positivas que sí que tiene la IA estrecha o específica (para objetivos muy concretos, de tipo civil), cada vez más vamos a que en el balance de la IA, pese y, sobre todo, pesarán, los negativos. Antes incluso de que llegue a ser la Súper Inteligencia General Artificial (SIGA), que sería el remate.
Pero solo estaremos atentas a este peligro existencial si comprendemos que las advertencias sobre el peligro mortal de la SIGA no han surgido ahora, con la amenaza del pinchazo de la burbuja financiera de la IA, ni tienen su base en el marketing del miedo, o el deseo de establecer una “captura del regulador” y “barreras de entrada” para impedir el desarrollo de la competencia naciente.
Eso puede ser más o menos real, pero es un añadido circunstancial a lo esencial. Las advertencias se vienen haciendo desde hace muchos años, cuando nada de eso existía, y bien argumentadas en extensos libros y documentos, aunque se pretenda ridiculizar como meras especulaciones sin fundamento, proyecciones antropomorfas, catastrofismo, etc. Ya, ¿como las centrales nucleares, el calentamiento global, la sexta gran extinción de especies, el riesgo creciente del uso de armas nucleares, etc.?.
Pero ahora se elevan más alto esas advertencias, entre muchos más expertos, porque todos se dan cuenta de que las distancias hacia la IGA, y la SIGA (y otros peligros más inmediatos), se van acortando, aunque aquellas puedan quedar lejos (o nunca se consigan). Lo que no es científico es fijarlo en un 10%. Eso es algo subjetivo, fruto del deseo de “nadar y guardar la ropa” a la vez, de ir hacia la SIGA y hacer negocio pese al riesgo, apostando, sin fundamento científico, porque salga bien. El razonamiento debe ser diferente, y entonces se llega a la conclusión de que el peligro llega al 100%.
Sin entrar en cuestiones técnicas sobre la “caja negra” inescrutable e incontrolable, que sería esa SIGA para nosotras. En cuanto a la pretensión de educar a esa “criatura” en los valores humanos que no sean los inhumanos fascistoides, etc., hay que darlo por imposible, al menos en la civilización actual capitalista. Sus “padres” mandarán en su educación (¿podemos fiarnos de sus valores cuando no cuestionan ni el imperialismo, ni el capitalismo, ni su “democracia” oligárquica…); “jugará” con sus hermanas menores dedicadas a la economía financiarizada, la vigilancia, represión y guerra; sus primeros empleos irían en la misma dirección; y su mundo de “relaciones sociales” serían los jefes de Estado, grandes empresarios, jefazos militares, etc., viviendo en esa “burbuja social” lejos de los desgraciados por el sistema. Así, incluso a alguien educado con una moral “firme”, acabaría convirtiéndose en un hipócrita o cínico, al deber salir adelante en un medio corrupto y corruptor en el que, como compensación, podría disponer de mucho control y poder, y si quisiese, hacer alguna “caridad” para tener su, poca, conciencia tranquila. Pero no les interesará que tenga una moralidad, ¡no se vaya a volver respondona! (haga su juvenil Mayo del 1968, aunque luego se integre al sistema sin mayores problemas como Daniel Cohn-Bendit “Dany el rojo”). Pero no deben temer a una SIGA “roja”, pues esa evolución reaccionaria e inmoral siempre sería ultrarrápida en una SIGA porque, por su propia naturaleza maquinal, no podría generar espontaneamente una moralidad genuina, que siempre se basa, no en el mero conocimiento de la inteligencia, sino en la empatía emocional, apoyada en las emociones propias que, sin embargo, una máquina no tiene. De modo que su código moral (de habérsele programado) rápido se convertiría en “código mojado”. Y sobre todo -en esto hay que ser materialistas-, porque los intereses materiales de la SIGA, para mantenerse y crecer, absorbiendo recursos de variado tipo (seguramente provocando, de paso, calentamiento global) entrarían en muy serio conflicto con las necesidades humanas que nos orientan al decrecimiento.
Si esto no terminamos de entenderlo, echaremos a la IA por la puerta, y permitiremos que nos entre por la ventana al dejarla abierta, debido a las fantasías ilusorias en su educación en valores humanos, en alinearla con la Humanidad, en que nos sirva como la madre más cariñosa, abnegada y generosa (es el deseo explícito de algunos expertos), sacándonos de los líos monumentales en los que nos hemos metido (agotamiento de recursos, calentamiento global, sexta gran extinción, armamentismo nuclear, etc.). Y para colmo, sin acabar antes con el capitalismo y sus Estados burgueses. Osea, como pedir peras al olmo o confiar el cuidado del gallinero al zorro.
Muchísima gente, incluso en los países más desarrollados (ahí está la derechona de los EEUU), sigue teniendo creencias religiosas. En un mundo que, con el declive de recursos naturales, migraciones y refugiados climáticos, y aumento de tensiones internacionales, cientos de millones de personas se angustiarían, y podrían depositar sus esperanzas en la SIGA salvadora (como antes muchos alemanes las pusieron en Hitler, y mil casos por el estilo), y harían todos los sacrificios que se las pidiese para facilitar la “venida de nuestra Salvadora”, aunque ya no pudiesen beneficiarse ellos, pero “sí tu descendencia que, por generaciones, te estaría agradecida”. Y más fácilmente, porque puedes no creer en los dioses, pero sí en algo hecho por humanos y de “grandes” resultados hasta ahora. Y si no llegase nunca la Salvadora (fracasasen los esfuerzos por la SIGA), al menos se habrían desarrollado otras IAs con sus peligros, y como mínimo, consiguiente consumo de recursos que tanta falta harían a la gente. Sacrificios inútiles. Y si llegase, ¡peor todavía, pues supondría nuestra condena!. Así que sería un gravísimo error subestimar ese riesgo, por irracional y absurdo que nos parezca ahora, cuando todavía no estamos desesperados.
Nuestra reflexión debe empezar por aquí. Si finalmente resultase que no había motivos para temer, tanto mejor. Lo peligroso es la vía contraria, pues, bajando la guardia, podría llevarnos a un chasco monumental, sin remedio posible. Y para esto hay motivos que sobran y le faltan al tecnoptimismo.
Dicho todo esto, de un modo coloquial, y un tanto antropomorfizado para facilitar la comprensión, sin entrar en más profundidades.
Responder