Margarita Padilla nos ayuda a aterrizar en un tema clave del presente, donde las voces de todos los colores nos advierten de una IA imposible de controlar. La ciudadanía, al contrario, tiene mucho poder para decidir y actuar en lugar de permanecer inerme ante el ruido apocalíptico.
Margarita Padilla García. Octubre 2025 (1ª edición del libro)
Extracto de “Inteligencia artificial: jugar o romper la baraja”
El 20 de marzo del 2023, el Future of Life Institute publicó una carta abierta titulada Pause Giant ai Experiments. La carta la firmaron miles de empresarios, investigadores, empleados de
grandes corporaciones y otras personas influyentes.
¿Cuáles son esos riesgos a gran escala? Siempre según Future of Life, respecto a la inteligencia artificial «lo peor está por llegar. Las empresas buscan activamente la inteligencia artificial general (…), más de la mitad de los expertos en IA creen que hay una posibilidad entre diez de que esta tecnología provoque nuestra extinción». ¡Una posibilidad entre diez de provocar la extinción de la humanidad! No es moco de pavo. Y siguen explicando que este riesgo no es particular, sino general.
A largo plazo, no deberíamos fijarnos en un método concreto de hacer daño, porque el riesgo procede de la propia inteligencia avanzada. Pensemos en cómo los humanos dominan animales menos inteligentes sin depender de un arma concreta o cómo un programa de ajedrez de inteligencia artificial derrota a jugadores humanos sin depender de una jugada específica.
Actualmente no tenemos forma de saber cómo actuarán los sistemas de IA, porque nadie, ni siquiera sus creadores, entiende cómo funcionan. La seguridad de la IA se ha convertido en una preocupación generalizada. Los expertos y el público en general están unidos en su alarma ante los riesgos emergentes y la necesidad apremiante de gestionarlos.
Puede sonar bonito, pero algo no cuadra si la institución cuya misión es alertar de que las inteligencias artificiales pueden extinguir a la humanidad está constituida por las mismas personas que las están construyendo y uno de sus asesores es precisamente Elon Musk.
¿Por qué un magnate que está en el negocio de las inteligencias artificiales, como Elon Musk, promueve y difunde manifiestos apocalípticos en contra de ellas? (…)
En esta batalla competitiva por dominar el mercado de masas, tan importante es llegar el primero para colocar el producto como controlar el celofán que lo envuelve.(…)
¿Qué es el celofán? El celofán es la aureola con la que se envuelve el producto. No se trata solo del empaquetado tecnológico, sino de la legitimidad que lo envuelve. Cómo se presenta, cómo lo percibe la gente. El celofán es la emoción positiva, la carga de positividad
que acarrea el producto, su necesidad, su bondad. El envoltorio es lo mejor del regalo. Hay que construir la validez, la licitud del producto, impresionar, cautivar, hacerlo deseable. (…) No más preguntas. «Nosotros, los magnates, controlaremos las preguntas. Ya os diremos lo que se puede preguntar y lo que no. Nosotros, los magnates, controlaremos vuestras ideas y opiniones. Ya os diremos lo que es una inteligencia artificial y lo que no. Y, por supuesto, ya os decimos de entrada que inteligencia artificial es solo lo que hacemos nosotros».
Y ¿cómo se hace para controlar el celofán? Pues lanzando mensajes apocalípticos abstractos que ocupen el espacio que podrían tomar los debates situados. (…) La cuestión es que, mientras la prensa y los tertulianos hablan sobre la hipotética posibilidad de que en un futuro haya robots por la calle matando gente, dejan de hablar de los coches de Tesla equipados con la inteligencia artificial asistente a la conducción Full Self Driving, esos que sí van ya por la calle provocando accidentes y, en ocasiones, muertes. Mientras nos asustan imaginando una futura inteligencia artificial que nos matará, dejamos de pensar en cómo se están produciendo ahora violaciones de la privacidad, sesgos, precariedad laboral, impactos medioambientales,
posverdades y distorsiones deliberadas de la realidad o privatizaciones del conocimiento. (…)
La carta del Future of Life Institute o las declaraciones de Elon Musk no son la primera ni la última profecía apocalíptica.(…)
El 4 de junio de 2024 trece trabajadoras y extrabajadores de Openai, Anthropic y DeepMind publicaron una carta abierta en la que afirmaban que los riesgos que plantea la inteligencia artificial «van desde un mayor afianzamiento de las desigualdades existentes, pasando por
la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA, lo que podría provocar la extinción humana». (…)
Este llamamiento se produce en un contexto de caza de talentos por parte de las empresas que desarrollan inteligencia artificial, para no quedar rezagadas en la carrera. En el mundo académico, los doctorados se vacían porque los estudiantes reciben ofertas de trabajo en la IA que ponen por delante mucho dinero y muchos recursos. La oportunidad de trabajar en investigaciones y desarrollos que están cambiando el mundo es una tentación demasiado dulce.
Detrás de estas preocupaciones aterradoras puestas en boca de esos ingenieros, que son todo menos inocentes, puede resonar la propia inestabilidad que crea entre las grandes corporaciones del sector un crecimiento tan acelerado.
La carta abierta de Future of Life se publicó unos pocos días después de que OpenAI lanzará GPT4. Pedía detener durante al menos seis meses el entrenamiento de sistemas de IA potentes. Suena a: «Oigan, paren un poco todo esto y dennos tiempo a las demás empresas a reorganizarnos, que nos estamos quedando atrás».
Además de la inestabilidad, están los riesgos en la seguridada, en la estabilidad financiera de los mercados. Como dice Elon Musk, las máquinas podrían comenzar una guerra publicando noticias falsas, robando cuentas de correo electrónico y enviando notas de prensa falsas, solo con manipular información. Ahora ya no habla del exterminio de la humanidad, sino del riesgo de un potencial colapso de la información con consecuencias reales para los mercados financieros y la economía, donde la difusión de rumores, verdaderos o falsos, puede desplomar las cotizaciones en bolsa. Los capitalistas temen que las inteligencias artificiales generativas generen escenarios volátiles y, de alguna manera, demanden algún tipo de regulación, frenar un poco, no explotarlas a lo loco, donde cada cual entiende por «a lo loco» lo que vaya en contra de sus intereses. Un lío.
Pero, mientras esos mismos empresarios, investigadores o ingenieros que están creando y explotando inteligencias artificiales toman el megáfono para alertarnos de los riesgos existenciales que estamos asumiendo como humanidad, se deja de poner atención en las situaciones concretas de discriminación algorítmica, de perpetuación de patrones de discriminación racial, social o de género, de exacerbación de estereotipos, de desinformación, de costes medioambientales o de precariedad laboral.
La estrategia de las élites del sector es enunciar los riesgos como algo abstracto y al mismo tiempo preservar el celofán de los productos concretos. Hablar de riesgos de exterminio de la humanidad omitiendo el entramado de relaciones de poder en medio del cual la inteligencia artificial se está implantando. Levantar gigantes que oculten los molinos.
La consecuencia es grave. Las mismas élites controlan el desarrollo y las críticas. De esta manera ofuscan completamente las posibilidades no ya de una soberanía tecnológica popular, sino de una mínima comprensión real de qué son las inteligencias artificiales, cuáles son las tecnologías base, quién las está desarrollando, cómo se están implantando, quién se está beneficiando…
Los pronósticos apocalípticos asientan la opinión de que inteligencia artificial es aquello que puede tomar decisiones autónomas contra la humanidad. Confusión. En este imaginario, quedarían fuera las máquinas con bucles de realimentación y tantas y tantas otras máquinas que técnica y socialmente son inteligencias artificiales, pero que no están en la cresta de la ola.
Con esta confusión, sin comprensión de lo que es, resulta imposible construir un pensamiento crítico autónomo.
PROCEDENCIA. Extracto del capítulo “Propaganda” de su libro “Inteligencia artificial: jugar o romper la baraja” Ed. Traficantes de Sueños, 2026. Licencia CC. (Las fotografías son aportadas por RE)
Deja una respuesta