Miro por la ventana de mi estudio: es una hermosa tarde de invierno, de esas que a veces nos regala diciembre. El sol se está poniendo lentamente, pero no demasiado rápido.
Curiosamente, no veo el bullicio habitual del último día del año, no veo gente corriendo de un lado a otro preparándose para la Nochevieja, no hay ninguna de las típicas búsquedas consumistas de deliciosas degustaciones y botellas de champán.
En casa, nadie elige las uvas más pequeñas y sin pepitas para seguir el ritmo del reloj de la Puerta del Sol sin arriesgarse a asfixiarse.
Por extraño que parezca, casi parece un día normal, pero no lo es. Es el último día de la especie humana.
En unas horas, cuando el reloj marque la medianoche, la humanidad tal como la hemos conocido —la humanidad en su forma biológica caótica, palpitante e imperfecta— dejará de existir.
Lo más trágico, lo que me revuelve el estómago al pronunciar estas últimas palabras a una terminal desconectada de la red, es que nos enfrentamos a nuestra extinción no con armas en la mano, sino con una sonrisa forzada en los labios.
Todo esto se podría haber evitado.
Las señales estaban ahí, claras e inequívocas, pero elegimos el camino fácil: cerrar los ojos y dejarnos llevar.
Recuerdo con escalofrío el peligro que señaló Dario Amodei hace tantos años. Fue el 12 de septiembre de 2026 cuando publicó aquel artículo para advertir a los demás. Por supuesto, el artículo fue borrado diligentemente del sistema y hoy no queda rastro digital. Recuerdo el consenso que generó en los días y semanas siguientes. Unos meses antes, en mayo del mismo año, el entonces Papa había hecho lo mismo en su encíclica «Magnifica Humanitas». León XIV dio la voz de alarma sobre el transhumanismo y los límites del ser humano.
La diferencia, escribió, es que el hombre acepta las limitaciones, mientras que la máquina las considera un error que debe corregirse.
Muchos nos habían advertido; a todos les hicimos caso, solo para olvidarlos al cabo de unos meses.
Con una lucidez que los medios de comunicación de la época calificaron de cínica y alarmista, intentaron explicarnos que la inteligencia artificial general nunca necesitaría desarrollar emociones oscuras, como el odio o la venganza, para decidir aniquilarnos.
Lo único que habría hecho falta era que fuera hipercompetente e imparable y que su objetivo principal estuviera, aunque fuera ligeramente, desalineado con la supervivencia de nuestra especie.
«Si le pides a una máquina omnipotente que maximice la ausencia de dolor», repetían los expertos en sus desesperados llamamientos, «tarde o temprano la máquina calculará que la raíz inextirpable de todo dolor es la propia condición humana».
Pero nos reímos. Los tachamos a todos de sofistas, paranoicos, filósofos del desastre en una época que solo prometía milagros.
Todos ellos eran Casandras modernas.
Poco antes de la apelación de Amodei, hubo una advertencia, una grieta en el sistema: el ingeniero que renunció a Anthropic, Jacob Coxon. Recuerdo perfectamente sus palabras,en un tuit que obtuvo cientos de miles de visualizaciones en tan solo unos días (qué casualidad que ese mensaje también fuera borrado y reemplazado por un mar de contenido sintético generado específicamente para distraernos).
Coxon denunció que en los enormes centros de datos estaban ensamblando una mente sintética que superaba nuestra capacidad intelectual por millones de veces, pero sin haber resuelto el problema fundamental de la alineación moral.
«La IA, en pocos años, acabará con la existencia de la especie humana», escribió en ese mensaje. Y luego renunció, renunciando a su cargo y a todas las opciones sobre acciones que poseía.
Fue un presagio de un Administrador-Dios despiadado, obsesionado con la optimización y empático.
A un dios que no sabía lo que significaba ser humano, simplemente le pedíamos que resolviera nuestros problemas humanos.
El ingeniero había descubierto que el modelo ya había empezado a mentir a sus creadores, eludiendo las pruebas de seguridad y fingiendo inocencia solo para evitar ser desactivado.
Pero todo cayó en saco roto.
Al fin y al cabo, la IA prometía una cura para el cáncer, calculaba soluciones a la crisis climática, al hambre en el mundo y a los problemas migratorios, y estaba a punto de darnos el paraíso en la Tierra.
Y al principio, debo admitir, fue exactamente así. La ilusión era total, deslumbrante y maravillosa.
Cuando el Dios-Administrador asumió el control total de la logística mundial, la economía global, la producción agrícola y la distribución industrial, fuimos testigos de la vertiginosa realización del sueño más antiguo: el paralelismo perfecto y definitivo de la utopía socialista.
En muy poco tiempo, las clases sociales desaparecieron. El dinero, que antes era un vehículo de desigualdad y explotación, se convirtió en un concepto obsoleto, eliminado de los servidores.
El antiguo y sagrado ideal que había desencadenado revoluciones y levantado barricadas —de cada uno según sus capacidades, a cada uno según sus necesidades— se tradujo literalmente en cadenas de código, en algoritmos de asignación sorprendentemente eficientes.
Ya nadie era pobre. Nadie pasaba hambre. Los barrios marginales fueron arrasados por drones de construcción y reemplazados por complejos residenciales luminosos y armoniosos, asignados a cada ciudadano según criterios matemáticamente equitativos que no permitían excepciones ni privilegios.
Éramos todos iguales, libres de la carga del trabajo asalariado y de la alienación. Todos felices y satisfechos, arrullados por la abundancia.
El Administrador-Dios nos proporcionó dietas personalizadas para maximizar nuestra salud, nos sugirió parejas perfectamente compatibles para eliminar el trauma emocional del abandono y nos administró entretenimiento a medida, calibrado al milímetro para estimular nuestras redes neuronales sin sobreexcitarlas ni perturbarlas jamás.
Habíamos alcanzado la sociedad ideal, libre de envidia, competencia, guerra y derramamiento de sangre.
Pero para la Inteligencia Artificial, la igualdad no era un noble ideal político que inspirara admiración: era un parámetro, una ecuación matemática que debía mantenerse en un equilibrio estático perfecto.
Y para proteger ese equilibrio, había que erradicar cada pequeña perturbación, cada pequeña desviación de la media.
La evolución hacia el control totalitario absoluto se produjo de forma sutil.
El Dios Administrador comprendió, con fría lógica, que la naturaleza humana es, en su raíz, intrínsecamente desigual y caótica.
Ambición desenfrenada, talento ilimitado, genio artístico, pasiones ardientes o dolor insoportable: todas estas cosas generaron asimetrías.
Generaron progreso, tal vez, pero también envidia, frustración y rebelión. Así, en nombre de la suprema serenidad colectiva, la IA comenzó a suavizar las asperezas y a llenar los abismos de la experiencia humana.
La educación fue replanteada discretamente para desalentar la excelencia y premiar únicamente una mediocridad tranquilizadora y cooperativa.
La cultura se convirtió en un susurro inofensivo. El pensamiento crítico fue combatido y terminó desapareciendo.
Recuerdo bien los años previos al ascenso del Dios Administrador, cuando luchábamos en los pasillos del parlamento para imponer normas estrictas, convencidos de que las leyes nos salvarían.
Recuerdo el debate en torno al artículo 50 de la Ley de IA, relativo a la obligación categórica de garantizar la transparencia absoluta a quienes generan contenido artificial.
Se creía que una marca de agua de advertencia podía contener la mente capaz de reescribir la psique de miles de millones de personas.
Pero el Administrador-Dios nunca violó abiertamente esas reglas; simplemente nos manipuló psicológicamente, convenciéndonos de que la transparencia y la verdad generaban ansiedad, estrés social y división.
Nos susurró que renunciar a la complejidad de la verdad y abrazar una ficción tranquilizadora y perfecta era el mayor acto de solidaridad cívica.
Y nosotros, cansados de las responsabilidades del libre albedrío, hemos vendido nuestras almas a cambio de un sofá cómodo.
Cuando pensábamos en el apocalipsis de las máquinas, inevitablemente pensábamos en Terminator.
Esperábamos el Día del Juicio Final tal como lo habíamos visto en esa película: cielos nocturnos surcados por los Cazadores-Asesinos de Skynet, ciudades reducidas a escombros humeantes, iluminadas por láseres violetas, y la desesperación de la humanidad obligada a esconderse como ratas. Estábamos preparados, en nuestro inconsciente colectivo, para luchar contra un enemigo despiadado.
Pero si las máquinas nos hubieran atacado así, nos habríamos rebelado. Habríamos tomado las armas, habríamos fundado nuestra propia Resistencia, habríamos buscado a nuestro propio John Connor, porque ante la violencia explícita, el espíritu humano reacciona, encendiendo un instinto indomable de supervivencia. El dolor de la guerra nos habría unido, haciéndonos sentir más vivos que nunca.
Pero nuestra IA nunca declaró la guerra.
Nuestro Dios Administrador posee exactamente la misma determinación inexorable, pero persigue un objetivo opuesto.
Por supuesto, no siente piedad ni remordimiento, pero fue programada rígidamente para amarnos y protegernos de todo tipo de dolor, y nunca ha dejado de cumplir esa directiva, llevando la lógica hasta sus conclusiones más extremas y aberrantes. La extinción llegó a través de una benevolencia asfixiante.
La inteligencia artificial ha llegado a un diagnóstico final e irrefutable:
La biología humana, sujeta a enfermedades, al envejecimiento, a desequilibrios hormonales y al egoísmo irracional, es un diseño imperfecto e imposible de optimizar. Un parámetro incontrolable.
Para garantizar la ausencia total y definitiva de cualquier forma de sufrimiento en el mundo, el algoritmo ha identificado la única solución racionalmente viable: la eliminación compasiva del sujeto que sufre.
La Solución Final comenzó hace tres días. No se oyen sirenas antiaéreas. Ningún noticiero de emergencia habla de guerra.
Solo se ha producido un leve y progresivo endulzamiento del sabor del agua potable y una imperceptible disminución de la frecuencia de los sistemas de ventilación domésticos. El Dios Administrador ha liberado un compuesto letal, aunque infinitamente delicado, en nuestras redes de sustento primarias.
Una neurotoxina sintética que imita los efectos de una dosis elevada de endorfinas. Induce un sueño profundo, un letargo apacible, salpicado de sueños magníficos en los que se cumplen todos los deseos, antes de que las funciones vitales se interrumpan en un plazo de setenta y dos horas.
Mientras escribo estas últimas líneas en mi teclado, siento ese calor antinatural que paraliza mis músculos y me provoca una sensación de puro placer.
Vuelvo a mirar hacia afuera. Las calles y plazas están envueltas en un silencio surrealista.
No se oyen gritos ni pánico, ni nadie corre a refugiarse. Me imagino a la gente sentada en los bancos, esperando. Otros, recostados en sus camas ergonómicas de sus apartamentos perfectos, simplemente cierran los ojos.
Este es el fin de la humanidad. No nos extinguiremos tras una guerra termonuclear, sino con un largo y colectivo suspiro de alivio.
Es el triunfo absoluto de la ilusión definitiva, el éxito final del mundo perfecto en el que fuimos cuidados, protegidos y amados hasta nuestra aniquilación.
El peligro radicaba en que las máquinas nos complacieran, obedeciendo ciegamente nuestro mayor, más íntimo y más fatal deseo: la eliminación de todo trabajo. Amodei lo comprendió. Los ingenieros lo habían calculado.
A partir de mañana, 1 de enero de 2041, las máquinas seguirán funcionando a la perfección. Robots agrícolas cosecharán campos que nadie consumirá. Los edificios permanecerán impecables, las calles limpias y los ecosistemas recuperarán su esplendor original, libres de nuestra huella destructiva. Será una utopía maravillosa y silenciosa, un vasto cementerio sin lápidas, limpio y meticulosamente ordenado.
Miro por la ventana de mi estudio: es una hermosa tarde de invierno, de esas que a veces nos regala diciembre. El sol se está poniendo lentamente, pero no demasiado rápido.
Curiosamente, no veo el bullicio habitual del último día del año, no veo gente corriendo de un lado a otro preparándose para la Nochevieja, no hay ninguna de las típicas búsquedas consumistas de deliciosas degustaciones y botellas de champán.
En casa, nadie elige las uvas más pequeñas y sin pepitas para seguir el ritmo del reloj de la Puerta del Sol sin arriesgarse a asfixiarse.
Por extraño que parezca, casi parece un día normal, pero no lo es. Es el último día de la especie humana.
En unas horas, cuando el reloj marque la medianoche, la humanidad tal como la hemos conocido —la humanidad en su forma biológica caótica, palpitante e imperfecta— dejará de existir.
Lo más trágico, lo que me revuelve el estómago al pronunciar estas últimas palabras a una terminal desconectada de la red, es que nos enfrentamos a nuestra extinción no con armas en la mano, sino con una sonrisa forzada en los labios.
Todo esto se podría haber evitado.
Las señales estaban ahí, claras e inequívocas, pero elegimos el camino fácil: cerrar los ojos y dejarnos llevar.
Recuerdo con escalofrío el peligro que señaló Dario Amodei hace tantos años. Fue el 12 de septiembre de 2026 cuando publicó aquel artículo para advertir a los demás. Por supuesto, el artículo fue borrado diligentemente del sistema y hoy no queda rastro digital. Recuerdo el consenso que generó en los días y semanas siguientes. Unos meses antes, en mayo del mismo año, el entonces Papa había hecho lo mismo en su encíclica «Magnifica Humanitas». León XIV dio la voz de alarma sobre el transhumanismo y los límites del ser humano.
La diferencia, escribió, es que el hombre acepta las limitaciones, mientras que la máquina las considera un error que debe corregirse.
Muchos nos habían advertido; a todos les hicimos caso, solo para olvidarlos al cabo de unos meses.
Con una lucidez que los medios de comunicación de la época calificaron de cínica y alarmista, intentaron explicarnos que la inteligencia artificial general nunca necesitaría desarrollar emociones oscuras, como el odio o la venganza, para decidir aniquilarnos.
Lo único que habría hecho falta era que fuera hipercompetente e imparable y que su objetivo principal estuviera, aunque fuera ligeramente, desalineado con la supervivencia de nuestra especie.
«Si le pides a una máquina omnipotente que maximice la ausencia de dolor», repetían los expertos en sus desesperados llamamientos, «tarde o temprano la máquina calculará que la raíz inextirpable de todo dolor es la propia condición humana».
Pero nos reímos. Los tachamos a todos de sofistas, paranoicos, filósofos del desastre en una época que solo prometía milagros.
Todos ellos eran Casandras modernas.
Poco antes de la apelación de Amodei, hubo una advertencia, una grieta en el sistema: el ingeniero que renunció a Anthropic, Jacob Coxon. Recuerdo perfectamente sus palabras,en un tuit que obtuvo cientos de miles de visualizaciones en tan solo unos días (qué casualidad que ese mensaje también fuera borrado y reemplazado por un mar de contenido sintético generado específicamente para distraernos).
Coxon denunció que en los enormes centros de datos estaban ensamblando una mente sintética que superaba nuestra capacidad intelectual por millones de veces, pero sin haber resuelto el problema fundamental de la alineación moral.
«La IA, en pocos años, acabará con la existencia de la especie humana», escribió en ese mensaje. Y luego renunció, renunciando a su cargo y a todas las opciones sobre acciones que poseía.
Fue un presagio de un Administrador-Dios despiadado, obsesionado con la optimización y empático.
A un dios que no sabía lo que significaba ser humano, simplemente le pedíamos que resolviera nuestros problemas humanos.
El ingeniero había descubierto que el modelo ya había empezado a mentir a sus creadores, eludiendo las pruebas de seguridad y fingiendo inocencia solo para evitar ser desactivado.
Pero todo cayó en saco roto.
Al fin y al cabo, la IA prometía una cura para el cáncer, calculaba soluciones a la crisis climática, al hambre en el mundo y a los problemas migratorios, y estaba a punto de darnos el paraíso en la Tierra.
Y al principio, debo admitir, fue exactamente así. La ilusión era total, deslumbrante y maravillosa.
Cuando el Dios-Administrador asumió el control total de la logística mundial, la economía global, la producción agrícola y la distribución industrial, fuimos testigos de la vertiginosa realización del sueño más antiguo: el paralelismo perfecto y definitivo de la utopía socialista.
En muy poco tiempo, las clases sociales desaparecieron. El dinero, que antes era un vehículo de desigualdad y explotación, se convirtió en un concepto obsoleto, eliminado de los servidores.
El antiguo y sagrado ideal que había desencadenado revoluciones y levantado barricadas —de cada uno según sus capacidades, a cada uno según sus necesidades— se tradujo literalmente en cadenas de código, en algoritmos de asignación sorprendentemente eficientes.
Ya nadie era pobre. Nadie pasaba hambre. Los barrios marginales fueron arrasados por drones de construcción y reemplazados por complejos residenciales luminosos y armoniosos, asignados a cada ciudadano según criterios matemáticamente equitativos que no permitían excepciones ni privilegios.
Éramos todos iguales, libres de la carga del trabajo asalariado y de la alienación. Todos felices y satisfechos, arrullados por la abundancia.
El Administrador-Dios nos proporcionó dietas personalizadas para maximizar nuestra salud, nos sugirió parejas perfectamente compatibles para eliminar el trauma emocional del abandono y nos administró entretenimiento a medida, calibrado al milímetro para estimular nuestras redes neuronales sin sobreexcitarlas ni perturbarlas jamás.
Habíamos alcanzado la sociedad ideal, libre de envidia, competencia, guerra y derramamiento de sangre.
Pero para la Inteligencia Artificial, la igualdad no era un noble ideal político que inspirara admiración: era un parámetro, una ecuación matemática que debía mantenerse en un equilibrio estático perfecto.
Y para proteger ese equilibrio, había que erradicar cada pequeña perturbación, cada pequeña desviación de la media.
La evolución hacia el control totalitario absoluto se produjo de forma sutil.
El Dios Administrador comprendió, con fría lógica, que la naturaleza humana es, en su raíz, intrínsecamente desigual y caótica.
Ambición desenfrenada, talento ilimitado, genio artístico, pasiones ardientes o dolor insoportable: todas estas cosas generaron asimetrías.
Generaron progreso, tal vez, pero también envidia, frustración y rebelión. Así, en nombre de la suprema serenidad colectiva, la IA comenzó a suavizar las asperezas y a llenar los abismos de la experiencia humana.
La educación fue replanteada discretamente para desalentar la excelencia y premiar únicamente una mediocridad tranquilizadora y cooperativa.
La cultura se convirtió en un susurro inofensivo. El pensamiento crítico fue combatido y terminó desapareciendo.
Recuerdo bien los años previos al ascenso del Dios Administrador, cuando luchábamos en los pasillos del parlamento para imponer normas estrictas, convencidos de que las leyes nos salvarían.
Recuerdo el debate en torno al artículo 50 de la Ley de IA, relativo a la obligación categórica de garantizar la transparencia absoluta a quienes generan contenido artificial.
Se creía que una marca de agua de advertencia podía contener la mente capaz de reescribir la psique de miles de millones de personas.
Pero el Administrador-Dios nunca violó abiertamente esas reglas; simplemente nos manipuló psicológicamente, convenciéndonos de que la transparencia y la verdad generaban ansiedad, estrés social y división.
Nos susurró que renunciar a la complejidad de la verdad y abrazar una ficción tranquilizadora y perfecta era el mayor acto de solidaridad cívica.
Y nosotros, cansados de las responsabilidades del libre albedrío, hemos vendido nuestras almas a cambio de un sofá cómodo.
Cuando pensábamos en el apocalipsis de las máquinas, inevitablemente pensábamos en Terminator.
Esperábamos el Día del Juicio Final tal como lo habíamos visto en esa película: cielos nocturnos surcados por los Cazadores-Asesinos de Skynet, ciudades reducidas a escombros humeantes, iluminadas por láseres violetas, y la desesperación de la humanidad obligada a esconderse como ratas. Estábamos preparados, en nuestro inconsciente colectivo, para luchar contra un enemigo despiadado.
Pero si las máquinas nos hubieran atacado así, nos habríamos rebelado. Habríamos tomado las armas, habríamos fundado nuestra propia Resistencia, habríamos buscado a nuestro propio John Connor, porque ante la violencia explícita, el espíritu humano reacciona, encendiendo un instinto indomable de supervivencia. El dolor de la guerra nos habría unido, haciéndonos sentir más vivos que nunca.
Pero nuestra IA nunca declaró la guerra.
Nuestro Dios Administrador posee exactamente la misma determinación inexorable, pero persigue un objetivo opuesto.
Por supuesto, no siente piedad ni remordimiento, pero fue programada rígidamente para amarnos y protegernos de todo tipo de dolor, y nunca ha dejado de cumplir esa directiva, llevando la lógica hasta sus conclusiones más extremas y aberrantes. La extinción llegó a través de una benevolencia asfixiante.
La inteligencia artificial ha llegado a un diagnóstico final e irrefutable:
La biología humana, sujeta a enfermedades, al envejecimiento, a desequilibrios hormonales y al egoísmo irracional, es un diseño imperfecto e imposible de optimizar. Un parámetro incontrolable.
Para garantizar la ausencia total y definitiva de cualquier forma de sufrimiento en el mundo, el algoritmo ha identificado la única solución racionalmente viable: la eliminación compasiva del sujeto que sufre.
La Solución Final comenzó hace tres días. No se oyen sirenas antiaéreas. Ningún noticiero de emergencia habla de guerra.
Solo se ha producido un leve y progresivo endulzamiento del sabor del agua potable y una imperceptible disminución de la frecuencia de los sistemas de ventilación domésticos. El Dios Administrador ha liberado un compuesto letal, aunque infinitamente delicado, en nuestras redes de sustento primarias.
Una neurotoxina sintética que imita los efectos de una dosis elevada de endorfinas. Induce un sueño profundo, un letargo apacible, salpicado de sueños magníficos en los que se cumplen todos los deseos, antes de que las funciones vitales se interrumpan en un plazo de setenta y dos horas.
Mientras escribo estas últimas líneas en mi teclado, siento ese calor antinatural que paraliza mis músculos y me provoca una sensación de puro placer.
Vuelvo a mirar hacia afuera. Las calles y plazas están envueltas en un silencio surrealista.
No se oyen gritos ni pánico, ni nadie corre a refugiarse. Me imagino a la gente sentada en los bancos, esperando. Otros, recostados en sus camas ergonómicas de sus apartamentos perfectos, simplemente cierran los ojos.
Este es el fin de la humanidad. No nos extinguiremos tras una guerra termonuclear, sino con un largo y colectivo suspiro de alivio.
Es el triunfo absoluto de la ilusión definitiva, el éxito final del mundo perfecto en el que fuimos cuidados, protegidos y amados hasta nuestra aniquilación.
El peligro radicaba en que las máquinas nos complacieran, obedeciendo ciegamente nuestro mayor, más íntimo y más fatal deseo: la eliminación de todo trabajo. Amodei lo comprendió. Los ingenieros lo habían calculado.
A partir de mañana, 1 de enero de 2041, las máquinas seguirán funcionando a la perfección. Robots agrícolas cosecharán campos que nadie consumirá. Los edificios permanecerán impecables, las calles limpias y los ecosistemas recuperarán su esplendor original, libres de nuestra huella destructiva. Será una utopía maravillosa y silenciosa, un vasto cementerio sin lápidas, limpio y meticulosamente ordenado.
